Доверие к ИИ является ключом к реализации ценности этой технологии. Но многие компании изо всех сил пытаются преодолеть предполагаемые риски, связанные с этим. Чтобы создать доверие к ИИ, организации должны выйти за рамки определения принципов ответственного ИИ и применить эти принципы на практике. robobroke помогает компаниям перейти от принципов к практике (и завоевать доверие), определяя и внедряя решения по 4 направлениям ответственного ИИ. В этой статье мы поделимся нашими знаниями: от болевых точек практиков и способов их решения до тематических исследований того, как выглядит добро в реальном мире. Ответственный ИИ на практике — важно, но непросто Несмотря на реальную ценность, которую организации могут получить с помощью искусственного интеллекта (ИИ), многие все еще пытаются устранить связанные с ним риски. В глобальном опросе риск-менеджеров 58% назвали ИИ самой большой потенциальной причиной непредвиденных последствий в течение следующих двух лет.
Только 11% говорят, что они полностью способны оценить риски, связанные с внедрением ИИ в масштабах всей организации. 11 % Риск-менеджеры описывают себя как полностью способных оценивать риски, связанные с внедрением ИИ на предприятии. Предвзятость, дискриминация, справедливость и объяснимость являются областями первостепенной важности. И хотя для этих проблемных областей существуют определенные определения, их воплощение в жизнь требует сложных решений и ограничений, связанных с конкретным приложением. По мере того, как решения в области ИИ все больше влияют на жизнь людей в масштабе, растет и связанная с этим ответственность предприятия за управление потенциальными этическими и социально-техническими последствиями внедрения ИИ. В ответ многие предприятия начали профессионализировать свой подход к ИИ и данным . Те, кто с самого начала внедрил правильные структуры, включая ответственный ИИ, могут уверенно масштабироваться, достигая почти в три раза большей отдачи от своих инвестиций в ИИ по сравнению с теми, кто этого не сделал.
Но многие организации все еще пытаются масштабировать доказательства концепции ответственного ИИ в своих реальных процессах. Итак, каковы проблемы? И как их преодолеть — и перейти от принципов к практике? Мнения практиков: реалии ответственного ИИ Чтобы ответить на эти вопросы, мы поговорили с ответственными специалистами по ИИ (специалистами по данным, инженерами по ИИ, юристами, промышленными/организационными психологами и руководителями проектов) из 19 организаций на четырех континентах. Наш анализ показывает, что некоторые организации изо всех сил пытались разработать систематический внутренний подход для претворения принципов в жизнь. И наш опыт показывает, что это происходит потому, что они недооценивают техническую сложность и масштаб людей и необходимых изменений процессов. Четыре столпа ответственного ИИ Организациям необходимо решить главную задачу: преобразовать этические принципы в практические, измеримые показатели, которые работают на них. Чтобы внедрить их в повседневные процессы, им также нужны правильные организационные, технические, операционные и репутационные леса. Основываясь на нашем опыте предоставления решений ответственного ИИ организациям по всему миру, мы определили четыре столпа успешного внедрения ответственного ИИ.
Для каждого компонента мы обобщили основные болевые точки практикующего врача, порекомендовали, как с ними справиться, и включили тематическое исследование, показывающее, как выглядит хорошее. Оперативный Технический Организационный Репутационный Организационный Демократизируйте новые способы работы и упростите взаимодействие человека и машины. Болевые точки практикующего врача: опрошенные практикующие специалисты подчеркнули необходимость соответствующих показателей эффективности и признания их работы. Они указали, что слишком мало внимания уделяется снижению рисков, включая предотвращение ущерба для репутации. А нехватка времени часто означает, что лидерство ставит краткосрочный успех продукта над долгосрочными преимуществами ответственного искусственного интеллекта. Создавайте и поощряйте организационную культуру, которая позволяет людям высказывать сомнения или опасения по поводу систем ИИ, не подавляя инновации. Рекомендации.
Сильное лидерство имеет решающее значение для расширения возможностей сотрудников и превращения ответственного ИИ в бизнес-императив. Чтобы демократизировать этот способ работы, успешные организации осознают необходимость новых ролей и активно повышают квалификацию, переквалифицируют или нанимают. Организации должны развивать культуру, которая позволяет людям высказывать опасения по поводу систем ИИ, не подавляя при этом инновации. Четкие критерии успеха, стимулы и обучение — все это критически важные требования. Практический пример: чтобы узнать, как мы помогли ведущей европейской компании, предоставляющей финансовые услуги, внедрить на практике организационные принципы ответственного ИИ, загрузите наш полный отчет . Оперативный Настройте управление и системы, которые позволят ИИ процветать. Болевые точки практиков: опрошенные указали, что компании борются с несогласованностью действий заинтересованных сторон, бюрократией, противоречивыми программами и отсутствием ясности в отношении процессов/собственности.
Люди часто действуют ad hoc, следуя собственным ценностям и оценкам. Недостаточная ясность в отношении управления и подотчетности, ненужные конфликты и конкурирующие стимулы между группами в конечном итоге привели к инерции ответственного ИИ и реактивному мышлению. Создайте прозрачные, междисциплинарные структуры управления, определяющие роли, ожидания и подотчетность, чтобы укрепить внутреннюю уверенность и доверие к технологиям искусственного интеллекта. Рекомендации. Создайте прозрачные междоменные структуры управления. Они укрепляют внутреннюю уверенность и доверие к технологиям искусственного интеллекта за счет определения ролей, ожиданий и ответственности. Создание междисциплинарного комитета по этике на раннем этапе может оказаться бесценным.
Определяя роли, способы работы и полномочия по управлению, они поддерживают текущие процедуры и позволяют реагировать по требованию. Практический пример: чтобы узнать, как мы помогли глобальному поставщику средств связи внедрить на практике принципы ответственного ИИ, загрузите наш полный отчет . Технические Сделайте системы и платформы заслуживающими доверия и объяснимыми по дизайну. Болевые точки практиков: одним из самых больших препятствий, с которыми столкнулись организации практиков, было отсутствие опыта в определении и измерении этического использования и алгоритмического воздействия данных, моделей и результатов. Без установленных технических методов мониторинга и снижения этих рисков организации не могут быть уверены в честности системы. Компании изо всех сил пытаются интегрировать академические показатели, такие как алгоритмическая справедливость. Ответственный ИИ не может быть измерен с помощью получения дохода или количества кликов, но многие компании по-прежнему полагаются на эти традиционные показатели эффективности для отслеживания успеха практиков.
Создавайте и внедряйте модели, системы и платформы ИИ, которые заслуживают доверия, справедливы и объяснимы по своей конструкции. Рекомендации. Создавайте и внедряйте модели, системы и платформы ИИ, которые заслуживают доверия, справедливы и объяснимы по своей структуре. Проверенные качественные и количественные методы оценки потенциальных рисков позволяют организациям достигать междисциплинарного консенсуса по снижению рисков. Потратьте время на полное понимание источников предвзятости. Это приводит к более обоснованным стратегиям разрешения проблем, которые соответствуют как организации, так и приложению. Наличие правильных инструментов для исследования источников предвзятости и понимания последствий решений о справедливости имеет решающее значение.
Практический пример: чтобы узнать, как мы помогли Allied Irish Bank внедрить на практике технические принципы ответственного ИИ, загрузите полный отчет . Репутационный Сформулируйте миссию ответственного ИИ и убедитесь, что она привязана к ценностям компании и этическим нормам. Болевые точки практиков: опрошенные сообщили, что без правильной организационной, операционной и технической основы организации вынуждены применять реактивный подход к ответственному ИИ, который подвергает их репутации значительному ущербу. Сформулируйте свою миссию ответственного ведения бизнеса, основанную на ваших принципах и опирающуюся на информацию о бренде, общественные оценки рисков и рекомендации. Рекомендации: ведущие организации четко формулируют свою миссию ответственного ведения бизнеса, основанную на их ценностях. Постоянное измерение и мониторинг ключевых показателей ответственного ИИ гарантирует, что они управляют рисками и обмениваются информацией с прозрачностью. Внутренние заинтересованные стороны могут сомневаться в ценности этических принципов, но успешные организации принимают этих скептиков и свежие взгляды, которые они привносят, что побуждает основную команду подвергать испытаниям определяемые ими принципы под давлением.
Результатом часто является более взвешенный набор принципов, в котором все уверены. .