Многие приложения искусственного интеллекта сегодня фактически являются «черными ящиками», не имеющими возможности «объяснить» причины своих решений. По мере того, как ИИ проникает в области, оказывающие большое влияние на людей, такие как здравоохранение, крайне важно подвергнуть эту технологию более тщательному изучению со стороны человека. Объяснимый ИИ не заменит человека; скорее, он будет дополнять и поддерживать людей, чтобы они могли принимать более качественные, быстрые и точные решения. Ставки ИИ становятся выше Некоторые сервисы и задачи на основе ИИ сегодня относительно тривиальны, например, рекомендация песни на потоковой музыкальной платформе. Тем не менее, ИИ играет все более важную роль в других областях с гораздо большим влиянием человека. Представьте, что вы врач, использующий датчики с поддержкой ИИ для обследования пациента, и система выдает диагноз, требующий срочного инвазивного лечения. В подобных ситуациях одного решения, основанного на искусственном интеллекте, недостаточно.
Мы также должны знать причины и обоснование этого. Другими словами, ИИ должен «объяснять» себя, открывая свои рассуждения человеческому вниманию. Объяснимый ИИ не заменит людей, но дополнит и поддержит их, чтобы они могли принимать более качественные, быстрые, точные и последовательные решения. Объяснять Их обоснование; рассуждения, когда это необходимо; охарактеризовать Их сильные и слабые стороны Сравнивать С другими системами ИИ Передавать Понимание того, как они будут вести себя в будущем Сделать Масштабируемость предприятия за счет интеллектуальных решений; принимать более разумные решения, дополняя людей машинами. По мере того, как люди и машины будут работать вместе еще больше, эффективные объяснения будут лежать в основе этого сотрудничества. .