Внедрение искусственного интеллекта (ИИ) в финансовом секторе приносит как преимущества, так и новые или усиленные риски. Поддерживая инновации в сфере финансов на основе ИИ, Йота Наср из ОЭСР рассматривает некоторые из этих рисков и различные инструменты, которые политики могут использовать для их устранения. Финансовые рынки исторически первыми осваивали инновационные технологии, учитывая размер и вес рыночной активности в экономике. Каждая волна инноваций в сфере финансов приносит предполагаемую экономическую эффективность, повышение производительности, повышение прибыльности и улучшение качества предлагаемых услуг. Поставщики финансовых услуг, внедряющие ИИ, стремятся обеспечить себе конкурентное преимущество, будь то за счет улучшенного принятия решений, автоматизированного исполнения, выгоды от улучшенного управления рисками, оптимизации бэк-офиса или предложения своим клиентам новых и специально адаптированных продуктов по сниженной цене. Исторические инновации на финансовых рынках Но каждая волна инноваций также несет с собой новые риски или потенциальное усиление существующих финансовых и нефинансовых рисков на рынках и вызывает озабоченность по поводу защиты потребителей финансовых услуг и инвесторов. В случае с ИИ многие из этих рисков связаны с тем, что пользователи лишь частично понимают принцип работы технологии.

Это влияет на все различные наборы пользователей и даже оказывает косвенное влияние на тех, кто сам не использует ИИ. Сложность следования логике моделей и понимания того, почему и как они приводят к результатам, обычно описываемая термином объяснимость ., связано с рядом серьезных проблем, связанных с безопасностью и устойчивостью финансовых рынков. Эти проблемы связаны с возможной несовместимостью с существующими системами финансового надзора и внутреннего управления, а также с более широкой стабильностью рынков, особенно с учетом потенциальной процикличности и накопления системных рисков. Два практических примера иллюстрируют накопление уязвимостей: В трейдинге , хотя алгоритмы ИИ могут увеличить ликвидность в обычное время, они также могут привести к сближению стратегий и, как следствие, к приступам неликвидности в периоды стресса. Волатильность рынка может увеличиться из-за крупных продаж или покупок, осуществляемых одновременно, создавая тем самым новые источники уязвимости. Конвергенция торговых стратегий создает риск самоусиливающихся петель обратной связи, которые, в свою очередь, могут спровоцировать резкие движения цен и внезапные обвалы.

Такая конвергенция также увеличивает риск кибератак, поскольку киберпреступникам становится легче влиять на алгоритмы или машины, действующие одинаковым образом. Риски защиты прав потребителей повышаются в случае моделей машинного обучения для оценки кредитного риска, когда использование неадекватных данных может повысить риск несопоставимого влияния на результаты кредитования и возможность предвзятого, дискриминационного или несправедливого кредитования. В дополнение к непреднамеренному возникновению или сохранению предубеждений, модели, основанные на ИИ, затрудняют выявление дискриминации при распределении кредитов, в то время как результаты моделей ИИ трудно интерпретировать и сообщать отказавшимся потенциальным заемщикам. Преимущества и риски внедрения ИИ в финансовый сектор Хотя многие из потенциальных рисков, связанных с ИИ в финансах, не являются уникальными для ИИ, риски повышаются из-за сложности используемых методов, динамической адаптируемости моделей на основе ИИ и, для самых передовых приложений ИИ, их уровня. автономия. Масштаб сложности и трудности в объяснении и воспроизведении механизма принятия решений алгоритмами и моделями ИИ затрудняет снижение этих рисков. Проблемы объяснимости еще более усугубляются общим пробелом в технической грамотности и несоответствием между сложностью, характерной для моделей ИИ, и требованиями рассуждений и интерпретаций в человеческом масштабе, которые соответствуют человеческому познанию.

Директивные органы должны уделять больше внимания регулирующим и надзорным органам обеспечению того, чтобы использование ИИ в финансах согласовывалось с нормативными целями по обеспечению финансовой стабильности, надлежащей защите потребителей финансовых услуг и инвесторов, а также поощрению честности рынка и конкуренции. Директивные органы должны рассмотреть вопрос об усилении своего существующего арсенала средств защиты от рисков, возникающих или усугубляемых использованием ИИ в финансах. В предстоящем выпуске « Перспективы бизнеса и финансов» ОЭСР за 2021 год подробно описываются риски, связанные с внедрением ИИ в финансах, и рассматриваются различные инструменты, которые должны использовать лица, определяющие политику, для устранения таких рисков, поддерживая при этом инновации, основанные на ИИ, в финансовом секторе. Анализ ОЭСР склоняется к ИИ как к технологии, которая расширяет возможности человека, а не заменяет их. Сочетание «людей и машин», при котором ИИ формирует человеческое суждение, а не заменяет его (помощь в принятии решений вместо лица, принимающего решения), может позволить реализовать преимущества технологии, сохраняя при этом гарантии подотчетности и контроля в отношении окончательное принятие решения. Следует уделить должное внимание первенству человека в принятии решений, особенно когда речь идет о вариантах использования с более высокой ценностью (например, о кредитных решениях). Когда мы анализируем как ИИ, так и технологии распределенного реестра, применяемые в финансах, остается открытым один вопрос: достигаем ли мы такого уровня инноваций, который бросает вызов принципу нейтральности в отношении технологий, лежавшему в основе нормотворчества на финансовых рынках в большинстве развитых стран мира?  .