Искусственный интеллект открывает новые возможности для финансового сектора, но в то же время вызывает серьезные опасения у многих экспертов. Далее мы подробнее рассмотрим эту тему и попробуем понять, действительно ли ИИ может представлять угрозу для банковской системы
Может ли ИИ навредить финансовому сектору: реальная угроза или преувеличение Фото: freepik.com, pngwing.com
По словам Тобиаса Адриана, финансового советника и директора Департамента денежно-кредитных отношений и рынков капитала МВФ, сначала мы должны признать, что с точки зрения прогресса и стабильности ИИ может стать положительным фактором. Для финансовых учреждений искусственный интеллект принес новые возможности и преимущества, такие как повышение производительности, экономия затрат, улучшение соблюдения нормативных требований (о внедрении RegTech в Украине читайте здесь), а также более индивидуальные предложения для клиентов.
На финансовых рынках технология проделала огромную работу, улучшив определение цен, углубив рынки и часто уменьшая волатильность во время стресса. И AI, вероятно, продолжит эти тенденции.
«Однако мы также наблюдали ограниченное негативное влияние количественной торговли на некоторые внезапные рыночные колебания, и есть опасения, что эти риски могут возрасти с использованием ИИ», — отмечает Тобиас Адриан.
Влияние ИИ на финансовый рынок. Регулирование сектора и готовность к прогрессу
Как отметил финансовый советник и директор Департамента денежно-кредитных отношений и рынков капитала МВФ, уровень готовности к использованию ИИ существенно отличается в разных странах, как и рамки, необходимые для управления этими процессами. Политикам важно оценивать степень подготовленности, чтобы определить сферы для совершенствования и потребность во внедрении новых инструментов.
С точки зрения структуры рынков, они становятся все более быстрыми. Важно убедиться, что они готовы к еще большей скорости, которую может обеспечить ИИ. В качестве примера, распродажа акций на японских и американских рынках 5 августа показала, что турбулентность может усиливаться, когда хедж-фонды одновременно действуют в одном направлении. Их алгоритмы обнаружили четкие тенденции к снижению, и волатильность резко возросла. Это был сигнал о том, что с широким применением ИИ такие эпизоды могут стать более масштабными.
Читайте также: Google разработал ИИ-суперкомпьютер, который может взломать блокчейн Биткоина
ИИ усиливает способность рынков быстро реагировать на новую информацию, что может приводить к движениям цен, которые превышают ранее ожидаемые масштабы. В таких условиях кредиторам следует пересмотреть уровень рычагов, которые они готовы предоставлять. Также необходимо учитывать потребность в совершенствовании маржинальных требований, введении ограничителей движения цен (circuit breakers) и обеспечении устойчивости центральных контрагентов.
С точки зрения мониторинга, рост использования ИИ означает, что регуляторам нужны инструменты для отслеживания изменений на этих рынках и, что важно, деятельности их участников. Небанковские учреждения, такие как брокеры-дилеры, торговые компании и хедж-фонды, имеют все больше возможностей использовать ИИ без дополнительного надзорного бремени. Это создает риск, что такие игроки будут иметь критическую роль в рынках без четкого понимания того, кто они, как они финансируются и чем занимаются.
«Ситуация напоминает случаи «быстрого краха» (flash crash) на рынке акций США в мае 2010 года и «быстрого роста» (flash rally) на рынке облигаций в октябре 2014 года. После этих событий были введены новые ограничители движения цен и требования к отчетности, что значительно улучшило понимание работы рынков. Аналогичные меры нужны и сейчас, особенно в связи с зависимостью от сторонних поставщиков ИИ, что может создавать риски для функционирования рынков в случае их сбоя», — подчеркнул Тобиас Адриан.
Последний важный аспект — это опасность кибератак и манипуляций. В новостях уже упоминались случаи с использованием «глубоких фейков» (deepfakes), но это лишь верхушка айсберга. Регуляторы должны инвестировать в новые надзорные технологии (sup-tech), которые позволят использовать ИИ для обработки данных, выявления мошенничества и предотвращения потенциальных проблем.
Перед тем, как подробнее рассмотреть риски, которые несет в себе ИИ для финансового сектора, предлагаем ознакомиться с их базовым перечнем.
Читайте популярное: NVIDIA и Temenos создадут специальный ИИ для банков
Предупреждение Совета по финансовой стабильности
В середине ноября 2024 года Совет по финансовой стабильности (Financial Stability Board) обнародовал материал, где отметил, что использование ИИ создает риски для мировой финансовой системы. По их словам, эта технология, которая вызывает значительный интерес среди банков и других финкомпаний, может сделать учреждения более уязвимыми к действиям мошенников и хакеров.
«Такие юрисдикции, как ЕС, взяли на себя инициативу в регулировании потенциально трансформационной технологии, но они обеспокоены тем, как применять правила в и без того жестко регулируемом финансовом секторе», — говорится в отчете.
По словам аналитиков Совета по финансовой стабильности, ИИ может потенциально усилить определенные уязвимости сектора и тем самым создать риски для финансовой стабильности, несмотря на преимущества для операционной эффективности, персонализации и соблюдения законодательства.
Например, несколько финансовых компаний, использующих одни и те же модели ИИ, могут привести к однообразному поведению участников рынка, усиливая колебания на финансовых рынках (о чем также упоминал Тобиас Адриан). В то же время сбой в работе одного провайдера может иметь значительные последствия.
Также существует риск создания идентичных систем защиты и механизмов работы — если хакер, например, найдет уязвимость, под ударом могут оказаться сразу ряд учреждений.
В докладе FSB также отмечается, что генеративный ИИ, который создает новый текст, изображение или видео на основе подсказок пользователя, может увеличить финансовое мошенничество и способность злоумышленников генерировать и распространять дезинформацию на финансовых рынках.
Ранее мы уже рассматривали, что даже знакомый многим ChatGPT может стать опасным инструментом в руках злоумышленников. В частности, можем отметить:
- фишинг: AI может выдавать себя за сотрудников банка, создавая убедительные письма без грамматических или стилистических ошибок, что затрудняет обнаружение злоумышленников и способствует похищению данных;
- мошенничество: взлом корпоративной почты, кража электронных подписей и ключей;
- даркнет: создание площадок для торговли нелегальными товарами, вредоносным ПО и украденными данными;
- незаконное шифрование: ИИ может генерировать криптографические ключи и шифровать файлы, превращая код в программу-вымогатель для шантажа (что такое ransomware и как защититься от этой опасности, читайте здесь);
- фейковый контент: генерация манипулятивных новостей, статистики, инфографики и армий ботов, способных обострять политическую ситуацию или распространять экстремистские настроения;
- массовая пропаганда: быстрое и масштабное создание и распространение манипулятивных месседжей и комментариев в соцсетях с помощью триггерных слов.
Интересное по теме: ИИ обвалил акции компаний: под угрозой ли украинский бизнес
Может ли ИИ навредить финансовому сектору: реальная угроза или преувеличение Фото: freepik.com
Материал Совета по финансовой стабильности, который призывает глобальных регуляторов проверить, соответствуют ли правовые рамки современным вызовам, является продолжением консультационного документа Европейской комиссии, опубликованного в июне. В нем говорилось о риске предвзятости или паники на финансовых рынках, а также о склонности ИИ генерировать неточности или откровенно ложную информацию.
Напомним, что FSB — это международная организация, базирующаяся в Базеле, членами которой являются регуляторы и руководители центральных банков со всего мира, в том числе Управление по финансовому надзору Великобритании и Европейский центральный банк.
Недавно на слушаниях по кандидатуре на должность следующего комиссара ЕС по финансовым услугам, бывший министр финансов Португалии Мария Луис Альбукерке заявила евродепутатам, что эта технология имеет как преимущества, так и недостатки.
«Риски для частных лиц уже учтены в Законе об искусственном интеллекте, — сказала она. — Есть много возможностей использовать ИИ не только для выявления мошенничества, но и для улучшения необходимого сотрудничества и обмена информацией».
Предостережение от заместителя председателя Банка Франции Дени Бову относительно рисков использования ИИ в финансовом секторе
Неправильное использование ИИ
По мнению Дени Бову (Denis Beau’s), сложность и непрозрачность алгоритмов ИИ, особенно тех, которые работают на основе больших языковых моделей, могут повлечь за собой серьезные последствия для финансового сектора.
«Ошибки в проектировании или использовании таких моделей способны приводить к серьезным убыткам. Например, неправильно настроенные алгоритмы могут генерировать ложные прогнозы или автоматизированные решения, которые приведут к систематическим финансовым потерям», — отмечает заместитель председателя Банка Франции.
Также ИИ создает феномен «черного ящика», когда даже специалисты не могут объяснить, как алгоритм принимает определенные решения. Это усложняет контроль над рисками, которые возникают в результате работы ИИ, и усиливает вопрос ответственности и прозрачности в отношениях с клиентами.
Может ли ИИ навредить финансовому сектору: реальная угроза или преувеличение Фото: freepik.comЧитайте также: Следующий рубеж ИИ: как мультимодальные системы меняют наш мир
Киберриски и злоупотребление технологией
Заместитель председателя Банка Франции отметил, что искусственный интеллект может существенно усилить угрозы кибербезопасности.
«Технологии, такие как генеративный ИИ, способны создавать вредоносное программное обеспечение, а также синтетические голоса для мошенничества и манипуляций. Например, с помощью ИИ можно создавать сложные deepfake-материалы или автоматизировать создание программ-вымогателей», — пояснил эксперт.
В то же время ИИ, при условии правильного использования, может стать важным инструментом для борьбы с такими угрозами. В сфере платежей, например, ИИ используется для выявления мошеннических схем, совершенствования протоколов аутентификации (например, 3-D Secure) и повышения безопасности новых платежных каналов, таких как мгновенные переводы.
Баланс рисков и возможностей
«ИИ является обоюдоострым инструментом: он может как способствовать мошенничеству, так и стать важным союзником в борьбе с ним», — отметил заместитель председателя Банка Франции. Он также отметил важность внедрения эффективного регулирования, как это сделано в рамках европейского Закона об ИИ.
Документ определяет высокорисковые сферы применения технологии в финансовом секторе, такие как оценка кредитоспособности и страхование, и предусматривает надзор за использованием AI на национальном уровне.
Банк Франции уже работает над созданием методологии аудита ИИ, которая позволит максимально эффективно интегрировать новые технологии в финансовый сектор, сохраняя высокий уровень контроля и безопасности, — резюмировал Дени Бову.
Ознакомьтесь с другими популярными материалами:
Ученые поняли, как заставить ИИ думать, как человек
Китайские ученые научились взламывать криптографические алгоритмы с помощью квантового компьютера
Google разрабатывает ИИ, который будет управлять компьютерами
Вспомогательные материалы imf.org, fsb.org, euronews.com, banque-france.fr.
Telegram
Viber