Штучний інтелект відкриває нові можливості для фінансового сектору, але водночас викликає серйозні занепокоєння у багатьох експертів. Далі ми детальніше розглянемо цю тему та спробуємо зрозуміти, чи дійсно ШІ може становити загрозу для банківської системи
Чи може ШІ зашкодити фінансовому сектору: реальна загроза чи перебільшення Фото: freepik.com, pngwing.com
За словами Тобіаса Адріана, фінансового радника та директора Департаменту грошово-кредитних відносин та ринків капіталу МВФ, спочатку ми повинні визнати, що з точки зору прогресу та стабільності ШІ може стати позитивним фактором. Для фінансових установ штучний інтелект приніс нові можливості та переваги, такі як підвищення продуктивності, економія витрат, поліпшення дотримання нормативних вимог (про впровадження RegTech в Україні читайте тут), а також більш індивідуальні пропозиції для клієнтів.
На фінансових ринках технологія виконала величезну роботу, покращивши визначення цін, поглибивши ринки та часто зменшуючи волатильність під час стресу. І ШІ, ймовірно, продовжить ці тенденції.
«Однак ми також спостерігали обмежений негативний вплив кількісної торгівлі на деякі раптові ринкові коливання, і є побоювання, що ці ризики можуть зрости з використанням ШІ», — зазначає Тобіас Адріан.
Вплив ШІ на фінансовий ринок. Регулювання сектору та готовність до прогресу
Як зазначив фінансовий радник та директор Департаменту грошово-кредитних відносин та ринків капіталу МВФ, рівень готовності до використання ШІ суттєво відрізняється у різних країнах, як і рамки, необхідні для управління цими процесами. Політикам важливо оцінювати ступінь підготовленості, щоб визначити сфери для вдосконалення та потребу у впровадженні нових інструментів.
З точки зору структури ринків, вони стають дедалі швидшими. Важливо переконатися, що вони готові до ще більшої швидкості, яку може забезпечити ШІ. Як приклад, розпродаж акцій на японських і американських ринках 5 серпня показав, що турбулентність може посилюватися, коли хедж-фонди одночасно діють в одному напрямку. Їхні алгоритми виявили чіткі тенденції до зниження, і волатильність різко зросла. Це був сигнал про те, що з широким застосуванням ШІ такі епізоди можуть стати більш масштабними.
Читайте також: Google розробив ШІ-суперкомп’ютер, який може зламати блокчейн Біткоїна
ШІ посилює здатність ринків швидко реагувати на нову інформацію, що може призводити до рухів цін, які перевищують раніше очікувані масштаби. У таких умовах кредиторам слід переглянути рівень важелів, які вони готові надавати. Також необхідно враховувати потребу в удосконаленні маржинальних вимог, запровадженні обмежувачів руху цін (circuit breakers) і забезпеченні стійкості центральних контрагентів.
З точки зору моніторингу, зростання використання ШІ означає, що регуляторам потрібні інструменти для відстеження змін на цих ринках і, що важливо, діяльності їхніх учасників. Небанківські установи, такі як брокери-дилери, торгові компанії та хедж-фонди, мають дедалі більше можливостей використовувати ШІ без додаткового наглядового тягаря. Це створює ризик, що такі гравці матимуть критичну роль у ринках без чіткого розуміння того, хто вони, як вони фінансуються та чим займаються.
«Ситуація нагадує випадки «швидкого краху» (flash crash) на ринку акцій США у травні 2010 року та «швидкого зростання» (flash rally) на ринку облігацій у жовтні 2014 року. Після цих подій було запроваджено нові обмежувачі руху цін і вимоги до звітності, що значно покращило розуміння роботи ринків. Аналогічні заходи потрібні й зараз, особливо у зв’язку із залежністю від сторонніх постачальників ШІ, що може створювати ризики для функціонування ринків у разі їхнього збою», — наголосив Тобіас Адріан.
Останній важливий аспект — це небезпека кібератак і маніпуляцій. У новинах уже згадувалися випадки з використанням «глибоких фейків» (deepfakes), але це лише верхівка айсберга. Регулятори повинні інвестувати в нові наглядові технології (sup-tech), які дозволять використовувати ШІ для обробки даних, виявлення шахрайства та запобігання потенційним проблемам.
Перед тим, як детальніше розглянути ризики, які несе у собі ШІ для фінансового сектору, пропонуємо ознайомитися з їх базовим переліком.
Читайте популярне: NVIDIA та Temenos створять спеціальний ШІ для банків
Попередження Ради з фінансової стабільності
У середині листопада 2024 року Рада з фінансової стабільності (Financial Stability Board) оприлюднила матеріал, де зазначила, що використання ШІ створює ризики для світової фінансової системи. За їхніми словами ця технологія, яка викликає значний інтерес серед банків та інших фінкомпаній, може зробити установи більш вразливими до дій шахраїв та хакерів.
«Такі юрисдикції, як ЄС, взяли на себе ініціативу в регулюванні потенційно трансформаційної технології, але вони стурбовані тим, як застосовувати правила в і без того жорстко регульованому фінансовому секторі», — йдеться у звіті.
За словами аналітиків Ради з фінансової стабільності, ШІ може потенційно посилити певні вразливості сектору і тим самим створити ризики для фінансової стабільності, попри переваги для операційної ефективності, персоналізації та дотримання законодавства.
Наприклад, декілька фінансових компаній, які використовують одні й ті самі моделі ШІ, можуть призвести до одноманітної поведінки учасників ринку, посилюючи коливання на фінансових ринках (про що також згадував Тобіас Адріан). Водночас збій у роботі одного провайдера може мати значні наслідки.
Також існує ризик створення ідентичних систем захисту та механізмів роботи — якщо хакер, наприклад, знайде вразливість, під ударом можуть опинитися одразу ряд установ.
У доповіді FSB також зазначається, що генеративний ШІ, який створює новий текст, зображення або відео на основі підказок користувача, може збільшити фінансове шахрайство та здатність зловмисників генерувати і поширювати дезінформацію на фінансових ринках.
Раніше ми вже розглядали, що навіть знайомий багатьом ChatGPT може стати небезпечним інструментом у руках зловмисників. Зокрема, можемо відзначити:
- фішинг: AI може видавати себе за працівників банку, створюючи переконливі листи без граматичних чи стилістичних помилок, що ускладнює виявлення зловмисників і сприяє викраденню даних;
- шахрайство: злом корпоративної пошти, крадіжка електронних підписів і ключів;
- даркнет: створення майданчиків для торгівлі нелегальними товарами, шкідливим ПЗ та вкраденими даними;
- незаконне шифрування: ШІ може генерувати криптографічні ключі й шифрувати файли, перетворюючи код на програму-вимагач для шантажу (що таке ransomware та як захиститися від цієї небезпеки, читайте тут);
- фейковий контент: генерація маніпулятивних новин, статистики, інфографіки та армій ботів, здатних загострювати політичну ситуацію чи поширювати екстремістські настрої;
- масова пропаганда: швидке і масштабне створення та поширення маніпулятивних меседжів і коментарів у соцмережах за допомогою тригерних слів.
Цікаве по темі: ШІ обвалив акції компаній: чи під загрозою український бізнес
Чи може ШІ зашкодити фінансовому сектору: реальна загроза чи перебільшення Фото: freepik.com
Матеріал Ради з фінансової стабільності, який закликає глобальних регуляторів перевірити, чи відповідають правові рамки сучасним викликам, є продовженням консультаційного документа Європейської комісії, опублікованого у червні. У ньому йшлося про ризик упередженості або паніки на фінансових ринках, а також про схильність ШІ генерувати неточності чи відверто неправдиву інформацію.
Нагадаємо, що FSB — це міжнародна організація, що базується у Базелі, членами якої є регулятори і керівники центральних банків з усього світу, в тому числі Управління з фінансового нагляду Великобританії та Європейський центральний банк.
Нещодавно на слуханнях щодо кандидатури на посаду наступного комісара ЄС з фінансових послуг, колишня міністерка фінансів Португалії Марія Луїс Альбукерке заявила євродепутатам, що ця технологія має як переваги, так і недоліки.
«Ризики для приватних осіб вже враховані в Законі про штучний інтелект, — сказала вона. — Є багато можливостей використовувати ШІ не тільки для виявлення шахрайства, а й для поліпшення необхідної співпраці та обміну інформацією».
Застереження від заступника голови Банку Франції Дені Бову щодо ризиків використання ШІ у фінансовому секторі
Неправильне використання ШІ
На думку Дені Бову (Denis Beau’s), складність і непрозорість алгоритмів ШІ, особливо тих, що працюють на основі великих мовних моделей, можуть спричиняти серйозні наслідки для фінансового сектору.
«Помилки у проєктуванні або використанні таких моделей здатні призводити до серйозних збитків. Наприклад, неправильно налаштовані алгоритми можуть генерувати помилкові прогнози чи автоматизовані рішення, які призведуть до систематичних фінансових втрат», — зазначає заступник голови Банку Франції.
Також ШІ створює феномен «чорної скриньки», коли навіть фахівці не можуть пояснити, як алгоритм ухвалює певні рішення. Це ускладнює контроль над ризиками, які виникають унаслідок роботи ШІ, та посилює питання відповідальності й прозорості у стосунках з клієнтами.
Чи може ШІ зашкодити фінансовому сектору: реальна загроза чи перебільшення Фото: freepik.com
Читайте також: Наступна межа ШІ: як мультимодальні системи змінюють наш світ
Кіберризики та зловживання технологією
Заступник голови Банку Франції наголосив на тому, що штучний інтелект може суттєво підсилити загрози кібербезпеки.
«Технології, як-от генеративний ШІ, здатні створювати шкідливе програмне забезпечення, а також синтетичні голоси для шахрайства та маніпуляцій. Наприклад, за допомогою ШІ можна створювати складні deepfake-матеріали чи автоматизувати створення програм-вимагачів», — пояснив експерт.
Водночас ШІ, за умови правильного використання, може стати важливим інструментом для боротьби з такими загрозами. У сфері платежів, наприклад, ШІ використовується для виявлення шахрайських схем, удосконалення протоколів автентифікації (як-от 3-D Secure) та підвищення безпеки нових платіжних каналів, таких як миттєві перекази.
Баланс ризиків і можливостей
«ШІ є двосічним інструментом: він може як сприяти шахрайству, так і стати важливим союзником у боротьбі з ним», — зазначив заступник голови Банку Франції. Він також наголосив на важливості впровадження ефективного регулювання, як це зроблено у рамках європейського Закону про ШІ.
Документ визначає високоризикові сфери застосування технології у фінансовому секторі, такі як оцінка кредитоспроможності та страхування, і передбачає нагляд за використанням AI на національному рівні.
Банк Франції вже працює над створенням методології аудиту ШІ, яка дозволить максимально ефективно інтегрувати нові технології у фінансовий сектор, зберігаючи високий рівень контролю та безпеки, — резюмував Дені Бову.
Ознайомтеся з іншими популярними матеріалами:
Учені зрозуміли, як змусити ШІ думати, як людина
Китайські вчені навчилися зламувати криптографічні алгоритми за допомогою квантового комп’ютера
Google розробляє ШІ, який керуватиме комп’ютерами
Допоміжні матеріали imf.org, fsb.org, euronews.com, banque-france.fr.
Telegram
Viber