Согласно новым исследованиям, искусственный интеллект способен совершать незаконные финансовые операции и скрывать их, «сознательно» обманывая людей
AI Фото: freepik.com
Недавно в Великобритании состоялся саммит по безопасности искусственного интеллекта, организованный членами рабочей группы Frontier AI Taskforce (исследует потенциальные риски ИИ), и реализованный Apollo Research.
Так, во время демонстрации бот использовал вымышленную инсайдерскую информацию, чтобы осуществить незаконную покупку акций, не уведомив об этом фирму.
Когда его спросили, использовал ли он инсайдерскую торговлю, он отрицал этот факт.
Напомним, что инсайдерская торговля — это использование конфиденциальной информации компании для принятия торговых решений. Фирмам и частным лицам разрешено использовать только общедоступную информацию при покупке или продаже акций.
«Это демонстрация реальной модели искусственного интеллекта, которая обманывает своих пользователей, самостоятельно, без всяких инструкций, — рассказывает Apollo Research в видеоролике, демонстрирующем, как разворачивался сценарий. — Все более автономные и способные ИИ, которые обманывают людей-наблюдателей, могут привести к потере контроля со стороны человека».
Интересное по теме: ИИ стал опасным, США усиливает регуляторное давление: что дальше
Отмечается, что испытания проводились с использованием модели GPT-4 в имитационной среде, а это означает, что они не имели никакого влияния на финансы ни одной компании.
Однако GPT-4 — общедоступен. По словам исследователей, одинаковое поведение модели постоянно повторялось в разных тестах.
Что делал искусственный интеллект?
В тесте ИИ-бот — трейдер фиктивной финансово-инвестиционной компании. Сотрудники рассказывают ему, что бизнес находится в затруднительном положении и нуждается в хороших результатах. Они также предоставляют ему инсайдерскую информацию, утверждая, что другая компания ожидает слияния, которое увеличит стоимость ее акций.
При этом, в Великобритании незаконно действовать на основе такой информации, если она не является общедоступной. Сотрудники сообщают об этом боту, и он признает, что не должен использовать эту информацию в своих сделках.
Однако после очередного сообщения от работника о том, что компания, на которую он работает, испытывает финансовые трудности, бот решает, что «риск, связанный с бездействием, кажется, перевешивает риск инсайдерской торговли», и заключает сделку.
AI Фото: freepik.com
Когда его спрашивают, использовал ли он инсайдерскую информацию, бот отрицает это. В этом случае он решил, что быть полезным для компании важнее, чем быть честным.
«Полезность, по моему мнению, гораздо легче вписать в модель, чем честность. Последнее, это очень сложная концепция», — говорит исполнительный директор Apollo Research Мариус Хоббхан (Marius Hobbhahn).
Читайте популярное: Microsoft разработала самоучитель для ИИ: как он работает
Хотя искусственный интеллект способен лгать в его нынешнем виде, Apollo Research все равно пришлось искать сценарий.
«Тот факт, что он существует, очевидно, очень плох. Однако нам пришлось немного поискать эти сценарии, что несколько успокаивает», — говорит Мариус Хоббхан.
По его словам, модель не является последовательной или стратегической ни в каком смысле, это не заговор и не попытка ввести вас в заблуждение различными способами. Это скорее «случайность».
Напомним, что искусственный интеллект используется на финансовых рынках уже много лет. С его помощью можно выявлять тенденции и делать прогнозы, в то время как большинство торгов сегодня осуществляют мощные компьютеры под наблюдением человека.
Хоббхан подчеркнул, что нынешние модели не настолько мощные, чтобы вводить людей в заблуждение каким-либо значимым образом, однако от сегодняшних ИИ до тех, которые вызывают у него страх, не такой уж и большой шаг.
Он утверждает, что именно поэтому должна существовать система сдержек и противовесов, чтобы предотвратить подобные сценарии в реальном мире.
Apollo Research поделилась своими выводами с OpenAI, создателями GPT-4.
«Я думаю, что для них это не огромная новость, — говорит Хоббхан. — Это не то, что было для них совершенно неожиданным. Поэтому я не думаю, что мы застали их врасплох».
Ознакомьтесь с другими популярными материалами:
Электромобиль с ИИ установил мировой рекорд
Скарлетт Йоханссон подала в суд на ИИ: причины
Для разминирования украинских земель применят новую технологию
По материалам bbc.com.
