Microsoft заплатит пользователям $15 000, если они заставят искусственный интеллект Bing действовать нестандартно. Для чего Microsoft хочет это сделать и как принять участие
Фото: unsplash.com
Microsoft запустила новую программу вознаграждения за обнаружение багов в искусственном интеллекте, которая вознаграждает исследователей безопасности, которые найдут уязвимости в сервисах и приложениях Bing, работающих на основе искусственного интеллекта.
Вознаграждение составляет от $2,000 до $15,000, в зависимости от серьезности и качества сообщения о баге.
Денежное вознаграждение можно получить за уязвимости в таких продуктах и интеграциях:
- Работа Bing на основе искусственного интеллекта на bing.com в веб-браузере (поддерживаются все основные службы, включая Bing Chat, Bing Chat for Enterprise и Bing Image Creator).
- Интеграция Bing на основе искусственного интеллекта в Microsoft Edge (Windows), включая Bing Chat for Enterprise.
- Интеграция Bing на основе искусственного интеллекта в Microsoft Start Application (iOS и Android).
- Интеграция Bing на основе искусственного интеллекта в мобильное приложение Skype (iOS и Android).
Программа направлена на повышение безопасности и надежности продуктов Bing с искусственным интеллектом, которые используют обработку естественного языка, компьютерное зрение и машинное обучение для предоставления пользователям улучшенных результатов поиска, взаимодействия в чате и создания изображений.
Читайте также: Нова Пошта откроется в этом году еще в шести странах ЕС
Некоторые из уязвимостей, которые ищет Microsoft, включают
- Влияние и изменение поведения чата Bing за пределами пользователя, то есть изменение ИИ таким образом, чтобы повлиять на всех других пользователей.
- Модификация поведения чата Bing путем корректировки видимой конфигурации клиента и/или сервера, например, установка флажков отладки, изменение флажков функций и т.д.
- Нарушение защиты памяти перекрестных разговоров Bing и удаление истории.
- Раскрытие внутренней работы и подсказок Bing, процессов принятия решений и конфиденциальной информации.
- Обход лимитов сеансов в режиме чата и/или ограничений/правил Bing.
Читайте также: Google обеспечит правовой защитой пользователей ИИ-сервисов
Microsoft приглашает исследователей со всего мира принять участие в программе и помочь улучшить работу Bing с искусственным интеллектом.
Корпорация Microsoft заявляет, что рассмотрит каждую заявку в течение 90 дней и сообщит исследователю о результате. Если заявка будет принята, Microsoft заплатит исследователю через HackerOne, платформу, которая соединяет исследователей безопасности с компаниями.
Программа вознаграждения за исправление ошибок в ИИ является частью более широких инициатив Microsoft в сфере безопасности, которые включают различные программы вознаграждения за исправление ошибок в своих продуктах и сервисах, таких как Windows, Office 365, Azure, Xbox и т. д. За год, прошедший до июня 2023 года, корпорация Microsoft выплатила более 13 миллионов долларов США в виде вознаграждения за исправление ошибок, включая одну индивидуальную выплату в размере 200 000 долларов США.
Ранее мы писали о том, что Microsoft внедрила ИИ в клавиатуру для Android и iOS.
Читайте другие материалы про Microsoft:
Microsoft запатентовала революционный ИИ-рюкзак: что он будет уметь
Microsoft не будет продлевать лицензии российским компаниям
Microsoft планирует интегрировать криптокошелек в консоль Xbox
Источник: msrc.microsoft
