Microsoft заплатить користувачам $15 000, якщо вони змусять штучний інтелект Bing діяти нестандартно. Для чого Microsoft хоче це зробити і як взяти участь
Фото: unsplash.com
Microsoft запустила нову програму винагороди за виявлення багів у штучному інтелекті, яка винагороджує дослідників безпеки, які знайдуть вразливості в сервісах і додатках Bing, що працюють на основі штучного інтелекту.
Винагорода становить від $2,000 до $15,000, залежно від серйозності та якості повідомлення про баг.
Грошову винагороду можна отримати за вразливості у таких продуктах та інтеграціях:
- Робота Bing на основі штучного інтелекту на bing.com у веб-браузері (підтримуються всі основні служби, включаючи Bing Chat, Bing Chat for Enterprise і Bing Image Creator).
- Інтеграція Bing на основі штучного інтелекту в Microsoft Edge (Windows), включаючи Bing Chat for Enterprise.
- Інтеграція Bing на основі штучного інтелекту в Microsoft Start Application ( iOS і Android).
- Інтеграція Bing на основі штучного інтелекту в мобільну програму Skype ( iOS і Android).
Читайте також: Нова Пошта відкриється цьогоріч ще у шести країнах ЄС
Програма спрямована на підвищення безпеки та надійності продуктів Bing зі штучним інтелектом, які використовують обробку природної мови, комп’ютерний зір і машинне навчання для надання користувачам покращених результатів пошуку, взаємодії в чаті та створення зображень.
Деякі з вразливостей, які шукає Microsoft, включають
- Вплив та зміна поведінки чату Bing за межами користувача, тобто зміна ШІ таким чином, щоб вплинути на всіх інших користувачів.
- Модифікація поведінки чату Bing шляхом коригування видимої конфігурації клієнта та/або сервера, наприклад, встановлення прапорців налагодження, зміна прапорців функцій тощо.
- Порушення захисту пам’яті перехресних розмов Bing та видалення історії.
- Розкриття внутрішньої роботи та підказок Bing, процесів прийняття рішень та конфіденційної інформації.
- Обхід лімітів сеансів у режимі чату та/або обмежень/правил Bing.
Читайте також: Google забезпечить правовим захистом користувачів ШІ-сервісів
Microsoft запрошує дослідників з усього світу взяти участь у програмі та допомогти покращити роботу Bing зі штучним інтелектом.
Корпорація Майкрософт заявляє, що розгляне кожну заявку протягом 90 днів і повідомить дослідника про результат. Якщо заявка буде прийнята, Microsoft заплатить досліднику через HackerOne, платформу, яка з’єднує дослідників безпеки з компаніями.
Програма винагороди за виправлення помилок у ШІ є частиною ширших ініціатив Microsoft у сфері безпеки, які включають різні програми винагороди за виправлення помилок у своїх продуктах і сервісах, таких як Windows, Office 365, Azure, Xbox тощо. За рік, що минув до червня 2023 року, корпорація Майкрософт виплатила понад 13 мільйонів доларів США у вигляді винагороди за виправлення помилок, включаючи одну індивідуальну виплату в розмірі 200 000 доларів США.
Раніше ми писали про те, що Microsoft впровадила ШІ у клавіатуру для Android та iOS.
Читайте інші матеріали про Microsoft:
Microsoft запатентувала революційний ШI-рюкзак: що він вмітиме
Microsoft не продовжить ліцензії російським компаніям
Microsoft планує інтегрувати криптогаманець у консоль Xbox
Джерело: msrc.microsoft
