Провідні компанії в галузі штучного інтелекту, включно з Google, Microsoft, OpenAI, Amazon, Anthropic, Inflection і Meta, збираються на зустріч у Білому домі, щоб пообіцяти розробити безпечніші інструменти штучного інтелекту, а також пообіцяти оцінку безпеки третіми сторонами та прозорість щодо обмежень.
Фото: wikipedia.org
Сім компаній, що займаються розробкою штучного інтелекту (ШІ), включно з Google, Microsoft і OpenAI, зберуться в п’ятницю в Білому домі та пообіцяють створити способи ідентифікації матеріалів, створених ШІ, і перевіряти свої інструменти на безпеку перед публічним випуском, пише CNBC.
Amazon, Anthropic, Inflection і Meta доповнюють групу потенційних учасників. Кожна з цих семи компаній погодилася взяти на себе низку добровільних зобов’язань щодо розробки технологій ШІ.
Ось їхній список:
- Розробити спосіб ідентифікації контенту, створеного ШІ, наприклад, за допомогою водяних знаків.
- Залучення незалежних експертів для оцінки безпеки своїх інструментів перед їхнім випуском у відкритий доступ.
- Обмін інформацією про найкращі практики та спроби обійти захист з іншими учасниками галузі, урядами та зовнішніми експертами.
- Надання третім сторонам можливості шукати й повідомляти про вразливості у своїх системах.
- Повідомляти про обмеження своїх технологій і давати рекомендації щодо правильного використання засобів ШІ.
- Пріоритетні дослідження соціальних ризиків ШІ, зокрема в галузі дискримінації та недоторканності приватного життя.
- Розробка ШІ з метою сприяння пом’якшенню таких соціальних проблем, як зміна клімату і хвороби.
Контекст
Безпека стала однією з головних проблем у світі після того, як наприкінці минулого року компанія OpenAI випустила ChatGPT. Провідні технологічні компанії та інвестори вкладають мільярди доларів у створення великих мовних моделей, що лежать в основі так званого генеративного ШІ.
Технологія має такий потенціал, що основні гравці в цій галузі висловлюють побоювання з приводу занадто швидкого її розвитку. У відкритому листі, опублікованому в травні, експерти та лідери галузі заявили:
“Зниження ризику вимирання внаслідок використання ШІ має стати глобальним пріоритетом поряд з іншими ризиками суспільного масштабу, такими як пандемії та ядерна війна”.
Цікаве на тему: ШІ загрожує безпеці всього світу – глава ООН.
Ці зобов’язання є частиною зусиль президента Байдена, спрямованих на те, щоб ШІ розроблявся з відповідними гарантіями, не перешкоджаючи при цьому інноваціям. Конгрес розглядає питання про ухвалення правил, що стосуються ШІ, однак запровадження стандартів може тривати кілька місяців або років, оскільки законодавці продовжують вивчати досвід експертів щодо того, як працює ця технологія і які ризики вона несе.
У п’ятницю на зустрічі в Білому домі будуть: генеральний директор Amazon Web Services Адам Селіпскі, генеральний директор Anthropic Даріо Амодеї, голова Google з глобальних питань Кент Вокер, генеральний директор Inflection Мустафа Сулейман, голова Meta з глобальних питань Нік Клегг, президент Microsoft Бред Сміт і президент OpenAI Грег Брокман.
Адміністрація Байдена заявила, що вже провела консультації з багатьма іншими країнами щодо добровільних зобов’язань і працює над тим, щоб вони доповнювали міжнародні зусилля, коли йдеться про встановлення огороджувальних бар’єрів навколо технологій.
Інші статті на цю тему:
- Вийшов ШІ, який замінює менеджерів з продажу: подробиці;
- Чи буде SEC використовувати ШІ для фінмоніторингу;
- ШІ від Google тепер доступний в Україні: що вміє.
