Метою CoSAI є створення безпечних систем штучного інтелекту з використанням фреймворків з відкритим вихідним кодом
Фото: freepik.com
Технологічні гіганти Google, Microsoft, Nvidia та OpenAI, серед інших, створили Коаліцію за безпечний ШІ (CoSAI). Оголошена на Безпековому форумі в Аспені, CoSAI має на меті створити надійні рамки та стандарти безпеки для розробки та розгортання штучного інтелекту.
CoSAI, очолювана Google, об’єднує провідні технологічні компанії та організації. Згідно з оголошенням, серед членів-засновників — Amazon, Anthropic, Cisco, Cohere, IBM, Intel, Microsoft, Nvidia, OpenAI, PayPal і Wiz.
Зокрема, ця коаліція має на меті створення безпечних систем штучного інтелекту, використовуючи методології з відкритим вихідним кодом і стандартизовані фреймворки. У заяві підкреслюється важливість створення системи безпеки для штучного інтелекту, яка базується на раніше представленому документі Secure AI Framework (SAIF).
Коаліція зосередиться на трьох основних напрямках роботи: безпека ланцюжка постачання програмного забезпечення для систем ШІ, підготовка захисників до мінливого ландшафту кібербезпеки та управління безпекою ШІ.
Ці напрямки роботи спрямовані на розробку передових практик, систем оцінки ризиків та стратегій їх зменшення для підвищення безпеки ШІ в галузі.
Фокус на безпеці штучного інтелекту
Девід ЛаБіанка, співголова Ради директорів CoSAI з Google, наголосив:
“Створення CoSAI було зумовлене необхідністю демократизації знань і досягнень, необхідних для безпечної інтеграції та розгортання штучного інтелекту.”
Омар Сантос з Cisco підтримав цю думку, підкресливши важливість співпраці між провідними компаніями та експертами для розробки надійних стандартів безпеки ШІ. Спільнота CoSAI з відкритим вихідним кодом вітає технічний внесок від усіх зацікавлених сторін.
CoSAI існуватиме в межах Організації з розвитку стандартів структурованої інформації (OASIS), некомерційної групи, що сприяє розвитку відкритих стандартів. OASIS також запрошує до додаткової спонсорської підтримки компанії, що займаються розробкою та впровадженням ШІ.
Оскільки технологія ШІ продовжує розвиватися, роль CoSAI у створенні стандартизованих практик безпеки стає все важливішою. Звертаючись до унікальних ризиків, пов’язаних із системами штучного інтелекту, CoSAI прагне забезпечити, щоб розробка та впровадження ШІ здійснювалися відповідально та безпечно.
Ця коаліція між технологічними гігантами знаменує собою значний крок уперед на шляху до безпечного та надійного ШІ.
Раніше ми писали про те, які компанії можуть виграти від буму ШІ.
Ви могли пропустити:
- Microsoft випустила ШІ-редактор для смартфонів: що він вміє
- DeepL запускає мовну модель, яка перевершує Google Translate
- Українська ІТ-компанія розробила конкурента ChatGPT
За матеріалами coingape.com
