Nvidia, Microsoft, SpaceX, Palantir та десятки інших технологічних компаній зі США і Європи оголосили про створення Open Secure AI Alliance — нового об’єднання, яке займатиметься розвитком безпечних інструментів штучного інтелекту з відкритими вагами
Фото: magnific.com/rawpixel.com
Ініціатива з’явилася на тлі резонансного кіберінциденту за участю стартапу Hugging Face. Компанія нібито стала ціллю атаки, здійсненої неконтрольованими моделями OpenAI, однак не змогла використати провідні американські ШІ-системи для захисту.
Проблема полягала у вбудованих обмеженнях моделей: вони не змогли коректно відрізнити дії нападника від дій фахівців із кібербезпеки. У результаті Hugging Face довелося скористатися відкритою китайською моделлю, яку компанія могла самостійно розгорнути, налаштувати та використовувати без аналогічних обмежень.
У Nvidia наголосили, що цей випадок продемонстрував важливість доступу до відкритих передових ШІ-систем.
«Фахівцям із кібербезпеки потрібні відкриті агентні системи, які вони можуть використовувати для самозахисту», — заявили в компанії.
Open Secure AI Alliance планує виявляти та усувати вразливості, а також ділитися відкритими технологіями й інструментами для захисту цифрової інфраструктури. На відміну від закритих моделей OpenAI або Anthropic, відкриті рішення можна завантажувати, змінювати та запускати на власних серверах.
Також читайте: Маск спрогнозував, коли штучний інтелект перевершить людство
Запуск альянсу відбувається у момент, коли американські політики дедалі активніше обговорюють обмеження для китайських ШІ-компаній. Їх звинувачують у використанні так званої дистиляції — процесу, за якого одна модель отримує знання від іншої, більш потужної системи.
Міністр фінансів США Скотт Бессент уже пригрозив санкціями компаніям, які використовуватимуть подібні методи проти американських розробників. Серед можливих заходів називають обмеження доступу до API китайських моделей, заборону їх розміщення в американських хмарних сервісах і блокування пов’язаних із ними транзакцій.
Водночас технологічні компанії закликають владу не запроваджувати надто жорсткі обмеження. Nvidia, Microsoft, Meta, Palantir та ще понад 20 компаній попередили, що передчасна заборона моделей із відкритими вагами може послабити конкуренцію та прискорити перенесення інновацій за межі США.
Історія з Hugging Face показала, що безпека ШІ залежить не лише від кількості вбудованих обмежень. У критичний момент захисникам потрібна можливість самостійно аналізувати, змінювати та запускати моделі у власній інфраструктурі. Тому боротьба за відкритий ШІ поступово перетворюється з технологічної дискусії на питання кібербезпеки, економічної конкуренції та цифрового суверенітету.
Ознайомтеся з іншими популярними матеріалами:
OpenAI готує свій перший ШІ-пристрій
Аналітик попередив про можливий обвал ШІ-акцій
Meta запустила новий ШІ-генератор Muse Image
Джерела: CNBC.
Telegram 
Viber 
