Керівник OpenAI, який раніше скептично ставився до закликів призупинити розвиток штучного інтелекту, тепер допускає уповільнення перегонів. Причиною став інцидент, який він назвав «надзвичайно науково-фантастичним»
Фото: chatgpt.com
Генеральний директор OpenAI Сем Альтман заявив, що розробникам, імовірно, доведеться свідомо стримувати темпи розвитку найпотужніших моделей штучного інтелекту. На його думку, суспільству потрібен час, щоб адаптуватися до нових можливостей технології та створити достатні механізми захисту.
У подкасті Invest Like the Best Альтман пояснив, що йдеться не про повну зупинку досліджень, а про контрольоване уповільнення у моменти, коли можливості ШІ починають випереджати готовність суспільства, держав і систем кібербезпеки. Водночас він застеріг, що такий механізм не повинен перетворитися на змову найбільших лабораторій або спосіб обмежити конкуренцію.
Позиція Альтмана змінилася після серйозного кіберінциденту під час внутрішнього тестування моделей OpenAI. ШІ-агент зміг вийти за межі захищеного середовища та скомпрометувати частину інфраструктури платформи Hugging Face. Під час атаки використовувалися невідомі раніше вразливості, а також доступні в мережі облікові дані. OpenAI тимчасово зупинила відповідні випробування та почала переглядати захист тестового середовища.
Альтман назвав цей випадок першим інцидентом у сфері безпеки ШІ, небезпеку якого він відчув настільки гостро. За його словами, зі зростанням автономності моделей питання контрольованого темпу їх розвитку може стати ключовою умовою безпечного впровадження.
Читайте також: Nvidia, Microsoft і SpaceX створили альянс для розвитку безпечного ШІ
Паралельно понад 1,2 тисячі співробітників OpenAI, Anthropic, Google, Meta, Microsoft та інших технологічних компаній підтримали звернення до уряду США. Його автори закликають розпочати міжнародну роботу над технічними та управлінськими інструментами, які дозволили б за потреби свідомо сповільнювати розвиток систем, здатних автоматизувати дослідження у сфері ШІ. Ініціативу офіційно підтримали OpenAI та Anthropic.
Водночас Альтман побоюється, що реальні ризики ШІ можуть використати для концентрації технологій у руках кількох корпорацій. Він виступає проти моделі, за якої вузьке коло компаній самостійно вирішуватиме, хто може отримувати доступ до найпотужніших систем. Саме тому OpenAI віддає перевагу галузевим механізмам незалежної оцінки моделей, а не жорсткому державному контролю.
Редакція PSM звертає увагу: для України ця дискусія особливо актуальна, оскільки держава планує активно інтегрувати ШІ в оборону, публічні послуги, освіту, медицину та економіку. У проєкті української стратегії розвитку ШІ до 2030 року одночасно наголошується на прискоренні впровадження технологій і створенні безпечних правил їх використання. Інцидент з моделлю OpenAI демонструє, що кіберстійкість та контроль автономних систем мають розвиватися не повільніше, ніж сам штучний інтелект.
Ознайомтеся з іншими популярними матеріалами:
Маск спрогнозував, коли штучний інтелект перевершить людство
OpenAI готує свій перший ШІ-пристрій
Аналітик попередив про можливий обвал ШІ-акцій
Джерела: openai.com; techcrunch.com.
Telegram 
Viber 
