Напередодні тимчасового звільнення гендиректора OpenAI Сема Альтмана дослідники компанії написали лист до ради директорів, попереджаючи про потужне відкриття штучного інтелекту, яке може загрожувати людству
Фото: wikipedia.org
Як повідомляє Reuters з посиланням на два джерела, цей лист став одним із факторів у довгому списку скарг правління, які призвели до звільнення Альтмана.
В компанії OpenAI відмовилися від коментарів, але заочно визнали у внутрішньому повідомленні для співробітників новий проєкт під назвою Q* (вимовляється як Q-Star) і лист до правління перед подіями на вихідних.
Ілон Маск в соцмережі Х відреагував на нову роботу OpenAI над Q*, назвавши її «надзвичайно тривожною». У відповідь інші також висловлюють занепокоєння щодо розробок ШІ, над якими працює OpenAI, оскільки вони можуть нести загрозу людству.
Фото: twitter.com/elonmusk
Що таке Q*
За словами співробітників OpenAI, проєкт Q* може стати проривом у пошуках надінтелекту, також відомого як загальний штучний інтелект (AGI). Компанія визначає AGI як автономні системи, які перевершують людей у більшості економічно цінних завдань.
Враховуючи величезні обчислювальні ресурси, нова модель здатна вирішувати певні математичні завдання, повідомляється на умовах анонімності.
Попри те, що задачі вирішуються лише на рівні початкової школи, це дало дослідникам дуже оптимістичні очікування щодо майбутнього успіху Q*.
Читайте також: Названо 10 найважливіших інструментів на основі ШІ
Наразі дослідники вважають математику межею розвитку генеративного ШІ. Він добре справляється з написанням і перекладом мови, статистично передбачаючи наступне слово, і відповіді на те саме запитання можуть сильно відрізнятися.
На відміну від калькулятора, який може виконувати обмежену кількість операцій, AGI може узагальнювати, вивчати та розуміти.
У своєму листі до правління, який спровокував звільнення Альтмана, дослідники відзначили майстерність і потенційну небезпеку штучного інтелекту. При цьому на загал не уточнюються конкретні проблеми безпеки, зазначені у листі.
Серед комп’ютерників давно точиться дискусія про небезпеку, яку становлять високоінтелектуальні машини, наприклад, якщо вони вирішать, що в їхніх інтересах знищення людства.
Передісторія
Нагадаємо, про звільнення Сема Альтмана з посади гендиректора OpenAI стало відомо в кінці минулого тижня. Як ми писали, головною причиною відставки стали конфлікти в керівництві компанії.
Після тижня переговорів про можливе повернення Альтмана в OpenAI генеральний директор Microsoft Сатья Наделла оголосив, що Сем Альтман і Грег Брокман приєднаються до нової команди Microsoft з дослідження передового ШІ.
Замість Альтмана рада директорів найняла нового тимчасового CEO — ним став Еммет Шир, співзасновник Twitch. Детальніше про Еммета Шира можна прочитати в нашому матеріалі.
Однак напередодні стало відомо, що Сем Альтман знову став гендиректором OpenAI. Зокрема, вдалось досягти домовленостей, що Альтман знову обійме керівну посаду в OpenAI разом з новим складом правління.
До нього увійшли колишній співдиректор Salesforce Брет Тейлор (в якості голови), колишній міністр фінансів США Ларрі Саммерс та Адам Д’Анджело, який був до цього в раді та голосував за звільнення Альтмана.
«Я люблю ОpenAI, і все, що я робив протягом останніх кількох днів, слугувало збереженню цієї команди та її місії», — написав Альтман.
За його словами, тепер після повернення в ОpenAI з новим складом ради директорів він сподівається розвивати міцне партнерство компанії з Microsoft.
Ознайомтесь з іншими популярними матеріалами:
Платну підписку ChatGPT Plus можна купити на eBay: що сталося
Apple додасть новий тип повідомлень, який давно є на Android
Розробляється перший 1-нанометровий процесор: коли випустять
