Накануне временного увольнения гендиректора OpenAI Сэма Альтмана исследователи компании написали письмо в совет директоров, предупреждая о мощном открытии искусственного интеллекта, которое может угрожать человечеству
Фото: wikipedia.org
Как сообщает Reuters со ссылкой на два источника, это письмо стало одним из факторов в длинном списке жалоб правления, которые привели к увольнению Альтмана.
В компании OpenAI отказались от комментариев, но заочно признали во внутреннем сообщении для сотрудников новый проект под названием Q* (произносится как Q-Star) и письмо к правлению перед событиями на выходных.
Илон Маск в соцсети Х отреагировал на новую работу OpenAI над Q*, назвав ее «чрезвычайно тревожной». В ответ другие также выражают беспокойство относительно разработок ИИ, над которыми работает OpenAI, поскольку они могут нести угрозу человечеству.
Фото: twitter.com/elonmusk
Что такое Q*
По словам сотрудников OpenAI, проект Q* может стать прорывом в поисках сверхинтеллекта, также известного как общий искусственный интеллект (AGI). Компания определяет AGI как автономные системы, которые превосходят людей в большинстве экономически ценных задач.
Учитывая огромные вычислительные ресурсы, новая модель способна решать определенные математические задачи, сообщается на условиях анонимности.
Несмотря на то, что задачи решаются только на уровне начальной школы, это дало исследователям очень оптимистичные ожидания относительно будущего успеха Q*.
Читайте также: Названы 10 важнейших инструментов на основе ИИ
Сейчас исследователи считают математику пределом развития генеративного ИИ. Он хорошо справляется с написанием и переводом языка, статистически предсказывая следующее слово, и ответы на один и тот же вопрос могут сильно отличаться.
В отличие от калькулятора, который может выполнять ограниченное количество операций, AGI может обобщать, изучать и понимать.
В своем письме к правлению, которое спровоцировало увольнение Альтмана, исследователи отметили мастерство и потенциальную опасность искусственного интеллекта. При этом в целом не уточняются конкретные проблемы безопасности, указанные в письме.
Среди компьютерщиков давно идет дискуссия об опасности, которую представляют высокоинтеллектуальные машины, например, если они решат, что в их интересах уничтожение человечества.
Предыстория
Напомним, об увольнении Сэма Альтмана с должности гендиректора OpenAI стало известно в конце прошлой недели. Как мы писали, главной причиной отставки стали конфликты в руководстве компании.
После недели переговоров о возможном возвращении Альтмана в OpenAI генеральный директор Microsoft Сатья Наделла объявил, что Сэм Альтман и Грег Брокман присоединятся к новой команде Microsoft по исследованию передового ИИ.
Вместо Альтмана по итогам переговоров совет директоров нанял нового временного CEO — им стал Эммет Шир, сооснователь Twitch. Подробнее об Эммете Шире можно прочитать в нашем материале.
Однако накануне стало известно, что Сэм Альтман снова стал гендиректором OpenAI. В частности, удалось достичь договоренностей, что Альтман снова займет руководящую должность в OpenAI вместе с новым составом правления.
В него вошли бывший содиректор Salesforce Брет Тейлор (в качестве председателя), бывший министр финансов США Ларри Саммерс и Адам Д’Анджело, который был до этого в совете и голосовал за увольнение Альтмана.
«Я люблю OpenAI, и все, что я делал в течение последних нескольких дней, служило сохранению этой команды и ее миссии», — написал Альтман.
По его словам, теперь после возвращения в OpenAI с новым составом совета директоров он надеется развивать прочное партнерство компании с Microsoft.
Ознакомьтесь с другими популярными материалами:
Платную подписку ChatGPT Plus можно купить на eBay: что произошло
Apple добавит новый тип сообщений, который давно есть на Android
Разрабатывается первый 1-нанометровый процессор: когда выпустят
