Что пообещают Google и Microsoft Белому дому в сфере ИИ

Ведущие компании в области искусственного интеллекта, включая Google, Microsoft, OpenAI, Amazon, Anthropic, Inflection и Meta, собираются на встречу в Белом доме, чтобы пообещать разработать более безопасные инструменты искусственного интеллекта, а также пообещать оценку безопасности третьими сторонами и прозрачность в отношении ограничений.

Фото: wikipedia.org

Семь компаний, занимающихся разработкой искусственного интеллекта (ИИ), включая Google, Microsoft и OpenAI, соберутся в пятницу в Белом доме и пообещают создать способы идентификации материалов, созданных ИИ, и проверить свои инструменты на безопасность перед публичным выпуском, пишет CNBC.

Amazon, Anthropic, Inflection и Meta дополняют группу потенциальных участников. Каждая из этих семи компаний согласилась принять на себя ряд добровольных обязательств по разработке технологий ИИ.

Вот их список:

1. Разработать способ идентификации контента, созданного ИИ, например, с помощью водяных знаков.
2. Привлечение независимых экспертов для оценки безопасности своих инструментов перед их выпуском в открытый доступ.
3. Обмен информацией о лучших практиках и попытках обойти защиту с другими участниками отрасли, правительствами и внешними экспертами.
4. Предоставление третьим сторонам возможности искать и сообщать об уязвимостях в своих системах.
5. Сообщать об ограничениях своих технологий и давать рекомендации по правильному использованию средств ИИ.
6. Приоритетные исследования социальных рисков ИИ, в том числе в области дискриминации и неприкосновенности частной жизни.
7. Разработка ИИ с целью содействия смягчению таких социальных проблем, как изменение климата и болезни.

Контекст

Безопасность стала одной из главных проблем в мире ИИ после того, как в конце прошлого года компания OpenAI выпустила ChatGPT. Ведущие технологические компании и инвесторы вкладывают миллиарды долларов в создание больших языковых моделей, лежащих в основе так называемого генеративного ИИ.

Технология обладает такой потенциальной мощью, что основные игроки в этой области высказывают опасения по поводу слишком быстрого её развития. В открытом письме, опубликованном в мае, эксперты и лидеры отрасли заявили:

«Снижение риска вымирания в результате использования ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».

Интересное по теме: ИИ угрожает безопасности всего мира — глава ООН.

Эти обязательства являются частью усилий президента Байдена, направленных на то, чтобы ИИ разрабатывался с соответствующими гарантиями, не препятствуя при этом инновациям. Конгресс рассматривает вопрос о принятии правил, касающихся ИИ, однако введение стандартов может занять несколько месяцев или лет, поскольку законодатели продолжают изучать опыт экспертов в отношении того, как работает эта технология и какие риски она несет.

В пятницу на встрече в Белом доме будут: генеральный директор Amazon Web Services Адам Селипски, генеральный директор Anthropic Дарио Амодеи, глава Google по глобальным вопросам Кент Уокер, генеральный директор Inflection Мустафа Сулейман, глава Meta по глобальным вопросам Ник Клегг, президент Microsoft Брэд Смит и президент OpenAI Грег Брокман.

Администрация Байдена заявила, что уже провела консультации со многими другими странами по поводу добровольных обязательств и работает над тем, чтобы они дополняли международные усилия, когда речь идет об установлении оградительных барьеров вокруг технологий.

Другие статьи на эту тему:

• Вышел ИИ который заменяет менеджеров по продажам: подробности;
• Будет ли SEC использовать ИИ для финмониторинга;
• ИИ от Google теперь доступен в Украине: что умеет.