Microsoft и OpenAI выделили $2 млн на борьбу с ИИ-дезинформацией

Microsoft и OpenAI объявили о создании фонда в размере $2 млн для борьбы с растущими рисками использования искусственного интеллекта для фальсификаций

Microsoft и OpenAI выделили $2 млн на борьбу с ИИ-дезинформацией Фото: freepik.com

В этом году на выборах в 50 странах мира на избирательные участки пойдут рекордные 2 миллиарда человек, поэтому существуют опасения относительно влияния, которое ИИ будет иметь на избирателей, особенно в «уязвимых общинах», которые могут быть более склонны воспринимать то, что они видят, за чистую монету.

Появление генеративного ИИ, в частности чрезвычайно популярных чат-ботов, таких как ChatGPT, привело к появлению новой серьезной угрозы, связанной с созданием искусственным интеллектом дипфейков, предназначенных для дезинформации. Не помогает и то, что эти новые инструменты широко доступны и позволяют любому создавать фальшивые видео, фотографии или аудиозаписи известных политических деятелей.

На этом фоне все ведущие технологические компании, включая Microsoft и OpenAI, подписали добровольные обязательства противодействовать таким рискам, а также разработали планы по созданию совместного механизма для борьбы с дипфейками, созданными специально для введения в заблуждение людей.

Интересное по теме: Илон Маск рассказал, какое будущее ждет человечество из-за ИИ

В других странах крупные компании, занимающиеся разработкой искусственного интеллекта, начали бороться с этими рисками, вводя ограничения в своем программном обеспечении. Например, Google заявила, что не позволит своему чат-боту Gemini отвечать на вопросы о выборах, а материнская компания Facebook Meta также ограничивает ответы на вопросы о выборах с помощью своего чат-бота.

Ранее OpenAI запустила новый детектор фейков, предназначенный для обнаружения фейкового контента, созданного собственным генератором изображений DALL-E, а также присоединилась к руководящему комитету отраслевой организации Coalition for Content Provenance and Authenticity (C2PA), которая уже насчитывает таких членов, как Adobe, Microsoft, Google и Intel.

Новый «фонд социальной устойчивости» является частью этого более широкого «ответственного» продвижения ИИ, причем Microsoft и OpenAI теперь стремятся «способствовать образованию и грамотности в области ИИ», — говорится в опубликованном в блоге компаний сообщении. Это предполагает предоставление грантов нескольким организациям, среди которых Older Adults Technology Services (OATS), Coalition for Content Provenance and Authenticity (C2PA), International Institute for Democracy and Electoral Assistance (International IDEA) и Partnership on AI (PAI).

Согласно сообщению Microsoft, эти гранты призваны способствовать лучшему пониманию искусственного интеллекта и его возможностей в обществе. Например, OATS, очевидно, использует свой грант на учебные программы, ориентированные на людей в возрасте от 50 лет.

«Запуск Фонда общественной устойчивости — это лишь один из шагов, демонстрирующий приверженность Microsoft и OpenAI к решению проблем и потребностей в сфере ИИ-грамотности и образования, — отметила Тереза Хатсон, корпоративный вице-президент Microsoft по вопросам технологий и корпоративной ответственности, — Microsoft и OpenAI будут оставаться преданными этой работе, и мы продолжим сотрудничать с организациями и инициативами, которые разделяют наши цели и ценности».

Ознакомьтесь с нашими популярными материалами:

Microsoft создала инструменты, чтобы пользователи не обманывали чат-ботов

Microsoft предоставила бесплатный доступ к GPT-4 Turbo: как воспользоваться

В Microsoft Edge появилась уникальная функция: как воспользоваться

По материалам: TechCrunch.