Новейшая технология, скорее всего, станет грозным оружием в руках пропагандистов в странах с тоталитарными режимами
ChatGPT Фото: mid-day.com
Будь-то кулинарный совет или помощь с курсовой работой, ChatGPT стал первой возможностью для многих людей ощутить преимущества искусственного интеллекта (ИИ). Сервис основан на передовой технологии обработки языковых форм, созданной OpenAI. ИИ-алгоритм обучался с использованием текстовых баз данных из Интернета, включая книги, журналы и статьи из Википедии. Всего в систему было загружено 300 млрд слов.
Конечным результатом стал чат-бот, который может имитировать реального собеседника, но с энциклопедическими знаниями. Однако какая опасность кроется в этом? Его убедительная имитация человеческих реакций может стать инструментом в руках злоумышленников. Исследователи кибербезопасности и эксперты по искусственному интеллекту предупреждают, что ChatGPT может использоваться для распространения пропаганды в социальных сетях.
ChatGPT способен значительно облегчить так называемым троллям масштабирование их информационных операций. Об этом говорится в отчете экспертов Стэндфордского Университета. Используя поддельные аккаунты, они довольно успешно распространяют дезинформацию на страницах соцсетях.
«Потенциал языковых моделей таков, что они, как и любая мощная технология, могут предоставить явные преимущества пропагандистам, которые решат их использовать», — говорится в отчете.
Алгоритмы искусственного интеллекта могут улучшить качество контента и затруднить распознавание этих сообщений обычными пользователями в рамках скоординированных кампаний по дезинформации, говорит Джош Гольдштейн, научный сотрудник Центра безопасности Джорджтауна. По его словам, если платформа наводнена ложной информацией или пропагандой, общественности будет труднее распознать, что является правдой.
В документе также говорится, что рост числа поддельных учетных записей в социальных сетях стал серьезной проблемой для Twitter и Facebook, и быстрое распространение систем языковых моделей заполнит эти платформы еще большим количеством фальшивых профилей и постов.
ЧИТАЙТЕ ТАКЖЕ: Как не стать жертвой мошенников: в Украине создали реестр фишинговых сайтов
Мы ранее сообщали, что в Украине создали полезное мобильное приложение, с помощью которого пользователи смогут получать информацию о своих родственниках с оккупированных или опасных территорий.
ЧИТАЙТЕ ТАКЖЕ:
Виталик Бутерин продает личные активы Ethereum и переводит средства в стейблкоины: возможные причины
16 марта Instagram отключит один из своих популярных сервисов
По материалам сайта bbc.com
Telegram
Viber