close-btn

Штучний інтелект може використовуватися для створення фейків та пропаганди – дослідження

Нова технологія, швидше за все, стане грізною зброєю в руках пропагандистів у країнах із тоталітарними режимами

ChatGPT

ChatGPT Фото: mid-day.com

Будь-то кулінарна порада або допомога з курсовою роботою, ChatGPT став першою можливістю для багатьох людей відчути переваги штучного інтелекту (ШІ). Сервіс ґрунтується на передовій технології обробки мовних форм, створеній OpenAI. ШІ-алгоритм навчався з використанням текстових баз даних з Інтернету, включаючи книги, журнали та статті з Вікіпедії. Загалом у систему було завантажено 300 млрд слів.

Кінцевим результатом став чат-бот, який може імітувати справжнього співрозмовника, але з енциклопедичними знаннями. Проте яка небезпека криється у цьому? Його переконлива імітація людських реакцій може стати інструментом у руках зловмисників. Дослідники кібербезпеки та експерти зі штучного інтелекту попереджають, що ChatGPT може використовуватися для поширення пропаганди у соціальних мережах.

ChatGPT здатний значно полегшити так званим тролям масштабування їхніх інформаційних операцій. Про це йдеться у звіті експертів Стенфордського Університету. Використовуючи фейкові акаунти, вони досить успішно розповсюджують дезінформацію на сторінках соцмереж.

“Потенціал мовних моделей такий, що вони, як і будь-яка потужна технологія, можуть надати явні переваги пропагандистам, які вирішать їх використовувати”, – йдеться у звіті.

Алгоритми штучного інтелекту можуть покращити якість контенту та ускладнити розпізнавання цих повідомлень звичайними користувачами в рамках скоординованих кампаній з дезінформації, каже Джош Гольдштейн, науковий співробітник Центру безпеки Джорджтауна. За його словами, якщо платформа наповнена хибною інформацією чи пропагандою, громадськості буде важче розпізнати, що є правдою.

У документі також йдеться, що зростання кількості підроблених облікових записів у соціальних мережах стало серйозною проблемою для Twitter і Facebook, і швидке поширення систем мовних моделей заповнить ці платформи ще більшою кількістю фальшивих профілів та постів.

ЧИТАЙТЕ ТАКОЖ: Як не стати жертвою шахраїв: в Україні створили реєстр фішингових сайтів

Ми раніше повідомляли, що в Україні створили корисний мобільний додаток, за допомогою якого користувачі зможуть отримувати інформацію про своїх родичів з окупованих або небезпечних територій. У додатку є функція, де потрібно вказати свій статус – у безпеці чи небезпеці.

ЧИТАЙТЕ ТАКОЖ:

Віталік Бутерін продає особисті активи Ethereum та переказує кошти в стейблкоїни: можливі причини

16 березня Instagram відключить один зі своїх популярних сервісів

За матеріалами сайту bbc.com

google news