Нова технологія, швидше за все, стане грізною зброєю в руках пропагандистів у країнах із тоталітарними режимами
Будь-то кулінарна порада або допомога з курсовою роботою, ChatGPT став першою можливістю для багатьох людей відчути переваги штучного інтелекту (ШІ). Сервіс ґрунтується на передовій технології обробки мовних форм, створеній OpenAI. ШІ-алгоритм навчався з використанням текстових баз даних з Інтернету, включаючи книги, журнали та статті з Вікіпедії. Загалом у систему було завантажено 300 млрд слів.
Кінцевим результатом став чат-бот, який може імітувати справжнього співрозмовника, але з енциклопедичними знаннями. Проте яка небезпека криється у цьому? Його переконлива імітація людських реакцій може стати інструментом у руках зловмисників. Дослідники кібербезпеки та експерти зі штучного інтелекту попереджають, що ChatGPT може використовуватися для поширення пропаганди у соціальних мережах.
ChatGPT здатний значно полегшити так званим тролям масштабування їхніх інформаційних операцій. Про це йдеться у звіті експертів Стенфордського Університету. Використовуючи фейкові акаунти, вони досить успішно розповсюджують дезінформацію на сторінках соцмереж.
“Потенціал мовних моделей такий, що вони, як і будь-яка потужна технологія, можуть надати явні переваги пропагандистам, які вирішать їх використовувати”, – йдеться у звіті.
Алгоритми штучного інтелекту можуть покращити якість контенту та ускладнити розпізнавання цих повідомлень звичайними користувачами в рамках скоординованих кампаній з дезінформації, каже Джош Гольдштейн, науковий співробітник Центру безпеки Джорджтауна. За його словами, якщо платформа наповнена хибною інформацією чи пропагандою, громадськості буде важче розпізнати, що є правдою.
У документі також йдеться, що зростання кількості підроблених облікових записів у соціальних мережах стало серйозною проблемою для Twitter і Facebook, і швидке поширення систем мовних моделей заповнить ці платформи ще більшою кількістю фальшивих профілів та постів.
ЧИТАЙТЕ ТАКОЖ: Як не стати жертвою шахраїв: в Україні створили реєстр фішингових сайтів
Ми раніше повідомляли, що в Україні створили корисний мобільний додаток, за допомогою якого користувачі зможуть отримувати інформацію про своїх родичів з окупованих або небезпечних територій. У додатку є функція, де потрібно вказати свій статус – у безпеці чи небезпеці.
ЧИТАЙТЕ ТАКОЖ:
Віталік Бутерін продає особисті активи Ethereum та переказує кошти в стейблкоїни: можливі причини
16 березня Instagram відключить один зі своїх популярних сервісів
За матеріалами сайту bbc.com