close-btn

Китайські вчені представили інструмент для корекції галюцинацій ШІ

Китайські вчені представили інструмент під назвою Woodpecker, призначений для виправлення галюцинацій штучного інтелекту у великих мовних моделях

Китайські вчені представили інструмент для корекції галюцинацій ШІ

Фото: pixabay.com

Група вчених з Університету науки й технологій Китаю та лабораторії YouTu Lab компанії Tencent розробила принципово нове рішення проблеми галюцинацій ШІ в мультимодальних моделях великої мови (MLLM).

Рішення було представлено в опублікованій науковій роботі під назвою “Woodpecker: корекція галюцинацій для мультимодальних великих мовних моделей”.

Woodpecker використовує три різні моделі ШІ: GPT-3.5 turbo, Grounding DINO та BLIP-2-FlanT5. Їхнє спільне використання дає змогу створити систему, у якій спочатку проводять оцінювання, що виявляє галюцинації, а потім дають команду моделі, що піддається корекції на галюцинації, перебудувати свій результат відповідно до отриманих даних.

Це вже не перша спроба виправити проблему галюцинацій у моделях ШІ. До цього наявні рішення передбачали підхід, заснований на налаштуванні за інструкціями, який вимагав перенавчання моделі на конкретних даних. Однак ці методи вимагали великих обсягів даних і обчислень, що рівною мірою означає їхню дорожнечу.

Відповідно до назви фреймворк Woodpecker працює в п’ять етапів, включно з витяганням ключових понять, формулюванням запитань, перевіркою візуальних знань, генерацією візуальних тверджень і корекцією галюцинацій.

Галюцинації в моделях ШІ

Як приклад можна навести ситуацію, коли модель штучного інтелекту генерує результати з високим ступенем імовірності, але вони не відповідають інформації, закладеної в її навчальних даних.

Такі сценарії значною мірою спостерігаються під час дослідження великих мовних моделей (Large Language Model, LLM). Прикладами застосунків ШІ, що використовують LLM і схильні до ризику виникнення подібних галюцинацій, є ChatGPT компанії OpenAI та Claude компанії Anthropic.

Детальніше про це читайте в нашій статті Що таке ШІ-галюцинація та як її виявити звичайному користувачеві“.

Інші цікаві матеріали:

google news
credit link image
×
Підписуйтесь на нас в Telegram та Viber!