close-btn

Китайские исследователи представили инструмент для коррекции галлюцинаций ИИ

Китайские ученые представили инструмент под названием Woodpecker, предназначенный для исправления галлюцинаций искусственного интеллекта в больших языковых моделях

Китайские исследователи представили инструмент для коррекции галлюцинаций ИИ

Фото: pixabay.com

Группа ученых из Университета науки и технологий Китая и лаборатории YouTu Lab компании Tencent разработала принципиально новое решение проблемы галлюцинаций ИИ в мультимодальных моделях большого языка (MLLM).

Решение было представлено в опубликованной научной работе под названием «Woodpecker: коррекция галлюцинаций для мультимодальных больших языковых моделей».

Woodpecker использует три различные модели ИИ: GPT-3.5 turbo, Grounding DINO и BLIP-2-FlanT5. Их совместное использование позволяет создать систему, в которой сначала проводится оценка, выявляющая галлюцинации, а затем дается команда модели, подвергающейся коррекции на галлюцинации, перестроить свой результат в соответствии с полученными данными.

Это уже не первая попытка исправить проблему галлюцинаций в моделях ИИ. До этого существующие решения предполагали подход, основанный на настройке по инструкциям, который требовал переобучения модели на конкретных данных. Однако эти методы требовали больших объемов данных и вычислений, что в равной степени означает их дороговизну.

В соответствии с названием фреймворк Woodpecker работает в пять этапов, включая извлечение ключевых понятий, формулирование вопросов, проверку визуальных знаний, генерацию визуальных утверждений и коррекцию галлюцинаций.

Галлюцинация в моделях ИИ

В качестве примера можно привести ситуацию, когда модель искусственного интеллекта генерирует результаты с высокой степенью достоверности, но они не соответствуют информации, заложенной в ее обучающих данных.

Такие сценарии в значительной степени наблюдаются при исследовании больших языковых моделей (Large Language Model, LLM). Примерами приложений ИИ, использующих LLM и подверженных риску возникновения подобных галлюцинаций, являются ChatGPT компании OpenAI и Claude компании Anthropic.

Детальнее об этом читайте в нашей статье «Что такое ИИ-галлюцинация и как обычному пользователю ее обнаружить».

Другие интересные материалы:

google news
credit link image
×
Подписывайтесь на нас в Telegram и Viber!