Китайские ученые представили инструмент под названием Woodpecker, предназначенный для исправления галлюцинаций искусственного интеллекта в больших языковых моделях
Фото: pixabay.com
Группа ученых из Университета науки и технологий Китая и лаборатории YouTu Lab компании Tencent разработала принципиально новое решение проблемы галлюцинаций ИИ в мультимодальных моделях большого языка (MLLM).
Решение было представлено в опубликованной научной работе под названием «Woodpecker: коррекция галлюцинаций для мультимодальных больших языковых моделей».
Woodpecker использует три различные модели ИИ: GPT-3.5 turbo, Grounding DINO и BLIP-2-FlanT5. Их совместное использование позволяет создать систему, в которой сначала проводится оценка, выявляющая галлюцинации, а затем дается команда модели, подвергающейся коррекции на галлюцинации, перестроить свой результат в соответствии с полученными данными.
Это уже не первая попытка исправить проблему галлюцинаций в моделях ИИ. До этого существующие решения предполагали подход, основанный на настройке по инструкциям, который требовал переобучения модели на конкретных данных. Однако эти методы требовали больших объемов данных и вычислений, что в равной степени означает их дороговизну.
В соответствии с названием фреймворк Woodpecker работает в пять этапов, включая извлечение ключевых понятий, формулирование вопросов, проверку визуальных знаний, генерацию визуальных утверждений и коррекцию галлюцинаций.
Галлюцинация в моделях ИИ
В качестве примера можно привести ситуацию, когда модель искусственного интеллекта генерирует результаты с высокой степенью достоверности, но они не соответствуют информации, заложенной в ее обучающих данных.
Такие сценарии в значительной степени наблюдаются при исследовании больших языковых моделей (Large Language Model, LLM). Примерами приложений ИИ, использующих LLM и подверженных риску возникновения подобных галлюцинаций, являются ChatGPT компании OpenAI и Claude компании Anthropic.
Детальнее об этом читайте в нашей статье «Что такое ИИ-галлюцинация и как обычному пользователю ее обнаружить».
Другие интересные материалы:
- Как заработать на искусственном интеллекте: 5 проверенных способов
- 10 реалистичных технологических прогнозов на следующие 30 лет
- Топ ботов-психотерапевтов для поддержания ментального здоровья
