Компания Microsoft выпустила последнюю версию своей малой языковой модели — Phi-3.5
Microsoft выпустила новые ИИ-модели, которые превосходят аналоги от Google и OpenAI Фото: freepik.com
Эта новая версия является значительным обновлением предыдущего поколения и превосходит меньшие модели от ведущих игроков, таких как Google, OpenAI, Mistral и Meta, по нескольким важным показателям.
Phi-3.5 доступен в версиях на 3,8 млрд, 4,15 млрд и 41,9 млрд параметров. Все три версии можно скачать бесплатно.
Искусственный интеллект (ИИ) показал себя особенно хорошо в рассуждениях, уступив лишь GPT-4o-mini среди ведущих малых моделей. Он также хорошо показал себя в математических тестах, значительно опередив Llama и Gemini.
Phi-3.5 поставляется в версии с моделью машинного зрения, которая может понимать изображения, а не только текст, а также смесью экспертных моделей для распределения задач обучения между различными подсетями для более эффективной обработки.
Интересное по теме: Microsoft закрывает программу Paint 3D — причины
Смесь экспертных моделей превосходит Gemini Flash 1.5 — модель, которая используется в бесплатной версии чат-бота Gemini на многих бенчмарках и имеет большое контекстное окно размером 128 тыс. символов. Хотя это значительно меньше, чем у самого Gemini, но равно ChatGPT и Claude.
Основное преимущество такой маленькой модели заключается в том, что ее можно совместить с приложением или даже установить на устройство, например, на умный дверной звонок.
Модель была обучена на 3,4 трлн токенов данных с помощью 512 графических процессоров Nvidia H100 в течение 10 дней. Смесь экспертных моделей состояла из 16 моделей с 3,8b параметрами, использовала 4,9 трлн токенов и потребовала 23 дня для обучения.
Напомним, что Microsoft официально признал OpenAI своим конкурентом. В ежегодном отчете Microsoft OpenAI присоединился к длинному списку конкурентов в сфере ИИ, наряду с Anthropic, Amazon и Meta. OpenAI также был включен в список вместе с Google как конкурент Microsoft в сфере поиска.
Ознакомьтесь с другими популярными материалами:
Microsoft выпустила ИИ-редактор для смартфонов: что он умеет
Microsoft добавил полезную функцию в Windows 10
Блокнот от Microsoft получил новые функции: их ждали 40 лет
По материалам: Tom’s Guide
