Компанія Microsoft випустила останню версію своєї малої мовної моделі — Phi-3.5
Microsoft випустила нові ШІ-моделі, які перевершують аналоги від Google та OpenAI Фото: freepik.com
Ця нова версія є значним оновленням попереднього покоління і перевершує менші моделі від провідних гравців, таких як Google, OpenAI, Mistral та Meta, за кількома важливими показниками.
Phi-3.5 доступний у версіях на 3,8 млрд, 4,15 млрд та 41,9 млрд параметрів. Всі три версії можна завантажити безкоштовно.
Штучний інтелект (ШІ) показав себе особливо добре в міркуваннях, поступившись лише GPT-4o-mini серед провідних малих моделей. Він також добре показав себе у математичних тестах, значно випередивши Llama та Gemini.
Phi-3.5 поставляється у версії з моделлю машинного зору, яка може розуміти зображення, а не тільки текст, а також сумішшю експертних моделей для розподілу завдань навчання між різними підмережами для більш ефективної обробки.
Цікаве по темі: Microsoft закриває програму Paint 3D — причини
Суміш експертних моделей перевершує Gemini Flash 1.5 — модель, яка використовується у безкоштовній версії чат-бота Gemini на багатьох бенчмарках і має велике контекстне вікно розміром 128 тис. символів. Хоча це значно менше, ніж у самого Gemini, але дорівнює ChatGPT і Claude.
Основна перевага такої маленької моделі полягає в тому, що її можна поєднати з додатком або навіть встановити на пристрій, наприклад, на розумний дверний дзвінок.
Модель була навчена на 3,4 трлн токенів даних за допомогою 512 графічних процесорів Nvidia H100 протягом 10 днів. Суміш експертних моделей складалася з 16 моделей з 3,8b параметрами, використовувала 4,9 трлн токенів і потребувала 23 дні для навчання.
Нагадаємо, що Microsoft офіційно визнав OpenAI своїм конкурентом. У щорічному звіті Microsoft OpenAI приєднався до довгого списку конкурентів у сфері ШІ, поряд з Anthropic, Amazon і Meta. OpenAI також був включений в список разом з Google як конкурент Microsoft у сфері пошуку.
Ознайомтеся з іншими популярними матеріалами:
Microsoft випустила ШІ-редактор для смартфонів: що він вміє
Microsoft додав корисну функцію у Windows 10
Блокнот від Microsoft отримав нові функції: їх чекали 40 років
За матеріалами: Tom’s Guide.
