Клієнти OpenAI тепер можуть додавати власні дані до полегшеної версії GPT-3.5, GPT-3.5 Turbo, що полегшує підвищення надійності моделі штучного інтелекту, яка генерує текст, та додавання специфічних поведінкових моделей
OpenAI. Фото: unsplash.com
OpenAI стверджує, що допрацьовані версії GPT-3.5 можуть відповідати або навіть перевершувати базові можливості GPT-4, флагманської моделі компанії, в “певних вузьких завданнях”.
Наразі доступна тонка настройка для GPT-3.5 Turbo, а цієї осені буде доступна тонка настройка для GPT-4. Це оновлення дає розробникам можливість налаштовувати моделі, які працюють краще для їхніх сценаріїв використання, і запускати ці кастомні моделі в масштабі. Попередні тести показали, що доопрацьована версія GPT-3.5 Turbo може відповідати або навіть перевершувати можливості базового рівня GPT-4 для певних вузьких завдань. Як і у випадку з усіма нашими API, дані, що надсилаються і виходять з API тонкої настройки, належать користувачеві і не використовуються OpenAI або будь-якою іншою організацією для навчання інших моделей.
Випадки використання точного налаштування
З моменту випуску GPT-3.5 Turbo розробники і компанії просили надати їм можливість налаштовувати модель, щоб створювати унікальний і диференційований досвід для своїх користувачів. З цим запуском розробники можуть виконувати контрольоване налаштування, щоб зробити модель кращою для їхніх сценаріїв використання.
У нашій приватній бета-версії клієнти, які виконують тонку настройку, змогли суттєво покращити продуктивність моделі в таких поширених сценаріях використання, як:
- Покращена керованість: Точне налаштування дозволяє компаніям змусити модель краще слідувати інструкціям, наприклад, робити вихідні дані стислими або завжди відповідати певною мовою. Наприклад, розробники можуть використовувати точне налаштування, щоб модель завжди відповідала німецькою, коли її запитують цією мовою.
- Надійне форматування вихідних даних: Точне налаштування покращує здатність моделі послідовно форматувати відповіді – важливий аспект для додатків, що вимагають певного формату відповідей, наприклад, для завершення коду або створення викликів API. Розробник може використовувати точне налаштування для більш надійного перетворення користувацьких підказок у високоякісні фрагменти JSON, які можуть бути використані в його власних системах.
- Кастомний тон: Точне налаштування – це чудовий спосіб відточити якісні характеристики виводу моделі, наприклад, її тон, щоб він краще відповідав голосу брендів компаній. Компанії з впізнаваним голосом бренду можуть використовувати точне налаштування, щоб модель більше відповідала їхньому тону.
На додаток до підвищення ефективності, точне налаштування також дозволяє компаніям скорочувати свої підказки, забезпечуючи при цьому аналогічну продуктивність. GPT-3.5-Turbo також може обробляти 4 тис. токенів – удвічі більше, ніж наші попередні моделі з тонким налаштуванням. Перші тестувальники зменшили розмір підказок на 90%, внісши інструкції в саму модель, що прискорило кожен виклик API і скоротило витрати.
Тонке налаштування є найбільш ефективним у поєднанні з іншими методами, такими як інженерія підказок, пошук інформації та виклик функцій. Ознайомтеся з нашим посібником з точного налаштування, щоб дізнатися більше. Підтримка тонкого налаштування за допомогою виклику функцій і gpt-3.5-turbo-16k з’явиться пізніше цієї осені.
Раніше ми писали, The New York Times розглядає позов проти OpenAI через порушення інтелектуальної власності.
