OpenAI открывает GPT-3.5 Turbo для индивидуальной настройки

Клиенты OpenAI теперь могут добавлять собственные данные в облегченную версию GPT-3.5, GPT-3.5 Turbo, что облегчает повышение надежности модели искусственного интеллекта, которая генерирует текст, и добавление специфических поведенческих моделей

OpenAI. Фото: unsplash.com

OpenAI утверждает, что доработанные версии GPT-3.5 могут соответствовать или даже превосходить базовые возможности GPT-4, флагманской модели компании, в «определенных узких задачах».

Сейчас доступна тонкая настройка для GPT-3.5 Turbo, а этой осенью будет доступна тонкая настройка для GPT-4. Это обновление дает разработчикам возможность настраивать модели, которые работают лучше для их сценариев использования, и запускать эти кастомные модели в масштабе. Предыдущие тесты показали, что доработанная версия GPT-3.5 Turbo может соответствовать или даже превосходить возможности базового уровня GPT-4 для определенных узких задач. Как и в случае со всеми нашими API, данные, отправляемые и исходящие из API тонкой настройки, принадлежат пользователю и не используются OpenAI или любой другой организацией для обучения других моделей.

Случаи использования тонкой настройки

С момента выпуска GPT-3.5 Turbo разработчики и компании просили предоставить им возможность настраивать модель, чтобы создавать уникальный и дифференцированный опыт для своих пользователей. С этим запуском разработчики могут выполнять контролируемую настройку, чтобы сделать модель лучшей для их сценариев использования.

В нашей частной бета-версии клиенты, выполняющие тонкую настройку, смогли существенно улучшить производительность модели в таких распространенных сценариях использования, как:

1. Улучшенная управляемость: Точная настройка позволяет компаниям заставить модель лучше следовать инструкциям, например, делать выходные данные сжатыми или всегда отвечать на определенном языке. Например, разработчики могут использовать точную настройку, чтобы модель всегда отвечала на немецком, когда ее спрашивают на этом языке.
2. Надежное форматирование выходных данных: Точная настройка улучшает способность модели последовательно форматировать ответы — важный аспект для приложений, требующих определенного формата ответов, например, для завершения кода или создания вызовов API. Разработчик может использовать точную настройку для более надежного преобразования пользовательских подсказок в высококачественные фрагменты JSON, которые могут быть использованы в его собственных системах.
3. Кастомный тон: Точная настройка — это отличный способ отточить качественные характеристики вывода модели, например, ее тон, чтобы он лучше соответствовал голосу брендов компаний. Компании с узнаваемым голосом бренда могут использовать точную настройку, чтобы модель больше соответствовала их тону.

В дополнение к повышению эффективности, точная настройка также позволяет компаниям сокращать свои подсказки, обеспечивая при этом аналогичную производительность. GPT-3.5-Turbo также может обрабатывать 4 тыс. токенов — вдвое больше, чем наши предыдущие модели с тонкой настройкой. Первые тестировщики уменьшили размер подсказок на 90%, внеся инструкции в саму модель, что ускорило каждый вызов API и сократило расходы.

Тонкая настройка наиболее эффективна в сочетании с другими методами, такими как разработка подсказок, поиск информации и вызов функций. Ознакомьтесь с нашим руководством по тонкой настройке, чтобы узнать больше. Поддержка тонкой настройки с помощью вызова функций и gpt-3.5-turbo-16k появится позже этой осенью.

Ранее мы писали, что The New York Times рассматривает иск против OpenAI из-за нарушения интеллектуальной собственности.