Жаль, что никто не посмотрел вчерашнюю рутину погони за друзьями. Хотя я знаю, что каждый хочет быстро добиться успеха, а секрет успеха очень прост: ДЕНЬГИ! (деньги)
Но именно этого всем не хватает.
Рано утром я провел пальцем по X и увидел толчок.
OpenAI анонсировала функцию тонкой настройки GPT-3.5 Turbo.
Тонкая настройка больших языковых моделей — это метод глубокого обучения конкретным задачам на основе предварительно обученных моделей.
Основная идея тонкой настройки заключается в предварительном обучении большой языковой модели на крупномасштабных текстовых данных, например GPT-3.5, а затем использовании наборов данных для конкретных задач (например, юридических, медицинских) для дальнейшего обучения. модель, адаптируемая под конкретные задачи.
В ходе этого процесса параметры модели будут немного скорректированы, чтобы она лучше работала в конкретных бизнес-сценариях.
Благодаря тонкой настройке предприятия и разработчики могут использовать свои собственные данные и комбинировать сценарии использования в бизнесе для создания эксклюзивного ChatGPT.
Вы можете быть немного сбиты с толку, когда увидите слово «тонкая настройка».Давайте воспользуемся аналогией.
Модель большого языка похожа на хорошо обученную домохозяйку: она понимает китайский и может выполнять работу по дому, но не знает ситуации дома.
Точная настройка эквивалентна тому, как к вам в дом впервые приходит на работу красивая девушка, вам приходится тратить время на то, чтобы рассказать ей о ситуации в доме, например, как расставить предметы, какие места следует убирать, какие места следует не передвигаться и т. д. В соответствии с этими требованиями Liangmei сможет лучше выполнять вашу работу по дому.
Согласно официальной документации по тонкой настройке OpenAI, точная настройка может заставить модель лучше следовать инструкциям, сделать вывод кратким или всегда отвечать на определенном языке. Например, разработчики могут использовать тонкую настройку, чтобы модель всегда отвечала на английском языке при запросе на английском языке.
Как его тонко настроить?
Всего четыре шага.
1. Подготовьте данные, создав разнообразный набор демонстрационных диалогов, похожих на те, которые модель просит представить в реальных результатах.
Каждый пример в наборе данных должен представлять собой диалог в том же формате, что и API завершения чата OpenAI, а именно список сообщений, где каждое сообщение имеет роль, содержимое и необязательное имя.
Формат такой:
{"messages": [{"role": "system", "content": "Марв — настоящий чат-бот, который к тому же саркастичен."}, {"role": "user", "content": "Какая заглавная буква Франции?"}, {"role": "assistant", "content": "Париж, как будто все это еще не знают."}]}
{"messages": [{"role": "system", "content": "Марв — настоящий чат-бот, который к тому же саркастичен."}, {"role": "user", "content": "Кто написал ' Ромео и Джульетта?"}, {"role": "assistant", "content": "О, просто какой-то парень по имени Уильям Шекспир. Слышали о нем когда-нибудь?"}]}
{"messages": [{"role": "system", "content": "Марв — настоящий чат-бот, который к тому же саркастичен."}, {"role": "user", "content": "Как далеко Луна с Земли?"}, {"role": "assistant", "content": "Около 384 400 километров. Плюс-минус несколько, это действительно имеет значение."}]}
2. Загрузите файл набора данных.
3. Создайте задание по точной настройке и используйте OpenAI SDK, чтобы начать крупномасштабное обучение данных и тонкую настройку. Обучение модели может занять минуты или часы, в зависимости от модели и размера набора данных.
Помимо создания заданий тонкой настройки, разработчики могут перечислять существующие задания, получать статус заданий или отменять задания.
Пользователь, создавший задание тонкой настройки, получит электронное письмо с подтверждением после завершения обучения модели.
4. После завершения операции доводки модель можно ввести в эксплуатацию.
В некоторых случаях подготовка точно настроенной модели пользователя к обработке запросов может занять несколько минут. Если время запроса модели истекло или имя модели не удалось найти, возможно, модель все еще загружается и ее можно повторить через несколько минут.
OpenAI должен выжить, поэтому функцию тонкой настройки нельзя использовать бесплатно. Тонкая настройка разделена на две части: стоимость первоначального обучения и стоимость использования.
Стоимость обучения: 0,008 доллара США за 1000 токенов.
Используйте ввод: 0,012 доллара США за 1000 токенов.
Используемый выход: 0,016 доллара США за 1000 токенов.
Например, точная настройка файла, содержащего 100 000 токенов, 3 раза, имеет ожидаемую стоимость обучения в размере 2,40 доллара США.
Если вас интересуют более тонкие настройки и более глубокие исследования, вы можете обратиться к следующей литературе:
https://openai.com/blog/gpt-3-5-turbo-fine-tuning-and-api-updates
https://platform.openai.com/docs/guides/fine-tuning