OpenAI выпустила новую модель машинного обучения ChatGPT GPT-4. GPT-4 — это большой шаг вперед по сравнению с GPT-3.GPT-3 лежит в основе модели текущей бесплатной версии ChatGPT (GPT 3.5 Turbo).Сегодня мы также соберем несколько горячих точек и изучим их цены.
Новые функции GPT-4
GPT-4 может использовать изображения в разговоре и может отвечать на вопросы об изображениях. В настоящее время нет официального подтверждения того, могут ли чат-боты выводить изображения в дополнение к пользовательскому вводу.
Используйте GPT-4 для получения ссылок на веб-сайты: отправьте ссылку, и он сможет автоматически получить содержимое без копирования и вставки для отправки содержимого веб-сайта.
GPT-3 ограничен примерно 3000 словами на запрос. GPT-4 существенно увеличивает этот предел до 25 000 слов. Таким образом, языковая модель сможет поддерживать более длительные разговоры в лучшем контексте, что повысит точность и четкость ее ответов в заданном контексте.
Показатели теста значительно улучшены: количество данных, обученных GPT-4, намного больше, чем у GPT-3, поэтому логично, что GPT-4 обладает большими знаниями, поэтому вполне естественно, что он получает лучшие показатели в различных тесты.
Выше приведены некоторые новые функции GPT-4. Вы должны были видеть это несколько раз. Давайте сравним это с другого ракурса.
Анализ цен на API GPT-4
Модель для API GPT-4 называется GPT-4-0314. Стоимость доступа к этой модели через API GPT-4 составляет:
0,03 долл. США / 1 тыс. токенов запроса чаевых
0,06 долл. США за 1 000 токенов ответа на завершение
Здесь 1k токенов эквивалентны 750 словам.
По сравнению с GPT-3.5, API GPT-4 удваивает максимальную длину контекста токенов с 4096 до 8192. И ограничение скорости по умолчанию для API GPT-4:
40к токенов в минуту, 200 запросов в минуту
В дополнение к API (необходимо подать заявку) вы также можете получить доступ к GPT-4 через ChatGPT Plus, что составляет $ 20 в месяц, Согласно лимиту, в настоящее время вы можете отправлять до 100 сообщений в течение 4 часов.
Для сравнения, около 444 тыс. токенов (около 333 тыс. слов) можно обработать с помощью API GPT-4 за 20 долларов.
Что ж, если рассмотреть сравнение API GPT-4 и API ChatGPT:
GPT-4 для запросов подсказок в 14 раз дороже, чем ChatGPT API, а GPT-4 для завершения — в 29 раз дороже, чем ChatGPT API.
Затем мы должны изучить, является ли API GPT-4 между 14x-29x более ценным, чем API ChatGPT?
Нашим главным соображением является вариант использования. Если вариант использования связан с юридическими вопросами или общим образованием/репетиторством, то GPT-4 определенно стоит попробовать. Потому что его улучшение в этих двух аспектах очень очевидно
Другие варианты использования требуют более глубокого тестирования, прежде чем мы сможем судить, принесет ли API GPT-4 существенные преимущества.
Кроме того, OpenAI предоставляет ограниченный доступ к своим 32 768 контекстам для подсказок и дополнений, которые могут поддерживать отправку/получение в 4 раза больше текста, чем gpt-4-0314.
То есть версия API GPT-4 с максимальной длиной контекста 32 768 (около 50 страниц текста) будет стоить вдвое дороже, чем версия с максимальной длиной контекста 8 092:
0,06 долл. США/1 тыс. долл. США за токены запроса, 0,12 долл. США/1 тыс. долл. США за токены ответа
Можно сказать, что эта цена очень дорогая.
Подведем итог
Выбор между API ChatGPT и API GPT-4 зависит от конкретных потребностей проекта. Поэтому, делая выбор, вы должны убедиться, что:
- ожидаемое применение
- требуемая точность
- финансовые вопросы, связанные
- Адаптивность к будущему развитию
Согласно новостям несколько дней назад, цена API ChatGPT в 10 раз ниже, чем у text-davinci-003 (на 90% ниже), поэтому более низкая стоимость API ChatGPT может позволить нам протестировать эффект большого языка. модели по более низкой цене.Поскольку разработчики получают более низкие цены, мы можем ожидать множество новых и интересных продуктов, которые будут включать коммерческий ИИ. Что же касается GPT-4, то мы и дальше будем ждать ее результатов в практических приложениях.
https://avoid.overfit.cn/post/3c8e02ba3e2c48f084b9b1115d4ab2d4
Иван Кампос