Недавно Falcon-180B, как крупнейшая модель с открытым исходным кодом и наибольшими параметрами, была официально выпущена и поддерживается для бесплатного коммерческого использования, что привлекло широкое внимание в отрасли. Крупномасштабная модельная платформа Baidu Smart Cloud Qianfan немедленно адаптировала Falcon-180B и предоставила полную цепочку инструментов и среду разработки для точной настройки модели, развертывания и разработки приложений, что удобно для предприятий и разработчиков.
Понятно, что Falcon-180B продемонстрировал превосходную производительность в различных задачах рассуждения, кодирования, проверки навыков и знаний и возглавил таблицу лидеров Hugging Face после своего выпуска. Чтобы облегчить разработчикам применение новейших возможностей крупномасштабных моделей, платформа Baidu Smart Cloud Qianfan была впервые адаптирована к Falcon-180B.Теперь разработчики и предприятия могут подать заявку на получение опыта в «складе моделей» платформы. Модели импортируются в платформу, чтобы использовать всю функциональность платформы.
Разработчики могут самостоятельно импортировать любую модель в формат Hugging Face Transformer.
Понятно, что для удовлетворения разнообразных потребностей разработчиков и предприятий платформа Baidu Smart Cloud Qianfan ранее была подключена к Falcon-7b и Falcon-40b-instruct. На данный момент платформа управляет 42 основными крупномасштабными моделями отечественного и зарубежного производства, включая Falcon, серию Llama 2, RWKV и Stability Diffusion, занимая первое место по количеству отечественных моделей.
В Baidu Smart Cloud заявили, что платформа Baidu Smart Cloud Qianfan не только обеспечивает простой доступ, но также выполняет вторичные улучшения производительности, улучшения безопасности, китайские улучшения и улучшения контекста в сторонних моделях. Например, с точки зрения повышения производительности общую производительность обучения Llama2 можно увеличить на 25%, а производительность вывода даже увеличить в 2 раза.
>>Что касается безопасности, которая больше всего беспокоит корпоративных клиентов , платформа Baidu Intelligent Cloud Qianfan предоставляет многочисленные гарантии безопасности модели, безопасности контента и безопасности данных. Включая разработку выделенного домена изоляции для защиты безопасности активов модели; предварительную установку модулей безопасности для эффективного контроля рисков ввода и вывода контента; обеспечение полноканального шифрования моделей, данных в журналах для обеспечения безопасности данных. Трехсторонний подход позволяет как производителям моделей, так и клиентам пользоваться безопасностью платформы.
Для большинства предприятий по-прежнему существует высокий порог разработки и внедрения модели. Чтобы помочь предприятиям эффективно использовать большие модели, цепочка инструментов Baidu Intelligent Cloud Qianfan проходит полный жизненный цикл больших моделей. Благодаря универсальному инструменту визуализации время, необходимое клиентам для проверки эффекта модели, значительно сокращается: они могут просмотреть модель и увидеть эффект за один день.
>>Что касается данных , чтобы решить проблему высокого качества и высокой стоимости данных для обучения модели предприятия, платформа Baidu Smart Cloud Qianfan также предварительно устанавливает 41 высококачественный и отраслевой набор данных, которые разработчики могут дополнить несколькими Кнопки Точная настройка и улучшение эффектов модели, что еще больше снижает порог использования, обучения и вывода больших моделей предприятиями.
>>Что касается вычислительной мощности , когда интеллектуальная облачная платформа Baidu Qianfan обучает большие модели в кластере Wanka, эффективное время обучения модели достигает более 95%. Коэффициент ускорения в кластерах масштаба Wanka может достигать 95%, полностью высвобождая общую вычислительную мощность кластера и значительно снижая затраты на вычислительную мощность и время клиентов. Стоит отметить, что платформа также совместима с основными отечественными и зарубежными чипами и операционными системами, а алгоритмы клиентов можно запускать с минимальными затратами на модификацию.
Интеллектуальная облачная платформа Baidu Qianfan, платформа для больших моделей, панорама продукта
На только что завершившейся конференции Baidu Cloud Intelligence 2023 года платформа крупных моделей Baidu Intelligent Cloud Qianfan получила комплексное обновление до версии 2.0. На данный момент число ежемесячно активных компаний на платформе достигло почти 10 000, охватывая более 400 сценариев в сфере финансов, производства, энергетики, государственных дел, транспорта и других отраслей.
Шен Доу, исполнительный вице-президент Baidu Group и президент Baidu Intelligent Cloud Business Group, заявил, что «реальное внедрение любой новой технологии требует поддержки соответствующих методологий и инструментов». В платформу Baidu Intelligent Cloud Qianfan было внесено множество обновлений, чтобы сделать платформу больших моделей более удобной и продуманной».
Нажмите «Прочитать исходный текст», чтобы испытать это прямо сейчас!