⭐ Prefacio
Se lanzó la aplicación de prueba de servicio de llamadas API Wenxin Big Model 4.0 para clientes empresariales, que atiende a más de 17.000 clientes y explora la implementación de aplicaciones de modelos grandes en casi 500 escenarios en diversas industrias ... Desde su lanzamiento en marzo de este año, Baidu Intelligent Cloud Qianfan Como la primera plataforma integral de modelos grandes a nivel empresarial del mundo, la plataforma de modelos grandes ha brindado el único "boletín de calificaciones completo" para la industria.
El 17 de octubre se celebró Baidu World 2023 en el parque Shougang de Beijing. Baidu Intelligent Cloud anunció durante la conferencia que ha actualizado integralmente su estrategia de "inteligencia en la nube en uno" y ha proporcionado soluciones de servicios completos para cinco tipos de necesidades de los clientes para implementar modelos a gran escala; para el desarrollo de aplicaciones nativas de IA, ha lanzado el " banco de trabajo de desarrollo de aplicaciones nativas de IA de Qianfan ", que acelera la implementación de aplicaciones nativas de IA empresarial, lanza la primera tienda nacional de aplicaciones nativas de IA y el primer sistema nacional de soporte ecológico de enlace completo de modelo grande para potenciar el crecimiento empresarial de los socios y, en conjunto, construir y compartir un ecosistema industrial próspero de gran modelo.
(Shen Dou, vicepresidente ejecutivo de Baidu Group y presidente de Baidu Intelligent Cloud Business Group)
⭐ Satisfaga las cinco necesidades principales de la implementación del modelo empresarial a gran escala: Baidu Intelligent Cloud actualiza la estrategia de "inteligencia en la nube en uno"
Desde 2020, Baidu Intelligent Cloud ha tomado la iniciativa en la industria al proponer la estrategia de "integración de inteligencia y nube" y ha llevado a cabo múltiples actualizaciones iterativas en términos de arquitectura técnica y servicios. En esta Conferencia Mundial de Baidu, la connotación estratégica de "integración de inteligencia y nube" se ha actualizado de manera integral a "integración de inteligencia y nube, profundización de la industria, prosperidad ecológica y beneficios inclusivos de la IA" .
Shen Dou, vicepresidente ejecutivo de Baidu Group y presidente de Baidu Intelligent Cloud Business Group, dijo que la integración profunda de la inteligencia artificial y la computación en la nube es la clave para que las empresas implementen rápidamente aplicaciones nativas de IA . Esta es también la "integración de nube e inteligencia" que Baidu Intelligent Cloud siempre ha defendido y practicado. Actualmente, todas las aplicaciones y servicios del Grupo Baidu se ejecutan en Baidu Smart Cloud basado en la arquitectura tecnológica de "inteligencia en la nube en uno". Además, en respuesta a los cinco tipos de necesidades de los clientes para implementar modelos grandes, la "Superfábrica de modelos grandes" de Baidu Intelligent Cloud construida sobre la plataforma de modelos grandes Qianfan ha brindado las mejores soluciones de servicio.
(Integración de nube e inteligencia en la era de los grandes modelos)
En primer lugar, para los clientes que solo necesitan potencia informática , la plataforma Qianfan puede proporcionar servicios de potencia informática heterogénea extremadamente eficientes y rentables. En el segmento de capacitación de modelos grandes que más preocupa a los clientes,a través de estrategias de capacitación paralela distribuida y capacidades de interconexión de nivel de microsegundos, laplataforma Qianfan puedelograr una tasa de aceleración del 95% para la capacitación en clústeres a escala Wanka; mediante prevención previa, descubrimiento oportuno, posicionamiento, y para resolver este problema, podemos minimizar el funcionamiento ineficaz del clúster debido a fallas y otras razones, y aumentar la proporción de tiempo de entrenamiento efectivo. El tiempo de entrenamiento efectivo del clúster Wanka ha alcanzado el 96%, liberando completamente el tiempo efectivo potencia informática del clúster y reduce significativamente la potencia informática del cliente y los costos de tiempo.
Además, la plataforma Qianfan también es compatible con chips de IA convencionales nacionales y extranjeros, como Kunlun Core, Ascend, Haiguang DCU, NVIDIA e Intel , lo que permite a los clientes completar la adaptación de la potencia informática con costos de conmutación mínimos.
Face Wall Intelligence se asoció con Zhihu para entrenar el modelo grande "Zhihaitu AI" y el modelo grande multimodal Luca basado en el grupo de potencia de computación de IA proporcionado por Baidu Intelligent Cloud. El tiempo de entrenamiento efectivo en el grupo de kilocalorías representó hasta el 99%. Al tiempo que se garantiza la continuidad del entrenamiento del modelo, se puede lograr una convergencia eficiente de los efectos del entrenamiento del modelo. Además, empresas como Zhihu, TAL y Horizon también están utilizando los servicios informáticos de IA proporcionados por Baidu Smart Cloud para lograr la capacitación y gestión de clústeres a gran escala de una manera más estable, eficiente y económica.
En segundo lugar, a nivel de modelo, para los clientes que desean llamar directamente a los modelos grandes existentes , la plataforma Qianfan administra 42 modelos grandes principales nacionales y extranjeros. Los clientes empresariales pueden llamar rápidamente a las API de varios modelos grandes, incluidos los modelos grandes de Wenxin. capacidades. Para los modelos grandes de terceros, la plataforma Qianfan también ha realizado optimizaciones específicas, como mejoras en chino, mejoras en el rendimiento y mejoras en el contexto. En la actualidad, la plataforma Qianfan ha atendido a más de 17.000 clientes y el número de llamadas API de modelos grandes sigue aumentando a un ritmo rápido.
En tercer lugar, para los clientes que desean llevar a cabo un desarrollo secundario basado en modelos grandes existentes , la plataforma Qianfan proporciona una cadena de herramientas de ciclo de vida completo y los 41conjuntos de datos industriales de alta calidad, ayudando a los clientesa optimizar rápidamente los efectos del modelo para sus propios escenarios comerciales. Actualmente, clientes líderes en muchas industrias, incluido el Postal Savings Bank de China, Du Xiaoman, Kingsoft Office y Hebei Hi-Speed Group, están utilizando los servicios de cadena de herramientas proporcionados por la plataforma Qianfan para desarrollar modelos grandes exclusivos que cumplan con los requisitos comerciales. necesidades.
En cuarto lugar, a nivel de aplicación, algunas empresas necesitan desarrollar aplicaciones nativas de IA basadas en grandes servicios modelo . La serie de componentes de capacidad y marcos proporcionados en la plataforma Qianfan pueden ayudar a las empresas a completar rápidamente el desarrollo de aplicaciones y responder de manera flexible a las necesidades de los usuarios y del mercado.
Finalmente, otro grupo de clientes espera comprar directa y cómodamente productos maduros de aplicaciones nativas de IA para potenciar el desarrollo empresarial.
⭐ Empoderar a las empresas para que desarrollen eficientemente aplicaciones nativas de IA: se lanzó el "Banco de trabajo de desarrollo de aplicaciones nativas de IA de Qianfan"
Para satisfacer las necesidades de las empresas de un desarrollo ágil y eficiente de aplicaciones nativas de IA y reducir el umbral para el desarrollo de aplicaciones nativas de IA, Baidu Smart Cloud ha lanzado el " Qianfan AI Native Application Development Workbench" , que desarrollará patrones, herramientas y procesos para aplicaciones de modelos grandes, precipitados en un banco de trabajo para ayudar a los desarrolladores a centrarse en su propio negocio sin involucrar energía adicional en el proceso de desarrollo . Específicamente, el banco de trabajo de desarrollo de aplicaciones nativas de Qianfan AI consta principalmente de dos capas de servicios: componentes de aplicación y marco de aplicación.
El servicio de componentes de la aplicación consta de dos categorías principales de componentes: IA y componentes básicos de la nube. Es una encapsulación en componentes de las capacidades del servicio subyacente, lo que permite que cada componente complete una función específica. Los "componentes de IA" incluyen no solo componentes de modelos de lenguaje grandes, como preguntas y respuestas, Cadena de pensamiento (CoT, Cadena de pensamiento), sino también componentes multimodales como diagramas de Vincent y reconocimiento de voz, mientras que los "componentes básicos de la nube" incluyen vectores. bases de datos, almacenamiento de objetos y otras capacidades tradicionales de servicios en la nube.
El marco de la aplicación conecta y combina selectivamente los componentes anteriores para que puedan completar la tarea de un escenario específico de manera relativamente completa. Actualmente, la generación mejorada de recuperación (RAG) y el agente (Agente) proporcionados en la plataforma Qianfan son marcos de aplicaciones nativas de IA de uso común. Bajo cada marco, Baidu Smart Cloud también proporciona una gran cantidad de salas de muestra para ayudar a los desarrolladores a desarrollar aplicaciones nativas de IA de manera rápida y eficiente.
(Baidu Smart Cloud lanza un banco de trabajo de desarrollo de aplicaciones nativas de IA)
El marco de recuperación de generación aumentada (RAG) puede utilizar de manera más eficiente el conocimiento en los campos propietarios de una empresa y proporcionar respuestas precisas a preguntas relevantes con la ayuda de modelos grandes. Es imprescindible para las aplicaciones nativas de IA en el campo de preguntas y respuestas de conocimiento profesional. Preparar competencias básicas.
La conferencia también llevó a cabo una demostración práctica sobre cómo desarrollar rápidamente una aplicación de preguntas y respuestas de conocimiento para Sany Heavy Industry basada en el marco RAG: simplemente seleccione el marco RAG preestablecido en el banco de trabajo de la aplicación nativa Qianfan AI y realice la configuración de parámetros correspondiente y otros trabajos. Realice rápidamente el desarrollo y lanzamiento de la aplicación inteligente de servicio al cliente en el sitio web oficial de Sany Heavy Industry. Shen Dou dijo que construir un "pequeño asistente" de este tipo, incluso si necesita procesar miles de documentos con una longitud de 10.000 palabras, el costo será sólo de unos pocos cientos de yuanes; y cada consulta posterior de usuario solo costará unos pocos centavos. .
(Complete rápidamente el desarrollo de aplicaciones de preguntas y respuestas sobre conocimientos de Sany Heavy Industry basado en el marco de aplicaciones RAG)
El Agente, como marco de aplicación popular en la industria actual, puede desarmar automáticamente las tareas asignadas por humanos, planificar y llamar automáticamente a varios componentes para completar tareas de manera colaborativa y, al mismo tiempo, recibir comentarios basados en los resultados de la finalización de las tareas para mejorar. sus propias capacidades. En la actualidad, el marco del Agente se ha utilizado ampliamente en la industria, el transporte y otros campos.
Basado en el marco de agentes proporcionado por el banco de trabajo de desarrollo de aplicaciones nativas de Qianfan AI, Zhongtian Steel ha creado un "centro de programación empresarial" inteligente para realizar la percepción, descomposición y ejecución automática de instrucciones de tareas. Por ejemplo, cuando se descubre que la producción de acero no cumple con los estándares, el usuario solo necesita preguntar una vez y el modelo grande puede llamar automáticamente a varios recursos y API administrados por la plataforma para completar la recuperación de datos de BI y la causa raíz de terceros. análisis y otras tareas para encontrar las razones del incumplimiento del estándar, ajustar el cronograma de producción de manera oportuna y enviar correos electrónicos para notificar al programador.
(Zhongtian Steel construye un centro de despacho empresarial basado en el marco de aplicación del Agente )
⭐ Ecología industrial próspera: se lanzan colectivamente la primera tienda de aplicaciones nativas de IA de China y el ecosistema de modelo grande de enlace completo.
Con el fin de satisfacer las necesidades de los clientes corporativos de comprar cómodamente aplicaciones nativas de IA de alta calidad y capacitar a los socios para que tengan éxito en los negocios, Baidu Smart Cloud lanza: la primera tienda de aplicaciones nativas de IA de China para transacciones integrales para clientes corporativos - Baidu Smart Cloud Qianfan AI La tienda de aplicaciones nativas tiene como objetivo establecer un canal de conexión conveniente y confiable para los lados de la oferta y la demanda de aplicaciones nativas de AI en la era de los grandes modelos, mejorar en gran medida la eficiencia de la selección y adquisición de aplicaciones de los clientes y crear más oportunidades comerciales para los comerciantes asociados. Actualmente, los usuarios empresariales pueden ingresar a la tienda de aplicaciones nativas de AI de Qianfan a través del sitio web oficial de Baidu Smart Cloud para comprar sus aplicaciones nativas de AI favoritas.
(Tienda de aplicaciones nativas de Baidu Smart Cloud Qianfan AI)
En este Congreso Mundial, Baidu lanzó el primer producto de inteligencia empresarial generativa de China: Baidu GBI (Inteligencia Empresarial Generativa). BI (Business Intelligence) es uno de los escenarios de aplicación típicos que actualmente muestra el "techo" de las capacidades de los modelos grandes. Como motor de aplicación nativo de IA, Baidu GBI realiza una reconstrucción integral de la capacidad de "pregunta inteligente" basada en el modelo grande de Wenxin: para cualquier base de datos, la consulta y el análisis se pueden completar en un solo paso a través del diálogo, lo que mejora en gran medida la eficiencia de los datos. Análisis de datos en comparación con el BI tradicional, lo que reduce los requisitos de capacidad profesional para el análisis de datos.
Tomando como ejemplo el análisis de datos empresariales, Baidu GBI puede acortar el tiempo de trabajo del análisis de datos y la redacción de informes que lleva a los analistas de datos empresariales más de diez días, de días a minutos. Como un tipo de producto de marco de aplicación nativa de IA, Baidu GBI también puede lograr una migración minimalista de capacidades entre industrias y dominios e implementar rápidamente aplicaciones como análisis de gobernanza urbana, información sobre el consumo de energía, gestión de operaciones de equipos industriales y toma de decisiones de inversión financiera. , gestión de la congestión del tráfico, etc. En el escenario, el desarrollo y la construcción de aplicaciones nativas de IA para BI gubernamental y empresarial se realizan de manera eficiente.
(Pantalla de función Baidu GBI)
Como uno de los primeros socios en ingresar a la tienda de aplicaciones nativas de IA de Qianfan, Kingdee se asoció con Baidu Smart Cloud para lanzar Kingdee Cloud·Cangqiong GPT el 8 de agosto de 2023 y tomó la iniciativa en el lanzamiento del primer modelo financiero a gran escala de la industria para ayudar a los clientes a realizar negocios de manera más eficiente, gestión y análisis financieros, mejorar la precisión y estandarización del procesamiento financiero y brindar una sólida garantía para el desarrollo estable y a largo plazo de las empresas.
La tecnología de modelos grandes no sólo está remodelando el modelo de servicio y la forma del producto de la computación en la nube, sino también el patrón ecológico de la industria de la computación en la nube, planteando nuevos requisitos para las capacidades y la construcción de sistemas de los proveedores de computación en la nube y sus socios que cubren miles de industrias.
Para ayudar a los socios a lograr el éxito empresarial en la era de los modelos grandes, Baidu Intelligent Cloud construyó y lanzó el primer sistema de soporte ecológico de enlace completo para modelos grandes de China y brindó servicios a 10 socios integrales, 100 socios de aplicaciones y más de 10,000. Las empresas y las agencias asociadas brindan soporte integral
Yuan Foyu, vicepresidente del Grupo Baidu, dijo: “En esta era que cambia rápidamente, Baidu no sólo debe aventurarse con valentía en tierra de nadie en el camino de la tecnología de gran modelo y la exploración comercial, sino también trabajar con muchos socios para crear una sociedad próspera. ecosistema industrial y explorar conjuntamente nuevas tecnologías ... modelos de negocio y oportunidades de negocio para lograr una verdadera cooperación beneficiosa para todos”.