⭐ Prefácio
Lançou o aplicativo de teste de serviço de chamada API Wenxin Big Model 4.0 para clientes corporativos, atendendo a mais de 17.000 clientes e explorando a implementação de aplicativos de modelo grande em quase 500 cenários em vários setores ... Desde seu lançamento em março deste ano, Baidu Intelligent Cloud Qianfan Como a primeira plataforma de modelo grande de nível empresarial do mundo, a plataforma de modelo grande entregou o único "boletim de pontuação completo" para o setor.
Em 17 de outubro, o Baidu World 2023 foi realizado no Parque Shougang de Pequim. A Baidu Intelligent Cloud anunciou durante a conferência que atualizou de forma abrangente sua estratégia de "inteligência em nuvem em um" e forneceu soluções de serviços full-stack para cinco tipos de necessidades dos clientes para implementação de modelos em larga escala; para desenvolvimento de aplicativos nativos de IA, lançou o " bancada de trabalho de desenvolvimento de aplicativos nativos de IA Qianfan ", acelerando a implementação de aplicativos nativos de IA corporativos; lançando a primeira loja de aplicativos nativos de IA doméstica e o primeiro sistema doméstico de suporte ecológico full-link de grande modelo para capacitar o crescimento dos negócios dos parceiros e em conjunto construir e compartilhar um ecossistema industrial próspero de grande porte.
(Shen Dou, vice-presidente executivo do Grupo Baidu e presidente do Baidu Intelligent Cloud Business Group)
⭐ Atenda às cinco principais necessidades de implementação de modelos empresariais em grande escala: Baidu Intelligent Cloud atualiza a estratégia de "inteligência em nuvem em um"
Desde 2020, o Baidu Intelligent Cloud assumiu a liderança na indústria ao propor a estratégia de "integração de nuvem e inteligência" e realizou múltiplas atualizações iterativas em termos de arquitetura técnica e serviços. Nesta Conferência Mundial do Baidu, a conotação estratégica de "integração de nuvem e inteligência" foi amplamente atualizada para "integração de nuvem e inteligência, aprofundamento da indústria, prosperidade ecológica e benefícios inclusivos de IA" .
Shen Dou, vice-presidente executivo do Baidu Group e presidente do Baidu Intelligent Cloud Business Group, disse que a integração profunda da inteligência artificial e da computação em nuvem é a chave para as empresas implementarem rapidamente aplicativos nativos de IA . Esta é também a "integração de nuvem e inteligência" que o Baidu Intelligent Cloud sempre defendeu e praticou. ideia. Atualmente, todos os aplicativos e serviços do Grupo Baidu são executados no Baidu Smart Cloud com base na arquitetura de tecnologia "cloud-intelligence-in-one". Além disso, em resposta aos cinco tipos de necessidades dos clientes para a implementação de grandes modelos, a "Superfábrica de Grandes Modelos" da Baidu Intelligent Cloud, baseada na Plataforma de Grandes Modelos Qianfan, forneceu as melhores soluções de serviço.
(Integração de nuvem e inteligência na era dos grandes modelos)
Em primeiro lugar, para clientes que precisam apenas de poder de computação , a plataforma Qianfan pode fornecer serviços de poder de computação heterogêneos extremamente eficientes e econômicos. No segmento de treinamento de modelos de grande porte que mais preocupa os clientes,por meio de estratégias de treinamento paralelas distribuídas e recursos de interconexão em nível de microssegundos, aplataforma Qianfan podeatingir uma taxa de aceleração de 95% para treinamento em cluster em escala Wanka; por meio de prevenção prévia, descoberta oportuna, posicionamento, e Para resolver este problema, podemos minimizar a operação ineficaz do cluster devido a falhas e outros motivos, e aumentar a proporção do tempo de treinamento efetivo.O tempo de treinamento efetivo do cluster Wanka atingiu 96%, liberando totalmente o efetivo poder computacional do cluster e reduzindo significativamente o poder computacional e os custos de tempo do cliente.
Além disso, a plataforma Qianfan também é compatível com chips de IA convencionais nacionais e estrangeiros, como Kunlun Core, Ascend, Haiguang DCU, NVIDIA e Intel , permitindo que os clientes concluam a adaptação do poder de computação com custos mínimos de troca.
Face Wall Intelligence se uniu a Zhihu para treinar o modelo grande "Zhihaitu AI" e o grande modelo multimodal Luca com base no cluster de poder de computação de IA fornecido pela Baidu Intelligent Cloud. O tempo efetivo de treinamento no cluster de quilocalorias foi contabilizado como até 99%.Ao mesmo tempo em que garante a continuidade do treinamento do modelo, pode ser alcançada uma convergência eficiente dos efeitos do treinamento do modelo. Além disso, empresas como Zhihu, TAL e Horizon também estão usando os serviços de computação de IA fornecidos pelo Baidu Smart Cloud para obter treinamento e gerenciamento de cluster em grande escala de forma mais estável, eficiente e econômica.
Em segundo lugar, no nível do modelo, para clientes que desejam chamar diretamente os grandes modelos existentes , a plataforma Qianfan gerencia 42 grandes modelos nacionais e estrangeiros. Os clientes empresariais podem chamar rapidamente as APIs de vários modelos grandes, incluindo os grandes modelos Wenxin. Obtenha um modelo grande capacidades. Para grandes modelos de terceiros, a plataforma Qianfan também fez otimizações direcionadas, como aprimoramento chinês, aprimoramento de desempenho e aprimoramento de contexto. Atualmente, a plataforma Qianfan atendeu mais de 17.000 clientes e o número de chamadas de API de grandes modelos continua a aumentar rapidamente.
Terceiro, para clientes que desejam realizar desenvolvimento secundário com base em grandes modelos existentes , a plataforma Qianfan fornece uma cadeia de ferramentas de ciclo de vida completo e os 41 maioresconjuntos de dados industriais de alta qualidade, ajudando os clientesa otimizar rapidamente os efeitos do modelo para seus próprios cenários de negócios. Atualmente, clientes líderes em muitos setores, incluindo o Postal Savings Bank of China, Du Xiaoman, Kingsoft Office e Hebei Hi-Speed Group, estão usando os serviços de cadeia de ferramentas fornecidos pela plataforma Qianfan para desenvolver grandes modelos exclusivos que atendam aos negócios necessidades.
Quarto, no nível do aplicativo, algumas empresas precisam desenvolver aplicativos nativos de IA baseados em grandes modelos de serviços.A série de componentes e estruturas de capacidade fornecidos na plataforma Qianfan pode ajudar as empresas a concluir rapidamente o desenvolvimento de aplicativos e responder com flexibilidade às necessidades do usuário e do mercado.
Finalmente, outro grupo de clientes espera adquirir direta e convenientemente produtos de aplicativos nativos de IA maduros para capacitar o desenvolvimento de negócios.
⭐ Capacitando as empresas para desenvolver aplicativos nativos de IA com eficiência: Lançado o "Qianfan AI Native Application Development Workbench"
A fim de atender às necessidades das empresas de desenvolvimento ágil e eficiente de aplicativos nativos de IA e reduzir o limite para o desenvolvimento de aplicativos nativos de IA, o Baidu Smart Cloud lançou o " Qianfan AI Native Application Development Workbench" , que desenvolverá padrões, ferramentas e processos para aplicativos de modelos grandes, precipitados em um ambiente de trabalho para ajudar os desenvolvedores a se concentrarem em seus próprios negócios sem envolver energia extra no processo de desenvolvimento . Especificamente, o ambiente de trabalho de desenvolvimento de aplicativos nativos Qianfan AI consiste principalmente em duas camadas de serviços: componentes de aplicativos e estrutura de aplicativos.
O serviço de componente de aplicativo consiste em duas categorias principais de componentes: IA e componentes básicos de nuvem.É um encapsulamento em componentes dos recursos de serviço subjacentes, permitindo que cada componente conclua uma função específica. Os "componentes de IA" incluem não apenas grandes componentes do modelo de linguagem, como perguntas e respostas, Cadeia de Pensamento (CoT, Cadeia de Pensamento), mas também componentes multimodais, como diagramas de Vincent e reconhecimento de fala, enquanto "componentes básicos da nuvem" incluem vetores bancos de dados, armazenamento de objetos e outros recursos tradicionais de serviços em nuvem.
A estrutura do aplicativo conecta e combina seletivamente os componentes acima para que eles possam completar a tarefa de um cenário específico de forma relativamente completa. Atualmente, a geração aprimorada de recuperação (RAG) e o agente (agente) fornecidos na plataforma Qianfan são estruturas de aplicativos nativos de IA comumente usadas. Em cada estrutura, o Baidu Smart Cloud também oferece uma variedade de salas de amostra para apoiar os desenvolvedores no desenvolvimento de aplicativos nativos de IA de forma rápida e eficiente.
(Baidu Smart Cloud lança bancada de desenvolvimento de aplicativos nativos de IA)
A estrutura de geração aumentada de recuperação (RAG) pode utilizar o conhecimento de forma mais eficiente nos campos proprietários de uma empresa e fornecer respostas precisas a perguntas relevantes com a ajuda de grandes modelos.É uma obrigação para aplicações nativas de IA no campo de perguntas e respostas de conhecimento profissional. Prepare as competências essenciais.
A conferência também realizou uma demonstração prática sobre como desenvolver rapidamente um aplicativo de perguntas e respostas de conhecimento para a Sany Heavy Industry baseado na estrutura RAG: basta selecionar a estrutura RAG predefinida no ambiente de trabalho do aplicativo nativo Qianfan AI e realizar a configuração de parâmetros correspondentes e outros trabalhos Realize rapidamente o desenvolvimento e lançamento do aplicativo inteligente de atendimento ao cliente no site oficial da Sany Heavy Industry. Shen Dou disse que para construir um “pequeno assistente”, mesmo que seja necessário processar milhares de documentos com 10.000 palavras, o custo será de apenas algumas centenas de yuans; e cada consulta subsequente ao usuário custará apenas alguns centavos .
(Complete rapidamente perguntas de conhecimento da Sany Heavy Industry e responda ao desenvolvimento de aplicativos com base na estrutura de aplicativos RAG)
Agente (Agente), como uma estrutura de aplicativo popular na indústria atual, pode desmontar automaticamente tarefas dadas por humanos, planejar e chamar automaticamente vários componentes para concluir tarefas de forma colaborativa e, ao mesmo tempo, receber feedback com base nos resultados da conclusão da tarefa para melhorar suas próprias capacidades. Atualmente, a estrutura do Agente tem sido amplamente utilizada na indústria, transporte e outras áreas.
Com base na estrutura de agente fornecida pelo ambiente de trabalho de desenvolvimento de aplicativos nativos Qianfan AI, a Zhongtian Steel criou um "centro de agendamento empresarial" inteligente para realizar a percepção, decomposição e execução automática de instruções de tarefas. Por exemplo, quando se descobre que a produção de aço não está de acordo com o padrão, o usuário só precisa perguntar uma vez, e o modelo grande pode chamar automaticamente vários recursos e APIs gerenciados pela plataforma para concluir a recuperação de dados de BI, causa raiz de terceiros análises e outras tarefas para encontrar os motivos do não cumprimento do padrão.Ajustar o cronograma de produção em tempo hábil e enviar e-mails para notificar o agendador.
(Zhongtian Steel constrói um centro de despacho empresarial baseado na estrutura de aplicativo do agente )
⭐ Ecologia industrial próspera. A primeira loja de aplicativos nativa de IA da China e o ecossistema de modelo grande de link completo são lançados coletivamente.
A fim de atender às necessidades dos clientes corporativos de comprar convenientemente aplicativos nativos de IA de alta qualidade e capacitar os parceiros para terem sucesso nos negócios, o Baidu Smart Cloud lança: A primeira loja de aplicativos nativos de IA da China para transações completas para clientes corporativos - Baidu Smart Cloud Qianfan AI A loja de aplicativos nativos visa estabelecer um canal de conexão conveniente e confiável para os lados de oferta e demanda de aplicativos nativos de IA na era dos grandes modelos, melhorar significativamente a eficiência da seleção e aquisição de aplicativos do cliente e criar mais oportunidades de negócios para comerciantes parceiros. Atualmente, os usuários corporativos podem entrar na loja de aplicativos nativos de IA Qianfan através do site oficial do Baidu Smart Cloud para comprar seus aplicativos nativos de IA favoritos.
(Loja de aplicativos nativos Baidu Smart Cloud Qianfan AI)
Neste Congresso Mundial, o Baidu lançou o primeiro produto generativo de business intelligence da China - Baidu GBI (Generative Business Intelligence). BI (Business Intelligence) é um dos cenários de aplicação típicos que atualmente mostra o “teto” de capacidades de grandes modelos. Como um mecanismo de aplicação nativo de IA, o Baidu GBI realiza uma reconstrução abrangente da capacidade de "pergunta inteligente" baseada no grande modelo Wenxin: para qualquer banco de dados, a consulta e a análise podem ser concluídas em uma única etapa por meio do diálogo, o que melhora muito a eficiência dos dados análise em comparação com a eficiência do BI tradicional, reduzindo os requisitos de habilidade profissional para análise de dados.
Tomando como exemplo a análise de dados de negócios corporativos, o Baidu GBI pode reduzir o tempo de trabalho de análise de dados e redação de relatórios que leva mais de dez dias para os analistas de dados de negócios, de dias para minutos. Como um tipo de produto de estrutura de aplicativo nativo de IA, o Baidu GBI também pode realizar migração minimalista de capacidade entre setores e domínios e implementar rapidamente aplicativos como análise de governança urbana, insights de consumo de energia, gerenciamento de operação de equipamentos industriais, tomada de decisões de investimento financeiro , gerenciamento de congestionamento de tráfego, etc. No cenário, o desenvolvimento e a construção de aplicativos nativos de IA para BI governamental e empresarial são realizados de forma eficiente.
(Exibição da função Baidu GBI)
Como um dos primeiros parceiros a entrar na loja de aplicativos nativos Qianfan AI, Kingdee se uniu à Baidu Smart Cloud para lançar Kingdee Cloud·Cangqiong GPT em 8 de agosto de 2023 e assumiu a liderança no lançamento do primeiro modelo financeiro em grande escala da indústria para ajudar os clientes a conduzir negócios com mais eficiência.Gestão e análise financeira, melhorar a precisão e padronização do processamento financeiro e fornecer uma forte garantia para o desenvolvimento estável e de longo prazo das empresas.
A tecnologia de grandes modelos não está apenas a remodelar o modelo de serviço e a forma de produto da computação em nuvem, mas também a remodelar o padrão ecológico da indústria de computação em nuvem, impondo novos requisitos às capacidades e à construção de sistemas dos fornecedores de computação em nuvem e dos seus parceiros, abrangendo milhares de indústrias.
Para ajudar os parceiros a alcançar o sucesso comercial na era dos grandes modelos, o Baidu Intelligent Cloud construiu e lançou o primeiro sistema de suporte ecológico full-link da China para grandes modelos e forneceu serviços a 10 parceiros abrangentes, 100 parceiros de aplicativos e mais de 10.000 start-ups. Empresas e agências parceiras fornecem suporte abrangente
Yuan Foyu, vice-presidente do Grupo Baidu, disse: “Nesta era de rápida mudança, o Baidu não deve apenas aventurar-se corajosamente em terra de ninguém no caminho da tecnologia de grandes modelos e da exploração comercial, mas também trabalhar com muitos parceiros para criar um país próspero. ecossistema industrial e explorar em conjunto novas tecnologias , modelos de negócios e oportunidades de negócios para alcançar uma verdadeira cooperação vantajosa para todos.”