⭐ 서문
기업 고객을 위한 Wenxin Big Model 4.0 API 호출 서비스 테스트 애플리케이션 출시, 17,000명 이상의 고객에게 서비스 제공, 다양한 산업 분야의 약 500개 시나리오에서 대규모 모델 애플리케이션 구현 탐색 ... 올해 3월 출시 이후 Baidu Intelligent Cloud Qianfan 세계 최초의 원스톱 엔터프라이즈급 대형 모델 플랫폼인 대형 모델 플랫폼은 업계 유일의 "만점 성적표"를 제공했습니다.
10월 17일, 바이두 월드 2023이 베이징 쇼우강 공원에서 열렸습니다. Baidu Intelligent Cloud는 컨퍼런스에서 '클라우드 인텔리전스-인-원' 전략을 종합적으로 업그레이드하고 대규모 모델 구현을 위한 5가지 유형의 고객 요구에 맞는 풀 스택 서비스 솔루션을 제공했다고 발표했습니다. 기업 AI 네이티브 애플리케이션 구현을 가속화하는 "Qianfan AI 네이티브 애플리케이션 개발 워크벤치 " 를 출시했으며 , 국내 최초 AI 네이티브 애플리케이션 스토어와 국내 최초 대형 모델 풀링크 생태학적 지원 시스템을 출시 해 파트너의 비즈니스 성장과 공동 성장을 지원하고 있습니다. 번영하는 대형 모델 산업 생태계를 구축하고 공유합니다.
(Shen Dou, Baidu 그룹 부사장 겸 Baidu 지능형 클라우드 비즈니스 그룹 회장)
⭐ 기업 대규모 모델 구현의 5가지 주요 요구 사항 충족: Baidu Intelligent Cloud는 "클라우드 인텔리전스-인원" 전략을 업그레이드합니다.
2020년부터 Baidu Intelligent Cloud는 업계를 주도하여 '클라우드 및 인텔리전스 통합' 전략을 제안하고 기술 아키텍처 및 서비스 측면에서 여러 차례 반복적인 업그레이드를 수행했습니다. 이번 바이두 월드 컨퍼런스에서는 '클라우드와 인텔리전스 통합'의 전략적 의미가 '클라우드와 인텔리전스 통합, 산업 심화, 생태적 번영, AI 포괄 혜택'으로 포괄적으로 업그레이드됐다 .
Baidu 그룹 수석 부사장이자 Baidu 지능형 클라우드 비즈니스 그룹 회장인 Shen Dou는 인공 지능과 클라우드 컴퓨팅의 심층적인 통합이 기업이 기본 AI 애플리케이션을 신속하게 구현하는 데 핵심이라고 말했습니다 . 클라우드와 인텔리전스'는 Baidu Intelligent Cloud가 항상 옹호하고 실천해 온 아이디어입니다. 현재 Baidu Group의 모든 애플리케이션과 서비스는 "클라우드 인텔리전스-인-원(cloud-intelligence-in-one)" 기술 아키텍처를 기반으로 하는 Baidu Smart Cloud에서 실행됩니다. 또한 대형 모델 구현을 위한 5가지 유형의 고객 요구에 부응하여 Qianfan 대형 모델 플랫폼을 기반으로 하는 Baidu Intelligent Cloud의 "대형 모델 슈퍼 팩토리"는 최고의 서비스 솔루션을 제공했습니다.
(대형모델 시대의 클라우드와 인텔리전스의 통합)
우선, 컴퓨팅 파워만 필요한 고객에게 Qianfan 플랫폼은 매우 효율적이고 비용 효과적인 이기종 컴퓨팅 파워 서비스를 제공할 수 있습니다. 고객이 가장 우려하는 대규모 모델 훈련 부문에서Qianfan 플랫폼은분산 병렬 훈련 전략과 마이크로초 수준의 상호 연결 기능을 통해Wanka 규모의 클러스터 훈련에 대해 95%의 가속률을 달성할 수 있습니다. 이 문제를 해결하기 위해 결함이나 기타 이유로 인한 클러스터의 비효율적인 운영을 최소화하고 효과적인 훈련 시간의 비율을 높일 수 있습니다.Wanka 클러스터의 효과적인 훈련 시간은 96%에 도달하여 효과적인 훈련 시간을 완전히 해제합니다. 클러스터의 컴퓨팅 성능을 향상시켜 고객의 컴퓨팅 성능과 시간 비용을 크게 절감합니다.
또한 Qianfan 플랫폼은 Kunlun Core, Ascend, Haiguang DCU, NVIDIA, Intel 등 국내외 주류 AI 칩 과도 호환되므로 고객은 최소한의 전환 비용으로 컴퓨팅 성능 적응을 완료할 수 있습니다.
Face Wall Intelligence는 Zhihu와 협력하여 Baidu Intelligent Cloud가 제공하는 AI 컴퓨팅 파워 클러스터를 기반으로 "Zhihaitu AI" 대형 모델과 다중 모드 대형 모델 Luca를 훈련시켰습니다. 킬로칼로리 클러스터에 대한 효과적인 훈련 시간은 다음과 같습니다. 99%까지 높으며, 모델 훈련의 연속성을 보장하면서 모델 훈련 효과의 효율적인 융합을 이룰 수 있습니다. 또한 Zhihu, TAL, Horizon 등의 기업도 Baidu Smart Cloud에서 제공하는 AI 컴퓨팅 서비스를 사용하여 보다 안정적이고 효율적이며 경제적인 방식으로 대규모 클러스터 교육 및 관리를 달성하고 있습니다.
둘째, 모델 수준에서 기존 대형 모델을 직접 호출하려는 고객을 위해 Qianfan 플랫폼은 국내외 주류 대형 모델 42개를 관리하며, 기업 고객은 Wenxin 대형 모델을 포함한 다양한 대형 모델의 API를 신속하게 호출할 수 있습니다. 능력. 타사 대형 모델의 경우 Qianfan 플랫폼은 중국어 향상, 성능 향상 및 컨텍스트 향상과 같은 목표 최적화도 수행했습니다. 현재 Qianfan 플랫폼은 17,000명 이상의 고객에게 서비스를 제공하고 있으며 대규모 모델 API 호출 수가 빠른 속도로 계속 증가하고 있습니다.
셋째, 기존 대형 모델을 기반으로 2차 개발을 수행하려는 고객을 위해 Qianfan 플랫폼은 대형 모델의 재교육, 미세 조정, 평가 및 배포를 위한 전체 수명 주기 도구 체인과 업계 최대 41개고품질 산업 데이터 세트를, 고객이자신의 비즈니스 시나리오에 맞게 모델 효과를 신속하게 최적화할 수 있도록 지원합니다. 현재 중국우정저축은행, Du Xiaoman, Kingsoft Office, Hebei Hi-Speed Group 등 여러 업계의 주요 고객이 Qianfan 플랫폼에서 제공하는 툴체인 서비스를 사용하여 비즈니스에 맞는 전용 대형 모델을 개발하고 있습니다. 필요합니다.
넷째, 애플리케이션 수준에서 일부 기업은 대규모 모델 서비스를 기반으로 AI 네이티브 애플리케이션을 개발해야 하며 , Qianfan 플랫폼에서 제공되는 일련의 기능 구성 요소와 프레임워크는 기업이 애플리케이션 개발을 신속하게 완료하고 사용자 및 시장 요구에 유연하게 대응할 수 있도록 도와줍니다.
마지막으로, 또 다른 고객 그룹은 비즈니스 개발에 힘을 실어주기 위해 성숙한 AI 기본 애플리케이션 제품을 직접적이고 편리하게 구매하기를 원합니다 .
⭐ 기업이 AI 네이티브 애플리케이션을 효율적으로 개발할 수 있도록 지원: "Qianfan AI 네이티브 애플리케이션 개발 워크벤치" 출시
민첩하고 효율적인 AI 네이티브 애플리케이션 개발에 대한 기업의 요구를 충족하고 AI 네이티브 애플리케이션 개발의 문턱을 낮추기 위해 Baidu Smart Cloud는 공통 패턴, 도구 및 대형 모델 애플리케이션을 위한 프로세스. 개발자가 개발 프로세스에 추가 에너지를 들이지 않고 자신의 비즈니스에 집중할 수 있도록 워크벤치에 침전시켰습니다 . 구체적으로 Qianfan AI 기본 애플리케이션 개발 워크벤치는 주로 애플리케이션 구성 요소와 애플리케이션 프레임워크라는 두 가지 서비스 계층으로 구성됩니다.
애플리케이션 구성 요소 서비스는 AI와 기본 클라우드 구성 요소라는 두 가지 주요 구성 요소 범주로 구성되며, 기본 서비스 기능을 구성 요소로 캡슐화하여 각 구성 요소가 특정 기능을 완료할 수 있도록 합니다. 'AI 컴포넌트'에는 질문과 답변, Chain of Thought(CoT, Chain of Thought) 등 대형 언어 모델 컴포넌트뿐만 아니라 Vincent 다이어그램, 음성 인식 등 다중 모드 컴포넌트도 포함되며, '기본 클라우드 컴포넌트'에는 벡터도 포함됩니다. 데이터베이스, 객체 스토리지 및 기타 기존 클라우드 서비스 기능.
애플리케이션 프레임워크는 위의 구성 요소를 선택적으로 연결하고 결합하여 특정 시나리오의 작업을 비교적 완벽하게 완료할 수 있도록 합니다. 현재 Qianfan 플랫폼에서 제공되는 RAG(Retrieval Enhanced Generation)와 Agent(에이전트)는 AI 네이티브 애플리케이션 프레임워크로 널리 사용됩니다. 각 프레임워크에서 Baidu Smart Cloud는 개발자가 AI 네이티브 애플리케이션을 빠르고 효율적으로 개발할 수 있도록 지원하는 풍부한 샘플 룸도 제공합니다.
(바이두 스마트 클라우드, AI 네이티브 애플리케이션 개발 워크벤치 출시)
RAG(Retrieval Augmented Generation) 프레임워크는 기업이 자체적으로 보유하고 있는 분야의 지식을 보다 효율적으로 활용하고 대규모 모델의 도움으로 관련 질문에 대한 정확한 답변을 제공할 수 있으며, 전문지식 질의응답 분야의 네이티브 AI 애플리케이션에 반드시 필요한 프레임워크입니다. 핵심역량을 준비하세요.
또한 컨퍼런스에서는 RAG 프레임워크를 기반으로 Sany Heavy Industry를 위한 지식 질문 및 답변 애플리케이션을 신속하게 개발하는 방법에 대한 실제 시연도 진행되었습니다. Qianfan AI 기본 애플리케이션 워크벤치에서 미리 설정된 RAG 프레임워크를 선택하고 해당 매개변수 구성 및 기타 작업을 수행하기만 하면 됩니다. Sany Heavy Industry 공식 웹사이트에서 지능형 고객 서비스 애플리케이션의 개발 및 출시를 신속하게 실현하세요. Shen Dou는 이러한 "작은 비서"를 구축하려면 10,000 단어 길이의 수천 개의 문서를 처리해야 한다고 해도 비용은 수백 위안에 불과하며 이후 사용자 상담 비용은 몇 센트에 불과하다고 말했습니다. .
(RAG 애플리케이션 프레임워크를 기반으로 Sany Heavy Industry 지식 질문 및 답변 애플리케이션 개발을 신속하게 완료)
Agent(에이전트)는 현재 업계에서 널리 사용되는 응용 프레임워크로 사람이 부여한 작업을 자동으로 분해하고, 다양한 구성 요소를 자동으로 계획하고 호출하여 공동으로 작업을 완료하며, 동시에 작업 완료 결과에 따라 피드백을 받아 개선할 수 있습니다. 자신의 능력. 현재 에이전트 프레임워크는 산업, 운송 및 기타 분야에서 널리 사용되고 있습니다.
Zhongtian Steel은 Qianfan AI 기본 애플리케이션 개발 워크벤치에서 제공하는 에이전트 프레임워크를 기반으로 작업 지침의 자동 인식, 분해 및 실행을 실현하는 지능형 '엔터프라이즈 스케줄링 센터'를 만들었습니다. 예를 들어 철강 생산이 표준에 미치지 못한다는 사실이 발견되면 사용자는 한 번만 질문하면 되며 대형 모델은 플랫폼에서 관리하는 다양한 리소스와 API를 자동으로 호출하여 BI 데이터 검색, 제3자 근본 원인을 완료할 수 있습니다. 분석 및 기타 작업을 통해 표준을 충족하지 못한 이유를 찾아냅니다.적시에 생산 일정을 조정하고 이메일을 보내 일정 담당자에게 알립니다.
(Zhongtian Steel은 Agent 애플리케이션 프레임워크를 기반으로 기업 파견 센터를 구축합니다. )
⭐ 번영하는 산업 생태계, 중국 최초의 AI 네이티브 애플리케이션 스토어와 풀 링크 대형 모델 생태계가 총체적으로 출시됩니다.
고품질 AI 네이티브 애플리케이션을 편리하게 구매할 수 있는 기업 고객의 요구를 충족하고 파트너가 비즈니스에서 성공할 수 있도록 지원하기 위해 Baidu Smart Cloud는 기업 고객을 위한 원스톱 거래를 위한 중국 최초의 AI 네이티브 애플리케이션 스토어인 Baidu Smart Cloud Qianfan을 출시합니다. AI 네이티브 애플리케이션 스토어는 빅모델 시대에 AI 네이티브 애플리케이션의 수요와 공급 측면을 위한 편리하고 안정적인 연결 채널을 구축하고, 고객 애플리케이션 선택 및 조달의 효율성을 크게 향상시키며, 파트너 가맹점을 위한 더 많은 비즈니스 기회를 창출하는 것을 목표로 합니다. 현재 기업 사용자는 Baidu Smart Cloud 공식 웹사이트를 통해 Qianfan AI 기본 애플리케이션 스토어에 들어가 자신이 선호하는 AI 기본 애플리케이션을 구매할 수 있습니다.
(Baidu Smart Cloud Qianfan AI 기본 애플리케이션 스토어)
이번 세계대회에서 Baidu는 중국 최초의 생성적 비즈니스 인텔리전스 제품인 Baidu GBI(Generative Business Intelligence)를 출시했습니다. BI(비즈니스 인텔리전스)는 현재 대규모 모델 기능의 "한계"를 보여주는 일반적인 애플리케이션 시나리오 중 하나입니다. AI 네이티브 애플리케이션 엔진인 Baidu GBI는 Wenxin 대형 모델을 기반으로 '지능형 질문' 기능의 포괄적인 재구성을 실현합니다. 모든 데이터베이스에 대해 쿼리 및 분석은 대화를 통해 한 단계로 완료될 수 있어 데이터 효율성이 크게 향상됩니다. 기존 BI와 비교하여 분석 효율성을 높이고 데이터 분석에 필요한 전문 능력 요구 사항을 줄입니다.
기업 비즈니스 데이터 분석을 예로 들면, Baidu GBI는 비즈니스 데이터 분석가가 10일 이상 걸리던 데이터 분석 및 보고서 작성 작업 시간을 며칠에서 몇 분으로 단축할 수 있습니다. AI 네이티브 애플리케이션 프레임워크 제품의 일종인 Baidu GBI는 최소한의 산업 간, 도메인 간 기능 마이그레이션을 달성하고 도시 거버넌스 분석, 에너지 소비 통찰력, 산업 장비 운영 관리, 금융 투자 의사 결정과 같은 애플리케이션을 신속하게 구현할 수 있습니다. , 교통 혼잡 관리 등. 시나리오에서는 정부 및 기업 BI를 위한 기본 AI 애플리케이션의 개발 및 구축이 효율적으로 구현됩니다.
(바이두 GBI 기능 표시)
Qianfan AI 네이티브 애플리케이션 스토어에 진입한 최초의 파트너 중 하나인 Kingdee는 Baidu Smart Cloud와 협력하여 2023년 8월 8일 Kingdee Cloud·Cangqiong GPT를 출시하고 업계 최초의 대규모 금융 모델 출시에 앞장섰습니다. 고객이 보다 효율적으로 비즈니스를 수행할 수 있도록 지원 재무 관리 및 분석, 재무 처리의 정확성과 표준화를 향상하고 기업의 장기적이고 안정적인 발전을 위한 강력한 보장을 제공합니다.
대형 모델 기술은 클라우드 컴퓨팅의 서비스 모델과 제품 형태를 재편할 뿐만 아니라 클라우드 컴퓨팅 산업의 생태학적 패턴도 재편하고 있으며, 수천 개의 산업을 포괄하는 클라우드 컴퓨팅 공급업체와 파트너의 역량과 시스템 구축에 대한 새로운 요구 사항을 제시합니다.
파트너가 대형 모델 시대에 비즈니스 성공을 달성할 수 있도록 Baidu Intelligent Cloud 는 중국 최초의 대형 모델을 위한 풀 링크 생태 지원 시스템을 구축 및 출시했으며 10개의 포괄적 파트너, 100개의 응용 파트너 및 10,000개 이상의 서비스를 제공했습니다. 기업 및 대행사 파트너는 Qianfan 커뮤니티, AI 기본 애플리케이션 인큐베이션, 영업 기회, 마케팅, 권한 부여 교육 및 Qianfan AI 기본 애플리케이션 스토어를 포함한 포괄적인 지원을
Baidu 그룹 부사장 Yuan Foyu는 "급격하게 변화하는 시대에 Baidu는 대형 모델 기술과 상업 탐사의 길에서 용감하게 사람이 살지 않는 땅에 도전해야 할 뿐만 아니라 많은 파트너와 협력하여 번영을 누려야 합니다"라고 말했습니다. 산업생태계를 구축하고 신기술 , 비즈니스 모델, 사업기회를 공동으로 발굴해 진정한 상생협력을 이룰 것”이라고 말했다.