9月5日、2023年百度雲志会議が北京で開催された。企業が大規模モデルをより迅速に使用し、有効に活用できるようにするために、Baidu Intelligent Cloud はカンファレンスで 4 つの主要な取り組みを発表しました: Baidu Intelligent Cloud Qianfan 大型モデル プラットフォームの新しいアップグレード、デジタル政府、金融、産業、交通の再構築です。 Wenxin 大型モデルに基づく 4 つの主要な業界ソリューション、サービス マーケティング、オフィス効率の向上、生産の最適化の 3 つの主要分野をカバーする一般的なシナリオ向けの 11 の AI ネイティブ アプリケーションをリリース、パートナーに資金、コンピューティングを提供する大型モデル向けの新しいエコロジー ポリシーを開始パワー、テクノロジー、マーケティング等を総合的に強力サポート。
この会議では、Baidu Group の副社長である Hou Zhenyu 氏が「大型モデルがクラウド コンピューティングの革新と変化を推進する」と題した基調講演を行い、「大型モデルはクラウド コンピューティングの革新を推進し、クラウド コンピューティング業界の状況を再構築するでしょう。 「大規模モデルは過去とは異なります。AI テクノロジーの反復により、基盤となる IT インフラストラクチャの再構築が同時に推進され、上位レベルのアプリケーション開発モデルにも変化がもたらされます。」
百度グループ副社長、侯振宇氏
以下はスピーチの書き起こしです。
親愛なるゲスト、友人の皆様、おはようございます。
先ほど、Shen Dou 博士が大型モデルによってもたらされる技術革命を完全に共有し、Baidu Intelligent Cloud Qianfan Large Model Platform 2.0 をリリースし、数千の業界で大型モデルの導入に成功した事例も紹介しました。ビッグモデルに突入、モデル時代も期待に満ちています。
次に共有したいのは、クラウド コンピューティング自体に戻り、大きなモデルがクラウド コンピューティングにどのような混乱や変化をもたらすかを共有することです。私たちは、このビッグモデルがクラウドコンピューティングの革新を推進し、クラウドコンピューティングの産業構造を再構築すると信じています。
大規模モデルの開発は、これまでの AI テクノロジーとは異なり、基盤となる IT インフラストラクチャの再構築を同時に推進し、上位層のアプリケーション開発モデルにも変化をもたらします。
過去数年間の技術開発の背景を振り返ってみましょう。
2012 年以来、ディープラーニングは徐々に人工知能の主流のアルゴリズムになってきました。モバイル アプリケーションではディープ ラーニングが威力を発揮し、アルゴリズム モデル機能が多くのモバイル インターネット企業の競争力の中核となっています。ただし、ディープラーニングはアプリケーションを強化するだけであり、アプリケーションの研究開発パラダイムを実質的に変えるものではありません。
古典的なクラウド コンピューティングの誕生以来、コンピューティング ネットワーク ストレージの仮想化により、コンピューティング能力が基本サービスとなり、デジタル インフラストラクチャの状況はクラウド コンピューティングによって変化しました。モバイル アプリケーションは、よりクラウドに優しいクラウド ネイティブ アーキテクチャの概念を使用して設計されており、モバイル アプリケーション開発の反復効率が大幅に向上し、モバイル アプリケーション市場の繁栄にある程度貢献します。
モバイル アプリケーション、ディープ ラーニング、クラウド コンピューティングの 3 つの時代が重なっていることがわかりました。モバイル アプリケーション市場のブームは、ディープ ラーニングとクラウド コンピューティングの発展からも恩恵を受けています。しかし、アプリケーション、AI テクノロジー、IT インフラストラクチャは依然として独立して進化しています。 3本の平行線です。大規模なモデルによって開かれた AI ネイティブの時代に、これら 3 つの平行線が最終的に交差点を迎えました。
>>アプリケーション層では、大規模モデルの独自の理解、生成、ロジック、メモリ機能が AI ネイティブ アプリケーションとしてシーンに実装されます。
>>同時に、大規模モデルはユニバーサルサービス、つまりMaaSとなり、AI導入の敷居を大幅に下げ、真のAI包括性を実現します。
>>インフラストラクチャとしてのクラウド コンピューティングは、大規模モデルの開発によって推進され、AI ネイティブ アプリケーションによって AI ネイティブ クラウドに発展し、クラウド コンピューティングの産業景観を再構築します。
生成 AI は、新しい研究開発パラダイムを生み出します。これは、AI ネイティブ アプリケーションの実装には新しいアーキテクチャ ガイダンスが必要であり、AI モデル機能の研究開発と推論には新しいサービス キャリアが必要であり、インフラストラクチャはAI を核とした新しいコンピューティング アーキテクチャの開発も行っています。
一つずつ紹介していきましょう。
まず、新しいアーキテクチャです。AI ネイティブ アプリケーションは「ビッグ モデル」向けに設計されており、大規模モデルを中心として設計されており、大規模モデルの新しい特性を最大限に発揮する必要があるため、アプリケーションに対して新しいアーキテクチャ要件が提示されます。
AI ネイティブ アプリケーションの構築には、いくつかの主要な技術コンポーネントが必要であると考えています。
>>1 つ目はモデルです。これはモデル機能であり、API 呼び出しの形式でサービスを提供します。ここでのモデルには、基本モデルとお客様独自の微調整モデルが含まれます。
>> 次に、ユーザーがモデルからより適切な回答を得るのに役立つプロンプトがあります。
>> 静的および動的オーケストレーションを実装し、大規模モデルの独自の機能を使用してチェーン呼び出しを実現するためのチェーンとエージェントもあります。
これらは、より有効に使用できるモデルの機能であり、大規模な言語モデルによってもたらされる変更です。大規模モデルのこれらの機能によってもたらされる変化に基づいて、アプリケーションは当然、データ フローとビジネス フローを再構築する必要があります。
2つ目は、新しいサービスです。モデル機能は新しい基本サービスMaaSになりますが、MaaSには豊富さ、使いやすさ、AI指向のネイティブ性の3つの特性が必要です。これには以下が必要です。
>>まず第一に、大型モデルのプラットフォームは、顧客が選択できる豊富な大型モデルを提供する必要があります。私たちは、アプリケーションは「汎用性と特殊性の組み合わせ」でなければならないと考えているため、将来的には 1 つのモデルですべての問題を解決することは不可能であり、さまざまな顧客シナリオのニーズを満たすにはモデルの組み合わせが必要になります。
>>第二に、大規模なモデル プラットフォームはシンプルで使いやすい必要があり、データ収集とアノテーションからモデル開発、トレーニングと評価、モデル オンライン推論までのライフサイクル全体をカバーするツール チェーンの完全なセットが必要です。そして最適化。
>>最後に、AI モデルにとってデータが重要であることは誰もが知っています。プラットフォームは、顧客モデルの反復をより適切にサポートするために、顧客が独自のデータ閉ループ機能を確立できるように支援する必要があります。
3 番目: 新しい計算。大規模なモデルでは、大量のデータの高密度計算が必要となり、コンピューティング アーキテクチャに新たな要件が生じます。
コンピューティングのワークロードによってヘテロジニアス コンピューティングへの移行が加速しており、その規模はますます大きくなっていることがわかります。マイクロ秒レベルの相互接続は、コンピューティング能力を大規模に拡張するための重要な機能となっています。これらはすべて、ソフトウェアとハードウェアを統合する手法を使用して、アーキテクチャ全体のレベルから解決する必要があります。
次に、AI ネイティブ アプリケーションの新しいアーキテクチャ、新しいモデル サービス、AI 用の新しいコンピューティング インフラストラクチャについてさらに紹介します。
AI はシーン内に実装する必要があり、アプリケーションによって実行されます。AI ネイティブ アプリケーションをどのように設計するか、それにどのようなサービス コンポーネントが含まれるかについては、誰もが非常に関心があると思います。
一般的なビジネスコールの流れがどのようなものかをここで共有しましょう。大規模モデルの適用プロセスは、ユーザーからのリクエストから始まります。システムは最初にユーザーの意図を分解して整理します。結果として得られる複数のサブタスクは、通常、ドメイン知識の強化、検索の強化などを通じて実装されます。出力コンテンツは、大規模な言語モデル、最終的にはセキュリティ モジュールによる監査後、ユーザーに返され、インフラストラクチャはタスクの整理とデバッグ、システム ログの監視などのサポートを提供します。
簡単に要約すると、AI ネイティブ アプリケーション開発には 3 つの重要な機能が必要です: 1 つ目、効率的なアプリケーション開発環境、Baidu が提供するローコード ツール、豊富な垂直アプリケーション テンプレート、ビジュアル デバッグ ツール、2 つ目、豊富なドメイン拡張サポート、Baidu が自社開発したものを提供ベクトル データベース、データ レイク、検索強化およびその他のサービス、3 番目に完全なコンテンツ セキュリティ、出力コンテンツのセキュリティを確保するためのさまざまな手段を提供します。
上記の機能に基づいて、顧客は AI ネイティブ アプリケーションを簡単に構築できます。
Shen Dou 博士が先ほど共有したように、Baidu Intelligent Cloud Qianfan Large Model Platform 2.0 の優れた機能を誰もが目にしたことがあるでしょう。これは、企業が大規模モデル アプリケーションのギャップを埋めるのに役立ちます。Qianfan Large Model Platform は、新しい AI に基づいて構築されています。ネイティブテクノロジースタック。大規模なモデルのアプリケーションをより便利にするために、データの各層 (モデル、プロンプト、チェーン、エージェント) で豊富な関数とコンポーネントを提供します。
Baidu Intelligent Cloud Qianfan 大型モデル プラットフォームの特徴は次のように要約できます。
>>1 つは、使いやすい複数の大型モデルを提供することです。Baidu が自社開発した Wenxin 大型モデルだけでなく、複数のサードパーティ大型モデルも提供します。同時に、これらのモデルに対して、再トレーニングや微調整などの視覚的なツールを提供して、高速で便利なトレーニング モデルをサポートします。
>>2つ目は、豊富なエコロジーツールを提供し、Baidu Intelligent Cloudサービス全体と連携して大規模なモデルアプリケーションの実装を準備することです。
>>3 番目は、豊富なデータ セットをプリセットし、モデルの反復更新にフィードバックされるアプリケーション データもサポートすることで、データがビジネスの反復を積極的に推進できるようにします。
Baidu Intelligent Cloud Qianfan 大型モデル プラットフォームは、大型モデルの研究開発とサービスに完全なライフサイクル サポートを提供します。
インフラストラクチャ層では、Baidu は Baige ヘテロジニアス コンピューティング プラットフォームを開発しました。Baige プラットフォームは、安定した信頼性の高いシステム、高性能トレーニング推論サービス、大規模モデルや AI ネイティブ アプリケーション向けの高速ネットワークに基づくデータ交換機能を提供します。
>>高い信頼性の観点から、大規模な並列トレーニングの安定性は顧客が懸念する重要なインフラストラクチャ機能の 1 つです Baige は強力なフォールト トレランス機能を備えており、第 2 レベルのフォールト センシングと分単位の自動フォールト トレランスを実現できます毎月のカード トレーニングは中断されず、顧客の大規模モデル トレーニングのニーズを完全に満たします。
>>高性能の点では、Baidu の AI インフラストラクチャにおける長年の蓄積を経て、Baige はパブリック モデル ライブラリでのトレーニング パフォーマンスの 30% 以上の向上と、推論スループットの 10 倍の増加を達成しました。
>>高速ネットワークについては、通信遅延の低減と通信スループットの向上を実現する高速ネットワークを自社開発し、計算能力規模の拡大の基盤を築きました。
AI ネイティブ時代の歴史的チャンスに直面して、Baidu Smart Cloud はあらゆる製品を開発してきました。ここでは、Baidu AI ネイティブ クラウドの製品パノラマを示します。私が共有したコンテンツはそのほんの一部であることがわかります。さらに多くの製品の共有は、午後の「インテリジェント コンピューティング & ラージ モデル テクノロジ」サブフォーラムで行われる予定です。どなたでも、時々私たちのサブフォーラムにお越しください。
AI の包括的なメリットを実現することが当社の信念であり、当社は、すべての人およびすべての組織が AI テクノロジーの利便性を享受できるようにすること、デジタル ディバイドを打破し、公平性と進歩を実現すること、インテリジェンスを手の届くものにすること、テクノロジーを利用して複雑なタスクがより簡単に実行できるようになり、世界はよりシンプルになりました。皆さん、ありがとう!
「原文を読む」をクリックすると会議の詳細がご覧いただけます。