Baidu、NVIDIA、Intel...大手メーカーが集結し、Wenxin と Flying Paddle の共有エコシステムの下で大規模モデルのトレーニング、プロモーション、展開の革新的な実践計画について話し合いました。

深層学習技術と応用のための国家工学研究センターが後援し、Baidu Flying Paddle と Wenxin Big Model が主催する WAVE SUMMIT 2023 サミットが開催されます。このサミットでは、AI テクノロジー、産業エコロジー、将来のトレンドの主な方向性に焦点を当て、生産、学習、研究、使用を含む各界の著名人がディープラーニングと大規模学習の開発と将来に焦点を当てます。モデル テクノロジーを活用し、業界への洞察と一連の新しい大ヒット作をもたらします。今日は「スマートハードコアエコロジー共創」パラレルフォーラムのハイライトをご紹介しますので、ちょっと覗いてみましょう!

イベントの詳細
「インテリジェント・ハードコア・エコロジー共創」パラレル・フォーラムは、上海交通大学コンピューター理工学部の教授兼科目リーダーである梁暁耀氏をフォーラムの議長として招待できることを光栄に思います。ハードウェア・エコロジー共創計画のメンバーの中の多数の上級専門家と企業代表者が、コンピューティング能力とアルゴリズムの面での綿密な統合と協力、機能アップグレードについて共有し、ソフトウェアとハ​​ードウェアの統合スキームについて共同で議論します。 Wenxin と Flying Paddle の共有生態学的構築と革新的な実践計画に基づいており、大規模モデルのトレーニングと推論展開のための最先端のテクノロジーを共有しています。
レポートのトピック

ここに画像の説明を挿入

リャン・シャオヤオ

上海交通大学コンピュータ理工学部教授兼学術指導者

大規模な産業エコロジーを構築するためのソフトウェアとハ​​ードウェアのコラボレーション

大型モデルのもとではコンピューティングパワーへの需要が爆発的に増大しており、コンピューティングパワーチップのブレークスルーをいかに模索するか、ソフトウェアとハ​​ードウェアの協調的なエコシステムの構築が鍵となる。過去1年間の大型モデルの急速な台頭は、チップ業界に活性化の歴史的な機会を与えた。現時点では、現在の覇者であろうと新興の新人であろうと、業界全体の力を結集して、優れた大型モデルエコロジーを構築するために協力する必要があります。

ここに画像の説明を挿入

鄭斌

NVIDIA×Flying Paddle、シニア プロダクト リーダー、NVIDIA アジア パシフィック
: 卓越したパフォーマンスにより、数千の業界で AI の使用が可能になります。
生成 AI アプリケーションが開花し、過去 6 か月で私たちの生活様式が大きく変わり、生産効率が大幅に向上しました。生産性、働く能力。この基調講演では、新しい NVIDIA ハードウェアとソフトウェア スタックを使用することで、大規模言語モデル (LLM) の開発者がコストを削減して効率を向上させ、技術革新を達成し、機密コンピューティング機能を通じて LLM 企業の信頼を獲得できることが共有されます。 。

ここに画像の説明を挿入

趙玉平

Intel 人工知能アーキテクト
Intel×Flying Paddle: コアの加速がさらに前進し、新しい AI レイアウトを共有
2017 年に協力が始まって以来、Baidu Flying Paddle とインテルは協力の深さと幅を拡大し続けてきました。インテルのフルスタック AI 製品にハードウェアから積極的に対応し、ソフトウェアレベルでも緊密な協力を行っており、その詳細については今回の基調講演で共有します。一方、最近、大規模言語モデル (LLM) が機械学習の世界全体を席巻しています。LLM は、一部のシナリオの低遅延要件を満たすために大量のコンピューティング能力を必要とし、関連コストが多くの組織にとって法外な金額になる可能性があります。この基調講演では、LLM サイズと推論レイテンシーを削減し、AMX (Advanced Matrix Acceleration Engine) を呼び出すインテル第 4 世代 Xeon プロセッサーで効率的に実行できるようにする最適化テクニックについて説明します。

ここに画像の説明を挿入


Sugon Intelligent Computing Application and Promotion Division の部長、Ming Libo
氏 Sugon × Flying Paddle:デジタル変革を完全にサポートするパブリック コンピューティング サービス
超大規模モデルの継続的な成熟により、人工知能業界は徐々に 2.0 時代に入りました。Sugon と Baidu Flying Paddle は、大型モデルの事前トレーニング、業界モデルの微調整、アプリケーションの適応とドッキング、アプリケーション モールの構築などの分野で緊密に協力しており、人工知能のソフトおよびハード エコロジーの改善を継続しています。 、次世代の人工知能テクノロジーの開発と実装のための強力な基盤を提供します。
ここに画像の説明を挿入

徐鎮

Kunlun 中核政府企業/スマート コンピューティング センター ビジネスのゼネラル マネージャー

Kunlun Core × Flying Paddle: エンドツーエンドの最適化により、大型モデルの時代における AI の「コア」パワーを創出

大規模モデルの時代はコンピューティングパワーの供給に課題をもたらしていますが、Kunlun Core はソフトウェアとハ​​ードウェアの協調的なイノベーションを堅持し、市場の需要に応じて大規模モデル向けのエンドツーエンドのソリューションを立ち上げ、業界をリードしていますパフォーマンスと実装結果において。大型モデルがもたらす前例のない機会に直面して、Kunlun Coreは、Baidu Flying Paddleなどの上流および下流のパートナーとしっかりと手を結び、我が国の人工知能産業の中核「中核」の競争力の向上を加速します。

ここに画像の説明を挿入


天樹志新ソフトウェアアプリケーション研究開発ディレクター、燕燕氏
天樹志新×フライングパドル:大型模型産業の中核パラダイムを構築するためのルーツと基盤の確立
クラウドベースの汎用モデルの大量生産を実現した初期の国内企業としての天樹志新-目的のGPUは、キロカロリースケールに基づく1,000億近くのパラメータ事前トレーニング、フルパラメータ/高効率パラメータの微調整、業界の大規模モデル推論を含む、大規模モデルの着陸分野で多くの事例を達成しています-インワンマシンなど ソフトウェアスタックは主流のエコロジーと互換性があり、トレーニング製品のTiangai 100は短期間でフライングパドルフレームワークとの3レベルの適応と相互認識を迅速に完了し、後期には両者はさらに協力する予定です。オープンエコロジーに基づいた完全なトレーニング、推論、アルゴリズムプラットフォームを共同で構築する方向性。ソフトウェアとハ​​ードウェアを統合したソリューションが業界を強化します。

ここに画像の説明を挿入

ディン・ユンファン

Biren Technology システムアーキテクチャ担当副社長Biren Technology × Flying Paddle: イノベーションに終わりはなく、
高性能汎用 AI 施設の
構築における GPT のような大規模モデルの分散トレーニングには大きなギャップがあるモデルパラメータのスケール、計算能力のスケール、トレーニングのパフォーマンスなどの課題があり、大規模なモデルの適用には高コストと長い遅延の問題もあります。このレポートでは、主に GPT 大規模モデルの分散並列トレーニング戦略、Biren Technology の大規模な計算能力の汎用 GPU に基づく大規模モデル トレーニング システムと低遅延で高性能な大規模モデル推論エンジンの構築方法、および最後に、Biren TechnologyとBaidu Flying Paddleの協力と、人工知能ソフトウェアとハ​​ードウェアの基本的な生態学と大規模モデルの進歩を共有します。

ここに画像の説明を挿入

ラウンド テーブル フォーラム: Wenxin の大規模モデルがエンドツーエンド AI を強化

Baidu、Qualcomm、MediaTek、Amou Technology のエンドツーエンド ハードウェア ベンチマーク企業 3 社は、エンドツーエンド AI を強化する Wenxin 大型モデルの応用見通しについて共同で議論しました。ハードウェア企業 3 社の代表者が、大規模モデル テクノロジーをサポートするエンドサイド ハードウェアの最新の進歩を共有し、Wenxin 大規模モデルとエンドサイド ハードウェア テクノロジー製品を組み合わせる方法、Wenxin 大規模モデルの強力な機能を使用する方法について話し合います。エンドツーエンドのサイド AI アプリケーションの開発をさらに促進し、増え続けるユーザーのニーズに応えます。

さらに、Flying Paddle + Wenxin Large Model はハードウェア メーカーと協力して、このフォーラムで Flying Paddle + Wenxin Large Model ハードウェア生態共創計画を共同リリースします。
ここに画像の説明を挿入

おすすめ

転載: blog.csdn.net/PaddlePaddle/article/details/132211119