大規模モデルと生成 AI という大きな風を受けて、NVIDIA は従来のデータ センター アクセラレーション コンピューティング データ センターのハイエンド市場への参入を精力的に提唱し、率先して取り組んでいます。AI とビッグデータの時代に入って以来、「アクセラレーテッド コンピューティング」という概念が業界に登場しました。簡単に理解すると、アクセラレーション コンピューティングとは、GPU、FPGA、さまざまな DPU などのアクセラレーション チップと関連ソフトウェア テクノロジを使用して、従来のデータセンター コンピューティングを「加速」し、AI、ビッグ データ、エッジ コンピューティングなどの特定のコンピューティング シナリオのニーズを満たすことを意味します。
2023 年初頭に大規模モデルと生成 AI が爆発的に増加して以来、アクセラレーション コンピューティングは一夜にして業界の「見出し」を急速に飾り、NVIDIA もこの市場の熱狂の波の中で市場価値が 1 兆ドルに達しました。業界は「多額のお金」を稼いだ。アクセラレーテッド コンピューティングをさらに強化するために、NVIDIA は、少し前の COMPUTEX 2023 で生成 AI データ センター ソリューションのフルセットを発表しました。特に、生成 AI 用に特別に構築された世界初の Spectrum-X イーサネット ネットワーク アーキテクチャは、まったく新しいAIクラウド高性能データセンター市場。
新たに発表された NVIDIA Spectrum-X ネットワーク プラットフォームは、既存のデータセンター ネットワークを再構築したもので、イーサネットをベースに、NVIDIA BlueField-3 DPU を使用してホスト側のネットワークとアプリケーションを高速化するとともに、NVIDIA の高いパフォーマンスを組み合わせています。 Spectrum-4 イーサネット スイッチと対応するソフトウェアは、クラスター内で GPU 間の効率的な通信を実現できるため、数百のサーバーを大規模なクラスターに接続して、数千または数万の GPU カードを備えたスーパースケールを形成できます。大規模なモデルのトレーニングの要件を満たすためのセンター、これが生成 AI データ センターです。
これに先立ち、NVIDIA は第 4 世代まで開発された NVLink スイッチ テクノロジーを発表し、クラスター内でサーバー間の GPU 間通信を実現し、最大 32 台のサーバーと 256 枚の GPU カードを接続できます。 COMPUTEX 2023 にて スーパーコンピューターは、NVLink スイッチ テクノロジーで構築された初の「巨大 GPU」です。256 個の GH200 Grace Hopper チップと 144TB の共有メモリが接続され、256 個の GPU を備えた共有メモリ プラットフォームを構築します。
NVIDIA は、イスラエルで Israel-1 と呼ばれる生成 AI クラウド スーパーコンピューターを構築しています。Israel-1 は、それぞれ 8 つの GPU を備えた 256 台の HGX ベースのデル サーバーで構成されています。つまり、合計 2048 枚の GPU カードと、BlueFiled-3 DPU を備えた 2560 枚の GPU カードで構成されています。 80 個を超える Spectrum-4 スイッチを搭載し、8 EFlop/秒のピーク AI パフォーマンスに達することができ、世界トップランクの AI スーパーコンピューターの 1 つとなります。
2020 年にはすでに、NVIDIA はサーバーとストレージ向けの高性能接続ソリューションを提供するイスラエルのプロバイダーである Mellanox Technology の買収を完了しました。もちろん、Mellanox は InfiniBand テクノロジーの強力な推進者であり、InfiniBand は RDMA テクノロジーを使用してリモート GPU メモリに直接アクセスするネットワーク テクノロジーです。NVIDIA Quantum-2 InfiniBand プラットフォームは、NVIDIA のもう 1 つのネットワーク プラットフォームであり、よりハイエンドの GPU を実現するために使用されます。相互接続ネットワーク。
Israel-1 の構成から、Israel-1 はサーバー業界およびデータセンター業界に対して高性能イーサネットベースの生成 AI データセンター構築の実現可能性を検証することを目的としていることがわかります。
既存のイーサネット技術ソリューションに基づく従来のデータセンターと比較して、Israel-1 はまったく新しい設計アーキテクチャを提供し、BlueFiled-3 DPU を使用してホスト側のネットワークと主要なアプリケーションを高速化することで、Spectrum-4 が従来のスイッチを置き換えてネットワークを実現しますセンターでの高速データ交換とビジネス パフォーマンスの分離、LinkX はエンドツーエンドのデータ整合性の確保に役立ち、NVIDIA フルスタック AI ソフトウェアは効率的で使いやすいオペレーティング プラットフォームを提供し、生成的なパフォーマンスの追求に応えます。イーサネット プラットフォーム上の AI データ センター。
簡単に理解すると、NVIDIA は従来のデータセンター市場、つまりハイエンド AI ファクトリーやジェネレーティブ AI データセンターの高級版を攻撃するのではなく、全く新しいデータセンター市場、未来志向のデータセンター市場を創造しているということです。これは、Android の最高構成と Apple の最高構成のスマートフォンに相当し、従来の携帯電話市場を完全に覆しました。NVIDIA はこの市場で輝きを生み出せるか? また、生成型 AI が、最終的には従来の AI のように沈静化するのではなく、真の産業になれるかどうかにもかかっています。
ゴールドマン・サックスのエコノミストに続き、マッキンゼーも「生成的AIの経済的可能性」レポートを発表し、世界の労働力の80％を基本的にカバーする47カ国における850の職業、63の適用例、2,100以上の詳細な労働活動を分析・調査した。マッキンゼーが分析した 63 の生成 AI ユースケースは 16 のビジネス シナリオをカバーしており、毎年 2 兆 6000 億～4 兆 4000 億米ドルの経済的利益を世界にもたらす可能性があります。マッキンゼーはまた、生成 AI を知識労働者の地位に適用すると、毎年 6 兆 1,000 億～7 兆 9,000 億米ドルの経済的利益を世界にもたらすことができ、これはビジネス シナリオの使用例よりも高いことも発見しました。マッキンゼーは、2023 年から 2040 年までに、生成 AI によるビジネス プロセスの自動化が世界の生産性の 0.2% ～ 3.3% を提供できると推定しています。
一般に、生成 AI のビジネス展望は急速に具体化されており、実際にすべての人やすべての企業に生産性と生産性の向上をもたらすことができます。また、生成 AI データセンターに対する NVIDIA の「賭け」は、世界のデータセンター業界に新たな可能性をもたらしている可能性があります。嵐。