GPUサーバーとは？
文字通り、GPU サーバーはサーバーの一種です. 簡単に言えば、GPU サーバーは、ビデオのエンコードとデコード、深層学習、および科学計算における CGP アプリケーションに基づく、安定、高速、安定、および柔軟なコンピューティング サービスです。では、GPU サーバーの役割とは正確には何なのでしょうか? GPU サーバーの選び方
GPU サーバーは何をしますか?
GPU で高速化されたコンピューティングは、驚異的なアプリケーション パフォーマンスを提供し、CPU で他のプログラミング コードを実行しながら、アプリケーション コンピューティングのワークロードの一部を GPU に移行できます。ユーザーから見ると、アプリケーションソフトウェアの動作速度が大幅に高速化されます。
GPU と CPU の違いを理解する簡単な方法は、タスクの処理方法を比較することです。CPU はシーケンシャル シリアル通信処理用に最適化された複数のコアで構成され、GPU は複数のタスクを同時に処理するように設計された無数のより小型で効率的なコアで構成されるスケールを持ち、並列処理のためのコンピューティング アーキテクチャです。
GPU サーバーの主な応用分野
マスコンピューティング処理
GPUサーバーの強力な計算機能は、検索、インターネットビッグデータレコメンデーション、インテリジェントインプットメソッドなど、膨大な情報処理レベルの計算に適用できます。 GPU サーバーを使用して数時間以内に計算されます。本来クラスタをまとめて計算するには数十台のCPUサーバーが必要でしたが、それぞれのGPUサーバーを利用することができます。
深層学習モデル
GPU サーバーは、ディープ ラーニング トレーニングのサービス プラットフォームとして使用できます。
GPU サーバーはコンピューティング サービスを即座に高速化でき、外部接続との通信も即座に行うことができます。
GPU サーバーを正しく選択するには?
GPU サーバーを選択するときは、まずビジネス要件を考慮して、適切な GPU モデルと仕様を選択する必要があります。HPC の高性能計算では、精度によっても選択する必要があります.たとえば、一部の高性能計算には倍精度が必要です.現時点では、RTX4090 または RTX A6000 を使用することは適していません.H100 または A100 のみを使用できますさらに、メモリ容量も影響を受けます. 石油または石油化学探査などのコンピューティング アプリケーションなどの要件があり、グラフィックス カード メモリの要件が比較的高く、システム バス仕様の要件もある場合があります。 GPU モデルの仕様では、まずビジネス要件を確認する必要があります。
GPU モデルの仕様を選択したら、使用する GPU サーバーを検討します。このとき、次のような状況を考慮する必要があります。
1. リモート センシング画像、生体情報、マシン ビジョン、ビッグ データ、その他のさまざまなシナリオ、科学研究の方向性、環境など、サーバーのアプリケーション シナリオを考慮して、アプリケーション シナリオを考慮する必要があります。
2. 顧客自身のアプリケーション グループと IT の運用および保守能力を考慮する必要がある BAT のような大企業の場合、運用能力が比較的強いため、現時点では、汎用の PCI-e サーバーを選択し、一部の IT の場合は、それらを選択します。運用・保守 能力の低いお客様ほど、データやデータのラベリングなどに関心があります。私たちはこのような人々をビッグデータエンジニアと呼んでおり、GPUサーバーを選択する基準もさまざまです。
3. サポート施設、アプリケーション ソフトウェア、およびサービスの使用価値を考慮する必要があります。
4. GPU クラスター システム全体の完成度とプロジェクトの効率性を考慮する必要があります.たとえば、DGX のような GPU 統合を備えた特殊なコンピューターでは、最下層のオペレーティング システム ドライバー Docker から他の部分に至るまで、非常に完全なシステムがあります.修正され最適化されており、現時点では効率が比較的高いです。
GPU サーバーにはどのような種類がありますか?
GPU サーバーを分類するには、まず GPU サーバーを分類する角度 (次元) を決定する必要があります。
1. GPU サーバーの形状による分類。タワー GPU サーバーとラック GPU サーバーに分割
1) タワー GPU サーバー
タワー GPU サーバーのケースは比較的大きく、サーバー構成は非常に高くすることができ、冗長性の拡張は非常に完全である可能性があるため、その適用範囲は非常に広く、使用率が最も高いサーバーはタワー サーバーであると言えます。 . 私たちが通常話している汎用サーバーは、一般にタワーサーバーであり、速度アプリケーションであろうとストレージアプリケーションであろうと、さまざまな一般的なサービスを統合できます。タワーサーバーを使用してそれらを解決できます。コストは、ラックおよびブレード サーバーよりも低くなります。シャーシが大きいため、拡張性と放熱性に優れており、複数のプロセッサ、複数のメモリ スティック、複数のハードディスク、複数の冗長電源、および冷却ファンで構成できます。
2) ラックサーバー
見た目はパソコンではなくスイッチで、1U（1U=1.75インチ=4.445cm）、2U、4Uなどの仕様があります。ラック サーバーは、標準の 19 インチ キャビネットに取り付けられます。この構造は、ほとんどが機能的なサーバーです。
情報サービス会社 (ISP/ICP/ISV/IDC など) の場合、サーバーを選択する際には、サーバーの容量、消費電力、発熱などの物理的なパラメーターを最初に考慮する必要があります。コンピューター室は通常、厳重なセキュリティ対策、優れた冷却システム、および複数のバックアップ電源システムを備えており、コンピューター室のコストは非常に高価です。
限られたスペースにどのように多くのサーバーを配置するかは、企業のサービス コストに直結します. 機械的サイズが 19 インチの業界標準を満たすラックマウント型サーバーが通常選択されます.
ラックサーバーにも、1U（高さ4.445cm）、2U、4U、6U、8Uなど、さまざまな仕様があります。一般的に、1U ラック サーバーは最も省スペースですが、パフォーマンスとスケーラビリティに劣り、比較的固定された一部のビジネス分野に適しています。4U を超える製品は高性能でスケーラビリティに優れており、一般に 4 つ以上の高性能プロセッサと多数の標準的なホットスワップ可能なコンポーネントをサポートしています。管理も非常に便利で、メーカーは通常、アクセス量の多い重要なアプリケーションに適した対応する管理および監視ツールを提供していますが、ボリュームが大きく、スペースの使用率は高くありません。
2.GPUサーバーインターフェースによる分類
現在市場で入手できるのは、主に従来の PCI-e バスと NV-Link インターフェイスです。
1) NV-Link バス技術標準 GPU サーバー
NV-LinkインターフェースGPUの代表的な代表が、SXM2インターフェースを採用したNVIDIA V100です。DGX 2 には SXM3 インターフェイスがあります。NV-Link バス標準を備えた GPU サーバーは、2 つのカテゴリに分けることができます。1 つは Nvidia が設計した DGX スーパーコンピューターで、もう 1 つは Nvidia パートナーが設計した NV-Link インターフェイスを備えたサーバーです。DGX スーパーコンピュータは、ハードウェアだけでなく、関連するソフトウェアとサービスも提供します。
2) 従来の PCI-e データ バス GPU サーバー
従来の PCI-e バス GPU サーバーは 2 つのカテゴリに分類され、1 つは Sugon、Inspur、Huawei、Fenghu などの有名な国内ブランドなどの OEM サーバーであり、もう 1 つは多くの種類を含む非 OEM サーバーです。
3. サーバー環境による分類
強化された GPU サーバーは、アンチハーシュ環境 GPU サーバーとも呼ばれます。一般に、車載 GPU サーバー、ミサイル搭載 GPU サーバー、空中 GPU サーバー、船舶 GPU サーバー、およびその他の特殊な産業用アプリケーションなど、特殊な環境で動作する GPU サーバーを指します。GPU サーバー アプリケーション インジケーターは、アプリケーション業界やアプリケーション環境によって異なります。一般的に言えば、搭載GPUサーバーの最も重要な技術指標は高温と低温の指標であり、空中GPUサーバーの最も重要な技術指標は振動指標（衝撃振動または平均速度振動）であり、最も重要な技術指標は艦船GPUサーバーのテクニカル指標は3つのプルーフ指標（ソルト、フォグ、フロスト）で、ミサイル搭載GPUサーバーが必要とするテクニカル指標はより充実！マニュファクチャラーは、706、716、909 などのほぼすべてのナショナル チームです。
4. GPUの放熱による分類
水冷GPUサーバーと水冷GPUサーバーの最大の違いは、放熱の仕方です。水冷サーバーの放熱方式は水（現在、水の熱効率は液体よりも優れている）ですが、水は電気を通す汎用性があるため、水冷サーバーはまだ市場に普及していません。 . 水冷GPUサーバーは違います. 水冷GPUサーバーは、熱効率比、熱伝導率、信頼性など様々な指標技術を統合した総合技術の産物です。最大の特徴は静音性と35％の省エネです。現在、メーカーには、Fenghu Yunlong TL45、Ali、Baidu、ByteDance (開発中) などがあります。
5. CPUブランドによる分類
GPU ブランド タイプに応じて、Intel プロセッサを搭載した GPU サーバー、AMD プロセッサを搭載した GPU サーバー、または ARM チップを搭載した GPU サーバーに分けることができます。
6. 適用シナリオによる分類
アプリケーション シナリオに従って、GPU サーバーは、グラフィックス アクセラレーション GPU サーバー (ビデオ コーデックなど)、AI トレーニング GPU サーバー、AI 推論 GPU サーバー、および科学計算 GPU サーバーに分けることができます。
