記事ディレクトリ
- アプリケーション : HUAWEI Da Vinci アーキテクチャ
https://support.huaweicloud.com/intl/en-us/odevg-A800_9000_9010/atlaste_10_0007.html - PPT : DaVinci: ニューラル ネットワーク コンピューティングのためのスケーラブルなアーキテクチャ
https://www.cmc.ca/wp-content/uploads/2020/03/Zhan-Xu-Huawei.pdf
関連ブログ
- ダヴィンチアーキテクチャの徹底した解釈：ファーウェイのAIチップの「秘密兵器」
https://baijiahao.baidu.com/s?id=1642553630954055619 - Ascend AI プロセッサ: Da Vinci アーキテクチャ
http://sfyh.hnbdata.cn/aipath/frames/ascend/intro/davinci.html - 呉建明 wjianming: ダ ヴィンチ建築 NPU
https://zhuanlan.zhihu.com/p/352481421
- コンピューティングユニット
- キューブ
- ベクター
- スカラー
- 記憶装置
- コントロールユニット
Ascend AI プロセッサのコンピューティング コアとして、AI コアは計算集約型のベクトルおよびテンソル オペレーターの実行を担当します。
これは、現代のマイクロプロセッサの構造を簡略化したものとみなすことができます。これには、行列計算ユニット (キュービック ユニット)、ベクトル計算ユニット (ベクトル ユニット)、およびスカラー計算ユニット (スカラー ユニット) の 3 つの基本的な計算リソースが含まれています。
これら 3 つのコンピューティング ユニットは、テンソル、ベクトル、スカラーという 3 つの一般的なコンピューティング モードに対応します。
実際の計算プロセスでは、3 つの計算ユニットがそれぞれ役割を果たし、3 つの独立した実行パイプラインを形成し、システム ソフトウェアの統一されたスケジューリングの下で相互に連携し、計算効率の最適化を実現します。
さらに、キューブ セルとベクトル セルは、さまざまな精度とさまざまなタイプの計算モードをサポートします。
AIコアアーキテクチャ
AIコアは演算ユニット、記憶ユニット、制御ユニットで構成されます。
- コンピューティング ユニット
AI コアの実行ユニットには、さまざまな種類のデータのコンピューティング ユニットである Cube、Vector、Scalar が含まれます。 - ストレージ ユニット
AI コアは、計算のために外部データを内部メモリにロードします。
プログラマが認識できる内部ストレージ デバイスには、L1 バッファ、L0 バッファ、ユニファイド バッファ、汎用レジスタ (GPR)、特殊目的レジスタ (SPR)、およびスカラー バッファが含まれます。
AI コア内のデータ転送と移動を容易にするために、バス インターフェイス ユニット (BIU)、メモリ転送エンジン 1 (MTE1)、MTE2、および MTE3 が提供されます。
BIU は、AI コアとバス間の対話のためのインターフェイスを提供します。
MTE は、異なるバッファ間でデータを移動します。 - コントロール ユニット
AI コアのコントロール ユニットには、システム コントロール、スカラー PSQ、Instr.Dispatch、Cube Queue、Vector Queue、MTE Queue、および Event Synchronization が含まれます。システム制御は、AI コアの動作モード、パラメータ設定、消費電力制御を担当します。
スカラー PSQ は主に制御命令をデコードするために使用されます。
Instr.Dispatch モジュールを使用して命令がデコードされ、順次送信された後、タイプごとにそれぞれ Cube Queue、Vector Queue、または MTE Queue モジュールに送信されます。
ファーウェイ AI パノラマ
伊織 2023-08-04(金)