기사 디렉토리
- 신청 : HUAWEI Da Vinci Architecture
https://support.huaweicloud.com/intl/en-us/odevg-A800_9000_9010/atlaste_10_0007.html - PPT : DaVinci: 신경망 컴퓨팅을 위한 확장 가능한 아키텍처
https://www.cmc.ca/wp-content/uploads/2020/03/Zhan-Xu-Huawei.pdf
관련 블로그
- Da Vinci 아키텍처에 대한 심층적 해석: 화웨이 AI 칩의 "비밀 무기"
https://baijiahao.baidu.com/s?id=1642553630954055619 - Ascend AI 프로세서: Da Vinci 아키텍처
http://sfyh.hnbdata.cn/aipath/frames/ascend/intro/davinci.html - Wu Jianming wujianming: Da Vinci Architecture NPU
https://zhuanlan.zhihu.com/p/352481421
- 컴퓨팅 유닛
- 입방체
- 벡터
- 스칼라
- 저장 장치
- 제어 장치
Ascend AI 프로세서의 컴퓨팅 코어인 AI 코어는 계산 집약적인 벡터 및 텐서 연산자의 실행을 담당합니다.
이는 현대 마이크로프로세서의 단순화된 구조로 볼 수 있다. 여기에는 행렬 컴퓨팅 단위(입방체 단위), 벡터 컴퓨팅 단위(벡터 단위) 및 스칼라 컴퓨팅 단위(스칼라 단위)의 세 가지 기본 컴퓨팅 리소스가 포함됩니다.
이 세 가지 컴퓨팅 단위는 텐서, 벡터, 스칼라라는 세 가지 일반적인 컴퓨팅 모드에 해당합니다.
실제 컴퓨팅 프로세스에서 3개의 컴퓨팅 유닛은 각각 자신의 임무를 수행하고 3개의 독립적인 실행 파이프라인을 형성하며 시스템 소프트웨어의 통합 스케줄링에 따라 서로 협력하여 컴퓨팅 효율성의 최적화를 달성합니다.
또한 큐브 셀과 벡터 셀은 다양한 정밀도와 다양한 유형의 계산 모드를 지원합니다.
AI 코어 아키텍처
AI 코어는 컴퓨팅 유닛, 저장 유닛, 제어 유닛으로 구성된다.
- 컴퓨팅 유닛
AI 코어의 실행 유닛에는 다양한 유형의 데이터에 대한 컴퓨팅 유닛인 큐브(Cube), 벡터(Vector), 스칼라(Scalar)가 포함된다. - 저장 장치인
AI Core는 계산을 위해 외부 데이터를 내부 메모리에 로드합니다.
프로그래머가 볼 수 있는 내부 저장 장치에는 L1 버퍼, L0 버퍼, 통합 버퍼, 범용 레지스터(GPR), 특수 목적 레지스터(SPR) 및 스칼라 버퍼가 포함됩니다.
AI 코어에서는 데이터 전송 및 이동을 용이하게 하기 위해 버스 인터페이스 유닛(BIU), 메모리 전송 엔진 1(MTE1), MTE2, MTE3이 제공된다.
BIU는 AI 코어와 버스 간의 상호작용을 위한 인터페이스를 제공합니다.
MTE는 서로 다른 버퍼 간에 데이터를 이동합니다. - 제어 장치
AI Core의 제어 장치에는 System Control, Scalar PSQ, Instr.Dispatch, Cube Queue, Vector Queue, MTE Queue 및 EventSynchronization이 포함됩니다. 시스템 제어는 AI Core의 작동 모드, 매개변수 구성, 전력 소비 제어를 담당합니다.
스칼라 PSQ는 주로 제어 명령을 디코딩하는 데 사용됩니다.
Instr.Dispatch 모듈을 사용하여 명령어를 디코딩하고 순차적으로 전송한 후 유형별로 각각 Cube Queue, Vector Queue 또는 MTE Queue 모듈로 전송됩니다.
화웨이 AI 파노라마
이오리 2023-08-04 (금)