05 - 프로그래밍 프레임워크 메커니즘

1. TensorFlow 설계 원칙

1. 고성능

TensorFlow의 연산자는 설계 프로세스 중에 기본 하드웨어 아키텍처에 대해 완전히 최적화되었습니다. TensorFlow는 생성된 계산 그래프에 대해 일련의 최적화 작업을 제공하여 계산 그래프의 작업 효율성을 향상시킵니다.TensorFlow 调度器可以根据网络结构特点,并发运行没有数据依赖的节点。

2. 쉬운 개발

TensorFlow는 기존의 다양한 딥 러닝 알고리즘에 대한 다수의 공통 작업을 추출하여 연산자로 캡슐화합니다. 사용자가 알고리즘 개발을 위해 TensorFlow를 사용할 때 이러한 연산자를 직접 호출할 수 있으므로 알고리즘을 구현하는 데 매우 편리합니다.

3. 휴대용

TensorFlow는 다양한 유형의 이기종 시스템에서 작동할 수 있으며, 통합된 사용자 프로그램이 서로 다른 하드웨어 플랫폼에서 실행될 수 있도록 각 연산자에 대해 서로 다른 장치에서 구현(예: 행렬 곱셈)을 제공합니다.

2. TensorFlow 컴퓨팅 그래프 메커니즘

1. 연산 그래프 자동 도출

딥러닝에서는 일반적으로 모델 파라미터를 업데이트하기 위해 경사하강법을 사용하지만, 복잡한 모델의 경우
수동으로 경사도를 계산하기가 매우 어렵습니다. 현재 대부분의 딥러닝 프레임워크는 자동 기울기 계산 기능을 제공하며, 사용자는 순방향 계산 프로세스만 설명하면 프로그래밍 프레임워크는 자동으로 역방향 계산 그래프를 도출하여 미분 계산을 완료합니다.

① 수동 솔루션 방법(기울기 공식을 수동으로 체인 규칙을 사용하여 값을 대입하여 최종 기울기 값을 얻음), 단점: (1) 기울기 솔루션 코드를 수동으로 작성해야 함, (2) 알고리즘을 수정할 때마다 모델, 당신은해야합니다

Guess you like

Origin blog.csdn.net/m0_51339444/article/details/130179307