前言
算法的实现过程就是张量进行各种运算的过程，而计算图（Computational Graph）就是记录这些运算过程的有项无环图，比如输入张量经过加、减、乘、除得到输出张量，那么计算图就会记录输入输出张量、加减乘除运算和一些中间变量。自动求导是很重要的方法，有这样的机制，可以让我们在设计模型的时候避免繁琐的梯度计算。本笔记的框架主要来源于深度之眼，并作了一些相关的拓展，拓展内容主要源自对torch文档的翻译理解和一些介绍tensorflow和Pytorch的网站。
静态图与动态图
Pytorch的计算图是动态的，即边运行代码边生成计算图，是一个不断完成的过程；Tensorflow的计算图是静态的，即先确定计算图结构，然后只是在计算图中流动数据，也就是张量流动（tensor flow）
tensorflow，tensor在计算图中流动，图片来自一介绍tensorf的国外网站。
Pytorch，执行一行代码，并在原来计算图上添加新的计算图，图片来自github上的Pytorch
