什么是计算图？
从一个例子入手：
将函数J的计算用流程图表示出来，这样的流程图被称为计算图
简单来说，计算图是用来显示每个变量间的关系的一种图
两种传播方式
计算图有两种传播方式：前向传播 和 后向传播
什么是前向传播？
还是以函数
为例，前向传播就是将计算函数J的值的每一个过程表示出来，类似分步计算
什么是后向传播？
后向传播就是从最后一个方框开始，逐步向前求最终输出变量 (FinalOutput Variable )对普通变量(variable )的导数，记为：
,在函数的例子中，最终输出变量是变量J的值，所以导数写为：
,在编程代码中，为了简便，通常将导数记作：
,当我们求出对所有普通变量的导数后，我们也就清楚了每个变量
对于变化的影响程度，同时，这些导数也可以用来更新 变量(即梯度下降法)，方便进行迭代计算
后向传播的计算方法
简要来说，就是求导
但是，我们可以利用链式法则 (chain rule)来简化计算
比如：当我们求完 
之后,之后我们要求 
,可以进行拆分 ，拆分成：
, 这样我们只需要求 
,并将上一次求出的 代入即可求出
同理之后每个导数都可以拆分成两个导数，进行简化运算