python/numpy/pytorch 的广播机制
一、python 广播机制
在python中使用 numpy 进行按位运算的时候，有一个小技巧可以帮助减少代码量——那就是broadcasting，广播机制。
例子：
A = numpy.array([1, 2, 3])
result = A + 100
print(result)
运行后结果
[101 102 103]
broadcasting 机制在深度学习函数构建中应用得很广，比如说我们在逻辑回归函数中，激活函数 z = wT * X + b, b是一个数而前面的 wT * X 是一个 1*n 的矩阵，由于python这种机制，不需要我们为b构建向量，这就减轻了代码量。
二、pytorch 广播机制
tensor （张量）的广播原则：加常数，则每一个元素都加。
a = torch.rand(2, 3)
print(a)
b = a + 1
print(b)
运行结果
