为什么向量化可以大幅度加快速度？

版权声明：署名，允许他人基于本文进行创作，且必须基于与原先许可协议相同的许可协议分发本文 （Creative Commons）

为什么向量化可以大幅度加快速度？

仿照吴恩达老师课堂中的示例：

import numpy as np
import time

a = np.random.rand(1000000)
b = np.random.rand(1000000)
tic = time.time()
c1 = np.dot(a,b)
toc = time.time()
print(c1)
print("Vectorrized version:"+str(1000*(toc-tic))+"ms")

tic = time.time()
c2 = 0
for i in range(1000000):
    c2 += a[i]*b[i]
toc = time.time()

print(c2)
print("For loop:"+str(1000*(toc-tic))+"ms")

输出：

250374.14909359306
Vectorrized version:0.9965896606445312ms
250374.14909359868
For loop:461.7724418640137ms

向量计算比循环快400倍，为什么？

• Python是解释语言，这意味着你的指令进行分析，并在每次执行解释。由于它们不是静态类型的，因此循环必须在每次迭代时评估操作数的类型，这导致计算开销。
• 向量化可以使一条指令并行地对多个操作数执行相同的操作（SIMD（单指令，多数据）操作）。例如，要将大小为N的向量乘以标量，让我们调用M可以同时操作的操作数大小。如果是这样，那么它需要执行的指令数大约为N / M，如果采用循环方式，则必须执行N次操作。