CUDA优化--核函数--浮点数类型转换

在编写CUDA内核时,遇到一个问题,如下在核函数中使用一个2.1的浮点数,没有作类型声明,如(float)2.1或double(2.1)..

一. 实际上,cuda默认2.1是double,在核函数计算过程中进行了类型转换,流水线中arithmetic workload和单精度的计算峰值的分析结果如下:

好吃惊!!!43.98%用于FloatP64转换,35%用于数值计算,浪费太严重,峰值性能只有114.83GFlops。

内核的执行时间约为6000微妙左右。

二. 于是乎,提前对数据类型进行了声明,新的分析结果如下:

流水线中的类型转换被消除,峰值性能提身高300GFlops。内核的执行时间降低至2500微妙左右。

花了好几天的时间才注意到这个问题,还在那使劲地作访存优化

发布了56 篇原创文章 · 获赞 30 · 访问量 6万+

猜你喜欢

转载自blog.csdn.net/qq_17239003/article/details/79433340