请问GPU上做单精度浮点运算的精度与CPU是否完全一致?
如果出现最大0.001级的误差是否可视为正常情况呢
好像是一致的吧
呵呵,刚好最近也在弄这个问题
GPU与CPU的单精度浮点运算遵循同样的精度标准,但由于float型本身的限制,如精度丢失,CPU与GPU的结果总会存在一定的误差,这个你可以写一个很简单的程序进行测试
0.001的误差是否正常根据你的数据而定,一般都以相对误差而不是绝对误差来衡量
最大相对误差一般要在1e-6以下
请问GPU上做单精度浮点运算的精度与CPU是否完全一致?
如果出现最大0.001级的误差是否可视为正常情况呢
好像是一致的吧
呵呵,刚好最近也在弄这个问题
GPU与CPU的单精度浮点运算遵循同样的精度标准,但由于float型本身的限制,如精度丢失,CPU与GPU的结果总会存在一定的误差,这个你可以写一个很简单的程序进行测试
0.001的误差是否正常根据你的数据而定,一般都以相对误差而不是绝对误差来衡量
最大相对误差一般要在1e-6以下