化整[修整,舍入]误差;

但是,我们还是要牢记我们做的并不是十进制运算,任何一个浮点预算都有可能产生一个新的错误。
来源:互联网摘选Taxes are rounded off to the nearest dollar but the rounding error is surprisingly small.
税款被舍入到最接近的金额,但舍入的错误却令人吃惊地小.
来源:网络文摘精选Rounding error study of calculator floating-point numbers arithmetic operation
计算机浮点数算术运算的舍入误差研究
来源:互联网摘选基于脉冲乘法器原理的精插补器的插补精度与最大进给速度、机床系统的脉冲当量、插补周期以及脉冲发生器的输出脉冲频率有关,其误差产生的主要原因是由分频数圆整造成的。
来源:互联网摘选该转换表达式避免了数值积分法求解蠕变柔量值产生舍入误差和采用拉氏变换的繁琐计算。
来源:互联网摘选That's less than 1 % of the company's global income -- a rounding error.
这在谷歌全球收入中不到1%,是可以忽略不计的.
来源:互联网摘选该文还分析了DCT变换过程中取整误差的影响,从理论上证明了水印嵌入算法中迭代过程的收敛性。
来源:互联网摘选对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础。
来源:互联网摘选微语录 · 爱情句子
微语录 · 句子大全
微语录 · 精美散文
微语录 · 爱情句子
微语录 · 经典语录
微语录 · 句子大全