go top

round off error

  • 舍入误差:指在进行数值计算时,由于精度限制而产生的误差。

网络释义

  舍入规则

... round 舍入 round off error 舍入规则 round up error 舍入规则 ...

基于62个网页-相关网页

  凑整误差

... round of bilge 舭圆部 round off error 凑整误差 round off error 舍入误差 ...

基于28个网页-相关网页

  舍入误差

... 轮换抽样 rotation sampling 舍入误差 round off error 修整 rounding ...

基于16个网页-相关网页

短语

round-off error [数] 舍入误差 ; 舍去误差 ; [分化] 修约误差 ; 化整误差

accumulated round off error 累积舍入误差

round-off error bound [数] 舍入误差边界

local round-off error 局部舍入误差

 更多收起网络短语

双语例句

  • However, for negative values of x, roughly -4 and lower, the algorithm used to calculate Math.exp is relatively ill-behaved and subject to round-off error.

    不过对于负值x,一般是- 4以下的数字,用于计算Math . exp算法表现很差,并且容易出现舍入错误。

    youdao

  • In many cases, the round-off error can be managed, even over really complex computations, such that the top 6-8 decimal places are correct.

    许多情况下舍入误差可以控制的,即使复杂计算,使得上部6 - 8位小数正确的。

    youdao

更多双语例句
$firstVoiceSent
- 来自原声例句
小调查
请问您想要如何调整此模块?

感谢您的反馈,我们会尽快进行适当修改!
进来说说原因吧 确定
小调查
请问您想要如何调整此模块?

感谢您的反馈,我们会尽快进行适当修改!
进来说说原因吧 确定