网站首页  汉语  俄语  英语

请输入您要查询的字词:

 

字词 有限位精度
释义
有限位精度
有限位精度  用计算机进行数值计算,参与运算的数都是位数固定的有限位浮点数,因此运算中会产生舍入误差,所得结果是有误差的,称为“有限位精度”。
出处:数理化力学卷 • 数  学 • 计算数学
随便看

 

修远网汉语字词典收录72225条汉语词条,基本涵盖了全部常见汉语字词的翻译、注释及用法释义,是语文学习的有利工具。

 

Copyright © 2021-2025 mythu.net All Rights Reserved
更新时间:2025/6/28 4:17:14