计算机进行数值计算的高精确度主要取决于(计算机进行数值计算时的高精确度主要决定于)

导读 今天菲菲来为大家解答以上的问题。计算机进行数值计算的高精确度主要取决于,计算机进行数值计算时的高精确度主要决定于相信很多小伙伴还不...

今天菲菲来为大家解答以上的问题。计算机进行数值计算的高精确度主要取决于,计算机进行数值计算时的高精确度主要决定于相信很多小伙伴还不知道,现在让我们一起来看看吧!

1、主要决定于基本字长。

2、基本字长影响计算精度、指令功能。

3、基本字长越长,计算精度越高。

4、比如,基本字长是8位,那么它可以表示最小的正数是0.0000001;而如果基本字长是16位,则可以表示0.000000000000001。

5、显然,后者的精度更高。

6、扩展资料: 数值计算具有以下5个重要特征:数值计算的结果是离散的,并且一定有误差,这是数值计算方法区别与解析法的主要特征。

7、2、注重计算的稳定性。

8、控制误差的增长势头,保证计算过程稳定是数值计算方法的核心任务之一。

9、3、注重快捷的计算速度和高计算精度是数值计算的重要特征。

10、4、注重构造性证明。

11、5、数值计算主要是运用有限逼近的的思想来进行误差运算。

本文就为大家分享到这里,希望小伙伴们会喜欢。

免责声明:本文由用户上传,如有侵权请联系删除!