1绪论-课件-11

2026/4/25 22:45:58

2.计算机对数的接收与处理

? 计算机对数的接收

设非零实数x是计算机接收的实数,则计算机对其的处理为

(1)若x?F(?,t,L,U) 则原样接收x ; (2)若x?F(?,t,L,U),m?x?M,则用F(?,t,L,U) 中最接近x的数fl(x)表示并记录x。

13

? 计算机对数的运算处理

两个数在计算机中参与运算的方式为:

(1) 加减法

先对阶,后运算,再舍入;(2) 乘除法

先运算,再舍入 14

例,某计算机的数系F(10, 4,-99,99)的

-12

两个数x1=0.2337×10 和x2=0.3364×10 ,则运算过程如下

fl(x1?x2)?fl(0.2337?10?0.3364?10)对阶?12?fl(0.0002337?10?0.3364?10)fl(0.3366337?10)2222运算?舍入?0.3366?10

15

)?fl(0.2337?10?1?0.3364?102)运算?fl(0.7861668?100)舍入?0.7862?100?0.7862

16

fl(x1?x2


1绪论-课件-11.doc 将本文的Word文档下载到电脑
搜索更多关于: 1绪论-课件-11 的文档
相关推荐
相关阅读
× 游客快捷下载通道(下载后可以自由复制和排版)

下载本文档需要支付 10

支付方式:

开通VIP包月会员 特价:29元/月

注:下载文档有可能“只有目录或者内容不全”等情况,请下载之前注意辨别,如果您已付费且无法下载或内容有问题,请联系我们协助你处理。
微信:xuecool-com QQ:370150219