希赛考试网
首页 > 软考 > 信息系统运行管理员

信息系统运行管理员知识:精度和溢出是什么?

廖伟华 2023-04-23 15:04:05

精度和溢出是什么?所谓精度,是指可以给出的有效数字的位数。溢出是指一个数的大小超出了计算机所能表示的数的范围。下面就是关于信息系统运行管理员考点精度和溢出的内容介绍。

现代数字计算机是有限字长的数字系统,机器数表示的范围受到机器字长和数据类型的限制,一旦机器字长和数据类型确定了,机器数所能表示的数的范围和精度也就确定了。所谓精度,是指可以给出的有效数字的位数。一般来说,机器字长越长,可以表示的数的范围越大,精度越高;当字长相同时,浮点数通常比整数可以表示的数的范围要大;浮点数表示时,阶码位数越多,可以表示的数的范围越大,尾数位数越多,可以表示的数的精度越高。

如果一个数的大小超出了计算机所能表示的数的范围,则产生"溢出"。如果两个正数相加,结果大于机器所能表示的最大正数,称为"上溢";如果两个负数相加,结果小于机器所能表示的最小负数,称为"下溢".例如,字长为n位的有符号整数,较高1位为符号位,数值位为n-1位,用补码表示时,数的表示范围为-2n-1~2n-1-1.一旦运算时发生结果超出此范围的情况,就产生溢出。

产生溢出时,将造成运算结果错误。所以当产生溢出时,计算机状态字寄存器(PSW)的溢出标志位将自动置为1.否则为0.在计算机中有很多判断溢出的方法,一般通过逻辑电路自动检测到溢出后执行相应的中断处理。要想尽量避免产生溢出错误,在设计计算机硬件时可以考虑增加机器字长以表示更大范围的数值。

上述就是“信息系统运行管理员知识:精度和溢出是什么?”的内容介绍,更多软考知识点请多多关注本网。

信息系统运行管理员 资料下载
备考资料包大放送!涵盖报考指南、考情深度解析、知识点全面梳理、思维导图等,免费领取,助你备考无忧!
立即下载
信息系统运行管理员 历年真题
汇聚经典真题,展现考试脉络。精准覆盖考点,助您深入备考。细致解析,助您查漏补缺。
立即做题

软考资格查询系统

扫一扫,自助查询报考条件