精度和溢出是什么?所谓精度,是指可以给出的有效数字的位数。溢出是指一个数的大小超出了计算机所能表示的数的范围。下面就是关于信息系统运行管理员考点精度和溢出的内容介绍。
现代数字计算机是有限字长的数字系统,机器数表示的范围受到机器字长和数据类型的限制,一旦机器字长和数据类型确定了,机器数所能表示的数的范围和精度也就确定了。所谓精度,是指可以给出的有效数字的位数。一般来说,机器字长越长,可以表示的数的范围越大,精度越高;当字长相同时,浮点数通常比整数可以表示的数的范围要大;浮点数表示时,阶码位数越多,可以表示的数的范围越大,尾数位数越多,可以表示的数的精度越高。
如果一个数的大小超出了计算机所能表示的数的范围,则产生"溢出"。如果两个正数相加,结果大于机器所能表示的最大正数,称为"上溢";如果两个负数相加,结果小于机器所能表示的最小负数,称为"下溢".例如,字长为n位的有符号整数,较高1位为符号位,数值位为n-1位,用补码表示时,数的表示范围为-2n-1~2n-1-1.一旦运算时发生结果超出此范围的情况,就产生溢出。
产生溢出时,将造成运算结果错误。所以当产生溢出时,计算机状态字寄存器(PSW)的溢出标志位将自动置为1.否则为0.在计算机中有很多判断溢出的方法,一般通过逻辑电路自动检测到溢出后执行相应的中断处理。要想尽量避免产生溢出错误,在设计计算机硬件时可以考虑增加机器字长以表示更大范围的数值。
上述就是“信息系统运行管理员知识:精度和溢出是什么?”的内容介绍,更多软考知识点请多多关注本网。