百科问答小站 logo
百科问答小站 font logo



定点小数的取值范围是怎么推算出来的? 第1页

  

user avatar   arthur-48 网友的相关建议: 
      

你在问题里说取值范围是“-(1-2^-n)到(1-2^-n)”是不准确的,这只是反码(1's complement)表示的范围。但最最常用的是补码(2's complement),所以取值范围是-1到(1-2^-n)。你只用抓住二进制的本质就行了,N bit的二进制数,只有2^N种排列组合方式,也就是最多只能表示实数轴上的2^N个点。定点的好处是它是线性的,且相邻两点之间的距离是均匀的。相邻两点之间的距离等于多少(也就是定点表示的精度),取决于你的小数点打在哪里。而小数点打在哪里同时也决定了表示的数值范围。




  

相关话题

  现在主存的速度已经超过CPU的速度,那么CPU片内的cache是否可以取消? 
  页表放在主存中,那么页表基址寄存器中存放的页表基址是虚拟基址还是主存中页表实际基址? 
  复制粘贴本身可能出错吗? 如果可能,那么原因是什么? 
  多个 CPU 操作多线程对主内存中某一共享变量同时进行写入操作可以做到吗? 
  定点小数的取值范围是怎么推算出来的? 
  为什么一个36字节的文本文档占用空间0字节? 
  操作系统里面经常说的一个功能用「软件实现」还是用「硬件实现」,其本质区别是什么? 
  现在主存的速度已经超过CPU的速度,那么CPU片内的cache是否可以取消? 
  现在主存的速度已经超过CPU的速度,那么CPU片内的cache是否可以取消? 
  操作系统里面经常说的一个功能用「软件实现」还是用「硬件实现」,其本质区别是什么? 

前一个讨论
“与门”电路图有3个输入和3个接地,符号中却只有2输入1输出。省略?优化?
下一个讨论
请问可以帮我看看哪里写错了嘛?





© 2025-01-18 - tinynew.org. All Rights Reserved.
© 2025-01-18 - tinynew.org. 保留所有权利