定点数据类型整数精度范围(12位)，单位为CG
维基文章目前对半精度浮点整数范围(16位)有非常清晰的描述：
可以精确地表示0到2048之间的整数.....2049和4096之间的整数舍入为2的倍数(偶数).....4097和8192之间的整数舍入为4的倍数.....介于8193和16384之间的整数舍入为8的倍数.....16385和32768之间的整数舍入为16的倍数.....32769和65536之间的整数舍入为32的倍数.....等于或大于65520的整数被四舍五入为“无穷大”......
然而，对于定点整数，我在网上找不到关于整数范围的实用信息，它可以精确地表示32? 64？
它说半精度，0 01111 0000000001 =1+ 2−10 = 1.0009765625 (1之后的下一个最小的浮点数)
有人能说出定点数据类型的等效小数吗？esp。在CG代码中。
谢谢!
回答 1
Stack Overflow用户
发布于 2013-10-04 18:53:46
不存在定点值的单一实现，并且可以表示的整数的范围对于每个实现是不同的。对于12位有符号定点表示，实现者可以选择不使用这些位中的任何位来表示数字的整数部分，而使用11位来表示小数部分。在这种情况下，范围是(大约) -1到+1。另一方面，使用全部11位表示整数部分，没有位表示小数部分仍然是有效的定点数字。在这种情况下，范围是\$-2^{11}\$到\$2^{11}-1\$。因此，对于12位有符号数字，用于表示整数的位数可以是0到11之间的任何值。
此外，给定函数或代码块中的所有变量不一定都具有相同的定点格式。即使字长是固定的，不同的变量也可以具有用于表示整数部分的不同数量的比特。
https://stackoverflow.com/questions/19176509
复制相似问题
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号