10回答
单精度浮点运算和双精度浮点运算有什么区别？
我特别感兴趣的是与视频游戏机相关的实用术语。例如，任天堂64是否有64位处理器，如果有，这是否意味着它能够进行双精度浮点运算？PS3和Xbox360可以实现双精度浮点运算，还是只能实现单精度浮点运算，并且通常使用双精度功能(如果它们存在的话？)。
浏览 3提问于2009-04-29得票数 186
回答已采纳
为此，我创建了自己的C++类fp16，其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符)，同时使用带有半精度浮点数的数字。半精度浮点=1个符号位、5个指数位、10个有效位数= 16位因此，我要做的是将单精度浮点数转换为半精度浮点数：
对于有效位数-我使用截断，即从32位中松散13位，以获
浏览 10提问于2011-09-15得票数 3
回答已采纳
9回答
双精度值存储的精度更高，并且大小是浮点数的两倍，但是Intel CPU是否针对浮点数进行了优化？对于64位架构，答案会改变吗？
浏览 9提问于2010-08-07得票数 74
回答已采纳
1回答
我正在寻找一种简单的方法来阻止我们的项目使用双精度浮点操作。目前，我正在努力使用正则表达式来筛选双倍(长双，等等)。项目中的变量和常量。但是整个软件中的变量/常量/定义流很难理解。我们的单片机通过硬件支持单精度浮点运算，但不支持双精度浮点运算.我们希望通过通知用户(例如，失败的构建过程)，严格禁止非预期地使用双精度浮点操作。有谁有检查双精度操作的一般方法吗？在“链接者”里？非常感
浏览 8提问于2022-06-14得票数 0
1回答
向量双双浮点运算
、、、、
存在双精度浮点数不足以处理的工作负载，因此需要四精度浮点数。这很少在硬件中提供，因此一种解决方法是使用双精度，其中128位数字由一对64位数字表示。这不是真正的IEEE-754四精度--首先，你不会得到任何额外的指数位--但对于许多目的来说，它已经足够接近了，而且比纯软件实现要快得多。 许多计算机都提供向量浮点运算，最好将这些运算用于双精度运算。
浏览 16提问于2019-04-19得票数 1
回答已采纳
我有一个字符串，我需要将其转换为浮点数以便处理。num = "2.769999999999999574e+00"print(float(num)) # 2.7699999999999996from decimal import Decimal似乎只有当提供的数字是浮点数时，Decimal才能
浏览 12提问于2018-03-04得票数 1
回答已采纳
我听说现代的Intel和AMD CPU可以用双精度运算比用浮点数计算快。
那么标准的数学函数(sqrt、pow、log、sin、cos等)呢？在单精度下计算它们应该会快得多，因为它需要的浮点运算应该更少。例如，与双精度sqrt相比，单精度sqrt可以使用更简单的数学公式。
浏览 10提问于2011-04-21得票数 15
回答已采纳
针对Cortex M4和M7微处理器的单精度浮点运算单元代码，GCC系列程序提供了扩展的内联汇编器约束，因此编写浮点运算单元性能检查代码是很简单的。但是，此功能不适用于双精度FPU(与Cortex M7一样)，并且需要额外的编码。有没有人知道GNU是否正在努力提供这样的设施？
浏览 18提问于2021-07-31得票数 0
回答已采纳
我需要在我的应用程序中使用大数字来提高精度，浮点数或双精度数是不够的。我也有整型和浮点型的数字，我必须对它们进行运算。我认为NSDecimalNumber对于我所需要的精度是有好处的，但我想用其他类型的数字来做运算，这是一个复杂的公式。有没有人知道要使用什么才能轻松地操作大数，并对它们进行不同类型的操作(浮点型、小数型、整型)？
谢谢。
浏览 1提问于2011-03-01得票数 4
2回答
x86/x64使用SIMD寄存器进行高精度浮点运算还是使用专用FP寄存器？
我指的是高精度版本，而不是常规的double精度。
浏览 3提问于2013-08-09得票数 1
我有一个代码，在这里我必须处理半精确浮点表示数字。为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有
浏览 0提问于2011-09-15得票数 4
我有一个代码，在这里我必须处理半精确浮点表示数字。为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有
浏览 0提问于2011-09-15得票数 0
3回答
有一些很好的文档描述了浮点数字的性质，以及为什么在某些浮点操作中必须丢失精度。例如：：人们可以用什么一般的经验法则来知道什么时候精度会丢失，什么时候会保持？
浏览 7提问于2014-07-14得票数 2
回答已采纳
2回答
我了解了Erlang中的“精确等于”运算符，它是的，但也是数字的数据类型，我对Python中的事情是如何工作的以及它唯一的“等于”运算符感到好奇。所以在确保True>>> 0.9999999999999999 == 1>>> 0.99999999999999999== 1>>>
有人能解释一下这里的浮点精度是如何确定的吗
浏览 6提问于2011-03-02得票数 5
回答已采纳
我需要在浮点数和整数上做数学运算，比.net中的整型/浮点型/双精度型提供的精度和大小都要大得多。有没有一些库可以帮助你做到这一点？我记得在c/c++中也有类似的东西。
浏览 1提问于2009-10-22得票数 2
回答已采纳
是否有一些算术或按位运算可以在不损失精度的情况下检查双精度数是否适合浮点数。
它不仅应该检查双精度范围是否在浮点范围内，还应该检查是否没有尾数位丢失。
浏览 0提问于2014-09-29得票数 9
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
