2回答
我知道这是一个奇怪的问题，但是JavaScript是否有能力处理双精度浮点数而不是单浮点数？(64位浮点数与32位浮点数)。
浏览 0提问于2010-08-31得票数 33
回答已采纳
8回答
我试图了解浮点数转换是如何在低级别处理的。根据我的理解，这是用硬件实现的。因此，例如，SSE提供了指令cvttss2si，它将浮点数转换为int。
但我的问题是:浮点数转换总是这样处理吗？
浏览 12提问于2014-12-27得票数 2
回答已采纳
有可能让JSpinner处理浮点数吗？我有像10E-20的浮标，所以我不能用双打，它必须是浮动.但是没有SpinnerNumberModel类来处理浮点数.
浏览 8提问于2015-12-08得票数 1
回答已采纳
我不确定这是否可能，我对c#中的封送处理知之甚少，所以如果我说错了，或者这是可能的，请告诉我我对此的理解。我遇到的问题是封送处理的开销。性能上的任何提
浏览 3提问于2012-08-07得票数 3
我正在尝试编写一个函数，它接受一个浮点数或一个浮点数组，并使用相同的代码行来处理它们。例如，如果它是一个浮点数，我想返回浮点数本身，如果它是一个数组，则返回浮点数组的总和。
浏览 65提问于2019-09-24得票数 0
使用fscanf，我想要处理的文本包含两个浮点数，在浮点数之前、之间或之后有任意数量的空格(包括换行符/回车符)，最后还有一个换行符。如果有超过/少于两个数字，那么我想要检测它并报告一个错误。这似乎适用于处理空格，但它不会检测是否存在两个以上的浮点数：这似乎也很管用：
fscanf(f, "%f %f%*[ \n\t\r\f\v]\n", &sx, &s
浏览 0提问于2012-11-05得票数 1
回答已采纳
1回答
我有一些需要处理的货币值和其他十进制值。将它们作为浮点数存储是否安全，当需要执行任何类型的操作时，将它们转换为整数，然后返回到浮点数(假设我可以处理小数位)。我理解使用浮点数进行数学运算时的精确错误，但是简单地存储它们以便于使用有什么明显的危险吗？
浏览 4提问于2017-01-14得票数 1
回答已采纳
3回答
我才刚开始学习TCL。在它的上，有一部分描述如下：
% expr {1.2 / 0.1}% expr {1.2 / 0.5}% expr {1.2 / 0.4}% expr {1.2 / 0.3}正如它所
浏览 0提问于2018-08-04得票数 0
回答已采纳
这很好:将浮点数降为较小的浮点数，将整数转换为较小的浮点数，并将字符串对象转换为类别，然后在读取数据时直接使用这些新定义的类型。我甚至有兴趣更进一步(通常将一些浮点数舍入int中)。然而，我怀疑它可能不会对我的学习管道的其余部分产生太大的影响(预处理我的数据类型更具体而言：
我在文档中找不到任何东西，但是似乎有大量关于GitHub的讨论，转换器可以处理float32。这可能限制降低我的浮点数的有用性，但对于某些转换(最小/最大标量，对数转换)也可能“向上”我的
浏览 0提问于2020-10-17得票数 1
3回答
浮点字节顺序？
、、
我已经了解了整数字节顺序，以及如何使用htonl和ntohl来规避字节顺序问题，但是我的应用程序，作为几乎所有的模拟软件，都要处理很多浮点数。我的问题是:在处理浮点数的二进制格式时，是否存在字节序问题？我知道我的代码将运行的所有机器都使用IEEE实现的浮点数，但是在处理浮点数时是否存在一些字节顺序问题？
浏览 1提问于2010-06-01得票数 44
回答已采纳
我有一个代码，在这里我必须处理半精确浮点表示数字。为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有意义和比特-我使用截断，即从32位松散的13位得到10位意义和半精度浮点数。我该怎么处理指数位。如何从8指数
浏览 0提问于2011-09-15得票数 4
是否有接收浮点数字符串并将其转换为单个浮点数的方法。它还必须处理没有. (如"1" )的字符串。String.to_float不处理"1"** (ArgumentError) argument erroriex(5)> String.to_float("1.0")Float.parse
浏览 1提问于2016-12-04得票数 1
回答已采纳
我有一个代码，在这里我必须处理半精确浮点表示数字。为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有意义和比特-我使用截断，即从32位松散的13位得到10位意义和半精度浮点数。我该怎么处理指数位。如何从8指数
浏览 0提问于2011-09-15得票数 0
2回答
在画布元素中，浮点数实际上是否被lineTo和arc方法作为浮动处理？context.lineTo(120.1123, 90.2134);canvas是否真的支持浮点数坐标，还是在绘制线、弧、正向等时只将浮点数转换成整数？
浏览 3提问于2015-03-31得票数 14
回答已采纳
1回答
如何在STM32中将无符号短数组转换为浮点数组？我需要在一个无符号短数组和一个浮点数组之间执行乘法运算。为了在STM32F4中使用浮点处理器和DSP库，首先将无符号数组转换为浮点数组。只有一些库可以将有符号短数组转换为浮点数组。如何将无符号短数组转换为浮点数组？
浏览 26提问于2014-06-10得票数 0
2回答
VBA中的Mod计算
、、、
首先，它以不同的方式处理负值.第二，如果使用1作为除数，它将返回0，而不是浮点数的小数部分.第三，它以不同的方式处理浮点数(它使用Banker的四舍五入将所有浮点数舍入为整数，然后对这些数字执行操作，而
浏览 12提问于2022-08-24得票数 1
回答已采纳
我遇到过一些博客和论坛帖子，人们说在处理货币时应该使用NSDecimalNumber而不是浮点数。我发现我必须从NSDecimalNumber转换为浮点数/双精度数，以便进行一些算术运算，这在我看来否定了NSDecimalNumber的有用性。我的意思是，为什么不直接使用浮点数，而不去操心所有的转换麻烦呢？
NSDecimalNumber的好处是什么?如何对其进行算术运算？NSDecimalNumber有什么错误，而NSDecimalNumber没有，这就是为什么人们说在处理货币时必须使用flo
浏览 0提问于2011-01-10得票数 2
回答已采纳
我有一个stm32-F1处理器，它的浮点数操作非常慢，我还有一些来自使用大量浮点数的F7处理器的库。我想在我可怜的F1上使用这个库，所以我在想一种方法，尽可能少地调整代码，并用相同的接口模拟浮点数，但需要注意的是，我只需要7位数的精度(介于0.001和4094.999之间的数字，这就是为什么我猜像typedefnumber<cpp_dec_float<7> > fixed7;这样的东西在我的情况下会比浮点数更快。
浏览 36提问于2020-03-28得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
