腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
使用java、javascript和使用processing.
js
运行嵌入式时的处理差异
、
、
、
、
在我的应用程序引擎上,我从一个html文件加载草图,如下所示:对于前面的
问题
,我确保使用的是最新版本的processing.
js
<head> <script src="/statics/processing.
js
" type="text/javascript"></script>
浏览 1
提问于2014-09-22
得票数 0
1
回答
单
精度
浮点分割的最佳
精度
、
、
、
、
如果只使用单
精度
加/子和乘法硬件(不使用FMA),是否可以执行
除法
并获得IEEE-754单
精度
正确值?具体而言,如果在单
精度
硬件上执行牛顿-拉夫森法进行浮点
除法
,是否有可能达到IEEE-754正确的结果?
浏览 1
提问于2014-07-18
得票数 3
回答已采纳
1
回答
在Python中将float转换为bigint时,什么是防止溢出的好方法?
、
、
当修剪由
除法
产生的大小数时,我得到一个溢出
问题
。100000000000000123.1)>>> floor(100000000000000123.1) 100000000000000128 从类型上看,数字似乎是一个普通的浮点数,它不能以所需的
精度
存储因此,即使使用floor(),我也会遇到同样的
问题
。有没有更好的数据类型来存储‘长浮点数/双
精度
浮点数’?如果是,我如何强制大整数的
除法
不返回一个低
精度
浏览 32
提问于2019-04-17
得票数 0
回答已采纳
2
回答
我想在不包含浮点数的系统中执行两个128位无符号整数的乘法和
除法
、
、
、
、
目前我面临一个
问题
,当我把两个数字相乘时它从128 bit最大值范围溢出,该范围只能包含39 digits的最大数目。所以我不能把两个非常大的数字相乘,因为它降低了我的
精度
。我想要
精度
达到16小数位。如果我也做数字
除法
我只得到3,因为我的系统不包含浮点,所以浮点部分被忽略。为了达到这个
精度
,我通过将1e16乘以16小数点的
精度
来增加我的分值。我还试着用科学的符号来解决我的
精度
,
浏览 17
提问于2022-01-12
得票数 0
2
回答
仅使用加法和乘法实现
除法
、
、
但我想不出一种计算2 BigDecimals
除法
的方法。使用这三个操作符来实现
除法
的最快方法是什么?还是有更好的方法来做到这一点?(同时考虑开发时间和算法速度)目标2:正如您提到的,BigDecimal的目的不是一个固定的
精度
。那么如何实现无限
精度
的呢?另一个
问题
:是否更好(关于速度和灵活性)使用Microsoft的BigRational类来处理任意
精度
的算术,然后在这个线程中使用Chri
浏览 2
提问于2013-08-29
得票数 2
回答已采纳
5
回答
C++中的浮点错误
、
我可以更改
除法
值-它表示一个映射,我可以对其进行偏移-以纠正最终的浮点错误。= 11 fValue = 0.010742188你能解释一下为什么双
精度
值不同于浮点值吗这是调试器
问题
还是浮点转换
问题
?我问这个是因为:从来都不是真的,尽管它应该是真的。我应该用其他方式比较浮点值和双
精度
值吗?我需要浮点
除法
的结果与双<
浏览 1
提问于2012-02-05
得票数 1
回答已采纳
1
回答
只在小数重复时设置BigDecimal
精度
、
、
我知道我可以使用BigDecimal.divide()方法来设置一个固定的
精度
:BigDecimal a2 = new BigDecimal(3);但如果
除法
结果是准确的: BigDecimal a1 = new BigDecimal,如果
除法
以一个精确的结果结束,它只会给出0.25的输出,而不是0.25000。我还试图不通过以下操作
浏览 2
提问于2015-05-06
得票数 3
回答已采纳
4
回答
将int除以int并将结果存储为双
精度
时出现意外结果
、
、
、
我有个奇怪的
问题
。这段代码简单地将一个int除以另一个int,将结果存储在一个双
精度
变量中并打印出来:int b = 557; 执行此代码后,输出为:这很奇怪,因为200/557是0.3590664272890485 我注意到,如果将a和b转换为
除法
行中的为什么我必须将我的变量转换为双
精度
才能得到真正的
除法
浏览 4
提问于2013-05-02
得票数 6
回答已采纳
1
回答
浮点多重分割
精度
问题
、
、
、
在我的C++代码中,我面临着浮点
精度
问题
d / 0.01 == 3240.0;d / 0.1 == 324.0在我的用例中,我将通过简单地乘以或除以0.1、0.01、0.05这样的东西,在不同的标度之间进行一些转换。我的意思是,我不需要很高的
精度
,我的操作数通常小于6小数位,可以用64位双倍
浏览 0
提问于2019-05-31
得票数 0
回答已采纳
3
回答
我的程序没有输出算术平均值的正确十进制数。我怎么才能修复它?
、
、
我需要显示用户输入的一系列整数的正确算术平均值。如果用户输入6、9、7和4,则平均值应为6.5,但显示为6.0。为什么会发生这种情况?我使用ArrayList来存储所有的整数。import java.util.*;{ List<Integer> Scores = new ArrayList<
浏览 1
提问于2020-04-20
得票数 0
4
回答
无论输入是什么,操作的输出都是零
我有以下代码,变量s的输出始终为零:if (v == 0) { h = 0;} else { System.out.println("s is equal to" + s); System.out.println("high is equal to
浏览 2
提问于2014-09-26
得票数 0
1
回答
为什么nvprof没有浮点
除法
操作的指标?
、
、
使用nvprof来测量我的样本内核的浮点操作,似乎没有flop_count_dp_div的度量标准,实际的双
精度
除法
操作是根据双
精度
的add/mul/fma,甚至是一些单
精度
操作的fma来度量的。我想知道为什么会出现这种情况,如果没有源代码,如何从nvprof报告中推断内核的动态
除法
操作数?
浏览 3
提问于2019-08-30
得票数 2
回答已采纳
2
回答
fortran默认的数字
精度
、
我选择了代码中的
精度
如下:然后,我用_psn编写代码中出现的数字,例如:我在代码中有许多长表达式,其中许多数字出现在乘法和
除法
中。现在我的
问题
是:是否有任何方法将代码中出现的所有数字的
精度
设置为选定的
精度
,而不显式地到处指定_psn?
浏览 5
提问于2014-03-05
得票数 2
回答已采纳
3
回答
在QLineEdit中显示浮点值
、
、
、
这就是要点:我取图像的一个像素(坐标:i和j),然后除以255。img,j,i); Qs = QString::number( s, 'g', 6 );
问题
是,结果不是显示
除法
的
精度
(0.xxxx),而是0,没有我需要显示的浮点数。你知道如何解决这个
问题
吗?
浏览 13
提问于2013-03-07
得票数 0
1
回答
如何在WebGL GLSL中解压4字节整型的每一个字节?
、
然后使用
除法
和mod来提取每个字节。 但是,由于
精度
问题
,如果我的int太大,将int转换为float会丢失一些
精度
。有没有什么优雅的解决方案来解决这个
问题
呢?
浏览 16
提问于2017-06-30
得票数 0
回答已采纳
3
回答
Java模运算符有错误的结果吗?
、
、
、
我怀疑之前有人问过这个
问题
,但似乎找不到匹配的
问题
……println(28.0 / 5.6) 这些行的结果是1.7763568394002505E-15 有解决这个
问题
的办法吗
浏览 0
提问于2011-08-17
得票数 4
回答已采纳
2
回答
双
精度
除法
不准确(Visual C++ 2008)
、
、
我有一些代码可以将从QueryPerformanceCounter返回的时间值转换为以毫秒为单位的双
精度
值,因为这样更便于计数。(我不认为我以前有过这个
问题
,并且没有对代码进行任何更改)是结果不是很准确。结果不包含任何小数,但
精度
甚至低于1毫秒。 当我在调试器中输入表达式时,结果与我预期的一样准确。我知道double不能保持64位整数的
精度
,但此时,PerformanceCounter只需要46位( double应该能够无损失地存储52位)此外,调试器使用不同的格式进行
除法
似乎很奇怪。因此,这似乎是一个大
浏览 9
提问于2009-05-23
得票数 1
回答已采纳
3
回答
Objective-C Double,Long计算
、
、
我正在尝试计算一个长整型值除以一个整数,以得到我期望的双
精度
数,尽管我得到的结果是0。我使用的代码..。= daysSinceBirthdayToService/365;在此代码中,daysSinceBirthdayToService变量是一个长双
精度
型变量daysSinceBirthdayToService对其进行NSLogged@property (nonatomic) NSInteger daysSinceBirthdayToService; 有人
浏览 3
提问于2013-02-18
得票数 2
回答已采纳
2
回答
如何避免将7/8*pi =0隐式转换为int的陷阱
、
问题
是,犯错是很直接的! 我怎样才能防止它呢?把隐式转换完全转换成int有意义吗?我该怎么做?
浏览 1
提问于2015-03-13
得票数 0
4
回答
我正在尝试编写的C#函数有一个奇怪的
问题
我正在编写这个函数。 foreach (TransactionDetail item in list) var itemProgress = Convert.ToInt32(item.TransactionAmount)); item.ProgressBar = itemProgress > ProgressBarLength ? ProgressBarL
浏览 2
提问于2011-02-17
得票数 0
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
JavaScript计算精度问题
React.js 常见问题
编程科普|信息学奥赛一本通题单1307:高精度乘/除法、回文数(课堂笔记)
Vue.js常见问题精选(一)
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券