腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
累积速度数据类型处理
、
例如:符合IEEE754的双
精度
浮点值Float -符合IEEE754的单
精度
浮点值Decimal -具有任意
精度
的十进制长带符号的64位整
数值
Int -带符号的32位整
数值
Short -带符号的16位整
数值
Byte -有符号的8位整
数值
浏览 16
提问于2020-05-19
得票数 0
2
回答
用浏览器
JS
数值
求解三角方程
、
、
、
、
给定变量s、v和h的值,以及给定的库(如 ),如何在给定的
精度
范围内对a的进行
数值
求解?我想要在浏览器中使用的
JS
算法。
浏览 5
提问于2014-09-09
得票数 3
1
回答
为什么BigNumber的etherjs返回0
、
我正在使用来自etherjs的,我正在执行以下非常简单的操作: .div(BigNumber.from(1000))它输出'0',但应该是0.09。
浏览 3
提问于2021-05-01
得票数 1
1
回答
Javascript在将整数追加到字符串时会减少整数
最奇怪的事情发生在我的前端的一些整数上。下面是一个例子。$('#slide_2_inner').html("<img src='//graph.facebook.com/"+jid+"/picture?width=80&height=80' width='80' height='80' />
浏览 1
提问于2014-12-17
得票数 2
回答已采纳
2
回答
将双字段更改为数字
可能重复 我需要将表中的每个双
精度
字段更改为
数值
(15,3)类型,如何使用遍历给定表字段的存储过程快速完成此工作,如果该类型是双
精度
alter列变为
数值
?
浏览 0
提问于2011-06-21
得票数 0
1
回答
XSLT3.0将JSON转换为XML --数字数据类型
、
、
、
、
摘要 我正在考虑编写一组基于Java问:为了支持reasonable提供的
数值
精度
,我是否有理由考虑克隆Saxon9.8HE中的JSON支持,并建立一套使用BigDecimal而不是reasonable的定制函数?我的JSON数据包括超出IEEE双浮动
精度
的
数值
。在Java中,我的
数值
需要使用B
浏览 0
提问于2018-03-27
得票数 1
2
回答
我能在x86 C程序中模仿手臂霓虹灯吗?
、
、
、
、
我正在开发一些
数值
软件,它的性能很大程度上取决于
数值
精度
(如浮点数、双
精度
等)。我注意到手臂霓虹灯不完全符合IEEE754浮点标准。有什么方法可以在x86处理器上模拟霓虹灯的浮点
精度
吗?
浏览 4
提问于2015-03-25
得票数 3
回答已采纳
1
回答
Server
数值
/十进制
精度
与存储
、
、
考虑到关于Server 2008的状态,R2存储的
数值
/十进制
精度
。10到19的
精度
是9个字节。因此,如果我的业务用例逻辑上要求数据类型为2位小数,
精度
为5位,那么如果我将其定义为
数值
(5,2)或
数值
(9,2),则没有实际的性能或存储差异。
浏览 3
提问于2011-01-12
得票数 17
回答已采纳
2
回答
检查算法中的
数值
精度
、
、
在算法中检查
数值
精度
的最佳实践是什么?有没有什么建议的技术来解决“我们如何知道我们计算的结果是正确的”这个问题?如果可能:在C++中有一些
数值
精度
增强的例子吗? 谢谢你的建议!
浏览 5
提问于2013-03-28
得票数 1
回答已采纳
8
回答
如何检查双
精度
值是否没有小数部分
、
我有一个双
精度
值,我必须在我的UI上显示它。现在的条件是双
精度
的十进制值=0,例如。- 14.0在这种情况下,我只需要在UI上显示14。此外,这里的最大字符数限制是5个。例如- 12.34整
数值
不能大于2位,我们的双
精度
数的小
数值
也不能大于2位。 做这件事最好的方法是什么?
浏览 0
提问于2013-04-12
得票数 85
回答已采纳
2
回答
如何在JTextpane中使用双
精度
值设置文本字体大小
、
这只适用于整
数值
,但当用户给出双
精度
值(例如(8.5))时,上述命令会失败,因为它只接受整
数值
,而不接受双
精度
值。那么我该如何解决这个问题呢?有接受双
精度
值的命令吗? 提前感谢
浏览 0
提问于2012-11-13
得票数 4
1
回答
SSIS: DT_NUMERIC是带“单独符号”的无符号int。签不签?
、
以下是两个与msdn略有不同的DT_NUMERIC定义:单独的标志意味着什么?如果没有签名,如何用这个“单独的符号”来表示?
浏览 0
提问于2011-11-14
得票数 0
1
回答
Postgres和Javascript要求支持15位以上的数字,包括小数
、
我需要在PostgreSQL数据库中存储12个数字和6个小数的值。根据PostgreSQL的说法,它提供了数字数据类型。我用numeric(18,6)创建了一个字段,但是当我输入值时,它只接受总共15位的值。在JavaScript中,当我试图解析包含6个小数的18位字符串时,它只返回17位、12个数字和5个小数。var number = "123456789123.123456"它只
浏览 1
提问于2017-09-07
得票数 0
1
回答
为什么dart2
js
编译器不将64位整数转换为IEEE 754 FP号?
、
、
、
我一直读到dart2
js
编译器不支持64位整数。这是因为javascript没有64位整数的表示,并且将所有数字存储为64位双
精度
值吗?如果是这样的话,不能简单地将整
数值
转换为表示吗?
浏览 3
提问于2015-06-04
得票数 1
回答已采纳
2
回答
基于数据值的AG网格十进制
精度
在网格中,我有一些十进制值列,在这些列中,我希望有一个基于十进制值的变量
精度
。具体来说,如果
数值
大于9.5,则
精度
小数位应为0,否则,如果
数值
介于0.5和9.5 &2之间,则
精度
应为1。目前,我正在定义列定义中的
精度
,如下所示: { "type": "DECIMAL",
浏览 0
提问于2018-09-13
得票数 3
回答已采纳
3
回答
警告: json_encode()中存在大量错误
、
、
<?php echo json_encode( array("$int",$int) ); 在浏览器中接收:[ "1968401665333658496" , 1968401665333658600 ]顺便说一句:PHP_INT_MAX = 9223372036854775807 ~ PHP Version 5.3.2-1ubuntu4.7直到json_encod
浏览 1
提问于2011-04-05
得票数 5
回答已采纳
2
回答
如何避免jtable中的Exponent值
、
、
、
在java中,我被jTable中的指
数值
搞得焦头烂额。实际上,我正在从数据库中检索值,并且在数量列中的值是双
精度
的。当jTable中填充了值时,amount列的值会自动转换为指
数值
,而数据库中的值通常为双
精度
值。 我知道如何将值从指数转换为双
精度
,但这次是在jTable中。请尽快帮我解决这个问题。谢谢你的问候。
浏览 2
提问于2013-10-11
得票数 0
1
回答
在[0.5,0.5,0.5]盒大小为1的情况下将模拟集中是一个缺陷吗?
、
、
、
、
我是一个
数值
物理学家,我在我的社区里看到了一些模拟代码,它们使用了一个三维模拟盒,其中一个中心位于[0.5, 0.5, 0.5],1的正规化长度(因此盒坐标从0.到1.)。在这个盒子里,执行了大量的物理计算,并且通常需要最好的
精度
。 应该以0.为中心(从-0.5到0.5),如果你想要在
浏览 5
提问于2014-06-25
得票数 6
回答已采纳
1
回答
在MATLAB中实现复数组双数组的转换
、
如何在MATLAB中将复杂的双
精度
数组转换为双
精度
数组(
数值
矩阵)?我想用它作为支持向量机的输入。
浏览 2
提问于2017-04-20
得票数 0
1
回答
交感如何计算圆周率?
、
、
计算π的渐近性的
数值
背景是什么? 我知道SymPy在后台使用拼法,这使得使用任意
精度
算法执行计算成为可能。这样,一些特殊的常量,如e,pi,oo,被当作符号来处理,并且可以用任意的
精度
来计算。Sympy是如何进行
数值
计算的?
浏览 4
提问于2016-03-15
得票数 4
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
游戏数值策划必看:个人数值设计规范
游戏数值策划必看:游戏数值设计规范
Python数值类型
Excel 2016 输入数值
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券