腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
浮点舍入、位串和二进制精度
、
假设我使用一个32位
的
浮点数
来
存储
一个位串(不要问)。进一步假设我想将这个
浮点数
序列化为一个文件(作为一个
浮点数
),并在序列化之前对该
浮点数
的
十进制表示进行四舍五入。当我将
浮点数
读回程序中时,系统会(自然地)将其
存储
在一个尽可能接近序列化数字
的
32位
浮点数
中。就数字而言,在四舍五入之后,序列化
的
浮点数
必须有多精确,才能确保序列化
的
浮点数<
浏览 4
提问于2012-09-07
得票数 1
回答已采纳
1
回答
Mysql连接器C++和floats
、
、
我找不到任何关于从结果集中获取
浮点数
的
内容,也找不到如何在准备好
的
语句中
存储
浮点数
以创建查询以插入
浮点数
。有可能做到这一点吗?我应该使用char数组来
存储
它们吗?提前感谢
浏览 0
提问于2013-03-14
得票数 5
回答已采纳
1
回答
整数值和浮点值
的
存储
差异
整数和
浮点数
使用4字节
的
内存进行
存储
。但是,整数和
浮点数
的
范围是不同
的
。它们是如何在内存中内部
存储
的
?
浏览 6
提问于2010-04-26
得票数 2
回答已采纳
3
回答
如何将浮点型变量赋给无符号整型变量,位图像,而不是强制转换
我知道这是一件奇怪
的
事情,而且它不能移植。但是我有一个分配
的
无符号整数数组,有时我想在其中“
存储
”一个
浮点数
。我不想强制转换
浮点数
或将其转换为最接近
的
等效整数;我想将
浮点数
的
精确位图像
存储
在无符号整数
的
分配空间中,这样以后我就可以将其作为
浮点数
检索,而它将保留其原始
的
浮点值。
浏览 2
提问于2011-12-03
得票数 4
7
回答
存储
浮点
的
最佳方法
、
、
我有一个必须
存储
4个
浮点数
的
类。将
浮点数
存储
在数组中还是作为类
的
4个成员
存储
更有效?特别是在与stl容器和参数传递相结合时。
浏览 0
提问于2013-09-10
得票数 0
1
回答
将数字从单精度浮点表示转换为半精度浮点
、
为此,我创建了自己
的
C++类fp16,其中包含与此类型相关
的
所有运算符(算术逻辑运算符、关系运算符),同时使用带有半精度
浮点数
的
数字。半精度浮点=1个符号位、5个指数位、10个有效位数= 16位因此,我要做
的
是将单精度
浮点数
转换为半精度
浮点数
: 对于有效位数-我使用截断,即从32位中松散13位,以获得10位有效数
的
半精度
浮点数
。任何好
的</em
浏览 10
提问于2011-09-15
得票数 3
回答已采纳
1
回答
如何将432位
浮点数
存储
到128位xmm寄存器中?
、
、
、
、
我想将432位
浮点数
存储
到xmm0中,其中每个
浮点数
都
存储
在一个128位寄存器中。例如,我有4个
浮点数
: xmm1: 10.2 xmm2: 5.8 xmm3: 9.3 xmm4: 12.7 (每个
浮点数
仅使用128位寄存器
的
32位),并希望将它们
存储
到xmm0中: 10.2、5.8、9.3、12.7,以便将它们
存储
在xmm0中。由于性能原因,我不想使用任何额外
的
内存。 PSLLDQ可能会有所帮助,但有更好
的<
浏览 0
提问于2019-07-05
得票数 4
回答已采纳
2
回答
如何在OpenLDAP中
存储
实数/
浮点数
?
、
如何在OpenLDAP中
存储
浮点数
/实数?我从未见过这样
的
数据类型。我知道你可以
存储
一个
浮点数
的
字符串表示,但这听起来很糟糕。
浏览 0
提问于2019-07-28
得票数 0
4
回答
将非常小
的
双精度数转换为SQL
浮点数
时出现问题
、
、
、
、
我正尝试在MS SQL2005中将C#双精度值
存储
为
浮点数
。但是,似乎有一系列小数字是有效
的
双精度数,但不是有效
的
浮点数
。例如,当我尝试
存储
值1e-320时,我得到错误消息“提供
的
值不是浮点类型
的
有效实例”。所以我
的
问题是,处
浏览 0
提问于2009-04-23
得票数 2
1
回答
计算机如何
存储
比机器epsilon大一点
的
数字?
例如,我
存储
了一个大于epsilon小于2epsilon
的
浮点数
,那么计算机如何
存储
这样
的
数字,而不是因为
浮点数
规则而将其更改为epsilon。
浏览 23
提问于2019-09-10
得票数 0
1
回答
在Python中将float转换为bigint时,什么是防止溢出
的
好方法?
、
、
当修剪由除法产生
的
大小数时,我得到一个溢出问题。100000000000000123.1)>>> floor(100000000000000123.1) 100000000000000128 从类型上看,数字似乎是一个普通
的
浮点数
,它不能以所需
的
精度
存储
。因此,即使使用floor(),我也会遇到同样
的
问题。有没有更好
的
数据类型来
存储
‘长
浮点数
/双精度
浮点数</
浏览 32
提问于2019-04-17
得票数 0
回答已采纳
3
回答
C#:在对象中
存储
对数组位置
的
引用
、
我有一个c#对象,用于设置2个
浮点数
的
值。我有很多这样
的
东西。我想将这些
浮点数
存储
在一个数组中。所以布局应该是这样
的
:对象1设置vec和vec1
的
值对象3设置vec4和vec5
的
值 我如何
存储
对象上
的
引用,这样它们才能访问正确
的
向量元素?我可以
存储
浏览 3
提问于2011-04-20
得票数 2
回答已采纳
1
回答
如何在LAPACK sgelsd例程中为b分配内存
、
根据官方
的
用户指南,sgelsd用于解决最小二乘问题。并允许矩阵A是矩形
的
且有秩不足。根据sgelsd源代码中
的
接口描述,使用b作为输入输出参数。当sgelsd完成时,b
存储
解决方案。所以b占用m*sizeof(
浮点数
)字节。而解决方案x需要n*sizeof(
浮点数
)字节(假设A是m*n矩阵,b是m*1矢量)。但是,当n>m时,b
的
内存太小,无法
存储
解决方案x。如何处理这种情况?我不是从sgelsd源代
浏览 6
提问于2013-01-20
得票数 3
回答已采纳
3
回答
在opencl中使用全局变量
、
我是OpenCL
的
新手,我想以最有效
的
方式编写我
的
程序。将我计算出
的
答案写到与我得到输入
的
缓冲区相同
的
缓冲区中,会不会导致效率低下?例如:其中C是全局
存储
器中
的
浮点数
组。通过将上面的代码更改为:其中C和D都是
存
浏览 0
提问于2015-09-10
得票数 0
2
回答
在C中只
存储
__m128变量
的
2个第一个浮动
、
、
、
我有一个为两个
浮点数
留出空间
的
数组,还有一个__m128变量。我只想
存储
__m128变量
的
两个第一个浮动。我现在要做
的
是这会将m0
的
前两个
浮点数
放入a中,但它也会继续将最后两个
浮点数
存储
在内存之外
浏览 2
提问于2013-10-13
得票数 2
回答已采纳
1
回答
为什么`Float`没有固定
的
object id,而`Fixnum`有?
、
谁能帮助我理解为什么Float
的
对象没有固定
的
object_id,而Fixnum
的
对象有固定
的
object-idruby 2.0.0p0 (2013-02-24) [i386-
浏览 1
提问于2013-03-15
得票数 2
回答已采纳
2
回答
是否可以使用
浮点数
作为索引或在R中创建因子?
、
是否可以使用
浮点数
作为索引或在R中创建因子? 我指
的
不是带有小数部分
的
数字;这显然是奇数,而是真正
的
整数(对用户来说,就是这样),但
存储
为
浮点数
。例如,我经常使用(1:3)*3或seq(3,9,by=3)这样
的
结构作为索引,但您会注意到它们实际上表示为
浮点数
,而不是整数,尽管对我来说,它们实际上是整数。另一种可能出现这种情况
的
情况是从文件读取数据;如果文件将整数表示为1.0、2.0、3.0等,则R会将它们
存储
为<em
浏览 1
提问于2011-05-28
得票数 4
回答已采纳
3
回答
存储
固定范围
浮点数
的
有效方法
、
、
、
、
我正在抛出一个(大
的
)
浮点数
数组,每个
浮点数
需要4个字节。我可以对整个数组进行任意数量
的
计算。
浏览 4
提问于2012-02-14
得票数 3
回答已采纳
1
回答
熊猫数据中
的
混合长度对象类型
、
、
我想用熊猫图书馆来
存储
混合长度
的
物品。 例如,假设我希望有两个列
的
dataframe :第一个列
存储
浮点数
,第二个列
存储
浮点数
列表。在熊猫身上做这件事
的
最好方法是什么,记住我希望能够使用第一栏对数据进行排序。
浏览 1
提问于2014-07-02
得票数 1
回答已采纳
1
回答
浮动数据类型如何
存储
大于2^23
的
数字?因为尾数只有23位
、
有人能解释一下
浮点数
是如何
存储
在C中
的
吗?至于32位
浮点数
,1位是奇偶,23位是尾数,8位是指数。因此,对于大于2^23
的
数字(仍在浮动范围内),尾数中没有
存储
它们
的
空间。
浏览 0
提问于2019-04-11
得票数 1
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
整数与浮点数
Python 浮点数的冷知识
如何使用整数和浮点数
字符串、整数、浮点数
特别注意,在Python中比较浮点数的正确方法
热门
标签
更多标签
云服务器
ICP备案
对象存储
腾讯会议
云直播
活动推荐
运营活动
广告
关闭
领券