半精度浮点数 - 腾讯云开发者社区

文章/答案/技术大牛

发布

1回答

将数字从单精度浮点表示转换为半精度浮点

floating-point、precision

为此，我创建了自己的C++类fp16，其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符)，同时使用带有半精度浮点数的数字。半精度浮点=1个符号位、5个指数位、10个有效位数= 16位因此，我要做的是将单精度浮点数转换为半精度浮点数：对于有效位数-我使用截断，即从32位中松散13位，以获得10位有效数的<

浏览 10提问于2011-09-15得票数 3

回答已采纳

1回答

将数字从单精度浮点表示转换为半精度浮点

floating-point、numeric-precision

我有一个代码，在这里我必须处理半精确浮点表示数字。为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：- 对于有

浏览 0提问于2011-09-15得票数 0

1回答

基于Intel芯片的半精度浮点算法

x86、intel、avx、floating-point-conversion、half-precision-float

是否有可能在英特尔芯片上执行半精度浮点算法？我知道如何加载/存储/转换半精度浮点数1，但我不知道如何在不转换为单精度浮点数的情况下添加/乘它们。

浏览 0提问于2018-04-24得票数 16

回答已采纳

1回答

如何将A16B16G16R16F转换为ARGB32？

c++、pixel

当我遇到ARGB半精度浮动像素格式时。读取16位转换为32位c基元浮点数相乘255或1(我不确定半浮点数的有效范围是多少)转换为字节值但我无法得到可见的图像。将半精度浮子转换为8位颜色强度值的公式是什么？

浏览 3提问于2011-06-15得票数 0

回答已采纳

2回答

C语言中的半浮点转换算法？

可能重复：如何在32位浮点数和16位半精度浮点数之间进行C转换？

浏览 2提问于2012-08-13得票数 1

回答已采纳

1回答

如何在AMD OpenCL SDK中使用printf打印半精度浮点数？

printf、opencl

编程指南提供了双精度(%ld)和向量类型(例如%v4f)的说明，但没有半精度浮点数的说明。

浏览 3提问于2012-01-19得票数 1

回答已采纳

1回答

IEEE754半精度(16位)浮点数据在vb.net中的应用

vb.net、precision

VB.Net支持IEEE754半精度(16位)浮点数据类型吗？如果没有，是否有一种创建它们的推荐方法？上下文:我最终通过COM通道向接受一半精度值的设备发送字节流。我需要获取用户输入的Decimal值，并将其转换为两个字节浮点数以进行传输。我不确定用VB.Net做这件事的最好方法是什么

浏览 5提问于2016-01-22得票数 1

回答已采纳

1回答

如何在CoreML神经网络中使用半浮点数？

coreml

我想确保CoreML的所有纹理都使用半浮点数而不是全浮点数。我该怎么做呢？更新:如何确保网络的输出是半浮点型或至少是浮点型(或任何其他类型)而不是双精度？

浏览 13提问于2017-08-31得票数 1

回答已采纳

1回答

16位浮子MPI_Reduce？

c++、parallel-processing、mpi、precision

在精度方面，用16位浮点数(半精度)得到了完全精确的结果. 为了加速通信(减少数据量)，是否有一种在16位浮点数上调用MPI_Reduce() 的方法？(我查看了MPI文档，没有看到任何关于16位浮点数的信息。)

浏览 6提问于2015-04-14得票数 4

回答已采纳

2回答

OpenCL，一半对浮动性能

c++、c、opencl、gpu、gpgpu

我目前正在开发一个需要存储和处理大量变量的应用程序(~4gb浮点数)。安德烈亚斯·法肯斯特罗姆·米里茨

浏览 4提问于2012-10-16得票数 2

回答已采纳

2回答

浮点、双点和半点浮点

opengl、floating-point、double

我想知道浮点数(4字节)、双精度浮点数(8字节)和半浮点数(2字节，用于OpenGL实现)上的位是如何组织的。此外，我如何才能从一个转换到另一个？

浏览 1提问于2010-02-16得票数 2

回答已采纳

2回答

具有16位顶点/纹理坐标的示例代码

opengl-es

许多源建议使用16位顶点/纹理坐标，但我看到的所有示例代码都依赖于32位浮点数。我已经阅读了16位顶点坐标的，但它没有提供如何使用它的任何示例。

浏览 0提问于2017-01-10得票数 0

回答已采纳

1回答

CUDA中的半精度浮点数

opengl、cuda

CUDA中有没有半精度的浮点数？背景:我想使用glTexSubImage3D操作opengl纹理，其中的数据来自我使用CUDA生成的PBO。纹理是以GL_INTENSITY16格式存储的(这是一个半精度浮点类型afaik)，我不想使用glPixelTransferf(GL_x_SCALE，...)从整数值进行缩放，因为在没有缩放的情况下似乎要快得多

浏览 1提问于2011-07-27得票数 6

回答已采纳

1回答

用16位浮点数填充MTLBuffer

swift、swift4、metal、half-precision-float

position;}; kernel void compute(device Particle *particles [[buffer(0)]], … ) 我需要在我的Metal计算内核中使用半精度浮点数在CPU方面，用半精度浮点数填充缓冲区的最佳方式是什么？

浏览 16提问于2019-06-11得票数 5

回答已采纳

1回答

对于不同的精度，浮点类型是“嵌套的”吗？

precision

这段代码使用了几种不同类型的浮点精度，即半精度、单精度和双精度(使用numpy)。然而，我的问题更一般，因为它不是特定于python的。问:这些精度是否“嵌套”，即任何数字在较低精度下都可以精确表示(即没有近似值)，在较高精度下也可以精确表示。另一种说法:当转换为更高精度时，我是否更改了浮点数的值？

浏览 37提问于2021-11-17得票数 0

回答已采纳

4回答