2回答
使用定点的复数除法
、、、
我正在写一个C程序，在定点中执行2个复数的除法。我不能得到它的小数部分。下面是关于它的更多细节。我有两个复数：M = c + jd上述复数的示例值可以是：M = 1.24 + j(0.55)
为了转换为定点，我将a，b，c和d与2^14相乘。我面临
浏览 4提问于2014-11-14得票数 1
我需要限制小数位数，因为如果小数位数只有3位而不是5位，答案就会不同，所以我希望你能帮助我解决这些问题。我知道如何打印3位小数点，但声明一个变量只保存3位小数点是我不知道的。
浏览 0提问于2013-02-01得票数 3
回答已采纳
我有一个自制的二进制定点算术支持库，并希望添加对numpy数组的支持。具体地说，我希望能够传递定点二进制数的2D数组，并对它们进行各种操作，如加、减、乘、四舍五入、改变定点格式等。幕后的定点支持适用于整数，以及用于范围检查和类型转换的单独跟踪定点格式数据(整数和小数位的数量)。我一直在阅读有关ndarray子类化和dtype的numpy文档，似乎我可能至少需要一个自定义的dtype，或者为每个唯一的范围/精度的定点数字配置单独的dtype对象。我尝试在Pyth
浏览 135提问于2019-08-29得票数 2
1回答
用Python复制C定点数学
、、、、
我试图在Python中复制最初用C编写的DSP算法。诀窍是，我还需要保留C版本中32位不动点变量的相同行为，包括有限的精度会带来的任何数字错误。我认为目前的备选方案如下：>>> sys.getsizeof(a)
10
浏览 0提问于2019-06-16得票数 1
1回答
我想写一个函数来计算s15.16定点数的平方根。我知道这是一个有符号的数字，有15位整数和16位小数。有没有什么方法可以在没有任何库的情况下完成呢？任何其他语言也可以。
浏览 0提问于2013-03-03得票数 3
2回答
我知道在没有Floating Point Units的机器上，这样的数字要么用定点表示，要么用libc模拟。所以，如果我尝试在C中编译一个非常小/很大的fp值，对于一台没有FPU的机器，这个数字如何在定点中被抑制？
浏览 5提问于2020-06-30得票数 2
我正在为我自己的定点函数库编写一个正弦实现，不使用预计算表或库函数，所以只需要基本的数学运算(加、减、乘、除)。我想要计算这个正弦值到任何定点类型的全精度，例如16个小数位的定点类型。我正在使用C，并希望使我的定点类型(或多个类型)的小数位数可配置，这就是为什么我需要能够以这种方式概括我的停止条件。
浏览 0提问于2018-02-03得票数 1
在将cobol程序转换为C#时，我遇到了COMP：03 Var2 PIC X(3但是，cobol程序的COMP输出是非COMP字段，后面是(括号之间)：而实际值均为0.00我被引导相信Var14总是0，但是：
Var14 = SomeCalculationIHadNoIdeaAbout(Var13,
浏览 6提问于2017-06-12得票数 3
回答已采纳
我的大多数应用程序都围绕着涉及支付和利率计算的财务计算。我正在寻找如何确定哪种Delphi数据类型最适合使用。如果我使用数据库来存储这些值，并且我已经将该数据库中的字段定义为具有两个小数位的小数值，那么哪种Delphi数据类型与该场景最兼容？在将值存储到数据库之前，我是否应该在Delphi中使用舍入公式将结果格式化为两位小数？如果是这样，那么这样做的最佳实践是什么？
浏览 0提问于2011-09-11得票数 14
回答已采纳
2回答
定点处理器中浮点运算的数据结构
、、、、
我需要编写一个用于遗留应用程序的定点处理器。需要新的功能，并且这些功能需要很大的动态范围，即使在缩放之后也很可能超出固定点范围。由于几个原因处理器不会改变，我计划加入基于定点算术的浮点运算--基本上是基于软件的方法。我想为底层的定点处理器定义几个数据结构来用C语言表示浮点数。有没有可能这样做？我打算使用。C /C++中已经有一些开源库了吗？
浏览 0提问于2013-03-31得票数 2
1回答
我有一个c++分类账应用程序，其中使用浮点进行计算，现在我应该做些什么来转换为固定点(大大超过小数点4位)，而不会在程序中产生更多的错误。任何步骤明智的过程，我应该采取或提示，以防止错误？
浏览 3提问于2014-03-12得票数 0
回答已采纳
1回答
将双值与双常数进行比较
、、、
我知道有一些关于与增量的双重比较的话题，这是比较双值的正确方法。double constant = 0.0;result并不总是true
浏览 1提问于2019-11-04得票数 0
回答已采纳
6回答
定点与浮点数
、、
我只是不能理解定点和浮点数，因为在Google上很难读懂它们的定义。但在我读过的书中，没有一个能对它们的真正含义提供足够简单的解释。我可以通过示例得到一个简单的定义吗？
浏览 2提问于2011-09-23得票数 133
3回答
我试图用二进制表示一个小数，然后把它打印成浮点数。我已经完成了定点到浮点的转换。小数：-342.26562532位浮点数:110000111010101010010001000000000输出：Double: 1
浏览 10提问于2016-10-05得票数 1
回答已采纳
如何在C中将浮点数转换为定点格式的fix16_14？fix16_14表示2位整数和14位小数？考虑一个例子：-0.99633 =十六进制的c03c (二的补码表示)。请帮我解决这个C代码逻辑。
浏览 7提问于2019-04-23得票数 0
7回答
这些天什么时候使用固定点
、、、、
对于密集的数字运算，我考虑使用定点而不是浮点。当然，固定点类型的大小是多少字节，它将在什么CPU上运行，如果我可以使用(对于Intel) MMX或SSE或任何新出现的东西，这都是很重要的。我在想，如果现在浮点运算的速度比以往任何时候都快，那么是否值得考虑定点？有没有一般的经验法则，我们可以说它会比几个百分点更重要？从35,000英尺的数值性能来看，情况如何？
浏览 0提问于2008-10-05得票数 23
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
