我得计算一下这个但无论我做了什么更改，总是会得到数值溢出。我试着用pls_integer, cast,对结果进行取整。请帮帮我
浏览 2提问于2017-11-30得票数 0
3回答
我有一个巨大的值数组，所有的值都小于1，所以使用向上/向下取整函数是无用的。有没有什么办法可以在这些非整数值上使用/生成'find‘函数？
浏览 2提问于2012-06-19得票数 0
回答已采纳
我的问题是，我得到的答案似乎是向下取整而不是向上取整。这可能看起来并不重要，但在大量销售的过程中，美分开始增加！谁能告诉我怎样才能使这些数字向上取整而不是向下取整？
浏览 12提问于2010-11-12得票数 11
回答已采纳
1回答
java长舍入到2个小数绝对值
、、、、
long value = Math.round(Math.abs(object.getSomeStuff()/1000));如果我说得不清楚，很抱歉。主要的问题是舍入，这是没有发生的。我想我看到的是一个整数值。
浏览 0提问于2013-01-03得票数 0
3回答
PHP -舍入
、、
这段代码读取文件的大小，但是1.759864Mb的文件的输出将是1Mb，我希望它是2Mb。我知道这是关于改变一件小事但是我找不到它是什么.{ if ($bytes > 0) $unit = intval(log($bytes, 1024));
浏览 0提问于2012-07-22得票数 1
回答已采纳
在python中调用.describe函数时，如何规范化列？我想要两位小数的输出。
浏览 7提问于2018-08-15得票数 1
我的价值如下：现在我要做的是，如果在第一个小数点值之后有0，那么我只想取1.1，忽略rest，如果我有1.11，那么我想取整个1.11
我就是这么想的：检查长度是否为2，如果第二个位置大于0，则对于小数值为1.11取整类11，如果小数为1.10，则取1.1，如果小数为1.000，则取1.0。
浏览 0提问于2017-08-22得票数 3
回答已采纳
1回答
我正面临着一种奇怪的情况，在同一台机器上的同一个程序执行相同浮点值的Round()并不总是产生相同的结果。起初，我认为它一定是因为有点翻转或其他原因而出现故障，但它总是回来。现在，它也开始在一台完全不同的机器上发生。糟糕的结果很少出现，大约是一周一次。当他们这样做的时候，他们似乎一直在发生，直到程序重新启动。然而，这可能只是一个巧合。到目前为止，我还不能随意复制它。顺便说一句，这一切都发生在主线程上。 我考虑添加的一个检查是，Round是否一直指向相同的内存地址。还有其他想法吗？ 2020-12-28 08:30:19.411 DBGrid1.Fields[17].AsString: 0,2
浏览 38提问于2021-01-03得票数 2
回答已采纳
1回答
0) {
var degree = longitude / 100 | 0; //除100后取整0) {
var degree = longitude / 100 | 0; //除100后取整>= 0) {
latitude = l
浏览 5提问于2014-02-27得票数 0
回答已采纳
首先是因为我还没有找到这些函数的任何算法描述，其次是因为我不熟悉LLVM有哪些取整功能。
能够正确地对负数进行舍入是必须的，但舍入到特定的精度不是必须的。四舍五入到整数值就可以了。
浏览 2提问于2010-08-18得票数 4
回答已采纳
在我的应用程序的JSON输出中，我需要将大多数非整数(即浮点数)数值四舍五入到单个小数位，即1.7777将显示为1.8。Float self.round 1endobject @foo我如何告诉RABL舍入一些值(
浏览 2提问于2013-02-11得票数 1
3回答
Swift中的整数除法似乎是向零取整，而不是向较低的数字取整。例如，这意味着-1 / 2将是0而不是-1。
有没有办法告诉Swift四舍五入到更低的数字？
浏览 3提问于2014-09-16得票数 7
1回答
与使用epsilon进行浮点数比较相比，您是否可以通过将两个浮点数四舍五入到所需的精度来可靠地比较它们的等价性？round($float, 3) === round($otherFloat, 3)
浏览 2提问于2015-08-21得票数 0
我还希望能够向下舍入到每个5而不是每个10，例如一个四舍五入到1005L的函数(因为如果我们按5取整，那么它将向上取整而不是向下取整)。
浏览 2提问于2014-04-11得票数 4
我尝试过的一切都运行得很好，直到我得到一个向上取整而不是向下取整的结果(这会给splitdeci一个负值)。
我曾尝试将split 2设为整型，但它只是向上取整
浏览 1提问于2012-05-05得票数 2
回答已采纳
decimal) return math.floor(val+0.5)end
这个函数工作得很好，除了当一个数字落在.5上，比如5.5、1000.5或7.5时，我需要它向下取整而不是向上取整
浏览 1提问于2013-04-16得票数 3
回答已采纳
6回答
这只是我做的一个快速方法，它的取整是否正确并不是很重要，我只是为了我的游戏对相机的x和y值进行取整。
这个方法可以吗？速度快吗？或者有更好的解决方案？
浏览 0提问于2010-04-19得票数 21
回答已采纳
1回答
在主机端，我可以使用fesetenv and friends为线程设置浮点取整模式。 有没有办法为流或内核设置CUDA的浮点取整模式？
浏览 55提问于2021-05-09得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
