我正在处理一个数据集，其中一列包含具有许多小数位数的变量。 示例： ,958229561278528615818098193915712388824
2,05561009284393218251509777394193942492
2,72096803821411321343605598060792704404
2,00324997757400185789440370684992098409 并且我需要对小数位进行不同的格式化。该列在R中被读取为字符，只要它保持这种状态，我就不能使用任何函数，比如round()或类似的函数。 问题是 as.numeric((data$value))
as.n
浏览 15提问于2019-09-27得票数 1
回答已采纳
我需要存储和做一些货币价值的基本计算(主要是乘法)，如£0.00005756，£0.01，£0.000000000000123等。小数位的最大数量将是15，但在另一边也可能有相当大的数字。如果左边有一个以上的0，则不太可能使用超过2个小数位，但这是可能的。我遇到麻烦的数字是当它超过两个小数位时。 我创建了一个测试表，并插入了一些基本数据。不幸的是，它似乎不能存储真正的小数字。 注意:我创建了money2列作为[decimal](18, 4)列，因为当我研究了货币值的用途时，似乎建议这样做。但是，我需要15位小数，这就是money1存在的原因。 表创建： CREATE TABLE [dbo
浏览 12提问于2019-01-08得票数 2
回答已采纳
Np.cast的这种用法：
np.cast['f'](np.pi)
导致pi的值不正确：
array(3.1415927410125732, dtype=float32)
为什么会发生这种情况？
浏览 1提问于2016-09-04得票数 0
回答已采纳
1回答
为什么下面的Clojure代码会打印"true"？
(请注意，数字在最后一个数字中有所不同)
(== (Math/sqrt 10252519345963644753026N)
(Math/sqrt 10252519345963644753025N))
不确定这个问题仅仅是关于Clojure的，还是也适用于其他语言(Java的BigInteger?)
印刷它们的结果是：
(str (Math/sqrt 10252519345963644753026N) " "
(Math/sqrt 10252519345963644753025N))
1.01
浏览 2提问于2017-02-16得票数 4
回答已采纳
1回答
得到10/7的十进制位置
、、、
我试图做一个计算，我想更新理想的时间，根据助理和首席教练的数目，是一家餐厅是5天还是7天一周。当我计算使用10/7或20/7时，它分别取1和2。我目前使用的是trunc，但是我尝试过使用cast :：小数点(10，6)等等，但是它不起作用。
select
a.entity,
a.store_name,
a.order_date,
a.daily_ideal_hours,
a.daily_ideal_hours - (case when b.days_open like '%Weekdays%' then ((
浏览 4提问于2021-12-14得票数 1
4回答
我写了一个小程序，可以在一小时内解决49151个数独题，但我们必须对它进行计时。我想我应该让它运行，然后检查执行时间，但它显示-1536.087秒。我猜这与计时器是某个签名的数据类型或其他什么有关，但我不知道控制台中的计时器使用了什么数据类型(代码：：块控制台，我不确定这是实际上是一个单独的控制台，还是从本地操作系统运行终端的运行程序)，所以我不能检查实际时间是多少。我不想在我的程序中使用某些编码的计时器再次运行这个程序，因为我希望现在能够再次使用我的pc。有人知道这一次会是什么吗？它应该在40到50分钟之间，所以在2400到3000秒之间。
浏览 2提问于2010-03-29得票数 1
回答已采纳
1回答
GeoPoint point = new GeoPoint(
(int) (userlocation.getLatitude() * 1E6),
(int) (userlocation.getLongitude() * 1E6));
我正在创建像上面这样的地理点，但它不是在用户的确切位置，它是近500到600米远
这里的userlocation是我从location listener获取的位置
在user location中，我得到了类似于18.453225455645 & 78.15446456546的值，但在绘图时，我只能使用18.453225 &
浏览 2提问于2012-02-16得票数 1
回答已采纳
1回答
我的程序中有以下部分： #include <stdio.h>
#include <stdlib.h>
#include <math.h>
int main ()
{
double a, b, c, check;
check = (pow(a,2) + pow(b,2) + pow(c,2));
if (check !=1 )
{
printf("a^2+b^+c^2 = %f, and is not equal to 1\n", check);
printf("do som
浏览 11提问于2020-06-18得票数 0
回答已采纳
在下面的控制器中，我收到了下面的错误：“当从一个数字转换时，值必须是一个小于无穷大的数字”。这发生在以"var zones...“开头的行上。
这是我的控制器
public JsonResult LatLng()
{
var zones = zoneRepository.GetCoordinates().ToList();
//return Json(zones, JsonRequestBehavior.AllowGet);.
return Json(new { zones = zones }, JsonRequestB
浏览 3提问于2011-10-03得票数 1
我设置了一个将紧凑数据字符串解析为JSON的系统。我用一个19位的数字来存储身份证。不幸的是，任何大于17位的数字，parseFloat()都会舍入最后几位。
这会中断整个数据字符串。我能解决这个问题吗？
例如，8246295522085275215变成了8246295522085276000。为什么会这样呢？
浏览 2提问于2011-11-03得票数 8
回答已采纳
当我尝试在答案中添加1时，python会在答案中添加10^-16，并尝试了不同的打印方式，但我认为这不会有帮助。有什么答案吗？
x = 0.8475
print(1 + x)
print(1 + 0.8475)
print(1.0 + 0.8475)
y = 1 + x
print(y)
输出：
1.8475000000000001
1.8475000000000001
1.8475000000000001
1.8475000000000001
浏览 0提问于2019-01-03得票数 2
3回答
我正在编写一个报告生成软件使用的查询。
这其中的一部分是查询完成项目所需的时间。我们将其记录为2个小数浮点数，以便我们可以估计到一刻钟。
但是，如果我们在我们的报告中使用它，并且我们记录的小时类似于8.00，我想查询它并格式化它，使8.00只是8。但是，任何小数超过小数的小时，如8.25，应该保持为8.25。我怎么才能让它工作呢？
hours Queried Result
====== -> My Query -> ==============
8.00 8
8.25
浏览 4提问于2019-04-11得票数 0
我有一个简单的应用程序，只是实现加速度计的东西和NSLogs的结果到控制台。
2011-03-11 00:35:38.248 Accel[1070:307] ************
2011-03-11 00:35:38.737 Accel[1070:307] x: -0.0362244
2011-03-11 00:35:38.743 Accel[1070:307] y: -0.0181122
2011-03-11 00:35:38.747 Accel[1070:307] z: -1.03239
2011-03-11 00:35:38.750 Accel[1070:307] ********
浏览 1提问于2011-03-11得票数 1
回答已采纳
我试图找到这个问题的答案，但我没有找到任何相关的东西。我有一个变量，可以是像50000.45这样的格式，也可以是像0.01这样的格式。我需要将这个变量写在一个5位数宽的标签中。 使标签仅显示最高有效数字的最佳方法是什么？ 为了更好地解释，我希望例如50000.45: 50000、4786.847: 4786、354.5342: 354.5、11.43566: 11.43和0.014556: 0.0145 可能不需要这样做： 如果为 适用于所有情况。
我希望对这个问题有足够的解释。多谢你们的支持。莱尼
浏览 18提问于2021-04-08得票数 1
回答已采纳
3回答
我正在制作一个监听价格定期更新的应用程序，但偶尔我的数据源会抛给我一些类似"1.79769313486232e+308“的东西。发送的数字永远不会是真正大的数字(例如，"179769313486232e+308")，但与上面的示例一样，它们具有很高的精确度。
我很乐意去掉前几位小数点后的所有东西，并以类似于"1.798“的形式结束，但是下面的代码对我不起作用：
irb(main):001:0> s = '1.79769313486232e+308'
=> "1.79769313486232e+308"
irb(main
浏览 0提问于2010-08-12得票数 1
select (SELECT power FROM newdb.newmeter where date(dt)=curdate() order by dt desc limit 1)
-(select Power from newdb.newmeter where date(dt)=(select date(subdate(now(), interval weekday(now()) day))) limit 0,1) as difference;
上面的查询是我的程序的一部分，它给我提供了从一周的第一天到一周的当前日期存储的数据的差异。这些查询分别按如下方式正常工作，并返回：
SELECT
浏览 3提问于2011-05-09得票数 0
我正在用PHP和MySQL开发一个web应用程序，我试图将一个值存储在一个大于100万的行中。每当我插入数据库时，比如说，如果我尝试插入45,234,023.34 (不管值是多少)，它总是被截断为999,999.99。我为那个专栏选择了一个未签名的long。我知道这是数据类型的最大值，如下面的所示。而且，我永远不用担心超过2个小数点。不管是什么情况，我所有的操作都是2小数点。
你们知道怎么解决这个问题吗？在这种情况下，正确的方法是什么？
谢谢你提前给我时间。
更新：
以下是SQL代码：
create table `values` (`id` int unsigned not null aut
浏览 3提问于2016-07-26得票数 0
回答已采纳
我有一个SQLDB和字段表REAL。在我的布局中，我已经将其字段大小设置为只允许8+2数字。在我的对象中，我使用了字段的数据类型作为“浮动”。
qs[0] = "CREATE TABLE " + RELATION_TABLE_NAME + "(id TEXT PRIMARY KEY, name TEXT NOT NULL, startBal REAL NOT NULL, currentBal REAL NOT NULL);";
<EditText android:text="" android:id="@+id/relCurrBa
浏览 1提问于2012-01-28得票数 3
回答已采纳
2回答
AS3随机数
、、、、
我已经看过几个随机数问题，但不理解它，以及我如何使用它。我想生成一个介于0.5和2EG 0.5,1.1，1.2，1.3等之间的数字，并在补间中使用这一点。这就是我所拥有的：
var letters:Array = [Rbox1, Rbox2, Rbox3, Rbox4, Rbox5, Rbox6,
Rbox7, Rbox8, Rbox9, Rbox10, Rbox11, Rbox12]
function randomRange(minNum:Number, maxNum:Number):Number
{
return (Math.floor(
浏览 2提问于2014-02-06得票数 0
我只想问一个关于Math.round方法的问题。我正在计算两个整型数的除法为双精度数。等式看起来是这样的: 199/39。当我这样做时，它返回5.0作为答案。我知道答案应该是5.1加上更多的小数。有人告诉我使用Math.round方法将其四舍五入到最接近的十位，但我不知道如何实现这一点。我是否应该将双精度变量更改为int，并使其为int/int=int？我甚至不确定Math.round是如何得到5.1的，因为我只读到了最接近的整数，而不是小数点。任何帮助都是很棒的。
附言:这是家庭作业，但我这么问只是因为我在我的笔记、幻灯片或书中找不到任何关于如何使用Math.round的信息。
浏览 1提问于2013-10-19得票数 1
我知道现在可能还早，但我现在很困惑..我在CSS中设置rgba的颜色
#body{ color: rgba( 100,100,100,0.3 ) }
当我请求Javascript给我这个元素的计算样式时，我得到的是：
window.getComputedStyle(document.body)['color']
//rgba(100, 100, 100, 0.298039)
我正等着rgba(100,100,100,0.3)呢。
我的问题是:为什么？
这是怎么可能的，我该如何解决这个问题？
浏览 0提问于2013-05-07得票数 1
回答已采纳
2回答
我想从文本文件中读取双倍内容，例如31 39.9316476397222 116.113516352222
我两个都试过了，不是工作。我只能读取前几个十进制数字，例如39.93164，但不能读取39.9316476397222。有人知道为什么吗？谢谢!
int NodeID;
double _lat,_long;
fscanf (pFile, "%d %lf %lf", &NodeID,&_lat,&_long);
printf ("I have read: %d %f %f\n", NodeID,_lat,_long);
fscanf
浏览 6提问于2013-07-25得票数 3
回答已采纳
4回答
我有一个关于浮点数的简单问题，
double temp;
std::cout.precision(std::numeric_limits<double>::digits10);
temp = 12345678901234567890.1234567890;
std::cout << (temp < std::numeric_limits<double>::max()) << std::endl;
std::cout << std::fixed << std::endl;
std::cout << te
浏览 0提问于2012-03-02得票数 0
回答已采纳
2回答
python 3轮函数近似
、、、、
我遇到了一个关于python的round函数的问题。当我通过执行round(0.715,2)来舍入2位数时，答案是0.71，类似地，当我执行round(0.615,2)时，结果是0.61。但是当我执行round(0.515,2)时，结果是0.52，类似地，对于round(0.915,2)，结果是0.92。
有人能解释一下吗？
浏览 0提问于2013-03-08得票数 3
目前，Ledger Nano S只显示了前几位和最后几位数字，中间的数字被截断。为什么它要截断地址的中间部分？我们如何显示整个地址？
浏览 0提问于2017-12-19得票数 0
回答已采纳
我一直在用这样的东西
/(\w[.]\w)+/ig
但这并不是我需要做的。我试着用数字来匹配前后的任何一个句点，不管长度如何。必须至少匹配一次。
有没有办法在一条线上做到这一点？
谢谢大家
全文答覆：
/^\d+(?:\.\d+)+$/gm
谢谢大家！你们都是巫师。
浏览 5提问于2015-03-17得票数 0
回答已采纳
2回答
我是CakePHP游戏的新手，需要一些关于如何解决一个看似简单的问题的见解。在我的新工作中，我继承了一些内部网站，这些网站利用了这个框架，我正在努力单独与谷歌解决这个问题。
我拥有的是一个视图，它加载一个表单，并用数据库中已有的数据填充它。有三个字段具有此行为，并且都存在相同的问题。
这些字段在视图中声明如下：
echo $this->Form->input('hotel_costs');
echo $this->Form->input('misc_costs');
在数据库中，它们被声明为float DataTypes，因此，当加载到浏
浏览 0提问于2012-10-27得票数 0
回答已采纳
2回答
很晚了，我应该去睡觉了，也许这就是为什么我想不通的原因。我用的是fedora 13机器，我刚跑了
yum install gambit-c
我安装它是因为我想在一本计划好的教科书中学习。
但现在它已安装，我如何启动方案解释器？？
浏览 3提问于2011-02-08得票数 0
回答已采纳
1回答
我是react.js的新手，我试着部署我用webpack构建的第一个测试版应用程序，现在我有了build.js文件。现在，根据我对部署build.js的理解，我不需要在服务器中设置任何东西，只需要放置以下内容
index.html
build.js从index.html内部指出
资源和样式在各自的文件夹结构中。
我往正确的方向走了吗？是否需要在服务器上安装npm/节点等？还是，把所有的资源都投入使用？
谢谢
浏览 0提问于2018-03-26得票数 4
我正在创建一个为用户生成密钥对的应用程序。但在每个设备中，钥匙是相同的。这是我的代码：
public KeyPair generateKeys() {
KeyPair keyPair = null;
try {
// get instance of rsa cipher
KeyPairGenerator keyGen = KeyPairGenerator.getInstance("RSA");
keyGen.initialize(1024); // initialize key generat
浏览 3提问于2014-06-22得票数 8
回答已采纳
2回答
希望格式化输出以显示一个非常小的数字..
a= 6500
b= 3600
c=.000900
d= int((b/a)-c)
print d
答案是零，但是在后面查找.######数。
对不起，试试这个吧
浏览 10提问于2013-02-11得票数 0
回答已采纳
1回答
我和我的几位同事正在讨论如何在更新的Ubuntu版本上维护PHP的旧版本(主要是5.2.x)。由于10.04+上的存储库中只有5.3.x版本，所以最常见的解决方案是固定的。我的同事们似乎同意这样做并不明智，但我对此并不太清楚。我可以想象，在某些情况下，适当地固定其他包是很好的，但是对于PHP这样的东西，它可能不是最好的主意。
为什么会对PHP的老版本不感兴趣呢？
浏览 0提问于2011-02-17得票数 1
是否可以将autoNumeric.js插件配置为显示与实际值不同的小数位数？
所以在blur上它会显示例如：
100.35
关于焦点：
100.34578 (输入的实际值)
浏览 1提问于2015-11-24得票数 1
我编写了一个简单的程序来实现SSE内部函数，用于计算两个大的(100000个或更多元素)向量的内积。该程序比较了两者的执行时间，内积计算的传统方法和使用内积。一切都很好，直到我在计算内积的语句前插入了一个内循环(只是为了好玩)。在我进一步讨论之前，下面是代码：
//this is a sample Intrinsics program to compute inner product of two vectors and compare Intrinsics with traditional method of doing things.
#include <i
浏览 3提问于2010-06-01得票数 5
回答已采纳
假设我们有一个双精度的12345.6789值(应该是动态的)
现在要求拆分数字并获得小数位数和小数位数，这将是：
double number = 12345.6789;
int decimal = 12345;
int fractional = 6789;
我把小数部分算出来了，但你能给小数部分一点提示吗？非常感谢。
浏览 17提问于2012-07-16得票数 20
回答已采纳
如果列的数据类型为integer，并且该列中的值的平均值是decimal.In输出，则小数部分将被截断，如何确保小数部分不被截断
25
25.5
30.1
28.09
插入的值为
total_mark number(10)
25
25
30
28
如何找出最后3个值被截断？
浏览 0提问于2017-11-09得票数 1
1回答
这是我的第一个问题，所以我希望我不会在论坛上违反任何给定的规则。我想请你帮忙。我真的是新手编程，但对于家庭作业，我必须用C++编写一个程序，它将添加2个二进制数。我能够通过转换为小数并将它们相加来实现。我做了bcs，我已经在我的电脑上有它的一些部分。我的问题是，除非我输入非常大的二进制数，否则一切都很好。当我们的学校项目检查代码时，更改数据类型会产生不同的结果。我不确定到底要改变什么。提前谢谢你。当必须转换带有"e“的十进制数时，看起来有问题-
#include <iostream>
#include <cmath>
#include &
浏览 1提问于2013-11-09得票数 1
我使用IUniswapV3PoolState.slot0返回sqrtPriceX96，并对Uniswap V3中的不同对进行勾选。ETH/DAI的计算结果是合理的，但ETH/USDT和ETH/USDC的结果有很大的不同。
这并不是因为令牌的顺序，而是价格的最终结果(在处理平方根和Q96之后)相差10^(-12)。所以我会得到$3200左右的ETH/DAI，而ETH/USDT和ETH/USDC将给$3200*10^(-12)。我遗漏了什么吗？谢谢!
浏览 21提问于2022-01-14得票数 1
回答已采纳
1回答
隐写/执行命令
、、
我制作了一个在远程系统上加密命令并执行的程序，但之后我想学习隐写术，我有一个问题:是否可以将脚本附加到Ubuntu上的PNG或JPG或BMP或其他文件，并执行该脚本，例如，可以将JS代码附加到PDF文件中。求你帮帮我。
谢谢
浏览 0提问于2015-08-04得票数 0
回答已采纳
如何在SQL Server2008数据类型中存储.NET double？
当我试图在一个数字(16，16)列中存储一个双精度值时，我得到一个异常‘参数值'1.3465492655247000’超出范围‘。因为数字有16位小数，前面有一个1。数字(16.16)是我可以在SQL Server中为该类型设置的最大值。
我在C#中创建了一个ADO.NET数据集，并将列设置为decimal。我把双精度数改成了小数点。
此显示SQL Server2008数据类型
浏览 0提问于2011-10-06得票数 0
回答已采纳
1回答
我有包含26列的dataframe。列类型为float64、int64、datetime和object。我将这个df插入到数据库中。但是，正如我在数据库中看到的那样，float64列意外地四舍五入。 “”“ query = config['query']['insert_output_query']
#query = insert into schema.table values(:1,:2,:3,...,:25,:26)
db_cursor.executemany(query, df.values.tolist())
db
浏览 34提问于2020-12-09得票数 1
我有四个@Html.TextBoxFor，如下代码所示
@Html.TextBoxFor(model => model.money, "money", new { @class = "required numeric", id = "money", Value = String.Format("{0:C}", Model.money )})
@Html.TextBoxFor(model => model.money2, "money2", new { @class = "required nu
浏览 0提问于2015-01-09得票数 0
如果下面的api将3个设备(2,3,4)保留在随机选择的主数字下，那么存储在dev_t变量dev_no中的次要数字3和4在哪里？
alloc_chrdev_region(&dev_no, 2,3, "mod3-device");
当使用未成年人(Dev_t)宏提取次要数字时，我只能得到一个次要数字(即2)。
me@myPC:~/work/dd/2018$ dmesg | tail
[16577.759505] module_init()
[17301.433970] major:minor 238:2
我看到，在一个dev_t变量中，20位是为次要数字保留的，12位是为
浏览 1提问于2018-06-20得票数 0
回答已采纳
我正在用jQuery写一个脚本，我得到了下面的数字7.2387。我所拥有的只有7.23，为此我编写了以下代码：
var str = 7.2387;
var shorter = str.substr(0,4);
但是我得到了这个错误：
all.js?55:92 Uncaught TypeError: str.substr is not a function
at HTMLSpanElement.<anonymous> (all.js?55:92)
at HTMLSpanElement.dispatch (jquery.min.js:2)
at HTMLSpan
浏览 3提问于2018-03-30得票数 3
根据规范，使用"?“绝对没有区别。和"$“变量前缀字符，即使是混合和匹配。例如，这是完全合法的：
SELECT $title
WHERE { <book1> dc:title ?title }
甚至还需要添加以下内容：
查询变量被标记为使用"?“或"$"；"?“或者"$“不是变量名的一部分。在查询中，$abc和?abc标识同一个变量。
有人知道为什么他们创建了两种冗余的方式来前缀一个变量吗？直到今天，我在浏览语法的生产规则时，才知道"$“的存在。用"?“现在是如此普遍，似乎"$“只是对
浏览 3提问于2015-10-12得票数 2
回答已采纳
1回答
我正在尝试显示2个总数的2个小数点并减去它们，但它没有计算小数点。任何人都想弄清楚这一点。谢谢。
function calculate() {
var myBox1 = document.getElementById('box1').value;
var myBox2 = document.getElementById('box2').value;
var basicpay = document.getElementById('basicpay');
var myResult = myBox1 * myBox2;
浏览 3提问于2014-08-01得票数 0
我正在阅读一个字符串列表，其中一些字符串是小数形式的，并将它们与另一个字符串进行比较。不幸的是，在第一个列表中，我发现所有的十进制项，也就是所有的字符串都有一个额外的尾随零。因此，我的.equals()函数或.contains()函数无法工作。
List 1 : 134.20, 16, abacus, 44.10, 12/2/2013, 4, 45.220
List 2 : 134.2, 16, abacus, 44.2, 12/2/2013, 4, 45.22
如何在列表2中添加尾随零？有没有办法使用正则表达式或其他方法来删除尾随的零？
相反，我可以删除列表1中的尾随零吗？
浏览 1提问于2013-07-17得票数 0
回答已采纳
有没有办法在python中格式化一个数字，如下所示：
DecimalFormat("00000.00000").format(getSettlmentPrice()).replace(".", "")
这就是在java中的实现方式。
浏览 5提问于2016-01-28得票数 1
1回答
我有一张24位的png图像。
图像细节
Size : 4663KB
Witdh: 1920 pixels
Height: 1080 pixels
Bit Dept: 24 bit
我计算它的比特每秒使用公式bpp = Scomp / NPixels，由佩德罗米格尔莫雷拉从。
我的bpp是18或17.98996914
我的主要问题是，每个像素可以有不同的位元和不同的位段，或者是位区=每个像素位。
浏览 8提问于2021-09-28得票数 1
3回答
格雷厄姆号以7结尾，这是一个巨大的数字，理论上需要比宇宙本身的大小更多的信息来存储。然而，计算格雷厄姆数的最后几位数是可能的。
最后几位数字是：
02425950695064738395657479136519351798334535362521
43003540126026771622672160419810652263169355188780
38814483140652526168785095552646051071172000997092
91249544378887496062882911725063001303622934916080
25459461494578871427832
浏览 0提问于2011-02-08得票数 14
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
