1回答
$fooValue = 100.68;
$cowValue = 100.67;
$diffValue = $fooValue - $cowValue;
if($diffValue <= 0.01) {
echo("success");
} else {
echo("error");
}
这将显示“错误”。
我知道在Java里该怎么做。但是我不擅长PHP，尤其是这个计算器。
请帮帮我。我的意思是如何成功？
浏览 2提问于2010-10-18得票数 4
回答已采纳
我有以下几点：
string value = "9223372036854775807";
double parsedVal = double.Parse(value, CultureInfo.InvariantCulture);
..。结果是9.2233720368547758E+18，它不是完全相同的数字。如何在不损失精度的情况下将字符串转换为双精度？
浏览 2提问于2012-01-16得票数 4
回答已采纳
在Java中，我们可以隐式地将int转换为float，这可能会导致精度损失，如下面的示例代码所示。
public class Test {
public static void main(String [] args) {
int intVal = 2147483647;
System.out.println("integer value is " + intVal);
double doubleVal = intVal;
System.out.println("double value is &
浏览 1提问于2012-08-11得票数 9
回答已采纳
2回答
我使用的是sql server 2000，并且遇到了像下面的语句这样的舍入函数问题。
SELECT ROUND(5 * 7.83, 1)
结果将是39.2
但是当我从表中获得这些值时，它会给出39.1，这意味着它会截断，不会四舍五入。
SELECT ROUND(rate * qty, 1)
FROM tbl
结果将是39.1
rate和qty列的数据类型为浮点型。在qty中插入5，在rate中插入7.83，然后检查它。我怎么才能修复它？
浏览 0提问于2012-02-27得票数 1
回答已采纳
2回答
我在学f#。考虑到这一职能：
let mult (a:decimal) (b:int) : decimal = a * b
当我试图编译时，我得到了这个错误:Error1Type约束不匹配。int类型与十进制类型不兼容。
为什么编译器不接受这个？
PS:当我解释转换时，它确实编译了：
let mult (a:decimal) (b:int) : decimal = a * decimal(b)
浏览 3提问于2014-04-25得票数 6
回答已采纳
我正在处理一组显微图像，并试图为它们找到合适的阈值。我使用以下几行代码： from skimage import io, img_as_float
from skimage.restoration import denoise_nl_means, estimate_sigma
from skimage import exposur
from skimage.io import imsave
img = img_as_float(io.imread(image))
sigma_est = np.mean(estimate_sigma(img, multichannel = True))
pa
浏览 44提问于2020-12-08得票数 0
回答已采纳
3回答
Java中的Herbert Schild状态--初学者指南
如果(a)两种类型兼容且(b)目标类型大于源类型，则将发生自动类型转换
但是:他随后将一个long转换为一个double，因此(b)被违反了，因为64位整数明显大于32位类型。这是有点混乱和违反直觉在一开始。
难道不应该把条件细化到
目标类型比源类型更大或更小，如果没有丢失数据，则这种转换只会发生，因为目标类型足够大，足以容纳源类型的数据吗？
浏览 1提问于2015-02-18得票数 0
我正在尝试将Col_1，DATE ( DD/MM/YY 00:00:00)和Col_2，TIME (hh24:mi:ss)合并到一个单独的专栏中。
我研究了几个代码，并尝试了几个(adddate()，To_Date())，但它们都不起作用。我想知道当-->时如何组合这两列
A. Col_1为DATE，COL_2为TIME
B. Col_1为DATE，COL_2为CHAR
浏览 0提问于2015-06-20得票数 0
1回答
对于机器学习应用程序，我需要根据被更新但初始化为0的值对列表进行排序。问题是更新后的值(最初为0)的部分使用作为排序键(其中一个在分母中)的整数公式，因此在第一次迭代时会抛出DivisionByZero错误。
由于对每个元素进行多次检查，所以我希望在保持合理可读性的同时，非常有效地编写公式的分母。到目前为止，我想出了4个版本：
import random
import datetime
def generate_value_pair():
# in my case about 10% of the time b == 0
return 10**6 * random.rand
浏览 2提问于2020-12-11得票数 0
1回答
我正在研究分数的二进制数据表示，我想知道如果同时存储存储分数的分子和分母，分数将具有什么样的数据结构。它只是两个独立的数字，它们没有关系，但在计算中使用时是组合的吗？
浏览 5提问于2013-02-04得票数 0
回答已采纳
2回答
我正在尝试使用以下查询更新表：
UPDATE test.t1
SET obrigatorios = (SELECT quantidade FROM test.tcur WHERE tipo = 3)
WHERE perfil IN (7, 11);
或者这个查询应该做同样的事情：
UPDATE test.t1 a, test.tcur b
SET a.obrigatorios = b.quantidade
WHERE a.perfil IN (7, 11)
AND b.tipo = 3;
表tcur的结构如下：
CREATE TABLE `tcur` (\
`quantidade` int(1
浏览 3提问于2013-02-14得票数 0
回答已采纳
1回答
尝试在DateOfBirth中使用postgresql中的age()函数
type Person struct {
ID int
DOB time.Time
}
query := `SELECT id, AGE(dateofbirth) from person WHERE id = $1`
但是有个错误
不支持扫描，将driver.Value类型[]uint8存储到*time.Time类型
如果我只是把道布作为字符串传递，那么age()函数就能工作。
type Person struct {
ID int
DOB string
}
但是我想检查道布的有效性，所以我使用了
浏览 1提问于2022-11-24得票数 -1
回答已采纳
2回答
我曾经认为我理解decimal和double值之间的区别，但是现在我无法证明这个代码片段的行为是正确的。
我需要在某些时间间隔内将两个十进制数的差值除以，例如：
decimal minimum = 0.158;
decimal maximum = 64.0;
decimal delta = (maximum - minimum) / 6; // 10.640333333333333333333333333
然后，我以相反的顺序创建间隔，但第一个结果已经出乎意料：
for (int i = 5; i >= 0; i--)
{
Interval interval = new Inter
浏览 3提问于2013-05-03得票数 2
回答已采纳
2回答
是否有任何已知的规则说某些there类型更适合计算？
我有两个包含数字的相同的表-一个是SMALLINT字段，另一个是DECIMAL(9,2)字段。我正在对它们执行以下操作(两个查询)：
SUM(CAST(A AS BIGINT))
SUM(CAST(A AS BIGINT))
CAST(CAST(SUM(A) AS decimal) / CASE SUM(B) WHEN 0 THEN NULL ELSE SUM(B) END * 100 AS decimal(18, 0))
CAST(CAST(SUM(A) AS decimal) / CASE SUM(B) WHEN 0 THEN NULL
浏览 6提问于2014-06-16得票数 1
回答已采纳
4回答
任何像这样转换浮点数的聪明方法：
float f = 711989.98f;
转换为小数(或双精度)而不损失精度？
我试过了：
decimal d = (decimal)f;
decimal d1 = (decimal)(Math.Round(f,2));
decimal d2 = Convert.ToDecimal(f);
浏览 6提问于2010-04-08得票数 18
回答已采纳
下面我有一个方法，我从网上搜索，计算C#中的Excel的排序函数。我做了一点修改以适应我的程序，但没有改变主要逻辑。
该程序编译和运行良好，没有任何错误(据我所知)。无论如何进一步检查我的代码，在我的main中，我使用以下命令调用函数
double result = percentRank( array, x);
哪里
X是一个整型
数组是一个列表(int)
它的类型与percentRank方法指定采用的类型不同，但它仍然可以正常运行。我的问题是为什么？
private static double percentRank(List<int> arr
浏览 0提问于2012-09-28得票数 4
回答已采纳
1回答
我正试图得到一个稳定值的下限和上限。
function foo(uint value) public {
uint lower_threshold = value * 0.5;
uint upper_threshold = value * 1.5;
}
使用上面的代码，我得到以下错误：
TypeError: Operator * not compatible with types uint32 and rational_const 1 / 2
我的目标是检查传递的值是否在执行某些操作的阈值之内。有什么办法能做到这一点吗？
浏览 1提问于2019-02-24得票数 2
回答已采纳
2回答
为什么原始值不能(例如。双精度)被投射到一个物体上(例如一个字节)？
double x = 99;
Byte r = (Byte) x; // Error: Cannot cast from double to Byte
System.out.println(r);
浏览 1提问于2015-04-21得票数 3
1回答
我的原始数据使用uuid，它是来自数据库的uuid_short()。当我将数据放入vue props时，数字将向上/向下舍入。我该怎么办？
示例：
test.blade.php：
<code>A0</code>
原始数据：
<code>A1</code>
但在vue中，m显示: test_uuid : 27091219637075988。为什么？
浏览 9提问于2021-03-16得票数 2
回答已采纳
我正在尝试将matlab代码转换为python，但im2double函数给我带来了麻烦。它获取图像并返回一个包含像素的矩阵，该矩阵使用双精度而不是整型。
目前，我正在使用PIL处理我的图像。它有一个可以接受'F'作为参数的convert方法，但它所做的就是将整数值255转换为255.0。据我所知是没用的。
我的问题是，我正在做一些图像处理，然后必须保存它们。我可以对我的值进行标准化，使它们落在0-255范围内，但我会损失一些精度。它足够小，通常它不应该重要，但在这里，它是重要的。
我尝试过使用'tiff‘文件格式，但效果不佳。虽然我可以写/读它，但我得到的结果并不正确，
浏览 14提问于2011-03-20得票数 3
我正在用以下规范训练拥抱脸xlnet大案例模型：args = TrainingArguments( f"xlnet-large-finetuned", evaluation_strategy = "epoch", save_strategy = "epoch", learning_rate=2e-5, per_device_train_batch_size=1, per_device_eval_batch_size=1, num_train_epochs=3, gradient_accumulation_steps=16, weight_deca
浏览 11提问于2022-07-24得票数 0
对于MySQL，若要指定数据类型日期时间，则必须使用关键字DATETIME。但这只会给你正常的时间。不是毫秒。
mysql> SELECT col,
> CAST(col AT TIME ZONE INTERVAL '+00:00' AS DATETIME) AS ut
> FROM ts ORDER BY id;
+---------------------+---------------------+
| col | ut |
+-------------
浏览 1提问于2022-01-30得票数 -4
回答已采纳
2回答
我试图了解隐式转换何时发生，并检测它们以提高代码库的质量。
为此，我启用了Wconversion和Wsign-conversion。然而，我遇到了编译器不会给出任何错误的情况。示例：
#include <iostream>
#include <array>
int main()
{
std::array<int, 10> vec{};
std::cout << vec[1] << std::endl;
}
汇编：
$ g++ --std=c++14 -Wall -Wextra -Werror -pedantic -Ws
浏览 0提问于2019-06-19得票数 4
回答已采纳
我试图更新文档中的一个字段，该字段是长整数。但它被更新为'14818435007969200‘值，而不是'14818435007969199’。
db.getCollection('title').updateMany({},
{$set:{'skillId':[NumberLong(14818435007969199)]}})
db.getCollection('title').find({})
{
"_id" : ObjectId("5853351c0274072315da2426"
浏览 7提问于2016-12-22得票数 1
回答已采纳
2回答
我正在使用PHPExcel将一些数据导出到Excel中。除了导出将数字的最后三位数替换为零的奇怪行为外，一切正常。
例如，我有一个号码：876685900060999549
但是当导出时是这样的：876685900060999000
如您所见，只有最后三个数字被零代替。我已经尝试过使用setFormatCode( PHPExcel_Style_NumberFormat::FORMAT_NUMBER )，但不幸的是，这没有奏效。
有人知道为什么只有最后三个数字被零取代，以及如何防止这一点吗？
浏览 5提问于2013-12-02得票数 2
回答已采纳
2回答
我有一个浮点值，我试图用以下代码插入Server表中：
SqlConnection connection = new SqlConnection(ConnectionString);
SqlCommand command = new SqlCommand("AddNewValue", connection);
command.CommandType = CommandType.StoredProcedure;
command.Parameters.Add("value", SqlDbType.Float).Value = value;
try
{
c
浏览 3提问于2016-04-13得票数 0
回答已采纳
3回答
我正在处理第三方数据，我需要加载到我的postgresql数据库中。我遇到了一些问题，有时我得到的时间是'24:00:30‘，而实际上应该是'00:00:30’。这会拒绝数据。
我试过了，但没有成功。
insert into stop_times_test trip_id, cast(arrival_time as time), feed_id, status
from external_source;
有没有办法在内部转换成正确的版本？
浏览 2提问于2011-10-22得票数 0
回答已采纳
我正在将一个十进制值从C#传递给Server存储过程。
存储过程中的参数定义为@latitude decimal。在进入存储过程之前，值为25.631230。
在运行分析器时，我可以看到Server将值看作: 25.631229999999999
当您处理经度/纬度时，这显然是一个非常不同的值。
SqlParameter lat = new SqlParameter { SqlDbType = System.Data.SqlDbType.Decimal, Value = 25.631230, ParameterName = "@latitude" };
cmd.Paramet
浏览 15提问于2022-12-03得票数 0
1回答
有什么好的方法来测试一个decimal值是否可以在不抛出异常的情况下转换为double，并且更好地不需要转换到一个字符串并从一个字符串进行解析？
我可以像这样测试与long或int类型的兼容性：(但还没有测试)
if (value == decimal.Truncate(value))
{
if (value >= int.MinValue && value <= int.MaxValue)
return (int)value;
if (value >= long.MinValue && value <=
浏览 2提问于2019-11-09得票数 0
回答已采纳
一个工作的Spark SQL：
SELECT current_timestamp() - INTERVAL 10 DAYS as diff from sample_table
我尝试过的Spark SQL (不起作用)：
SELECT current_timestamp() - INTERVAL col1 DAYS as diff from sample_table
从上面的查询中得到的错误：
mismatched input 'DAYS' expecting
== SQL ==
SELECT current_timestamp() - INTERVAL col1 DAYS
浏览 6提问于2019-09-24得票数 4
2回答
我想问一个关于以下方程式的问题：
value = (floor(((value - min) + (step / 2)) / step) * step) + min;
我使用它将传入的值限制在给定无符号整数类型的最小值的步长内。
我已经使用它一段时间了，并且工作得很好，直到最近我发现它可以产生意想不到的结果。下面的程序演示了我的观点：
// test.cpp
#include <cstdio>
#include <cstdlib>
#include <cstdint>
#include <cinttypes>
#include <cmat
浏览 1提问于2015-08-04得票数 2
3回答
我想做一个程序，它将返回小数点后小数的第n位的PI数字。只要n不大于50，它就能很好地工作。我能修复它吗?或者Python不允许这样做？
下面是我的代码：
pi = 3.14159265358979323846264338327950288419716939937510582097494459230781640628620899862803482534211706798214808651328230664709384460955058223172535940812848111745028410270938521105559644622948954930381964428
def nth_p
浏览 30提问于2020-02-20得票数 0
回答已采纳
1回答
由于某些原因，我的类上的TimeSpan属性没有被Subsonic持久化到数据库中，它只是被忽略了！？正在保存所有其他属性，确定。我使用的是SimpleRepository和RunMigrations，Subsonic v3.0.0.3。
public TimeSpan Time { get; set; }
不支持TimeSpans吗？
浏览 1提问于2010-06-10得票数 0
回答已采纳
我能把浮点数和整数进行比较吗？
浮点数会与代码中的整数比较吗？
float f; // f has a saved predetermined floating-point value to it
if (f >=100){__asm__reset...etc}
还有我能..。
float f;
int x = 100;
x+=f;
我必须使用从姿态参考系统接收到的浮点值f来调整位置值x，该位置值控制一个脉宽调制信号以校正姿态。
浏览 15提问于2009-04-17得票数 20
回答已采纳
我想从NOW()中减去分钟和从另一个表中读取的“多少分钟”的值：
SELECT * FROM A, B
WHERE
A.entity_type_id = B.entity_type_id
AND A.status = 'PENDING'
AND A.request_time < (NOW() - INTERVAL B.retry_interval MINUTE)
AND A.retry_count >= B.retry_allowed_count
这里的问题是，B.retry_interval是从另一个表获取的，而通常这样的查询
浏览 0提问于2013-04-15得票数 4
回答已采纳
我有一个简单的代码：
program test
implicit none
integer*4 nxProjPad, cf
nxProjPad=185
cf = NINT nxProjPad/2
end
为什么当我编译它时，它在终端中显示一个错误：
Unclassifiable statement at (1)
并且"1“指向cf。
浏览 2提问于2016-06-28得票数 0
我通过一个存储过程查询SQL Server以获取一些数据，返回的值如下：
10219150
然后，在一个程序集中(我没有该程序集的源代码，我反射了文件以查看代码)，有人编写了以下代码：
Amount = Convert.ToSingle(10219150); //the value from the stored procedure
因此，当我调用执行最终转换的方法时，它返回这个值：
1.021315E+7
那件事怎么可能？为什么Convert.ToSingle要添加额外的小数位？我不明白。
当我调用程序集的那个方法时，有没有一种方法可以在我的代码上逆转这种转换？我不能重写这个汇编文件，因为它
浏览 0提问于2010-02-12得票数 1
回答已采纳
这是一个程序，其中第4行生成编译错误(可能丢失精度，所需的char find int
public class test {
public static void main(String args[]) {
char c;
int i;
c = 'A'; // 1
char ch=32; //2
i = c; //3
c = i + 1; //4
浏览 0提问于2012-08-31得票数 0
我有一个名为REFERENCE的表，它的列是TIME (时间戳)，用于存储varchar秒值：10、13、55、。等
我希望使用“调整”字段来增加时间值，同时确保将调整值转换为秒，而不是分钟或其他单位，如下所示：
SELECT
TIME AS START,
TIME + ADJUST AS END
FROM REFERENCE;
怎么做呢？我试过使用interval，但它只适用于显式值，例如：
TIME + INTERVAL '13' SECOND AS END
浏览 2提问于2020-05-26得票数 1
回答已采纳
在排序和显示大数字时，您通常会以表示法显示大数字。我试图使用cpp中的<iomanip>库来显示整个数字，但对于非常大的数字，它失败了。
//big sorting
#include<bits/stdc++.h>
#include<iomanip>
using namespace std;
int main()
{
int n;
cin>>n;
double arr[n];
for (int i = 0;i < n; i++)
浏览 0提问于2020-06-02得票数 0
我有一个表，它存储在一个类型为VARCHAR的列中。
这是来自该字段的示例数据：
10.01
55.11
最近，作为新请求的一部分，我们不得不从存储在VARCHAR列中的数字中删除小数点。
所以，我有一个：
CONVERT(BIGINT, CONVERT(REAL, RTRIM(LTRIM(@amt))) * 100) as PaymentAmount
若要转换为REAL (不能从VARCHAR转换为BIGINT )，请乘以100，然后转换为BIGINT
现在的问题是，有时，在转换过程中，最终的结果是少一分钱。
示例：'10.11'转换为1010，10.15转换为1014
测试
浏览 1提问于2013-01-29得票数 1
回答已采纳
我知道，将string或bool转换为(int)MyString、(short)MyBool等是不可能的，而允许将int转换为short。
不幸的是，我找不到解释，为什么。所以我在这里问它。
为什么不允许显式转换某些数据类型(我不是问如何将字符串转换为其他类型或类似的内容)？
浏览 2提问于2012-06-05得票数 0
回答已采纳
我的一个客户想用c++实现一个JSON解析器和读取器。他不想采用第三方库。所以我想知道在哪里可以找到一个简单的JSON解析器实现，这样我就可以调整它或者用c++实现它。
浏览 1提问于2010-07-06得票数 2
2回答
我如何正确地约束这个最小化函数？Mincvf( cvf1 )应该最小化关于h的cvf1，我想设置这样的h>=0.4
proc iml;
EDIT kirjasto.basfraaka var "open";
read all var "open" into cp;
p=cp[1:150];
conh={0.4 . .,. . .,. . .};
m=nrow(p);
m2=38;
pi=constant("pi");
e=constant("e");
start Kmod(x,h,pi,e);
k=1/(h#(2
浏览 0提问于2014-07-25得票数 0
我使用函数评分和样本聚合来匹配上次访问的文档。
ES查询
{
"query": {
"function_score": {
"boost_mode": "replace", // we need to replace document score with the result of the functions,
"query": {
},
"functions": [
{
"field_
浏览 2提问于2016-04-04得票数 0
在MySQL中，存储产品价格(或一般货币)的首选列类型是什么？谷歌了解到我经常使用浮点数的小数，但我想知道哪一个更好。
我储存的价格从0.01到25.00不等。当然，更高的值也是可能的。(注意:我不是要求复制-面食代码，我只是给你更多的信息，可以帮助你形成一个更完整的答案)。
谢谢
浏览 5提问于2009-11-25得票数 87
回答已采纳
1回答
实数、浮点数、小数和货币之间的区别是什么？最重要的是，我什么时候使用它们。就像我所理解的-- real和float是近似的。类型，这意味着它们不存储确切的值。你为什么想要这个？
谢谢
浏览 5提问于2009-10-22得票数 2
我只有一个基本的问题，为什么在下面的陈述之间会有差异？
System.out.printf("%.2f \n", 55050000.41f);
System.out.printf("%.2f \n", 50.41f);
输出
55050000.00
50.41
第一条语句删除了一个十进制值，为什么不是第二条语句呢？
浏览 4提问于2021-03-12得票数 6
回答已采纳
我有一个从源( DataRow或SqlDataReader)获取date属性的方法：
protected SqlDateTime GetSqlDateTimePropertyValue(string propertyName, object source)
{
var objValue = GetPropertyValue(propertyName, source);
var value = objValue == DBNull.Value ? null : (DateTime?)objValue;
var sqlValue = new SqlDateTime();
if (v
浏览 0提问于2012-04-12得票数 8
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
