2回答
我有一个asp.net mvc应用程序，其中有以下函数：
public List<FichierModels> GetFichiersFromDirectoy(int _id_dir)
{
List<FichierModels> l = new List<FichierModels>();
Data.Connect();
using (Data.connexion)
{
string queryString = @"select Id, Id_directory, Url, Upload_date, L
浏览 1提问于2013-05-28得票数 1
回答已采纳
3回答
浮点比较
、
我很尴尬地问这个问题，但我正在运行iOS 6.1，下面的代码行返回False：
if ([[UIDevice currentDevice].systemVersion floatValue] >= 6.1)
然而，下面返回的是True：
if ([[UIDevice currentDevice].systemVersion floatValue] >= 6.1f)
为什么？
浏览 0提问于2013-04-03得票数 4
回答已采纳
2回答
让我们考虑一下下面的例子。双x= 1234597000.0
当我将x的值保存在DB中时，它被存储为1234600000。当我在程序中做减法运算时，它被视为1234600000。你能帮我了解一下那里发生了什么吗？
我的系统是solaris，使用Sun Studio C++(CC)编译器编译程序。
提前谢谢。
浏览 0提问于2011-04-19得票数 2
1回答
我为我的for服务使用了spring boot。每个方法都返回Map<Object, Object>，因为它是一个通用类型，并且这些方法能够返回任何响应，可以是原语int，也可以是User的复杂自定义对象。我还使用了Map<Object, Object>来消除JSON中的反斜杠"\“，而不是使用字符串。
但是我在客户端(Android应用程序)中遇到了变量类型转换的问题。
Map中的数字变量会自动转换为双精度(1.0，2.0，3.0，5.0，...)而它在服务器中是long。
如果我在服务器端将数字转换为字符串，那么在客户端转换是正确的，例如1，2，3，5，..
浏览 2提问于2016-09-29得票数 0
2回答
当我们创建spark数据帧时，我们将数据帧中的数据发送到Kudu和Kafka(依次被提取并进入S3)
然而，一旦数据帧被插入，我们在Kudu中看到的精度是1e-15
现在，如果我使用相同的数据帧并将其转换为Kafka可以使用的格式
override def getKafkaDataFrame(df: DataFrame) : DataFrame = {
df.withColumn("key", to_json(struct(df.col(PK1),
df.col(PK2)))
.withColumn("value", to_json(struct(
浏览 51提问于2020-02-07得票数 0
我在书中和网络上看到过几个例子，他们有时在声明浮点值时使用小数位，即使它们是整数，有时还使用"f“后缀。这有必要吗？
例如：
[UIColor colorWithRed:0.8 green:0.914 blue:0.9 alpha:1.00];
这与以下内容有何不同：
[UIColor colorWithRed:0.8f green:0.914f blue:0.9f alpha:1.00f];
后面的"f“有什么特别的意思吗？
去掉alpha值的尾随零也是可行的，因此它变成：
[UIColor colorWithRed:0.8 green:0.914 blue:0.9 alph
浏览 0提问于2010-03-08得票数 3
回答已采纳
5回答
在我的代码中，我编写了下面这行代码：
return ((value / 120) * 1440).ToString();
现在，当value中的值小于0时，它返回0，因为它将(value / 120)的结果视为整数，当我需要C#将此结果视为浮点数时，有什么方法可以实现这一点吗？
示例:如果值= 80
然后，此函数返回0，而我希望此函数返回960
浏览 1提问于2011-06-02得票数 2
回答已采纳
1回答
一系列数字所需的最小位数
、、、
我正在试着找出一个关于测量压力的问题的答案。这些度量应该以二进制浮点格式存储，我的任务是在一些约束条件下确定这样做所需的最小位数；
最大压力为1e+07页
最小压力为10 Pa
测量准确度为0.001 %
所以如果我理解正确的话，我可能会碰巧
1e+07 + 0.00001 * 1e+07 = 10000100页
并且想要精确地存储它。这意味着我需要24位，因为
2^23< 10000100 <2^24-1。
这包括负号的1位吗？既然我们不测量负压，那么更准确的答案是23位吗？
对于最小的压强，我可以恰好测量9.9999 Pa，并且想要正确地存储，所以4个小数。因为我可以做同样类型
浏览 2提问于2018-02-13得票数 0
3回答
我对双精度和浮点数的除法的精度和速度有疑问。
例如：
double a;
a=myfun(); //returns a number with lots of decimals
float b=5.0;
double result=a/b;
如果b是双倍，结果会改变吗？如果它们不是双精度的，是否需要更多的时间来计算(因为改变了浮点数的大小以适应双倍尺寸)？
浏览 1提问于2012-10-24得票数 1
回答已采纳
2回答
我有一个任务，应该检查我是否理解重载方法...
但这项任务让我更加困惑
如何解释这一事实？
bar(i,c);
bar(l,c);
输出：
II
DL
有没有解决这些任务的方案，有没有什么规则？
public class Foo{
static void bar(int a, double b){
System.out.println("ID");
}
static void bar(int a, int b){
System.out.println("II");
}
stati
浏览 0提问于2016-03-29得票数 0
我是编程新手。
我有一个非常基本的问题：“双精度或浮点型变量可以用于整型值吗？”我是说，例如
float a = 2;
double b = 3.2;
谢谢
浏览 2提问于2012-01-24得票数 0
回答已采纳
1回答
我使用在ASP.Net中上传文件，没有出现任何问题。但现在我想添加更多的功能，比如创建缩略图，同时上传以下是我的代码：
try
{
string _path = "~/photos/realimg/";
string _thumPath = "~/photos/thumbimg/";
// Get the HttpFileCollection
HttpFileCollection hfc = Request.Files;
for
浏览 1提问于2012-08-13得票数 0
回答已采纳
3回答
这是一个基本的问题，但我得不到正确的答案。我认为这是因为原始类型自动类型转换。
为什么下面的语句调用print(int )方法而不调用print (char x)方法。
public class Overloading {
public static void main(String args[])
{
byte b='x';
print(b);
}
public static void print(int x)
{
System.out.println("Inside int
浏览 2提问于2013-04-04得票数 4
回答已采纳
1回答
我是爪哇新手。我有一个数字文字的问题。这就是我的问题： float rank = 1050.86F;
System.out.println(rank); 输出为: 1050.86 double rank1 = 1050.86D;
double rank2 = 1050.86F;
System.out.println(rank1);
System.out.println(rank2); rank1的输出为: 1050.86 rank2的输出为: 1050.8599853515625 我的问题是： (I)为什么rank1和rank2的输出不同？我该如何计算呢？ (ii)为什么
浏览 14提问于2020-06-23得票数 0
回答已采纳
我是Objective C和iPhone开发工具包的新手，我正在尝试将以下内容作为在标签区域中显示数字结果的简单示例：
label.text = [NSString stringWithFormat: @"%d", 55];
上面的代码在标签区域显示数字"55“。但是，以下代码会导致显示"0“(在头文件中将calculationResult声明为双变量类型)：
calculationResult = 55;
label.text = [NSString stringWithFormat: @"%d", calculationResult];
任何
浏览 1提问于2009-10-05得票数 2
回答已采纳
2回答
如果我使用double，并将其转换为float，那么它到底是如何工作的呢？值是否会被截断，以便适合浮点数？或者值的取整方式不同？很抱歉，如果这听起来有点补救，但我正在尝试掌握float和double转换的概念。
浏览 0提问于2012-04-09得票数 21
回答已采纳
有人能解释一下这段代码对输出做了什么吗？找到。
# Helper class to convert a DynamoDB item to JSON.
class DecimalEncoder(json.JSONEncoder):
def default(self, o):
if isinstance(o, decimal.Decimal):
if abs(o) % 1 > 0:
return float(o)
else:
return int(o)
浏览 0提问于2019-11-24得票数 0
3回答
在我的应用程序中，我使用了一个外部API，它使用json进行通信。今天我在floats和NSNumbers之间遇到了奇怪的行为(这可能是因为我在iOS方面缺乏经验)。问题是，我在API中收到了一个float响应，在这种情况下它是135.99。当本地obj-c json解析器解析响应时，它会使用该值创建NSNumber。它工作得很完美。但是当我开始使用这个API时，我不知道原生json解析器是如何工作的，所以我一直在做这样的事情：
NSNumber * number = [NSNumber numberWithFloat:[[response objectForKey:@"Number&
浏览 1提问于2013-02-14得票数 4
1回答
CUDA中有没有半精度的浮点数？
背景:我想使用glTexSubImage3D操作opengl纹理，其中的数据来自我使用CUDA生成的PBO。纹理是以GL_INTENSITY16格式存储的(这是一个半精度浮点类型afaik)，我不想使用glPixelTransferf(GL_x_SCALE，...)从整数值进行缩放，因为在没有缩放的情况下似乎要快得多。
有什么建议吗？
浏览 1提问于2011-07-27得票数 6
回答已采纳
2回答
随机变量的除法
、、
我的代码中有一个奇怪的逻辑错误，它不允许我除以我的变量。
if (cWeapon == soulSteeler){
lifeTake = damageDealt / 10;
lifeTake += health;
}
这就是我试图分割伤害并将其添加到我的健康中的地方。我在lifeTake damageDealt和health上将int更改为float，因为我知道我可以得到一些小数。
当我这样做的时候，什么都不会发生，我似乎找不到答案，所以我决定自己问。谢谢你，威尔
浏览 0提问于2016-06-02得票数 0
10回答
我只是想知道一些关于这个的信息。
float n = 2.99944323200023f
文字末尾的f是做什么的？叫什么来着？为什么要使用它？
浏览 0提问于2012-12-04得票数 18
回答已采纳
我有一个复杂的JSON对象，它看起来像这样(它被截断，只是为了给出嵌套的概念：
{
"absolute_magnitude_h" = "23.4";
...
"close_approach_data" = (
{
"close_approach_date" = "1994-09-03";
"epoch_date_close_approach" = 778575600000;
浏览 0提问于2018-10-18得票数 2
下面是解释代码。语言是Java，代码使用Android。
fg.setTextSize(height*0.50f); //<-'f' is in the brackets
或
@Override
protected void onSizeChanged(int w, int h, int oldw, int oldh) {
super.onSizeChanged(w, h, oldw, oldh);
sWidth = w / 3f; // <-'f' is here
}
后缀“f”是什么意思？
浏览 0提问于2011-01-11得票数 8
回答已采纳
12回答
C++提供了三种浮点类型: float、double和long double。我不经常在代码中使用浮点，但是当我使用浮点时，我总是会被一些无关紧要的代码行的警告所困扰，比如
float PiForSquares = 4.0;
问题是，字面值4.0是一个双精度型，而不是浮点型--这令人恼火。
对于整数类型，我们有short int，int和long int，这是非常简单的。为什么C没有短浮点型，浮点型和长浮点型？那么“双倍”到底从何而来呢？
编辑:浮点类型之间的关系似乎类似于整数。double必须至少和float一样大，long double至少和double一样大。不作其他精度/范围的保证。
浏览 0提问于2008-12-29得票数 16
我正在从一个JSON文件加载数据，该文件是像13.4567这样的浮点格式。
问题是，当我在Pandas中加载它时，当我打印该字段时，我得到了像1.34567e+06这样的科学记数法。
在创建数据帧时，有没有办法将字段设置为4位精度的常规浮点型，就像在JSON源文件中一样？或者我必须在创建数据文件后对数据进行处理？
以下是用于加载JSON的代码：
with open('myjson.json') as f:
loaded_file = json.load(f)
df = pd.DataFrame.from_dict(json_normalize(loaded_file)
浏览 0提问于2018-05-29得票数 0
我需要一个支持复数的类BSD许可的C(++)多精度库，所以我尝试了boost。
以下代码失败：
#include <boost/multiprecision/cpp_dec_float.hpp>
#include <complex>
using namespace boost::multiprecision;
std::complex<cpp_dec_float_50>(1.0, 2.0) / std::complex<cpp_dec_float_50>(1.0, 2.0)
在Visual Studio2012中出现错误C2440，因为
浏览 2提问于2013-06-01得票数 5
在用NSTimeInterval除以CGFloat时，是否会损失精度？
我正在尝试将NSTimeInterval转换为UIView.frame.size.width，并且当前将其转换为float。
浏览 0提问于2012-08-11得票数 0
回答已采纳
我正在尝试使用Java语言中的simple.json来读取和解析json文件。然而，在浮点数上，我得到了错误。我应该如何解析浮点数？
JSON文件类似于：
[
{
"region":"NF",
"destination":"d1",
"source":"s1",
"time":2003,
"value":0.1
},
{
"region":"NF",
"dest
浏览 2提问于2014-02-11得票数 1
3回答
我试图在我的C程序中使用sinf函数，但在MSVC6.0下它给了我一个未定义的引用错误，但是sin工作得很好。
这让我好奇地想找出sin和sinf之间的区别。
sin和sinf之间的逻辑区别是什么？
如何实现我自己的sinf功能？
浏览 27提问于2010-05-16得票数 8
回答已采纳
我在做一件简单的事：
float x = 151.185436;
printf("x=%f",x);
结果就是
x=151.185440
这是怎么回事？我想保留并打印我的原始值151.185436
谢谢Amarsh
浏览 4提问于2010-03-20得票数 1
回答已采纳
3回答
在C#中
float ratio = 185 / srcRect.Width;
where srcRect.Width = 400
在应该返回0.45的位置返回0 ...
float的最小值是-3.40282347E+38，这是怎么可能的呢？
浏览 14提问于2009-05-09得票数 2
回答已采纳
我不知道你是否认为这是一个重要的问题，但我想知道。float是一个浮点数(4字节)。double是浮点数(8字节)。为什么我们定义了不带强制转换的double：
double d = 2.1;
但我们需要使用浮点数进行强制转换：
float f = (float) 2.1;
或
float f = 2.1f;
提前谢谢你。
浏览 27提问于2018-08-29得票数 0
回答已采纳
3回答
我想用这个公式：
并将其转换为java代码。我不认为下面的代码是正确的，因为我认为我得到了错误的结果。
return (int)(2 * a * b + Math.pow(a, 2) * (1 - 2 * b));
这是我正在处理的原始图像：
A=图像链接的反转
B=图像链接
下面是我期望的输出结果(PhotoShop)：
这是我的输出实际的样子(我的应用程序)：
Invert inv = new Invert();
inv.setStage(stage);
inv.setParent(this);
BufferedImage img = inv.filter()
浏览 1提问于2012-11-28得票数 2
回答已采纳
我正在学习我的C#教科书，它说："C#假定所有浮点字面值都是双精度类型。“我知道这是什么意思，但我不太确定如何将修复应用于我正在处理的示例程序。
using System;
using System.Collections.Generic;
using System.Text;
namespace CoinCounter
{
class Program
{
static void Main(string[] args)
{
int quarters;
int dimes;
浏览 1提问于2010-02-25得票数 4
回答已采纳
2回答
我在windows7上使用dev cpp来编译我的代码。
int d = 0x12;
char* e = (char*)&d;
printf("%d %d\n", sizeof (int), sizeof (float));
printf("%p %p\n", &d, (float*)&d);
printf("%p %p %p %p %p\n", &d, &e[0], &e[1], &e[2], &e[3]);
printf(" %d | %x | %#1x | %#1x |
浏览 0提问于2011-11-21得票数 1
回答已采纳
我有一个父对话框和一个子对话框，我使用PostMessageW(WM_SMESG，NULL，l_dvalue)从子对话框向父对话框发送消息；其中l_Value是双精度值，但当我在父对话框中收到此消息时，我正在进行类型转换，如double l_value =( double )lParam；然后，l_value中的值始终显示0.0，但发送给父对话框的值为0.5什么问题
浏览 1提问于2010-10-28得票数 0
回答已采纳
在Java中，我们可以隐式地将int转换为float，这可能会导致精度损失，如下面的示例代码所示。
public class Test {
public static void main(String [] args) {
int intVal = 2147483647;
System.out.println("integer value is " + intVal);
double doubleVal = intVal;
System.out.println("double value is &
浏览 1提问于2012-08-11得票数 9
回答已采纳
2回答
基本上我考虑的是浮点数或字符串。
字符串：
"10.00"
"10.05"
"10.50"
"1,000"
浮点数
10
10.05
10.5
1000
我喜欢字符串的格式，可能会有浮点数限制精度的问题。
你会选择什么?为什么？
浏览 5提问于2015-09-16得票数 4
我不确定我做错了什么，但我无法从控制台读取double。出于某些原因，阅读它可以很好地工作。我使用的是Xcode。
double n1;
// get input from the user
printf("Enter first number: ");
scanf("%f", &n1);
printf("%f", n1);
无论我输入什么，它都将始终打印0。
浏览 4提问于2012-03-25得票数 6
回答已采纳
谁能解释一下为什么“c”必须是双精度的，尽管"0.2f“将其定义为浮点型？
我以为'f‘代表浮点数。
抱歉，如果这是一个愚蠢的问题，但我想知道..
a = 4294967296L;
b = 'n';
c = (3.1415926 * 0.2f) * a;
=>
long a = 4294967296L;
char b = 'n';
float c = (3.1415926 * 0.2f) * a;
将'c‘更改为双倍=>
long a = 4294967296L;
浏览 0提问于2015-10-09得票数 0
#include <iostream>
#include <iomanip>
using namespace std;
int main()
{
float f = 17793.03;
cout.setf(ios::fixed|ios::showpoint);
cout<<setprecision(3);
cout<<f<<endl;
}
结果17793.029
我过去经常使用Python，我不知道为什么会发生这种情况。谢谢
浏览 2提问于2016-05-09得票数 1
1回答
我使用的是带有vs2010的OpenCV 2.1 (用C语言编写)。在从rgb图像中提取蓝色平面后，我对其应用dct以获得转换后的矩阵。
cvDCT(source,destination,CV_DXT_FORWARD);
它正在成功地构建，但不知何故没有执行。
该错误类似于"Unhandled at 0x75c89617 in freqDomain.exe: Microsoft C++ exception: cv::Exception at memory location 0x001ce35c.“
我认为错误是在设置输出图像的cvarray的类型。可以将它设置为IPL_DEPTH_8U
浏览 0提问于2012-06-01得票数 1
回答已采纳
我想知道你是否可以解释一下浮点类型中的溢出。
float.MaxValue == float.MaxValue + 1 // returns true
浏览 3提问于2010-11-23得票数 28
回答已采纳
6回答
我正在做一项家庭作业(我不是一个会说谎的人)，我对这些问题感到困惑。我有3年的编程经验，但在班上最简单的一些问题上被难住了，哈哈。Java新手，并不是编程新手。我想讨论一下为什么问题会产生答案，以及为什么答案是这样或那样的。
1)写3.4，这是一个双精度还是一个浮点数？
我想说默认情况下它是一个浮点数，因为它占用的空间(32位)比双精度(64位)少。因为3.4是一个小数字，我会假设它是一个浮点数？
2)将x声明为double，并将其赋值为3.4 (作为double)。
我认为这是double x = 3.4d;不是100%确定的
3)将y声明为浮点数，并为其赋值3.4 (作为浮点数)。
与上面
浏览 1提问于2013-04-03得票数 1
回答已采纳
2回答
如果我执行以下操作
double d = 0;
由于0是使用32位的整数字面量，而d是使用64位的双精度变量，那么剩余的32位是否会被随机垃圾填充，或者Java是否正确地提升了字面量？
浏览 4提问于2012-02-09得票数 5
回答已采纳
1回答
我的C#项目正在从QML文件中读取一些配置。
问题是我对某些转换不是很确定。
QML C#
int <-> int
string <-> string
bool <-> bool
都没问题
我不确定QML中的real/double (在C#中为float/double )我查找了一些关于精度的信息，但没有找到任何非常清楚的信息。
QML中的double等同于C#中的double吗？QML中的real等同于C#中的float吗？
浏览 1提问于2011-11-29得票数 0
回答已采纳
5回答
c++模板参数不明确
、、、
我正在尝试实现三个函数，并且有很多错误，所有这些都有相同的签名：
error C2782: 'T0 ColorBurn(T0,T0)' : template parameter 'T0' is ambiguous
error C2782: 'T1 ColorDodge(T1,T1)' : template parameter 'T1' is ambiguous
我哪里搞错了？
这是我的代码：
template <class T0>
T0 ColorBurn(T0 base, T0 blend)
{
return
浏览 0提问于2012-01-25得票数 1
回答已采纳
将double转换为float总是会产生相同的结果，还是会有一些“舍入差异”？
例如，is x in
float x = (float)0.123456789d;
总是相同的值吗？
当将float转换为double，然后将其转换回float ie时会怎样呢？(float)(double)someFloat？
最感兴趣的是C#中的结果是什么，但如果您有关于如何在其他语言上工作的知识，请随意分享。
浏览 0提问于2012-03-17得票数 22
回答已采纳
3回答
为什么总是返回原始值？
、、、
我有以下函数
private Integer calculateWeeklyValue(String p_Value, String Frequency) {
if (p_Value.length() == 0)
p_Value = "0";
Integer Value = Integer.parseInt(p_Value);
if (Frequency.equals("W"))
return (Integer)Value;
else if (Frequency.equals("F"
浏览 0提问于2012-06-29得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
腾讯会议活动推荐
腾讯云开发者
