在windows中，我可以通过'feature memstats‘检查最大的连续空闲块。但这在linux上不起作用。我目前正在做一个项目，需要加载一个非常大的矩阵(59107200*17)。我遇到了“内存不足”错误。有没有办法在linux上的matlab中检查这个内存信息和其他内存信息？
浏览 1提问于2014-07-16得票数 0
就这么做了：
double val1=numeric_limits<double>::max();
cout.precision(70);
cout<<"\nVal1: "<<val1;
在Windows中，我在17位数字后开始得到0(小数点后16位)。然而，在Linux中，随着我不断增加cout.precision(数字)，越来越多的数字不断出现，它们不是零。
此外，在Windows和Linux上运行以下代码都会显示'15‘。Windows系统是32位，Linux系统是64位，如果这有什么区别的话。
typedef std::num
浏览 1提问于2011-08-05得票数 5
我在linux中发现了一些奇怪的错误，并将其追溯到一个库中。文件是dfitpack.cpython-39-x86_64-linux-gnu.so。这是一个使用anaconda链接的python库。
如果可能的话，我希望能够以人类可读的格式读取这个文件。目前，我只知道如何用'nm -D dfitpack.cpython-39-x86_64-linux-gnu.so'列出它中的所有函数。
任何帮助都会很好。
浏览 9提问于2022-08-10得票数 1
2回答
我有一个场景，我声明一个变量为value *8并读取一个值
0.1234123412341234
存储在文件中。
当我试图在Linux上将它读取到一个变量并显示该值时，它会打印
0.12341234123412
但是，当我为AIX运行相同的代码时，它会打印值
0.12341234123412370
为什么两个平台都要为相同的代码打印不同的值？是否有可能在不使用格式说明符的情况下克服这一问题？
P.S
AIX编译器是xlf
Linux编译器是ifort
浏览 7提问于2013-10-07得票数 1
回答已采纳
在Fortran中打印常数0.8804418
program hello
print *, 0.8804418
end program hello
给出C版本时的0.880441785
#include <stdio.h>
int main() {
printf("%.10g", 0.8804418);
}
在同一个系统上打印0.8804418 (Linux86-64与gfortran和gcc一起使用)。为什么输出是不同的？请注意，在printf中提高精度并不会改变输出。
这不是或类似的复制。这个问题特别是关于Fortran和C表示(或
浏览 3提问于2016-04-28得票数 2
回答已采纳
1回答
长双倍增量运算符不适用于大数
、、、、
我正在将一个C++系统从solaris (SUN box和solaris编译器)转换到linux (intel box和gcc编译器)。在处理大的"long double“值时，我遇到了几个问题。(由于一些非常非常大的整数，我们使用"long double“...不是为了任何小数精度)。它以几种奇怪的方式表现出来，但我将其简化为以下程序。它试图递增一个数字，但没有。我没有得到任何编译或运行时错误...它只是不会递增数字。
我还随机尝试了几个不同的编译器开关(-malign-double和-m128bit-long-double，它们的各种组合打开和关闭)，但没有区别。
我也在g
浏览 1提问于2013-04-23得票数 2
回答已采纳
3回答
我不得不将一些C代码(在Linux机器上运行的)转换成.Net，并且发现了一些长双精度的操作。它们不是特殊的运算，只是一些以许多小数结尾的乘法和除法，似乎是因为它的大小而使用了类型。
为了转换代码，你会怎么做？我正在考虑将这些值相乘，然后在末尾再除以看看是否有帮助，因为代码在末尾无论如何都会返回短值，另外，我不知道原始的二进制文件是否真的使用了long double所能提供的所有大小，或者它是否只是使用了一个普通的64位双精度数。
如果你认为这不是一个好主意，你知道有什么类或结构可以用来包装和模拟长双精度吗？用C/C++编写一个包装器并从.Net调用它是“不可能的”。
浏览 3提问于2011-08-09得票数 1
回答已采纳
1回答
如果我在windows和linux(ubuntu)上编译以下c代码行，我会得到不同的结果。我想要避免。我该怎么做呢？
double a = DBL_EPSILON;
double b = sqrt(a);
printf("eps = %.20e\tsqrt(eps) = %.20e\n", a, b);
linux输出：
eps = 2.22044604925031308085e-16 sqrt(eps) = 1.49011611938476562500e-08
windows输出：
eps = 2.22044604925031310000e-016
浏览 10提问于2012-11-27得票数 7
回答已采纳
2回答
为什么
format(4444444444444444444,scientific=FALSE)
是否返回"4444444444444444672"？
我认为这可能是一个整数精度的事情，但这个数字相对较小。谢谢!
我在Ubuntu Linux上运行R版本3.0.0。
浏览 0提问于2013-05-21得票数 2
回答已采纳
1回答
我遇到了奇怪的行为。在这个程序中，我尝试检查浮点值等于零：
#include <cstdlib>
#include <cmath>
#include <iostream>
int main ()
{
float fa (0), fb (0);
double da (0), db (0);
long double la (0), lb (0);
cout << "Float: " << (FP_ZERO == fpclassify (fa - fb)
浏览 1提问于2017-06-01得票数 3
回答已采纳
我有以下汇编代码(为Linux上的NASM编写)：
; This code has been generated by the 7Basic
; compiler <http://launchpad.net/7basic>
extern printf
extern scanf
SECTION .data
printf_f: db "%f",10,0
scanf_f: db "%f",0
SECTION .bss
v_0 resb 8
SECTION .text
global main
main:
pu
浏览 4提问于2010-09-13得票数 1
回答已采纳
我有一个有点奇怪的问题，我根本不知道如何解决。
我有一个程序，使用长双来做大部分的数学礼物，直到现在，这已经很好了。最近，我想使用MLAPACK，这是一个高精度版本的翻版，使用双双和四双类型，以做矩阵解决。不幸的是，当我链接到MLAPACK的库时，我在原始程序中失去了精度。
即。如果我只做两个数字的简单和：
long double a = 50000.55964442486829568679
long double b = 0.006514624142341807720713032
当我没有链接到MLAPACK，我得到(正确的长双)
long double a + b = 50000.5
浏览 3提问于2014-11-19得票数 0
下面是这段代码：
#include <iostream>
struct A {
double a;
};
int main(){
std::cout << alignof(A) << std::endl; // prints 4
std::cout << alignof(double) << std::endl; // prints 8
return 0;
}
为什么结构A和原始double类型的对齐方式不同？我使用的是32位Linux。
浏览 1提问于2013-05-22得票数 3
回答已采纳
1回答
这段代码让我发疯了：
#include <stdio.h>
int main()
{
double x;
const double d=0.1;
x=d ;
for (int i=0; i<30; i++)
{
printf("Cycle %d Value :%.20e \n",i,x);
x=x*(double)11.-(double)10*d; //11*0.1 = 1.1 - 10*0.1 = 1 => 0.1
}
return 0;
}
事实上，由于IEEE 754标准中浮点数的内部
浏览 8提问于2011-10-06得票数 1
回答已采纳
嗨,
我开发了一些C/C++混合代码，并进行了一些密集的数值计算。当在Linux和Mac中编译时，我在模拟结束后得到非常相似的结果。在Windows中，程序也可以编译，但我得到的结果非常不同，有时程序似乎不能工作。
我在所有系统中都使用了GNU编译器。一些朋友推荐我使用add -frounding-math，现在windows版本似乎工作得更稳定了，但是Linux和Os，他们的结果，根本没有变化。
你能推荐另一个选项来在Win和Linux/OSX版本之间获得更多的一致性吗？
谢谢
我还尝试了-O0 (无优化)和指定的-m32
浏览 2提问于2009-12-26得票数 7
我正在尝试将一段特定的代码从solaris移植到Linux。在这个过程中，我发现linux上的精度是不同的，它是扩展精度，我们需要显式地将其设置为双精度。为了实现这一点，找到了fpu_control.h库、函数FPU_GETCW和FPU_SETCW函数。但即使在此之后，精度也没有正确设置。代码片段
long double power = 1.0;
#ifdef __linux
fpu_control_t mask;
_FPU_GETCW(mask);
mask &= ~(_FPU_EXTENDED & _FPU_SINGLE);
mask |= _FPU
浏览 6提问于2017-07-14得票数 0
请考虑以下几点：
#include <iostream>
#include <cmath>
int main()
{
using std::cout;
using std::endl;
const long double be2 = std::log(2);
cout << std::log(8.0) / be2 << ", " << std::floor(std::log(8.0) / be2)
<< endl;
cout << std::log(8.0L)
浏览 5提问于2011-08-12得票数 5
回答已采纳
正如主题所说，我在计算相同结构的相同操作中得到了不同的结果。结构如下所示。
struct test
{
char m1;
double d1;
}
当使用sizeof(结构测试)计算时，在linux中使用结构测试(Sizeof)时，得到的结果是"12“。当我在linux下使用gcc-4.6.1，在WinXP下使用VC6.0时，我得到的结果是"16“。所以我很困惑，为什么会发生这种情况？GCC如何计算结构的大小？
添加：
正如答案所说，arm linux需要AAPCS定义的8字节对齐，但是为什么x86中的VC6.0得到的结果是“16”？有人使用VC2003或更高版本来计算
浏览 2提问于2013-05-26得票数 1
加载第三方.so文件时出错：
undefined symbol: fftwf_plan_dft_r2c_1d
我已经安装了libfftw3.so (Ubuntu fftw3包)，但是它没有定义fftwf_plan_dft_r2c_1d符号。它没有这样做，而是：
nm -D /usr/lib/i386-linux-gnu/libfftw3.so | grep fftw_plan_dft_r2c_1d
000bffa0 T dfftw_plan_dft_r2c_1d_
000c12b0 T dfftw_plan_dft_r2c_1d__
000c2aa0 T fftw_plan_dft_r2c_
浏览 3提问于2015-09-07得票数 2
回答已采纳
我有一个很大的代码，用fortran写的，用来建立和迭代求解非线性偏微分方程组。我需要所有的变量都是双精度的。在我为代码编写的附加模块中，我将所有变量声明为双精度类型，但我的模块仍然使用旧源代码中声明为real类型的变量。所以我的问题是，在fortran中，单精度变量乘以双精度变量会发生什么？如果用于存储值的变量被声明为双精度，那么结果是双精度吗？如果一个双精度的值乘以一个在末尾没有"D0“的常量，该怎么办？我是否可以在英特尔11.1中设置一个编译器选项，使所有实数/双精度/常量成为双精度？
浏览 0提问于2011-03-11得票数 3
我对尝试GPU编程很感兴趣。我不清楚的一件事是，我需要什么硬件？这是正确的任何PC的显卡是好的吗？我对GPU编程知之甚少，所以刚开始的学习曲线最好不要陡峭。如果因为我的硬件不够好，为了运行一些教程而不得不修改很多东西，我宁愿买一个新的硬件。
我有一台退役的PC (大约10岁)，安装了Ubuntu Linux，我不确定它有什么显卡，一定是旧的。
我还计划购买一个新的低于500美元的台式机，这对我的休闲研究通常有AMD Radeon 7x或Nvidia GT 6x显卡。我认为任何一台新的PC都足够好用来学习编程。
无论如何，任何建议都是值得感谢的。
浏览 1提问于2013-07-27得票数 5
1回答
我的C#项目正在从QML文件中读取一些配置。
问题是我对某些转换不是很确定。
QML C#
int <-> int
string <-> string
bool <-> bool
都没问题
我不确定QML中的real/double (在C#中为float/double )我查找了一些关于精度的信息，但没有找到任何非常清楚的信息。
QML中的double等同于C#中的double吗？QML中的real等同于C#中的float吗？
浏览 1提问于2011-11-29得票数 0
回答已采纳
Ocaml的Unix模块提供了一个stat函数，该函数返回带有浮动st_mtime成员的记录。
这似乎总是二级精度，甚至在支持次秒精度的Linux上也是如此。事实上，它是一个浮点而不是一个int，这给了我希望，它有可能得到一个亚秒精度的时间(或类似的时间)，但我不知道如何。
我很高兴使用更多的OPAM图书馆。我已经在用电池了，所以我也不想再使用简街核心( Jane Street Core )--但小型图书馆就行了。
这是我用来测试的脚本：
#!/usr/bin/env ocamlscript
Ocaml.packs := ["unix"]
--
open Unix
open P
浏览 5提问于2014-01-01得票数 1
回答已采纳
我有以下简单的程序来生成1到4之间的浮点随机数：
#include<stdio.h>
#include <stdlib.h>
#include <time.h>
main()
{
int i = 0;
float u;
srand((unsigned)time(NULL));
for(i = 0;i< 10000 ; i++)
{
u = ((4-1)*((float)rand()/RAND_MAX))+1;
printf("T
浏览 3提问于2011-04-17得票数 0
3回答
今天在我身上发生了一件奇怪的事情，当我试图编译和执行这段代码的输出时，这并不是我所期望的。下面的代码简单地将浮点值添加到一个浮点数组中，然后打印出来。简单的代码：
int main(){
float r[10];
int z;
int i=34;
for(z=0;z<10;z++){
i=z*z*z;
r[z]=i;
r[z]=r[z]+0.634;
printf("%f\n",r[z]);
}
}
输出：
0.634000
1.634000
8.634000
27.6
浏览 0提问于2014-12-23得票数 2
我有一个项目，我必须用双变量进行一些数学计算。问题是我在Solaris 9和Linux上得到了不同的结果。有很多方法(这里和其他论坛解释)如何使Linux作为Sun工作，但不是相反。我不能接触Linux代码，所以只有SUN才能更改。有什么办法让SUN像Linux一样运行吗？
我运行的代码(在这两个系统上都与gcc一起编译)：
int hash_func(char *long_id)
{
double product, lnum, gold;
while (*long_id)
浏览 4提问于2010-04-26得票数 0
`float x = 0.1;
if (x == 0.1)
printf("Equal");
else
printf("Not-Equal");` 由于浮点数从二进制表示中砍掉了一些位，所以也会加倍。虽然double 0.1比float具有更高的精度，但仍然不完全相等，并且小于0.1。因此，如果float 0.1的输出为Not-Equal，则double 0.1的输出必须为Not-Equal。
浏览 14提问于2020-09-19得票数 0
回答已采纳
2回答
我通常不处理二进制文件，所以如果这个问题的答案很明显，我向您道歉。我可以使用以下命令从某个二进制文件中读取数据：
nread = fread(&data[0],sizeof(float),maxpts,fptr);
二进制文件是一种标准化的科学格式，似乎数据是以浮点数的形式存储的。但是，我更喜欢将此数据读入双精度类型的数组中，当我尝试将数据类型简单地切换为双精度(从浮点数)，而将sizeof(浮点数)保持不变时，它无法正确检索我的数据。我该怎么做呢？谢谢，扎克。
浏览 1提问于2012-03-13得票数 1
回答已采纳
1回答
根据的说法。cublasZgemm比英特尔MKL快6倍。
然而，在我的电脑(Linux2600，Nvidia gtx560，OS:Linux64位)上，cublasZgemm的运行速度比i7稍慢。
我使用附带的numpy.dot()，它将numpy与MKL10.3链接起来。
使用cublasZgemm的矩阵乘法函数在共享库中编译，并使用python脚本中的ctype进行调用。
当将两个1024x1024复数矩阵相乘时。numpy.dot()花费了84ms。ctypes函数调用花费了110毫秒，而cublasZgemm()部分花费了97毫秒。
我想知道为什么cublassZgemm没有nvidi
浏览 2提问于2012-03-04得票数 4
回答已采纳
1回答
考虑以下JavaScript代码：
alert(9999999999999999);
当我执行这个文件时，我得到了以下输出：
为什么我在alert()中获取100000000000？有没有人能给点建议？
浏览 0提问于2013-11-30得票数 0
不确定是否有人遇到过这种情况，并能帮助找到解决这个问题的方法。
基本上，我是将字符串转换为浮点值，然后从浮点值中减去，以查看+/- epsilon内是否存在差异。
问题是，我做错了什么来得到一个不同的结果长倍？
看起来两个长双打之间的区别是产生一个精确的浮动值，但不确定为什么.
代码的输出( mac和linux 64位都给出了相同的结果)
float : a=145.568 d=145.568 epsilon=1.19209e-07 fabsf(a - d)=0 equal? equal
double : b=145.568 e=145.568 epsilon=2.2
浏览 3提问于2016-03-26得票数 1
回答已采纳
1回答
我正在Tensorflow上做一些卷积计算，在双精度数字上得到了一些奇怪的错误。
由于精度问题，我需要在float64中计算这些张量。
conv3d在float32上运行得很好，但在双精度下，它只能在中央处理器上运行，而对于图形处理器，错误告诉我
InvalidArgumentError (see above for traceback): Cannot assign a device for operation 'Conv3D': Could not satisfy explicit device specification '/device:GPU:0' b
浏览 8提问于2018-07-18得票数 1
1回答
我在我的应用程序中使用映射。所以我有二维点结构int和double，我需要操作它们。我目前已经将我的解决方案分成了两个项目/程序集。其中一个具有核心功能。另一种是用户界面。我目前使用的是WPF用户界面。然而，我试图最大化核心程序集的功能，同时试图确保它可以在任何C#用户界面上工作，例如forms、XNA和未来的API，如Windows8 Jupiter(Metro XAML)或在Linux/ Mac Windows Phone上运行。
我希望在我的核心功能中操作这些结构。我看到在System.Windows和System.Drawing中有点结构。然而，我不愿意使用它们，因为它们似乎与特定的w
浏览 0提问于2011-11-11得票数 3
回答已采纳
在Fortran 90中(在Mac OS X上使用gfortran )，如果我将一个值赋给一个双精度变量，而没有显式地附加一个种类，精度就不会“接受”。我的意思是，如果我运行以下程序：
program sample_dp
implicit none
integer, parameter :: sp = kind(1.0)
integer, parameter :: dp = kind(1.0d0)
real(sp) :: a = 0.
real(dp) :: b = 0., c = 0., d = 0.0_dp, e = 0_dp
! assign values
a = 0.12345
浏览 0提问于2011-05-27得票数 9
回答已采纳
gcc似乎将fcvtzs d0,d0归类为SIMD指令，但clang没有。谁是对的？
$ cat toto.s
fcvtzs d0,d0
$ aarch64-linux-gnu-gcc-10 -mcpu=cortex-a53+nosimd -c toto.s
toto.s: Assembler messages:
toto.s:1: Error: selected processor does not support `fcvtzs d0,d0'
$ clang -target aarch64-linux-gnu -mcpu=cortex-a53+nosimd -c toto.
浏览 6提问于2022-06-16得票数 2
我必须从Fortran转换一些代码，所以我不知道这个语句是什么意思：
var1 = 10.D00
有人能给我解释一下这是什么意思吗？
浏览 1提问于2011-12-09得票数 10
回答已采纳
2回答
我有一个asp.net mvc应用程序，其中有以下函数：
public List<FichierModels> GetFichiersFromDirectoy(int _id_dir)
{
List<FichierModels> l = new List<FichierModels>();
Data.Connect();
using (Data.connexion)
{
string queryString = @"select Id, Id_directory, Url, Upload_date, L
浏览 1提问于2013-05-28得票数 1
回答已采纳
在几乎每个系统上，Python都可以为您提供浮点的可读性、简短表示形式，而不是17位计算机精度：
Python 3.3.0 (default, Dec 20 2014, 13:28:01)
[GCC 4.8.2] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> 0.1
0.1
>>> import sys; sys.float_repr_style
'short
浏览 5提问于2015-04-28得票数 6
回答已采纳
1回答
OpenGL浮点精度
、、、
我正在从事一个从遗留/即时OpenGL迁移到现代OpenGL (核心配置文件)的项目。在传统的OpenGL实现中，我们使用了双重精度，即在glVertexPointer中使用GL_DOUBLE，在glLoadMatrixd等方面，但是在现代OpenGL中，只有OpenGL/GLSL 4.0+支持双重精度。
旧的OpenGL如何支持双精度，而较新的OpenGL却不支持？传统的OpenGL如何处理双精度，而大多数显卡甚至不支持双精度？
我在网上找不到任何信息，或者有些答案太旧了。
目前的显卡支持双精度吗？我应该使用OpenGL 4.0吗？
浏览 1提问于2020-01-14得票数 4
回答已采纳
所以我将一个2D动态数组存储到一个矩阵结构中： struct Matrix {
int ncol;
int nrow;
double **mat;
};
typedef struct Matrix Matrix; 然后，我有一个从二维数组中获取内容并将其存储到矩阵中的函数： // Initializes matrix mat whose values are the passed in 2D array
// Made Matrix **mat a double pointer so that I can initialize the Matrix *pointer
浏览 22提问于2020-07-10得票数 0
回答已采纳
我已经用decimal，double和float变量尝试过了。我将一个整数除以另一个整数，并将结果存储在一个变量中。这三种数据类型都不会存储小数点，例如：
double d;
uint num1 = 20
uint num2 = 3
d = num1 / num2;
//d = 6.0
好像是舍入到最接近的整数，请帮帮忙？
浏览 0提问于2015-01-16得票数 0
我想知道是否有一个头文件提供了类似于uint64_t的浮点数和双精度浮点数的类型，或者是在Linux或gcc中？
浏览 1提问于2012-03-10得票数 3
回答已采纳
1回答
默认情况下，Matlab将输入设置为双精度，因此如果输入a=1/3，则变量将以双精度转换。
>> a=1/3
a =0.3333
>> whos('a')
a 1x1 8 double
但是，当我随后输入vpa(a,100)时，我得到：
ans=0.3333333333333333333333333333333333333333333333333333333333333333333333333333333333333333333333333333
我的问题是
既然a是双精度的，只有8
浏览 4提问于2016-07-06得票数 2
回答已采纳
2回答
在我的一个DB2表中，我看到列数据类型是长度8的两倍。
该列的小数精度是多少？
(还有另一个数据类型DECIMAL，我可以在其中指定长度8和精度)
那双倍呢？
浏览 3提问于2009-03-11得票数 2
1回答
我将省略我是如何做到这一点的细节，但重点是下面的代码在PHP5.2 x86和PHP5.3 x86上产生不同的结果。
<?php
$result = (((-1035721791 + -2004767255) ^ 3402727701) + 4148612726) ^ -759268493;
echo 'Platform: ' . php_uname(), PHP_EOL;
echo 'PHP version: ' . PHP_VERSION, PHP_EOL;
echo 'Max integer: ' . PHP_INT_MAX, PHP
浏览 1提问于2012-07-10得票数 3
回答已采纳
1回答
有没有人知道后缀"d+0“在下面给M1、M2和M4的作业中意味着什么，或者在网上或书上有什么很可能找到这些信息的资源吗？
subroutine plot( t, x, p, q, nga, nt, wron,
& ngq, gq, ngaq1, ngaq2, gaq, rwh, iwh )
implicit none
integer*4 nga, nt, ngq, ngaq1, ngaq2, iwh(*)
real*8 t, x(*), p(*), q(*), wron
浏览 2提问于2009-05-27得票数 3
回答已采纳
我正在从零开始在我的LFS - Linux上编译octave。
在配置八度音阶时，我收到一个警告：
配置:警告:找不到FFTW3F库。将使用较慢的FFTPACK库。
我编译并安装了，然后重新配置了octave，但是仍然收到以下消息：
检查fftw3.h可用性。是
检查一下.是
检查一下..。是
检查fftw_plan_dft_1d在-lfftw3..。是
检查一下..。(缓存)是的
检查fftwf_plan_dft_1d in -lfftw3f.不是
配置:警告:找不到FFTW3F库。将使用较慢的FFTPACK库。
我注意到FFTW3.3.4安装的是libfftw3.so，而不
浏览 4提问于2016-05-17得票数 8
回答已采纳
我有问题，请查看此链接以了解更多信息：
我使用的组件名为Spring Framework .Net，它在使用double[]数组初始化double类型的System.Array时遇到问题，在调用参数之前需要使用该数组。价值的图像，我已经通过他们的GitHub问题部分张贴，我有源代码。我能做些什么来解决这个问题？
using System;
using System.Collections.Generic;
public class MyClass
{
public static void RunSnippet()
{
int argCount = 1;
浏览 1提问于2013-12-30得票数 1
当我使用Eigen创建矩阵时，如下所示：
Eigen::MatrixXd M(3,3);
M<< 1.0, 4.0, 7.0, 2.0, 5.0, 8.0, 3.0, 6.0, 9.0 ;
std::cout<<M<<std::endl;
产生
1 4 7
2 5 8
3 6 9
我可以带着指针遍历数据，打印每个元素：
double * d = M.data();
for(int i = 0;i<M.size();i++)
{
std::cout<<*d<<" ";
d++
浏览 1提问于2012-02-13得票数 5
回答已采纳
我一直在开发一个AES CUDA应用程序，我有一个在GPU上执行ECB加密的内核。为了确保算法的逻辑在并行运行时不被修改，我发送了NIST提供的已知输入测试向量，然后从主机代码中通过断言将输出与NIST提供的已知测试向量输出进行比较。我已经在我的NVIDIA GPU上运行了这个测试，它是一个8600M的GT。这是在Windows7下运行的，驱动程序版本为3.0。在这种情况下，一切都很完美，断言成功。
现在，当应用程序在Quadro FX 770M上运行时。启动相同的应用程序，发送相同的测试向量，但获得的结果不正确，断言失败！！。它在Linux上运行，具有相同的驱动程序版本，内核由256个线程执
浏览 0提问于2010-10-20得票数 4
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
