4回答
我需要计算24位长整数()的模，但JS计算错误。
例如: 700901001234567890131400 % 97 = 90
但在JS (V8)中是38。
如何计算JS中的模
浏览 3提问于2016-09-23得票数 0
回答已采纳
我已经在C#和C++地形生成器中使用了下面的确定性噪声函数：
float GridNoise(int x, int z, int seed)
{
int n = (1619*x + 31337*z + 1013*seed) & 0x7fffffff;
n = (n >> 13) ^ n;
return 1 - ((n*(n*n*60493 + 19990303) + 1376312589) & 0x7fffffff)/(float)1073741824;
}
对于我输入的任何整数x/z坐标，它都会返回一个介于1和-1之间的‘随机’浮点数(另
浏览 3提问于2019-04-16得票数 1
当我尝试在php和js中执行逐位XOR运算时，它们在某些情况下会产生不同的结果，例如
2166136261 ^ 101 = -2128831072 on browsers (js)
2166136261 ^ 101 = 2166136224(php)
我的理解是因为php运行的是64位，而不是32位的js。
谁能告诉我确切的原因，以及是否可以解决这个问题，使两个操作产生相同的值。谢谢!
浏览 32提问于2016-08-31得票数 1
2回答
大家好，我正在处理关于javascript天文计算的文件，所以我需要更高的精度。我对每一行都有很多操作，我希望结果更精确(逗号后面的小数点也是10或20)。
在JavaScript中，如果我不声明十进制数(例如使用.ToFixed(n))，那么在计算过程中，语言在逗号之后有多少位置？
例如：
var a= 1.123456789*3.5; // result 3.9320987615
var b= a/0.321;
var c= b*a;
// c => 48.16635722800571
这将是结果？就像对javascript的每个变量使用所有十进制后的逗号，近似吗?。
在其他问题中
浏览 1提问于2019-03-30得票数 1
我试图理解为什么模块操作不能像预期的那样工作：
我需要验证一个IBAN，算法包括做一个模块。
根据维基百科：
3214282912345698765432161182 mod 97 =1
根据我的Windows计算器:：3214282912345698765432161182 mod 97 =1
但是当我在JS上做的时候我得到了65：
var result = 3214282912345698765432161182 % 97;
console.log(result);
// result is 65
为什么我只有65岁而不是JS的1岁？
浏览 1提问于2018-03-30得票数 4
回答已采纳
2回答
我正在阅读，我遇到了这个函数：
function IntNoise(32-bit integer: x)
x = (x<<13) ^ x;
return ( 1.0 - ( (x * (x * x * 15731 + 789221) + 1376312589) & 7fffffff) / 1073741824.0);
end IntNoise function
虽然我确实理解它的某些部分，但我真的不明白(x<<13)和& 7fffffff应该是什么意思(我看到它是一个十六进制数字，但它是做什么的？)。
浏览 0提问于2012-02-02得票数 0
回答已采纳
2回答
在Asm.js定义的第几行中，有一个基于ASM.js的代码示例，它解释了按位操作有助于获得更快的JS代码：
HEAP32[p >> 2]|0
或
(x+y)|0
我的问题是，这个操作如何提高性能，在Asm.js或Emscripten生成的JS代码中多次使用这个位运算符的原因是什么？
浏览 11提问于2014-05-02得票数 1
回答已采纳
4回答
我已经使用Math.pow()在我的项目中计算了指数值。
现在，对于像Math.pow(3,40)这样的特定值，它返回12157665459056929000。
但是，当我使用科学计算器尝试相同的值时，它返回12157665459056928801。
然后我尝试遍历循环，直到得到指数值：
function calculateExpo(base,power){
base = parseInt(base);
power = parseInt(power);
var output = 1;
gameObj.OutPutString = ''; /
浏览 1提问于2013-11-22得票数 2
2回答
我最近发现了一个奇怪的JS片段，但是我不确定它是一个bug还是有一些逻辑。
试试这个号码: 9000000022903136*8*通知它，console.log it，将它赋值给一个变量。您将得到值9000000022903136**。问题是为什么？是个bug吗？
我也注意到，你得到90000000229031360从90000000229031352到90000000229031368,90000000229031351你得到90000000229031340,900000229031369得到90000000229031369。
这发生在: Chrome，FF，Node.js
浏览 2提问于2013-10-23得票数 1
回答已采纳
2回答
我正在将一个数字(可能是XX.XX的数量格式)除以一个整数。
但是当我做6.6 /6或者3.3/3的时候，它给出了1.099999...，而非1.1。
我所做的是，我在人数中平均分配金额，如果有剩余的金额，我会将额外的金额加到其中的一个人身上。
可能是这种情况，104/6将被划分为17.85、17.83、17.83、17.83、17.83、17.83可能不准确，仅供说明。
JS Bin链接->
请帮助我获得正确的计算逻辑。
谢谢！！
浏览 1提问于2013-06-18得票数 1
可能重复：
在c/c++中，按位操作比正常(算术)操作更快(至少在低性能处理器中非常重要)。这同样适用于js吗？我不认为它在c中速度更快的原因是按位运算是硬连线的，通常在一个处理器周期内完成。但是js在浏览器中运行，它没有任何这样的硬件(寄存器，我指的是)访问。我不确定(大约70%的人肯定:)。什么是典型的(或一些更聪明的)位运算符(特别是在js中，但我也想知道其他)。如果我哪里都错了，请纠正我。
浏览 1提问于2012-01-31得票数 2
回答已采纳
我尝试用JS编写Gauss-Legendre算法。我找到了here算法。 这是我写的代码： let ao = 1;
let bo = 1 / Math.sqrt(2);
let to = 1 / 4;
let po = 1;
let an;
let bn;
let tn;
let pn;
let pi;
for (let i = 0; i < 10; i++) {
an = (ao + bo) / 2;
bn = Math.sqrt(ao * bo);
tn = to - po * Math.pow(ao - an, 2);
浏览 29提问于2020-04-04得票数 0
我正在开发一个发布的库，并希望添加对的支持。
根据一些样本数字(例如C10999911320231、C10999606576777、C11001105367744)，格式似乎是C后跟14个数字，其中第一个数字始终是1。还有其他格式吗？
这似乎也是一个校验和，因为谷歌只识别某些变体(例如C10999911320231可以工作，但C10999911320232不能)。我尝试了各种算法，但都不能解决问题。如何计算校验和？
浏览 1提问于2011-04-21得票数 1
回答已采纳
我似乎不能得到一个好的数字四舍五入到最接近的百分位(即。12.57%而不是12.57000000008)。
var example = {
user : "John",
dollars: 12.57
};
setInterval( function() {
example.dollars += (parseInt(Math.floor(Math.random()*2000 + 500)) / 100);
console.log(example.dollars);
}, 1000);
我不断得到这样的值：
15.20000000008
88.54
浏览 0提问于2013-05-11得票数 0
回答已采纳
1回答
问题陈述:-
给出一个数字，N，它是用二进制表示法给出的，它包含最多1000000位。你必须计算从1到N(十进制表示法)范围内的幸运因子之和。
在这里，幸运因子意味着(在转换成二进制表示之后)，如果最右边或最左的1的邻居不是0，就是零(对于边界位)。
编辑:-
意思是如果最右边的左邻右舍是0，就意味着它是一个幸运的因素，在左边也很简单。
示例，
5 == 101, LUCKY FACTOR = 2.
7 == 111, LUCKY FACTOR = 0.
13 == 1101, LUCKY FACTOR = 1.
16 == 1110, LUCKY FACTOR = 0
浏览 1提问于2013-11-26得票数 0
在与智能契约交互时，使用web3.js处理数字时，最佳实践是什么？例如，当与智能契约与web3.js库交互时处理数字时，最好的做法是在使用变量时保存变量或后缀？或者用10**18或者用大数字什么的？
这是在使用变量选项中的web3实用程序保存数字的同时：
const tkns = document.getElementById("avTkn");
const balance = await window.contract.methods.balanceOf(ethereum.selectedAddress).call().then((balance) => {re
浏览 0提问于2022-09-20得票数 1
在JavaScript中，整数值没有特殊类型。实际上，所有的数字都有一个Number类型，它是，即binary64。
JavaScript中的数值操作的一个问题是，标准中没有定义、整数除法、运算符或函数。
更新:实际上，有一个函数，但是它的工作速度比二进制解决方案慢2-5倍，而且Internet不支持它。
可以使用一些二进制操作符来实现预期的结果，例如：
(10 / 4) >> 0
~~(10 / 4)
(10 / 4) | 0
以上所有操作都会产生数字2，并且根据我的基准测试，在我的x64机器(Node.js v7.2.1)上具有类似的性能。
请您解释一下，这
浏览 5提问于2017-01-13得票数 0
回答已采纳
在查看登录页面时，我发现了以下JS代码
hexMD5('\232' + document.login.password.value + '\305\334\122\134\352');
那么，我问的是\352会不会占用一个字节，从而导致溢出，并产生96或java脚本解释器将其提升为short以保留其值？
浏览 0提问于2013-04-20得票数 0
回答已采纳
感谢你们对静电的提示，感谢你们所有回答的人！现在感觉不那么沮丧了。
我不会在我的整个任务中一步一步地问问题，但我想确保这是下一步任务之一的方式。我已经编写了以下代码，它可以很好地编译(目的是检查字符串以确保它是数字，并且用户还可以将ISBN输入为带或不带破折号的数字)：
private String validateISBN(String bookNum)
{
String[] book;
int j=0;
for ( int i=0;i<bookNum.length();i++)
if (character.isDig
浏览 2提问于2011-02-18得票数 0
回答已采纳
换算成GB，大概是2 GB。
但我现在在32位Windows上运行，我可以有比这个更大的文件。
那么，为什么PHP将这个数字限制在2147483647呢？如果Windows可以处理更大的数字，那么PHP也应该能够做到这一点吗？
浏览 1提问于2012-12-20得票数 3
回答已采纳
我必须在我的申请中做计算，我有这样的公式：
result = Capital * rate / (1- 1/(1+ rate)^frequence)
我在互联网上读到，使用浮点数进行计算可以是无损的。
我应该在我的情况下使用NSDecimalNumber吗？
浏览 1提问于2015-06-20得票数 0
回答已采纳
当我使用输入1000000000000在Intellij上运行以下代码时，每800万个循环就有一个进程。
为什么是这样？为什么不一帆风顺地跑到最后？
import java.util.*;
public class Main {
public static void main(String[] args) {
Scanner in = new Scanner(System.in);
System.out.println("Please type a number");
long n = in.nextLong();
浏览 2提问于2016-10-04得票数 6
回答已采纳
1回答
如果内存无法忍受大于64位的计算，我将如何用64位计算机强行强制RSA加密消息？在不试图破解它的情况下，我的计算机如何用大于64位(例如2048)的公钥加密消息？
浏览 0提问于2020-05-26得票数 -1
回答已采纳
2回答
我正在尝试编写一个函数，它将使用中的答案来获取浮点文字中小数点之后的小数位数。
尽管在浏览器控制台中尝试这一点似乎很好，但是在运行测试用例时，在Node.js环境中，精度被截断到14位数。
let data = 123.834756380650877834678
console.log(data) // 123.83475638065088
函数返回14作为答案。
为什么四舍五入发生在休息时间？这是默认行为吗？
浏览 7提问于2021-02-12得票数 1
回答已采纳
为什么在CGPoint的极端坐标下无法获得准确的读数？
例如，如果为(500000250,500000100)创建的打印，而我使用CGPoint ()，我只看到x和y的"5e+08“。当我使用数字格式化程序(见下文)并将科学记数法转换回十进制数时，我对每个x和y只得到500000000，这是250和100不同步。
let coordinates = CGPointMake(500000250,500000100)
let numberFormatter = NSNumberFormatter()
numberFormatter.numberStyle = NSNumberFormat
浏览 6提问于2016-09-15得票数 0
回答已采纳
我正在将一个长而丑陋的函数从JS移植到Python，它基本上计算给定一些输入参数的某种类型的哈希字符串。在移植和修改代码之后，进行了一些测试，并且(意外地)，我没有得到相同的结果。
我做了一些调试，到了开始搞乱一切的行，结果是一个异或操作。因此，长话短说，我已经分离出一个简单的例子，说明如何在相同的值下，得到不同的结果。
这是JS代码：
hex_str = "0xA867DF55"
crc = -1349196347
new_crc = (crc >> 8) ^ hex_str
//new_crc == 1472744368
这是Python中相同的代码：
hex_
浏览 3提问于2016-12-08得票数 2
回答已采纳
2回答
按位带符号是如何工作的~
、、、、
所以，我看了几个网站，仍然不明白按位运算符~是做什么的。基本上，我理解对于像4这样的二进制表示为100的数字，当你将~4表示为011时，应该翻转；然而，似乎有某种方式变成了-5，那么教程就会说一些关于32位表示的负数。在这一点上我完全迷惑了，请解释一下~是如何工作的。
浏览 0提问于2018-06-07得票数 2
在XC16编译器的头文件(dsp.h)中，有以下几行：
/* Some constants. */
#ifndef PI /* [ */
#define PI 3.1415926535897931159979634685441851615905761718750 /* double */
#endif /* ] */
#ifndef SIN_PI_Q /* [ */
#define SIN_PI_Q 0.70710678118654746171500846685376018
浏览 4提问于2015-06-25得票数 1
1回答
对于小数字，我能够解决这个问题。即使是大数字，加密也能正常工作。但是，解密单元有一些问题。有人能帮帮我吗？
main()
{
//__uint128_t secret=((__uint128_t)3502532219136638976) <<64 |1161929539123609600;
//__uint128_t pvtkey=((__uint128_t)14605469131018042215) <<64 |1281687108645159073;
//__uint128_t n=((__uint128_t)161566145740489397
浏览 1提问于2017-09-13得票数 0
我有一个小数字的数据，它们有很小的差异。由于matlab从前4位开始截取数字，所有的数字似乎都是相等的。你能告诉我如何更敏感地计算吗？例如：
10000000000
ans =
1.0000e+10
>> 10000000001
ans =
1.0000e+10
浏览 2提问于2013-06-24得票数 0
回答已采纳
3回答
有谁能解释一下为什么
echo "0123" | "3456";
返回3577和为什么在红宝石
0123 | 3456
将返回3539
编辑:这是一个糟糕的例子，因为ruby的版本不是字符串。
但在JS
"0123" | "3456"
将返回3539
编辑: ELI5 :)
浏览 5提问于2013-09-30得票数 0
回答已采纳
2回答
您需要多少字节(和多少位)来表示数字99999999？我需要知道这一点:我们有一个计算器，尽可能简单，可以容纳最多8位数字，即从0到99999999 (让我们忘记负数，除非你觉得可以在你的答案中包含)。 我们需要多少位/字节来存储从0到99999999的值？ 我感谢你的帮助，请提供理论背景和任何计算，如果你可以。非常感谢!
浏览 36提问于2020-01-27得票数 3
回答已采纳
我们知道，使用Javascript日期构造函数的所有日期都以毫秒为单位计算，从1970年1月1日00:00:00世界时间(UTC)开始，一天包含86,400,000毫秒。这意味着JS使用UNIX时间戳。我将计时器设置为2038年以后的日期(例如2039年11月14日)，并运行脚本：
<script>
var d = new Date();
alert(d.getFullYear()+" "+d.getMonth()+" "+d.getDate());
</script>
它成功地警告了2039 10
浏览 3提问于2013-11-14得票数 9
回答已采纳
我注意到，当增加一个计数器时，当计数器的值是一个大的数字时，它会显着地慢下来。我在Chrome、火狐和IE11上都试过，它们的表现都很差。
请参见jsperf测试 (下面的代码)：
var count1 = 0;
var count2 = new Date().getTime();
var count3 = 1e5;
var count4 = 1e9;
var count5 = 1e12;
var count6 = 1e15;
function getNum1() {
return ++count1;
}
function getNum2() {
return ++count2;
浏览 8提问于2015-10-25得票数 20
回答已采纳
我想要将数组的所有数字相加，并从它们中获得和。我正在努力解决的问题是，我必须将输入得到的数字相乘，这使得一个数组有可能在一个数组中包含两位数字。例如，数字为8346761。挑战要求我取其他数字(6,6,3)，然后将它们相乘(12,12,6)，然后将第一个数字相加，例如(1+2+1+2+6)=12。我只知道如何做12+12+6=30，并且正在寻求关于这一特定部分的帮助。我是编程新手，也是堆栈溢出的新手，所以如果我做错了什么，请告诉我，这样我就可以修复它。谢谢 #include <cs50.h>
#include <stdio.h>
int main(void)
{
浏览 24提问于2020-04-12得票数 1
2回答
在讲座中，我的教授正在解释各种算术运算的大O时间。他告诉我们长除法在O(n^2)附近。环顾网络，这似乎是正确的，但为什么呢？
有人能详细了解为什么长除法在O(n^2)时间吗？
浏览 2提问于2016-03-30得票数 2
回答已采纳
背景
我正在使用Node.js缓冲区本机API读取缓冲区。这个API有两个函数，分别用于大端和小端点，称为readUIntBE和readUIntLE。
问题
通过阅读文档，我偶然发现了以下几行：
要读取的byteLength字节数。必须满足:0< byteLength <= 6。
这意味着我一次只能读取6个字节，这使得它对我的用例毫无用处，因为我需要读取一个由8个字节组成的时间戳。
最初我以为这是文档中的一个错误，但是在收到@BridgeAR的回复后，很明显这是有意的行为：
他提到，我可以通过添加偏移量来读取多个条目，但我不清楚如何做到这一点。
问题
浏览 0提问于2018-04-24得票数 0
回答已采纳
2回答
如果我用Mathematica 12评估以下输入：
SetPrecision[DecimalForm[123.432654/54.1122356, 130], 130]
结果是：
2.2810488724291406725797060062177479267120361328125000000000000000000000000000000000000000000000000000000000000000000000000000000000
当我在其他计算器中运行相同的计算时，结果是相等的，直到数学结果的第15位数：2,281048872429140.然而，当第16位数时，其他计算器显示的结果
浏览 1提问于2021-01-24得票数 3
回答已采纳
我是一个相当新的程序员，我想知道是否有人可以给我一个实用的解释/例子，关于有符号，无符号和32位与64位之间的区别和用法？
也就是说，去年我读了一篇关于Twitter如何让开发人员切换到64位的文章，但我不确定其中的原因和具体的性质。
谢谢!
浏览 3提问于2010-08-14得票数 4
3回答
我得到了一些奇怪的结果，其中两个相同的函数(一个在PHP中，一个在javascript中)返回不同的结果。
这两行代码的输入是相同的：
a = 4653896912;
b = 13;
我已经双重检查了变量类型，这两个变量都是JS中的数字和PHP中的整数。
PHP的代码行如下：
$a = $a >> $b;
对于Javascript来说，是这样的：
a = a >> b;
您可能期望a在两者之后具有相同的值，但我得到了以下内容：
PHP: $a = 568102
JS: a = 43814
在这一点上完全让我困惑。
事实证明，这绝对是PHP使用64位整数和JS只使用32
浏览 4提问于2011-02-11得票数 0
回答已采纳
我尝试将值9234567891234567存储在Number Type SPListItem字段中。Sharepoint数字字段的基础C#类型为Double。
当我将9234567891234567赋给双C#变量时，它将保留9234567891234568。
SPListItem items = list.GetItemById(siteID);
var value = Convert.ToDouble("9234567891234567");
//pb is that value holds 9234567891234568.0
items[fieldName] = valu
浏览 5提问于2016-03-23得票数 1
1回答
代码问题解决方案抛出错误请协助我的代码运行很好，我不知道问题是从PLS开始的，帮助我，先生
您将得到两个表示两个非负整数的非空链表。这些数字按反向顺序存储，它们的每个节点都包含一个数字。将这两个数字相加，并将和作为一个链接列表返回。
您可以假设这两个数字不包含任何前导零，除了数字0本身。示例
Example one
Input: l1 = [2,4,3], l2 = [5,6,4]
Output: [7,0,8]
Explanation: 342 + 465 = 807.
Example 2:
Input: l1 = [0], l2 = [0]
Output: [0]
MY CODE
浏览 4提问于2022-01-15得票数 0
使用答案中的建议，以及提供几乎相同解决方案的，我一直试图设置htaccess来处理js和css文件上的自动版本控制规则。
我之所以要这样做，是因为我对它们进行了大量的更改，但仍然希望浏览器能够将它们缓存很长时间，而不必每次更改它们时都手动输入一个新版本号。
所使用的方法很简单：(1)在模式[filename].[version_number].[suffix]上，一个函数向使用文件更改日期的文件附加版本号，例如，style.css就会变成，例如，style.1300638388.css；(2)使用php，版本编号包含在我的站点页面的样式表声明中，如果版本文件名与缓存的文件名不同，客户端浏览器将
浏览 5提问于2011-03-20得票数 8
回答已采纳
3回答
在c中创建无符号整数和4字节数组的联合时，字节的顺序似乎颠倒了。为什么会这样呢？
对于二进制表示为10000000 00000000 00000000 00000000的整数，我期望b= 10000000，b1 = 00000000等等。
#include <stdio.h>
#include <stdlib.h>
typedef union intByteRep{
unsigned int i; // 00000000 00000000 00000000 00000000
unsigned char b[4]; // b[0] b
浏览 1提问于2019-04-23得票数 0
在python中，我运行以下简单代码：
print('number is %.15f'%1.6)
它工作得很好(输出：number is 1.600000000000000)，但是当我将小数位取到16>=时，我在末尾开始获得随机数。例如：
print('number is %.16f'%1.6)
输出：number is 1.6000000000000001和
print('number is %.20f'%1.6)
输出：number is 1.60000000000000008882
这与计算机计算数字的方式有关吗？
编辑:感谢所有的回
浏览 0提问于2020-04-18得票数 0
1回答
#include <stdlib.h>
#include <stdio.h>
struct node;
typedef struct node* PtrToNode;
struct node {
long long n;
PtrToNode next;
};
PtrToNode factorial(int n, PtrToNode init);
void multiply(long long n, PtrToNode init, long long carry);
int main() {
int n;
while (1) {
scanf
浏览 2提问于2015-09-23得票数 12
回答已采纳
2回答
现在我尝试将一些js代码转换为java，有一个问题：
在js中
46022*65535 = 3016051770
和
(46022*65535)x-7867= -1278910789
在爪哇
46022*65535 = -1278915526这是溢出
46022L*65535L = 3016051770L这与js的结果相同
(46022*65535){##*$$}7867= -1278910789这个和下面这个是问题所在
(46022 L*65535 L)x 7867 L= 3016056507L
那么，为什么| 操作符会将两个正数设为nagtive数呢？在处理int和long
浏览 4提问于2015-03-12得票数 2
回答已采纳
我用4 4Rungekutta在MATLAB和C中求解DGL(A_x + B_u = x_dot)，A是5x5，x是5x1，B5x1，u1x1，u是正弦函数的输出( 2500点)，4 4Rungekutta的输出在第45次迭代之前都是相同的，但是在4 4Rungekutta的第45次(2 500次迭代中)迭代时，A*x在4 4Rungekutta的第2步的输出是不同的，更重要的是矩阵。我用30个小数位数A和x在MATLAB和C中打印出来
A = [0, 0.100000000000000005551115123126,0,0,0;
-1705.3671993908224067126866430
浏览 2提问于2019-09-20得票数 0
1回答
存储未签名的Int所需的位数
、、、、
我需要知道存储无符号int所需的最小位的正确解决方案是什么。比如说，我有403它的二进制表示形式是一个无符号的int将是00000000000000000000000000110011，加起来相当于32位。现在，我知道一个无符号整数需要32位来存储。但是，为什么前面有所有的零，因为这个数字只能用9位110010011来解释。此外，为什么无符号int存储32位，小数点只存储8位？请详细解释。谢谢
浏览 4提问于2015-10-08得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
