我已经使用PyTorch对一个HuggingFace转换器模型进行了微调，并试图在GPU上进行推断。但是，即使在设置model.eval()之后，如果对同一数据多次运行推断，仍然会得到稍微不同的输出。torch.cuda.manual_seed_all(42)为什么是这种情况？这正常吗？模型的权重是固定的，并且没有未定义的或随机初始化的权重(当我加载经过训练的模型时，我得到了All keys matched successfully消息)，那么如果我不手动设置cuda种子，那么随机性从哪
浏览 22提问于2022-07-14得票数 1
回答已采纳
torch.bmm in inspect.getmembers(torch)
False
浏览 2提问于2018-08-13得票数 0
回答已采纳
假设我有两个大小相同的方阵A，B A = torch.tensor([[1, 2], [3, 4]])
B = torch.tensor([[1, 1], [1, 1]]) 我想要一个由行式点积组成的张量，比如 tensor([3, 7]) # i.e. (1*1 + 2*1, 3*1 + 4*1) 在PyTorch中实现这一目标的有效方法是什么？
浏览 13提问于2021-10-25得票数 1
回答已采纳
1回答
投入：2) W= dim (N，X，Y) (重量)的张量1) O= dim (N，C，Y) (输出)张量I = I.view(N, C, X, 1)PROD = I*Wreturn O基本上，我想要计算一个特征图的加权和，其中权重沿通道维数是相同的，而不引起每个通道的内存开销。
from itertools import product
O = torch.zeros(N,
浏览 4提问于2020-05-03得票数 0
3回答
我遵循，它使用torch.bmm方法，如下所示：batch1和batch2必须是三维张量，每个张量都包含相同数目的矩阵.
浏览 2提问于2018-06-12得票数 11
回答已采纳
RuntimeError: dimension out of range (expected to be in range of [-2, 1], but got 2)import torch
torch.bmm
浏览 68提问于2018-06-10得票数 3
1回答
我试图让torch.bmm做下面的矩阵运算，这里有两个问题，批处理大小需要是第一个维度，而我的批次大小在结尾
我想对于Numpy用户来说也是同样的问题
浏览 0提问于2020-02-09得票数 0
回答已采纳
1回答
我有一个张量m，它存储了n个3 x 3矩阵，其中含有dim n x 3 x 3，有一个张量v，有n个3x1向量和dim n x 3。如何应用元向矩阵向量乘法，即第i-矩阵与第1-向量相乘，得到具有dim n x 3的输出张量。
浏览 9提问于2022-01-23得票数 0
回答已采纳
torch.dot似乎不这样做，x * y和torch.mm抱怨说，他们想要两个参数的2D张量，而torch.bmm则需要两个参数的3D张量。
浏览 8提问于2016-03-16得票数 1
回答已采纳
(10, 2*3, hid_dim)result = torch.bmm) # assume trainable parameters via nn.Parameterresult = torch.bmm
浏览 3提问于2017-11-13得票数 1
回答已采纳
1回答
shape = (1, batch_size, n_hidden) attn_weights = torch.bmmtorch.tanh(H) # Non-linear transformation size:(batch_size, hidden_dim, seq_len) a = torch.transpose(a,1,2) #
浏览 4提问于2021-02-16得票数 0
1回答
我正在学习如何在火炬中实现分解机。应该有一些特征交叉操作。例如，我有三个特性A，B，C，嵌入后，它们是vA，vB，vC，所以特征交叉是"vA·vB，vA·vC，vB·vc“。它可以通过矩阵操作来实现。但这只能给出一个最终的结果，比如说，一个单一的值。 g_feature = 0
for i in range(self.featurn_
浏览 2提问于2019-03-07得票数 1
回答已采纳
1回答
在forward方法中，我只做了一组torch.add(torch.bmm(x, exp_w), self.b)，然后我的模型就可以正确反向传播了。当我添加另一个层- torch.add(torch.bmm(out, exp_w2), self.b2) -时，梯度不会更新，模型也不会学习。exp_w = self.w.expand(x.shape[0], self.w.size(0), self.w.size(1))
out = torch.add(torch.bmmexp_w2 = self.w2.expand(out.s
浏览 4提问于2018-08-20得票数 0
回答已采纳
从文档中，torch.bmm要求A和B必须具有相同的批处理大小，因此我尝试了以下方法：B.size()# torch.Size([batch_size, 3, 5, 6])
那么
浏览 0提问于2018-09-17得票数 0
回答已采纳
我的Pytorch神经网络中有以下代码： for j in range(n):q和k的大小都是(batch_sz, n, m)。这段代码显然减慢了我的程序，我想知道Pytorch是否提供了任何函数来提高效率。
浏览 1提问于2021-04-20得票数 2
1回答
torch.bmm(contex, q) 77.6376 199.1673 0.0000 0.0000F.softmax( torch.bmm(contex, q) )[torch.cuda.FloatTensor of size 15 (
浏览 2提问于2018-01-21得票数 1
1回答
二维张量之间张拉点的尺寸
、、、、
我有一个关于张力点操作的快速问题。我试图找出在两个张量之间执行张量乘积的方法，以得到我想要的形状的正确输出。其中一个张量是B，L，X，D维数，另一个是B，X，1，D维数，我试着找出是否有可能在最后得到B，X，D矩阵。任何见解或方向都将不胜感激。
浏览 8提问于2021-11-05得票数 0
回答已采纳
1回答
我想要的输出应该保持形状： [batch, Width, Height, 3] 我尝试使用torch.bmm，但失败了。这是不是有可能呢？
浏览 18提问于2019-06-11得票数 7
回答已采纳
我有一个和这个类似的问题： 有一个(n1, n2)形式的输入向量，我想要一个f(n1, n2) = f(n2, n1)的模型。我希望这个模型是线性的。例如，我想学习的2x2矩阵。2x2矩阵有4个权重，训练将尝试学习这些权重。但是，这种限制可以巧妙地减少问题。作为nvec=(n1, n2)，f(nvec) = W*nvec。因此，假设X = [[0, 1],[1, 0]]是一个反转向量的2x2矩阵，然后是f(n2,n1) = W*X*(n1, n2) = f(n1, n2) = W (n1, n2)。 基本上，等式意味着W*X = W，或者如果是W = [[w1, w2], [w3, w4]]
浏览 16提问于2020-01-29得票数 1
回答已采纳
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
腾讯云开发者
