1回答
我会计算softmax回归的成本。页面底部给出了要计算的成本函数。对于numpy，我可以获得如下所示的成本：X.shape = 2,300 # floatsW.shape = 2,3"""
X.shape = 2,300
浏览 0提问于2018-02-01得票数 1
回答已采纳
我目前有一个程序，它采用特征向量和分类，并将其应用于已知的权重向量，以使用Logistic回归生成损失梯度。featureSize; j++) { }
我正在尝试做的是使用Softmax回归实现类似的东西，但是我在网上找到的Softmax的所有信息并不完全
浏览 5提问于2016-05-23得票数 0
1回答
我用来进行GRU实验的代码。512,100) self.fc2 = nn.Linear(100,5) loss.backward() opt.zero_grad()print(o[0]) 缩小的输出对于这些简单的输入数据，GRU损失是如此之大。原因何在？这段代码中有什么错误吗？我<e
浏览 40提问于2020-10-15得票数 2
回答已采纳
我有一个使用Pytorch0.4.0的逻辑回归模型，其中我的输入是高维的，并且我的输出必须是标量- 0、1或2。我使用线性层和softmax层相结合来返回n x 3张量，其中每一列表示输入落入三个类别(0、1或2)之一的概率。但是，我必须返回一个n x 1张量，因此我需要以某种方式为每个输入选择最高的概率，并创建一个张量来指示哪个类具有最高的概率。如何使用
浏览 107提问于2018-06-10得票数 5
回答已采纳
1回答
我想用ReLUs来训练DNN，而不是使用典型的乙状结肠单元。我已经成功地实现了下面的分类问题示例(softmax层)，但是我试图实现这一点，因为regression.My数据集是基于负荷预测的。
浏览 1提问于2017-04-12得票数 0
回答已采纳
2回答
我正在Pytorch中学习Logistic回归，为了更好地理解，我定义了一个定制的CrossEntropyLoss，如下所示： exp_x = torch.exp回归(以预测FashionMNIST)如下：output_dim = 10
w_init = np.random.normal，我将其与Pytorch的nn.CrossEntropyL
浏览 5提问于2019-10-13得票数 1
回答已采纳
我正在研究一个文本分类问题(例如情感分析)，在这个问题上，我需要将文本字符串分类为五个类中的一个。
我刚开始使用包和PyTorch的BERT。BertForSequenceClassification的文档根本没有提到softmax，尽管它确实提到了交叉熵。我不确定这类是否只适用于2类分类(即logistic回归)。具有顺序分类/回归头的Bert模型转换器顶部(集合输出顶部的线性层)，例如用于胶水任务。La
浏览 5提问于2020-03-10得票数 17
回答已采纳
1回答
我正在对虹膜数据集执行回归，以预测其类型。我已经成功地使用相同的数据和相同的神经网络进行了分类。对于分类，我在所有层中都使用tanh作为激活函数。但是对于回归，我在隐藏层使用tanh函数，在输出层使用identity函数。在数据集中有150条这样的记录。我还尝试了改变学习率、隐藏层中神经元的数量、隐藏层的数量、初始权重值、迭代次数等。那么，如何使用反向传播误差<e
浏览 0提问于2017-12-10得票数 2
回答已采纳
1回答
我目前正在研究softmax函数，我想将最初实现的功能调整到一些小型测试中。def __init__(self, dim=None): if not hasattr(self, 'dim'): return F.softmax(input, sel
浏览 0提问于2018-05-04得票数 1
回答已采纳
我使用的是包，伯特和PyTorch。我指的是这个。本文件第4.1节指出，
attention_probs = nn.Softmax(dim=-1)(attention_scores)
如果我按照论文的方式看它，它
浏览 3提问于2021-11-10得票数 0
回答已采纳
1回答
在pytorch中定义了一个分类网络模型， def __init__(self, n_feature, n_hidden, n_outputself.hidden(x)) # activation function for hidden layer return x def forward(self, x):
浏览 0提问于2019-08-15得票数 12
回答已采纳
我正在浏览Pytorch和Tensorflow中的交叉熵文档。我知道他们正在修改交叉熵的朴素实现，以解决潜在的数值溢出/下溢。然而，我不能理解这些修改是如何起作用的。遵循以下逻辑：哪里
这似乎不能解决问题，因为
现在，我们将其与Tensorflow的实现进行对比(我得到了。这可能是完全错误的)-
是所有k个原始logit分数的</e
浏览 7提问于2020-08-30得票数 5
2回答
变压器模型如何计算自我注意力？
、、、、
在变压器模型中，存在自我注意，这是使用softmax对Query (Q)和Key (K)向量进行计算的：Q = batch_size x seq_length x embed_sizeK = batch_size x seq_length x embed_size
Softmax QK^T= Softmax (batch_size x seq_length x seq_
浏览 9提问于2020-05-13得票数 1
1回答
在PPO和ICM中的损失是不同的，我想知道它在代码中的错误还是被错误选择的超参数。
在ICM模型中，我也使用第一层LSTM来匹配输入维度。在PPO优势和折扣奖励处理中，数据集一个一个地传播，隐藏单元被重复使用(与ICM完全相反，因为这里使用相同的模型来选择操作，这种方法是“实时的”)。在PPO中，训练模型是在重复使用隐藏单元的情况下分批训练的
浏览 0提问于2019-07-11得票数 0
回答已采纳
1回答
人工神经网络激活函数与梯度
、、、、
我看了一个关于在C++中实现人工神经网络的非常详细的教程。现在，我对神经网络是如何工作的，以及如何进行编程和训练，有了更多的基本理解。因此，在本教程中，双曲正切用于计算输出，显然它的导数用于计算梯度。然而，我想转到另一个不同的功能。特别是漏(以避免死亡神经元)。
我的问题是，它指定这个激活函数应该仅用于隐藏层。对于输出层，应该使用不同的函数( softma
浏览 1提问于2017-10-07得票数 1
回答已采纳
1回答
我正在使用PyTorch的增强算法。我注意到，使用Softmax的简单网络的批处理推理/预测并不等于1(甚至不接近1)。我附加了一个最低限度的工作代码，以便您可以复制它。我在这里错过了什么？HIDDEN_SIZE), torch.nn.Linear(HIDDEN_SIZE, n_actions),
torch.nn.Softmax
浏览 1提问于2021-04-29得票数 1
回答已采纳
1回答
我试图在pytorch中实现softmax函数，但我的实现的输出无法与pytorch的实现的输出相匹配。我之所以尝试这样做，是因为我想继续实现一个屏蔽的softmax，它不会在分母的和中包括某些索引，并为这些屏蔽的索引设置输出。 我想计算一个矩阵，其中输出中的每一行和为1。我目前的实现是： def my_softmax(x):
浏览 16提问于2021-10-02得票数 0
回答已采纳
1回答
对RNN最大输出层的理解
、、、、
=blstm_dim, return_sequences=True, recurrent_dropout=0.1))(model) x,_ = self.blstm(x, (h0, c0)) return F.softmax现在有趣的是，如果我从PyTorch模型中删除softmax (即在
浏览 2提问于2018-11-26得票数 2
回答已采纳
1回答
在Andrew的深度学习课程中，我看到了一种在图像上定位单个对象的方法：。据我所知，例如，你可以将一个点绑定到物体的特定部分，以坐标: x，y作为标签y，并训练CNN。我想训练一个CNN神经网络来定位我的眼睛(而不是鼓掌)。我拍了200张我的照片:60×60像素的灰度。我标出了左眼和右眼，标记眼的每个坐标被归一化为0-1.Y标签是: eye1的x，eye1的y，eye2的x，eye2的y。我
浏览 0提问于2019-01-03得票数 3
在使用神经网络进行分类时，有人说：
cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(lo
浏览 0提问于2018-03-28得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
腾讯会议活动推荐
腾讯云开发者
