2回答
作者讨论了通过向负对数似然添加负熵项来惩罚低熵输出分布以及为模型训练创建自定义损失函数来对神经网络进行正则化。 ? 值β控制置信度惩罚的强度。我已经为分类交叉熵编写了一个自定义函数，如下所示，但需要将负熵项添加到损失函数中<
浏览 33提问于2021-08-24得票数 5
回答已采纳
1回答
二元交叉熵是如何工作的？
、、、、
在将汇总数据传递到逻辑函数(在范围$$中规范化)之前，必须对权重进行优化，以获得预期的结果。为了为分类目的寻找最优权重，必须找到相对最小的误差函数，这可以是cross熵。据我所知，交叉熵测量两个概率分布之间的量化，由位两种概率分布的同一事件集之间的差异来衡量。
由于某些原因，交叉熵等价于负对数似然。$p$和$q$两种概率分布之间的交叉熵损
浏览 0提问于2018-07-13得票数 5
回答已采纳
如何在MXNET中创建自定义损失函数？例如，我希望计算每个可能标签的加权交叉熵损失，而不是计算一个标签的交叉熵损失(使用标准mx.sym.SoftmaxOutput层来计算交叉熵损失，并返回一个可以作为损失符号传递给拟合函数的符号)。MXNET教程提到使用
mx.symbol
浏览 26提问于2017-08-22得票数 3
1回答
我想用一个逻辑损失函数作为我的深度学习模型来解决一个二元分类问题。我正在用角码来建立模型。然而，keras没有任何预先定义的逻辑。在阅读关于损失函数的文章时，我遇到了关于交叉熵损失和逻辑损失的混淆陈述。在这个维基百科中，有一个关于物流损失和交叉熵损失的单独章节。然而，在这个维基百科中，它提到：
浏览 0提问于2018-03-01得票数 3
2回答
火炬中的软交叉熵
、、、
我有一个小问题，实现一个软交叉熵损失在火把。
对于我的模型，我需要实现一个加权的软交叉熵损失，这意味着目标值也是概率向量，而不是热向量。一般来说，我有点搞不懂如何用pytorch创建一个自定义损失函数，以及自动梯度是如何遵循自定义损失函数的，特别是在模型建立之后，我们应用了一些非数学的
浏览 2提问于2021-08-24得票数 0
1回答
多个正分类的流量损失计算
、、、
我的标签看起来像这样这意味着在匹配的示例输入中存在类1, 4。
如何为这样的标签创建一个热编码标签？哪种损失函数更适合这种情况(乙状结肠交叉熵、softmax交叉熵或稀疏softmax交叉熵)？
浏览 1提问于2018-01-27得票数 0
回答已采纳
1回答
因此，通常可以使用PyTorch中的交叉熵损失函数来应用范畴交叉熵，或者将logsoftmax与负日志相似函数结合起来，例如：loss = nn.NLLLoss其中的数据如下所示：如何在Py
浏览 0提问于2019-07-18得票数 3
回答已采纳
我试图重现一篇深度学习论文的实验结果， 我注意到损失函数，类别交叉熵具有L1正则化，可以在下面看到， ? 那么，如何计算模型复杂度并在Keras/Tensorflow中添加正确的自定义损失函数呢？
浏览 38提问于2019-10-15得票数 1
回答已采纳
1回答
tensor([4.8500e-01, 9.7813e-06, 5.1498e-01, 6.2428e-06, 7.5929e-06],
grad_fn=<SelectBackward>) 损失为对于这些简单的输入数据，GRU损失是如此之大。原因何在？这段代码中有什么错误吗？我使用cross_entropy作为损失函数，使用Adam作为优化器。学习率为0.001。我添加了批量归一化，它加快了训练速度，但损失和准确率相同。为什么损失不会减少到0.
浏览 40提问于2020-10-15得票数 2
回答已采纳
1回答
我试着做一个例子，向我自己解释权重是如何从数学上找到的。如果我下面写的是胡说八道的话，我很高兴听到你的解释。谢谢。
。
浏览 2提问于2017-01-29得票数 1
3回答
什么是体重衰减？
、、、
在浏览网站上的时，我看到了一段让我有点困惑的段落：
训练网络进行N维分类的常用方法是多项式logistic回归。softmax回归Softmax回归将一个softmax非线性应用于网络的输出，并计算归一化预测和标签的1-热编码之间的交叉熵。对于正则化，我们还将通常的质量衰减损失应用于所有学习变量。模型的目标函数是交叉熵损失和所有这些重量衰减项之和，由损失()函数返回。我在论坛上读过一些关于什么是重
浏览 14提问于2017-08-07得票数 2
回答已采纳
1回答
交叉熵损失Pytorch
、、、、
我有一个关于我的pytorch网络中交叉熵损失的最佳实现的问题。我正在构建一个网络，用于预测Volume-Pictures的3D分割。训练时输入到我的网络中的形状是batch_size，input_channels，width，height，depth。输入通道等于1，因为我只有灰度图像，深度取决于组成3D体积的2D图片的数量。现在我想计算交叉熵损失。它收敛到0.5-0.6的损失，并且它只预测整个输出是背景。我该怎么办？
如果有人能帮
浏览 2提问于2021-06-08得票数 0
我想把它扩展到多个动作，所以我相信我需要输出层上的softmax激活函数。但是，我不确定输出层的梯度应该是多少。如果我在监督学习环境中使用具有softmax激活的交叉熵损失函数，神经元的梯度就是：其中target[i] = 1用于所需的操作，0用于所有其他操作。然而，强化学习似乎使用负对数似然作为损失，而不是交叉熵。这是如何改变梯度的？
浏览 6提问于2017-05-10得票数 3
回答已采纳
2回答
该研究通过测量预测置信度和准确性(DCA)之间的差异，并将其作为辅助项添加到交叉熵损失中，将校准纳入深度学习模型的训练过程。据说DCA项适用于当交叉熵损失减少时应用惩罚，但准确性处于平台期。Pytorch中的代码如下： import torch
def cross_entropy_with_dca_loss(logitsaccuracies)
浏览 64提问于2021-08-12得票数 0
回答已采纳
1回答
对二元交叉熵损失SGD的理解
、、、、
我试图用数学来描述随机梯度下降如何被用来最小化二元交叉熵损失。对于二进制交叉熵损失，我使用以下定义(遵循https://arxiv.org/abs/2009.14119)：L_{tot} = \sum_{k=1}^K L(\sigma(z_k),y_k)\\ L为了结合这些定义，我认为通过使用参数z_k (因为这是模型试图学习的内容)来最小化二进制交叉熵<em
浏览 0提问于2022-05-19得票数 1
回答已采纳
在这里，我将电影评论分类为三类(正为1，中性为0，负为-1)，使用二进制交叉熵。所以，当我试图用tensorflow估计来包装我的keras模型时，我得到了误差。
浏览 3提问于2020-08-12得票数 2
回答已采纳
4回答
我正在努力找出正确的网络损失函数。问题是，当我使用二元交叉熵作为损失函数时，训练和测试的损失值要比使用均方误差(MSE)函数要高。我不知道如何证明这些结果是合理的。为什么不使用均方误
浏览 0提问于2019-05-06得票数 11
回答已采纳
1回答
拥抱面部变形金库培训师的损失函数是什么？在他们的中，他们提到可以通过重写类中的compute_loss方法来指定自定义的丢失函数。但是，如果我不使用该方法覆盖并使用训练器直接细化伯特模型以进行情感分类，那么默认的损失函数是什么？是绝对交叉熵吗？谢谢!
浏览 13提问于2022-03-23得票数 4
回答已采纳
5回答
现在我不确定我应该使用哪种丢失函数。现在，我只知道两个预定义的损失函数稍微好一点，这两个函数似乎都不适合我的例子：编辑
另一个问题:您会在Keras中使用哪种激活功能？
浏览 0提问于2019-02-23得票数 1
回答已采纳
1回答
在Keras中，我经常看到人们用均方误差函数和"acc“作为度量标准来编译模型。如果我将我的损失函数更改为二进制交叉熵作为一个例子，并使用'acc‘作为度量标准呢？这是与第一种情况相同的度量标准，还是Keras基于损失函数改变这个acc -所以在这种情况下是二进制交叉熵？
浏览 0提问于2019-03-13得票数 1
回答已采纳
云服务器
ICP备案
实时音视频
云直播
对象存储
腾讯云开发者
