1回答
语言建模的交叉熵
、、、
我目前正在做一个使用语言建模的分类任务。该项目的第一部分涉及使用n-gram语言模型来使用c5.0对文档进行分类。该项目的最后部分要求我使用交叉熵对每个类进行建模，并根据这些模型对测试用例进行分类。有没有人有使用交叉熵的经验，或者链接到关于如何使用交叉熵模型进行数据采样的信息？任何信息都是很棒的！谢谢
浏览 2提问于2011-03-10得票数 3
回答已采纳
我必须计算两个灰度图像之间的相互信息。为此，我必须计算图像的熵和联合熵。但是我在.Can中找不到熵和联合熵的函数，有谁能帮我找出熵和联合熵的函数吗？
浏览 3提问于2013-02-15得票数 3
1回答
决策树中熵的计算
、、
在存在多个可能的类且父类的熵比子类低的情况下，我发现很难计算ID3的熵和信息增益。4 e 1
现在，我相信第一步是计算原始数据集的熵，在这种情况下，结果。对于属性Y，信息增益可以计算为每个可能的结果的熵*结果发生的概率或1- 5/10-(2/5)
浏览 0提问于2021-09-20得票数 0
回答已采纳
1回答
它对信息熵与语言模型之间的关系有以下几点说明：
-2/3*Log(2/3)-1/3*Log(1/3)= 0.918 bit (the base is
浏览 2提问于2014-04-08得票数 4
回答已采纳
1回答
解出一个人获得负面信息是没有意义的。然而，基于这个例子，我得到了一个负面的信息增益。如果我计算湿度属性的信息增益，我得到如下结果：很明显我在这里漏掉了什么。
编辑:澄清我是如何理解它的</em
浏览 0提问于2015-07-11得票数 4
回答已采纳
2回答
计算特定属性的熵？
、、、
我找到了一个非常有用的网站，我一直在跟踪关于熵和信息获取的所有信息，直到我
我不明白每个属性(阳光、风、雨)的熵是如何计算的--具体来说，p-sub是如何计算的。它似乎与熵(S)的计算方法不同。有人能解释一下这个计算的过程吗？
浏览 1提问于2016-06-15得票数 1
回答已采纳
1回答
具体来说，我试图计算所有变量对之间的平均相互信息(目的是确定对一个类的预测与另一个类紧密相关)。A和D、B和A等之间的相互信息，其中A是每行向量的第一个元素，B是第二个，等等。我也可以只获得每个变量的平均成对互信息(例如MI(A，B)，MI(A，C)和MI(A，D)的平均值)。
我这样做的方法是计算每一对变量行间的熵，然后减去每
浏览 2提问于2018-10-23得票数 1
回答已采纳
5回答
基于特定字符的密码策略
、、、
我想知道，是否可以更清楚地宣布公司对密码理论熵的要求，而不是通常的“至少一个大字母，一个小字母，和一个特殊的字符.”因此，如果我们的目标是一个合理的熵水平，让人类记住，比如说，60-bits，然后计算熵。
这可以动态和本地计算，并根据需要提供用户反馈。这难道不是一种更好的、语言/区域不可知论的方法来执行密码策略吗？
浏览 0提问于2020-06-02得票数 7
回答已采纳
1回答
我计算了一天内用户行为的熵水平，计算了其可能出现的状态(H:=Home、w:=Work或E:=Elsewhere)。假设用户A以{H，W，E，E，H，H}表示一天中每小时的可能状态P(W)=9/24=0.38使用shannon的熵，我想计算一个用户的熵级别，以了解用户的可预测性。H(A)
浏览 3提问于2014-03-10得票数 1
回答已采纳
1回答
互信息香农熵
、、
我有一些有关一些物业的统计数字，例如：2nd iter : p1:43 p2:我需要计算每一项财产的信息量。经过一定的量化程序(对于ex )。)现在我知道如何通过每条线的Shannon熵来计算每个属性的熵。我需要从这里算出相互的信息。
由于长度不同，互
浏览 4提问于2013-09-16得票数 7
回答已采纳
1回答
给定一个二进制分类问题：有四个积极的例子和五个消极的例子。因此，P(+) = 4/9，P(−) = 5/9。训练样本的熵为−4/9 log2(4/9)−5/9−(5/9)= 0.9911。所以我按升序对a3值进行排序，找出它们的分裂点。但是如何计算它们的熵呢？
上述图像中的
浏览 2提问于2017-03-24得票数 0
回答已采纳
1回答
有没有java代码来实现法亚德和伊拉尼基于熵的离散化？我已经尝试读取文件，然后计算熵和信息增益。如何获得bounday积分？我必须实现法亚德和伊拉尼的离散化算法，它是基于熵和信息增益的(法亚德和伊拉尼，1993
浏览 3提问于2014-10-16得票数 0
2回答
增量熵计算
、、、
设std::vector<int> counts是正整数的向量，N:=counts[0]+...+counts[counts.length()-1]是向量分量的和。+pn*log2(pn)计算熵。
counts向量在变化--计数增加--每200个变化我就重新计算熵。经过快速的google和堆栈溢出搜索，我找不到任何增量熵计算的方法。那么问题是:是否有一种增量方法，，用于熵计算</
浏览 5提问于2013-06-14得票数 3
回答已采纳
2回答
我有一个关于计算分裂熵的基本问题。-(2/5)*(log(2/5)/log(2))-(3/5)*(log(3/5)/log(2))=0.9710
现在，这让我很困惑。如果熵为零，我将只有一个类别的样本。如果熵是0.5 (对于两个类别)，我有50%的</e
浏览 0提问于2014-06-24得票数 0
6回答
它有44位的熵，因为从一个2048字的列表中随机选择的四个词是4* log2(2048) = 44位熵。这我能理解。 prob = [ float(string.
浏览 0提问于2012-10-05得票数 44
回答已采纳
1回答
神经网络熵的计算
、、
我想要计算神经网络中包含的信息。我也希望计算出任何神经网络在一定数量的比特中包含的最大信息。这两种度量应该是可比较的(就像我可以比较我目前的神经网络是否达到了最大值，还是小于最大值，以及有多少)。我遇到了Von熵，它可以应用于一个矩阵，但是由于它不是加性的，所以我不能将它应用于一系列权重矩阵(假设权重矩阵编码一个神经网络的所有信息)。我发现了另外三篇论文深神经网络
浏览 0提问于2020-07-16得票数 5
密码直方图显示这些数据的分布是均匀的。在此基础上，计算出密码数据的shannon信息熵值，得到普通数据的shannon信息熵值约为15.0525和15.497477。我想问的是，据我所知，密码数据由8位整数数据组成，理想香农信息熵值接近8位，所以我认为这个64位整数数据理想香农信息熵值必须接近64位对吧?为什么我在密码数据和普通数据上都得到
浏览 0提问于2020-11-19得票数 0
回答已采纳
2回答
我需要计算互信息，因此需要计算N个变量的香农熵。
我写了一个计算某种分布的香农熵的代码。假设我有一个变量x，数字的数组。我希望有一种有效的方法来计算与bin数无关的香农熵。我写了一个函数来计算更多变量分布的香农熵，但我得到了同样的错误。代码是这样的，其中函数
浏览 1提问于2014-06-10得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
