1回答
在研究高斯混合模型和期望最大化算法的同时，我也遇到了一些针对EM算法局限性的“鉴别训练”的研究。特别是，使用最大限度的相互信息是相当普遍的。我理解最大化相互信息背后的基本思想；然而，我找不到任何来源给出估计均值、方差、混合参数和预测标签所涉及的方程式。
请你把它们连同解释一起说出来好吗？
浏览 0提问于2018-05-21得票数 1
3回答
我正在处理一个具有数百个特性的数据集。我希望创建一个简单的机器学习模型，使用原始数据集的7-10特性。我的问题是：我一直在比较目标均值在特征组中的分布情况，以及整个数据集的目标均值。例如，以二进制特性X和二进制目标为例。假设目标在处理整个数据集时的平均值为0.10。mean (X=0) = 0.07这样，我就可以观察到一个特征对目标的影响。
我知道，必须有一些更强的度量标准，人们使用这些度量来确定特性的强度。在学校里，我用p检验来确定变量的统计意义。在
浏览 0提问于2018-05-30得票数 3
回答已采纳
1回答
条件熵与互信息聚类评价
、、、
我还发现，互信息是一种类似的方法，同时我还研究了各种替代方案。根据我的数据，他们似乎给出了类似的结果。
如果我的数学是正确的，我所使用的平均熵对应于条件熵项H(V|U)，并试图最小化这与最大的相互信息对齐。我无法理解的是，奇异平均熵与相互信息有何不同，为什么我们需要熵项H(U)或H(V)。似乎最小化其中一个条件熵就足
浏览 0提问于2019-04-19得票数 3
回答已采纳
1回答
信息增益vs最小化熵
、、、
在什么情况下，信息增益最大化不等同于熵最小化？更广泛的问题是，为什么我们需要信息增益的概念？仅仅使用熵来决定决策树的下一个最优属性还不够吗？
浏览 10提问于2015-11-21得票数 2
1回答
我正在训练一个神经网络，它有大约10个分类输入。在对这些分类输入进行一次性编码后，我最终将大约500个输入输入到网络中。我可以将这些方法应用于one-hot编码输入，但如何在应用于二进制化的输入后提取含义？如何判断分类输入的特征重要性？
浏览 15提问于2017-02-18得票数 6
我们通常使用分类阈值最大化的F1评分，如果我们没有一个先验成本函数的假阳性和假阴性。F1不对称。为什么不使用相互信息，使预测和实际中的惊喜最小化？
当我们通过最小化日志损失来估计概率时，我们也是信息论意义上的最小K-L散度或熵或惊奇。在信息论中，如果我们没有概率，想要测量噪声信号传输的信息，我们就使用互信息</
浏览 0提问于2019-08-30得票数 7
1回答
为什么在聚类方法中使用调整后的rand指数(ARI)和归一化互信息(NMI)比简单的测试分数(如MSE)得到更好的测量结果？我明白，在聚类算法中，哪一个点属于哪一个聚类是很重要的，标记是任意的。
浏览 7提问于2016-10-26得票数 1
回答已采纳
我想使用最大互信息进行特征选择。和标签y，并且前三个特征值是离散的，我可以像这样获得MMI值：现在我想在管道中使用相同的互信息选择
浏览 2提问于2017-04-27得票数 4
3回答
有没有我可以阅读的研究论文/书，可以告诉我对于手头的问题，哪种特征选择算法最有效。虽然我可以尝试基于频率，互信息，信息增益和各种其他算法，但列表似乎无穷无尽。
浏览 2提问于2010-01-15得票数 7
1回答
我想要计算两个投影图像之间的互信息，并调整相机的旋转和平移，以便最大化这些互信息。我已经找到了几个计算这些变换参数的例子，但它总是针对2D图像。
浏览 8提问于2018-02-13得票数 0
1回答
功能选择
、、
我必须对术语执行特征选择，并且我打算使用相互信息作为执行特征选择的度量。我的疑问是，在计算所有可能的对之间的互信息之后，应该做什么？我是否应该设置一个阈值，并选择在该阈值内的所有术语对？
浏览 1提问于2013-03-06得票数 0
因此，我首先计算类和特性之间的互信息，然后选择具有最大互信息的特性，并将其添加到A中。然后，我有一个cross()函数来计算A、和B中所有特性之间的相互信息。通过这样做，我可以调整B中所有功能的相互信息，并为A选择新的功能。我做了很多次，直到我选择了想要的数量的功能。
浏览 1提问于2018-01-31得票数 0
1回答
Mattes相互信息怀疑
在SimpleITK中，相互信息是一种相似性度量，这是一个最大化函数还是最小函数？我尝试了一个3D配准(图像大小: 480*480*60)，用米制Mattes互信息度量和梯度下降优化器。
浏览 1提问于2017-05-15得票数 0
现在，我想将损失函数转换为一个更复杂的函数，称为最大互信息( MMI )，这也是语音识别领域中的一个经典准则。我在这里放了一个，它描述了这个损失函数，以防你有兴趣。输出层的激活可以用隐马尔可夫模型场景中定义的一些特殊算法来计算。这意味着我可以计算损失函数w.r.t的导数。输出层的激活不是只写掉损失函数，而是让Tensorflow自动计算导数。
浏览 1提问于2017-09-06得票数 0
回答已采纳
我需要计算两个图像块的互信息。如果两个面片大小相同，我知道如何计算它。但是如果大小不同，我如何计算互信息(或两个补丁之间的联合直方图)？
浏览 2提问于2015-11-10得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
腾讯会议活动推荐
腾讯云开发者
