我看到很多实现使用GIS或IIS来训练最大熵模型。我们能用梯度下降法吗？如果我们可以使用它，为什么大多数教程直接告诉GIS或IIS方法，但不显示简单的梯度下降法来训练最大熵模型？正如我们所知，softmax回归相当于最大模型，但我从未听说过GIS或IIS在softmax中。为什么？是否有一个玩具代码使用简单的梯度去训练最大模型？
浏览 0提问于2016-07-10得票数 2
回答已采纳
1回答
我想知道什么是置换熵(PE)。然后，我了解了这论文，它描述了体育。现在，假设我们有一个由熵源产生的伪随机排列，我们使用了一个统一的洗牌算法(比如Fisher-Yates洗牌算法)。另外，假设我们使用256位熵来洗牌\{0,1\}^8\rightarrow\{0,1\}^8.那么，输出排列可以具有最大256位熵的事实是真的吗？对于熵的每一个值，我们将得到一个唯一的对应排列。
浏览 0提问于2020-11-10得票数 0
1回答
特征选择-条件熵
、、
本文提出了一种用于文本分类中特征选择的条件熵定义算法。我遵循CharuC.Aggarwal (5.2.2)在机器学习文本中的公式。作者提到，条件熵值介于(0，log(类数))之间，而我的情况是(0，0.6931472)。作者还提到，最大值的特征可以删除，但是他没有给出定义‘最大’的标准的进一步信息(是熵的最大值还是最大熵值的集合？)
浏览 0提问于2020-09-17得票数 2
回答已采纳
目前，我正在使用朴素贝叶斯算法、支持向量机和最大熵算法制作一个引文句子分类器，目前我的数据是110个非引文句子和10个引文句子。我使用代码从斯坦福分类器示例中进行分类，结果很好。但是分类器是准牛顿的。如何使用朴素贝叶斯分类器、支持向量机和最大熵？我已经尝试编辑prop文件并添加"useNB=true"，但结果发现所有数据都是非引用句类。我已经在上读过javadoc了，我不知道应该把朴素贝叶斯算法的setClass放在哪里
浏览 0提问于2015-10-26得票数 1
2回答
我首先通过计算这类数据的熵来尝试，在这两种情况下，熵值都非常高(几乎是最大值)，因此这种方法似乎不起区别作用。
我读过关于卡方算法的文章，但我从未使用过它(实际上，我在解释结果时仍然存在一些问题)。有谁知道这个算法能带来更好的结果吗？
浏览 0提问于2012-08-15得票数 6
1回答
决策树分割策略
、、、、
我有一个包含4个分类特征(胆固醇、收缩压、舒张压和吸烟率)的数据集。我使用决策树分类器来找出中风的概率。由于它是二叉树，因此有三种可能的方法来拆分第一个特征，即将类别{0和1分组到一个叶子，将2分组到另一个叶子}，或者{0和2，1}，或者{0，1和2}。我所知道的(请在这里纠正我)是所选择的分割是具有最小信息增益的分割(基尼杂质)。{0 + 1 , 2} --> 0.17
{1 + 2 , 0} --> 0.
浏览 3提问于2019-12-24得票数 0
我正在使用斯坦福分类器提供的最大熵算法来执行定制的命名实体识别。输出文件提供5列
P(clAnswer)和P(goldAnswer)的区别是什么？
浏览 3提问于2017-11-14得票数 0
回答已采纳
2回答
当然，如果我将(例如) SHA-2应用于base64编码的字符串，它将给我一个与原始数据不同的结果，但是从熵的角度来看，这有什么区别吗？
浏览 0提问于2015-11-07得票数 7
我看过下面的教程
我曾经使用过朴素贝叶斯分类器，最大熵算法和Scikit学习分类器，我想知道tensorflow是否提供了更好的算法。这是正确的起点吗?或者还有其他选择吗？
浏览 0提问于2015-12-10得票数 18
3回答
我目前使用的是NLTK的朴素贝叶斯分类器，不过我也想尝试一下Max Ent分类器。从文档中看，它应该采用与Naive Bayes相同的功能集格式，但由于某种原因，我在尝试它时遇到了这个错误： gaussian_prior_sigma, **cutoffs)
File "/usr/lib/python2.7/site-packages/nltk/classify/maxent.py"
浏览 0提问于2012-04-05得票数 3
我最近读到了ID3算法，它说选择最好的属性进行分割应该导致最大的信息增益，这可以在熵的帮助下计算。熵(X)= 0.8*_E(5，3) + 0.2*_E(2，0)
然而，第二个分裂P(1)是完全分类的，这导致了一个数学错误，因为log2(0)是负无穷大。在这种情况下，如何计算熵？
浏览 0提问于2016-09-30得票数 3
nltk包的内置语音标记似乎没有针对我的用例()进行优化。显示它使用了一个名为maxent_treebank_pos_tagger的保存的、经过预先训练的分类器。除了大量的googling之外，到目前为止，我试图直接查看.pickle对象，以找到它内部的任何线索，从下面开始x = load("nltk_data
浏览 0提问于2015-07-13得票数 10
1回答
J48与马尔可夫链的区别
、、、
我试图用C#和F#领域中的不同算法的相对速率来评估WekaSharp，而我感兴趣的算法之一是马尔可夫链。我知道Weka有一个HMM应用程序，但是我无法将它实现到WekaSharp中，我想知道是否有一种方法可以修改J48算法以适应这个目的。
浏览 3提问于2013-11-27得票数 5
回答已采纳
所有这些交叉熵损失之间有什么区别？凯拉斯在说
他们之间的区别和关系是什么？还有其他的交叉熵类型应该知道吗？有没有没有逻辑的交叉熵类型？
浏览 4提问于2017-06-21得票数 40
回答已采纳
1回答
用于构建最大熵分类器的算法是否可以修改为增量式功能，或者根据定义它是一个批处理过程吗？我已经找到了 实现，但它们都是批处理过程，即使在检查了代码之后，我也无法想象如何修改它们以使其以增量方式运行。
浏览 2提问于2011-07-07得票数 3
回答已采纳
1回答
可能重复: 用于公钥加密的工具，其中密码是私钥？使用令人难忘的密码可以消除将密钥存储在磁盘上的需要，从而在发生数据盗窃时保护您免受身份盗用。正如Stephen指出的那样，原因1很弱，因为密码保护的RSA密钥也有这个好处。RAM仍然是脆弱的，但这也很难获得访问，对吗？但是，假设人们对备份(他们不是)和理由2是有效的，那么使用散列作为RNG种子是否存在潜在的系统性问题？
浏览 0提问于2012-10-20得票数 2
回答已采纳
3回答
在深度安全性方面，我的信息严重不足，但是我的理解是，密码熵在不同的算法之间应该有一些相似之处。这是否符合预期，是否有可靠/标准的密码熵检查？
浏览 0提问于2018-09-05得票数 14
回答已采纳
我需要的是从助记符中恢复帐户的精确算法，以及任何编程语言的around.Appreciate实现的另一种方式，或者仅仅是伪代码。我已经知道的是从助记符中获取熵和种子的算法，以及从熵中获取助记符的算法。我如何从熵或种子中恢复一个帐户？当提供一个帐户时，我如何才能得到熵来生成助记符呢？
浏览 0提问于2018-04-11得票数 0
tf.nn.softmax_cross_entropy_with_logits，文档显示它计算了逻辑和标签之间的最大交叉熵，这意味着什么？它不是应用了交叉熵损失函数公式吗？为什么文档说它计算软最大交叉熵？
浏览 5提问于2017-05-22得票数 2
1回答
朴素的贝叶斯有偏见吗？
、、、
我从朴素的贝叶斯Apache OpenNLP开始，但我被告知该算法是有偏见的，这意味着如果我的训练数据有60%的数据为classA，30%为classB，10%为classC，则该算法倾向于偏向classA我遇到过其他算法，比如SVM分类器或logistic回归(最大熵模型)，但我不确定哪一种更适合我的用例。请给我建议。
浏览 0提问于2019-05-10得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
