我有一个标题的数据集，它们的描述和对应于描述是否有效的0或1。我希望能够根据BERT以及描述的字符数/字数来分类它们是否有效。我该怎么做呢？
浏览 25提问于2019-06-13得票数 0
1回答
变压器对RNN的基本怀疑
、、、、
我有一个基本的疑问。请澄清这一点。现在，变压器也做同样的事情，除了非顺序。但是我已经看到，基于BERT的模型的输出可以用作word嵌入。如果我有句“外面很热吗？”现在，我将应用word2Vec并获得密集表示，并将其传
浏览 0提问于2022-07-29得票数 0
回答已采纳
2回答
我们对bert-base-uncased( BERT )模型和CoLA数据集进行了精细调整，以完成句子分类任务.数据集是有语法错误和没有语法错误的句子的组合。然后，再训练的模型被用来识别有或没有错误的句子。除了建立分类器外，我们还可以使用BERT的其他方法吗？
浏览 0提问于2021-01-06得票数 3
1回答
我想培养一个预测新闻头条情绪的模型。我每天都有多个无序的新闻标题，但只有一个情绪得分。把所有的标题连成一个字串，但这感觉有点不对，因为LSTM或CNN将使用不存在的跨句词关系。每天标题的数量</em
浏览 0提问于2022-05-07得票数 0
1回答
我做了一个Keras模型来检测字符串值是Address，Company还是Date。我只使用了不同的公司名称，不同的日期共振峰和不同的街道地址进行培训。因此，我的数据集中的每一行都有1到5个单词(有些单词可以是数字)。是否可以使用该模型来检测字符串(地址、公司或日期)在较大文本中的位置？我认为这种模型被称为NER模型(命名实体识
浏览 4提问于2021-03-27得票数 3
1回答
我正在制作一个句子分类模型，并在其中使用BERT单词嵌入。由于数据集非常大，我将所有句子组合在一个字符串中，并在由这些句子生成的标记上进行嵌入。s = " ".join(text_list)
len(s) 这里s是字符串，text_list包含我想要在其上嵌入单词的句子。 然后我将字符串标记
浏览 20提问于2020-08-27得票数 1
2回答
据我所知，伯特是一个字嵌入，可以微调或直接使用。这对嵌入词本身意味着什么？每个单词标记还有一个向量吗？如果是，如何考虑上下文？如果不是，嵌入的格式是什么？
浏览 0提问于2020-02-11得票数 3
回答已采纳
我对使用BERT进行各种NLP/文本挖掘任务有了基本的了解。当谈到伯特的微调时，我总是看到微调是使用一些分类任务来执行的。那么，当我有一组完全没有标签的文档时，我应该如何改进BERT模型给出的单词/句子嵌入向量？我知道，BERT模型最初是针对没有标签的数据进行培训的
浏览 0提问于2020-05-27得票数 2
2回答
Word2Vec的使用
、、、、
抱歉，基本的怀疑，
我想知道我是否可以直接使用我的Word2Vec进行分类而不使用LSTM。我的假设是，这是不可能的，因为单词的顺序不会被考虑在内。因此，它不会用于分类。但是我们使用BERT嵌入来进行分类。但是在这种情况下，伯特根据句子的上下文生成嵌入。因此，我们可以使用它<
浏览 0提问于2022-07-29得票数 2
我有基于BERT的模型检查点，这是我在Tensorflow中从头开始训练的。我如何使用这些检查点来预测给定句子中的掩蔽词？例如，假设句子是，"CLS abc pqr MASK xyz SEP“，我想预测掩码位置的单词。 我该怎么做呢？我在网上搜索了很多，但每个人都在使用BERT来完成特定于任务的分类任
浏览 24提问于2019-09-11得票数 0
1回答
我正在尝试为一些特定类型的文本生成良好的句子嵌入，使用句子转换模型测试相似度，而使用kmeans进行聚类并不能给出好的结果。有什么需要改进的想法吗？我正在考虑在我的数据集上训练任何句子转换器模型(它们只是句子，但没有任何标签)。如何特别针对ny数据重新训练现有模型以生成更好的嵌入。谢谢。
浏览 5提问于2020-12-08得票数 0
1回答
将根据现有语料库上的语言模型，列出一组单词，并尝试使用这些单词生成句子。什么是正确的(也是最简单的)方法来做到这一点？
我试图找到一个基于LSTM的解决方案，但是一旦我给网络提供了不止一个单词，事情就变得更加棘手了。
浏览 0提问于2022-04-07得票数 2
1回答
我正在使用条件随机场算法对我标记的实体进行分类。我想知道这个算法是不是像BERT一样是双向的？感谢您在这个问题上的任何线索！
浏览 0提问于2019-09-18得票数 2
1回答
我正在尝试应用BERT句子嵌入来从瑞典语文本字符串语料库中查找给定瑞典语文本片段的相似句子。来自sentence_transformers (SBERT)的句子BERT似乎是理想的选择。'The quick brown fox jumps over the lazy dog.']然而，他
浏览 8提问于2020-10-29得票数 0
让我们举一个例子：
在所有的三句话中，我想分别摘取被监视的东西(坏的、死的、死的)。我应该用什么方法来实现这一点呢？
浏览 0提问于2021-01-13得票数 0
我想知道微调后的模型与不经过精细调整的模型相比有多大的改善，我想比较一下预先训练的模型( BERT)和通过对文本分类的预训练模型进行微调所获得的模型(微调BERT )的性能，我知道如何微调BERT来进行文本分类，但不太清楚如何直接使用BERT来实现classification.what呢?下面是微调模型
浏览 12提问于2022-08-05得票数 0
1回答
文档情感分类的Bert模型
、、、、
我的输入不是一句，而是文件(包括几个句子)，我不会删除点。我想知道在这种情况下只使用第一个令牌的嵌入是否可以。如果没有，我该怎么办？
浏览 0提问于2023-04-24得票数 0
回答已采纳
1回答
我正在寻找对文档进行分类的方法。对于ex。我有一堆带有文本的文档，我想标记文档是否属于体育、食品、政治等。我可以使用BERT (对于单词>500的文档)来实现这一点吗?
浏览 7提问于2021-02-10得票数 1
给定一个情感分类数据集，我想对Bert进行微调。 正如你所知道的，BERT创造了预测下一个句子的方法，给定当前句子。因此，为了让网络意识到这一点，他们在第一句话的开头插入了一个[CLS]令牌，然后添加了[SEP]令牌来分隔第一句话和第二句话，最后在第二句话的末尾添加了另一个[SEP] (我不明白他们为什么要在末尾附加另一个令牌无论如何，对于文本分类</em
浏览 190提问于2020-01-13得票数 6
我正在使用tensorflow的预训练BERT模型进行基于标记的分类，以自动标记句子中的因果。为了访问BERT，我使用了来自huggingface：的TFBertForTokenClassification-Interface
我用来训练的句子都是根据BERT-tokenizer转换成记号(基本上是单词到数字<
浏览 0提问于2020-07-08得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
