最初，我使用文本分类数据集对基于BERT的模型进行了微调，为此我使用了BertforSequenceClassification类。from transformers import BertForSequenceClassification, AdamW, BertConfig
)
浏览 77提问于2020-03-28得票数 1
回答已采纳
1回答
使用CLI命令训练BERT
、、、、
我已经从transformer存储库下载了HuggingFace BERT模型，找到了here，并希望通过使用run_ner.py脚本在自定义NER标签上训练模型，因为它在“命名实体识别”一节中被引用为我在代码中定义了模型(“bert-base-德语-大小写”)、数据(“数据/语句_数据.txt”)和标签(“data_dir /labels.txt)”作为默认值。model from a BertForSequenceClassification model).我的C
浏览 76提问于2020-11-02得票数 0
回答已采纳
我有一个预先训练过的模型，我装载如下：)bert.embeddings.LayerNorm.bias
浏览 0提问于2021-05-25得票数 1
回答已采纳
我想微调一个预先训练的变压器模型的问题回答。该模型是预先培训的大型工程和科学相关的语料库。
我得到了一个包含模型权重的"checkpoint.pt“文件。在初始化BertModel时不使用模型检查点的一些权重：“文件”、“优化器”、“模型”、“主参数”。这是预期的，如果您是从一个模型的检查点对另一个任
浏览 4提问于2021-08-12得票数 0
回答已采纳
我有一个自定义分类模型，使用基于transformers模型的BERT库进行培训。该模型将文本划分为7个不同的类别。使用以下方法将其保存在目录中：tokenizer.save_pretrained(model_name)
我试图使用allennlp库加载这种持久化模型经过大量的工作，我终于做到了。但是，在allennlp框架内运行模型时，模型的<
浏览 3提问于2021-11-07得票数 0
回答已采纳
我在做西班牙语推文的情感分析。对于不包括文本分类的各种任务，已经对RoBERTa模型进行了培训。我想拿这个，并微调它的文本分类，更具体地说，情感分析.我已经完成了所有的预处理，并创建了dataset对象，并
浏览 10提问于2021-09-27得票数 4
我正在尝试用修改后的输入通道数加载vgg19网络。输入通道的数量是4，这是我的情况，我也将分类器更改为我自己的分类器。我还从网络中删除了自适应平均池化层。我应该如何将预先训练好的权重加载到我的PyTorch模型的修改版本中？ 假设我的模型的修改版本在变量myModel中。我如何将</e
浏览 170提问于2019-12-14得票数 0
回答已采纳
BertTokenizer.save_pretrained("OUTPUT_DIR") 将vocab.txt、special_tokens_map.json和tokenizer_config.json保存到我的输出目录中，可用的列车模型存储为pytorch_model.bin，配置也在那里。
浏览 69提问于2020-09-04得票数 0
the checkpoint of a model trained on another task or with another architecture (e.g. initializing a BertForSequenceClassificationmodel from a BertForSequenceClassification model).我的目的是找到一个预先训练的模型来为我的文本创建嵌入向量，以便它可以在下游文本中使用。我不想创建自己的预训练
浏览 1提问于2021-05-19得票数 0
我使用Keras库创建了一个模型，并使用.h5扩展将模型保存为.json和它的权重。如何将其下载到我的本地计算机？
为了保存模型，我遵循了这个
浏览 0提问于2018-02-22得票数 22
1回答
我做了一个训练课程，获得了70%的访问率，并节省了重量。如何将权重的“前半部分”加载到这个新模型中？我正在尝试使用上一次训练课程来让
浏览 9提问于2017-07-01得票数 1
1回答
我正在使用 (点燃)加载和分析一个伯特模型，我预先培训了一个新的任务。但是，当我用传递给它的经过预先训练的模型的路径启动LIT脚本时，它无法初始化权重，并告诉我： modeling_utils.py:73
浏览 1提问于2021-03-10得票数 0
回答已采纳
当我尝试使用keras的model.load_weights I get OSError: Unable to open file (Truncated file: eof = 41091072)加载权重时，下面是完整的错误跟踪：
model.load_weights(get_file(fname, "E:/Work/Practical\ Deep\ Learning\ Course/my\ notebooks
浏览 0提问于2017-07-09得票数 5
我实现了我的自定义Bert二进制分类模型类，在Bert模型(附在下面)之上添加了一个分类器层。然而，当我使用官方的BertForSequenceClassification模型进行训练时，准确性/指标会有很大的不同，这让我想知道我是否在课堂上遗漏了什么。我有几点疑问： 在加载官方的BertForSequenceClassification from_pretrained时，分类器的权重是从
浏览 98提问于2020-12-11得票数 1
回答已采纳
根据这个演示，下面这行代码下载了一个预先训练好的模型和一个测试MR卷：有没有一种方法可以加载预先训练的模型</
浏览 3提问于2017-10-20得票数 1
我正在构建一个使用tfjs模型的Chrome扩展。我有一个包含模型(model.json)及其权重的文件。我可以知道如何将它加载到我的Chrome扩展中，因为我只能使用tf.loadGraphModel加载一个普通的javascript文件。
浏览 6提问于2022-03-15得票数 0
1回答
我微调了一个经过预先训练的伯特模型，它来自Huggingface，在一个自定义的数据集上使用火把-闪电对10个时代进行了调整。我用重量和偏倚记录器记录日志。model from a BertForPreTraining model).
- This IS NOT expected if you are initializing BertForSequenceClassificationmodel from a BertForSequenceClassification model).Some weight
浏览 6提问于2022-04-06得票数 0
我现在的工作是测试流媒体ML算法的性能，我的想法是在线训练一个流ML模型，并将模型保存到离线测试中，这就是我所做的。但是当我开始测试性能时，我发现LinearRegressionModel中的权重和截距都是0，这让我很困惑。我将在下面展示我的代码：
浏览 3提问于2021-01-10得票数 1
1回答
我想微调已经调优的BertForSequenceClassification模型，新的数据集只包含一个额外的标签，这是模型以前从未见过的。这样，我想在模型当前能够正确分类的一组标签中添加一个新标签。
此外，我不希望随机初始化分类器权重，我希望保持它们完整，并相应地将它们更新到数据集示例中，同时将分类器层的大小增加1。用于进一步微调的数据集可能如下
浏览 5提问于2021-04-19得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
