正在尝试查找original BERT model trained using MLM/NSP的任何Tensorflow/Keras实现。但是我想学习和实现BERT，仅仅是为了学习它的工作原理。 有什么线索会有帮助吗？
浏览 22提问于2021-05-07得票数 1
回答已采纳
2回答
我正在使用bert-tensorflow。__version__)
import bertfrom bert import optimizationwith tf.Graph().as_default(): tokenization_info = b
浏览 281提问于2019-12-15得票数 2
在阅读了BERT论文(https://arxiv.org/abs/1810.04805)之后，我仍然对输入(单词)取什么感到有点困惑。
浏览 26提问于2019-02-05得票数 2
1回答
为了更深入地了解NLP的工作原理，我在Kaggle浏览了一些笔记本。我偶然发现了一本自然语言推理任务的笔记本，用来预测给定的前提和假设之间的关系。它使用经过预先训练的BERT模型来完成这项任务。我有一个关于build_model()函数的问题： bert_encoder = TFBertModel.from_pretrained("bert-base-multilingual-cased")
input_word_ids =
浏览 7提问于2022-01-13得票数 0
回答已采纳
下面是我所做的，请注意，Bertclient是我用来提取向量的工具： from sklearn.metrics.pairwise import cosine_similarity
from bert_serving.client
浏览 15提问于2020-06-19得票数 0
回答已采纳
Tokenizator接受一个输入字符串并返回如下的令牌->那么，如何得到输入字符和单词之间的位置映射呢期望的输出应该类似于[0，7，8，14]并找到了convert_ids_to_tokens函数，它的工作原理如下bert
浏览 2提问于2020-05-15得票数 3
3回答
当使用来自pytorch的预训练BERT嵌入(然后进行微调)时，是否应该像在任何标准NLP任务中一样对输入到模型中的文本数据进行预处理？
浏览 3提问于2020-09-20得票数 4
我不明白NavigableMap.floorEntry()和ceiling Entry()是如何工作的。
我理解--它的工作方式类似于：这些函数返
浏览 1提问于2018-01-29得票数 3
1回答
BERT标记器和模型下载
、、、、
但是，由于公司网络的安全性，以下代码不会直接接收bert模型。tokenizer = BertTokenizer.from_pretrained('bert-base-multilingual-cased', do_lower_case=False)所以我想我必须下载这些文件并手动输入位置我目前使用的是
浏览 5提问于2020-01-12得票数 6
回答已采纳
2回答
我使用了Huggingface中的以下分类模型： param.requires_grad = False
浏览 9提问于2022-07-04得票数 1
回答已采纳
我使用的是Google，下面的导入不知何故不起作用：我得到了这个错误：我试图通过运行以下命令来安装bert：知道如何解决这个错误吗？
浏览 8提问于2019-06-12得票数 11
回答已采纳
我正在做一个长的文本分类任务，在文档中有10000多个单词，我计划使用Bert作为段落编码器，然后逐步将段落的嵌入提供给BiLSTM。我使用keras的load_trained_model_from_checkpoint来加载bert模型
bert_model = load_trained_model_from_checkpoint(
浏览 3提问于2019-11-05得票数 2
我得到了下面的错误ValueError: if 'bert' is selected model, then preprocess_mode='bert' should be used and vice%%timeimport ktrain(x_train_bert, y_train_bert), (x_val_bert, y_val_bert= U.bert</em
浏览 8提问于2022-07-04得票数 0
1回答
在尝试NLP练习时，我尝试使用BERT架构来获得一个好的训练模型。因此，我定义了一个函数，它使用BERT作为层来构建和编译模型。但是，在尝试执行函数并实际构建模型时，我会得到一个错误，即BERT层无法找到与我输入的位置参数匹配的选项。Model接下来，我为模型定义了如下函数：module_url = "https:/
浏览 5提问于2021-05-01得票数 1
我使用AllenNLP对一个用于语义角色标记的BERT模型进行了精细的调整。这会产生一个模型目录(如果还记得的话，序列化目录？)现在，我希望在学习相关任务时，使用此库： (即我想利用一些传输学习)来学习相关任务事件提取时，使用这个经过精细调整的模型BERT模型作为初始化。/ File "main.py", line 65, in <module> File"/
浏览 30提问于2022-04-05得票数 0
回答已采纳
我遇到了类似的东西：BERT tokenizer & model download 上面的链接是关于下载Bert模型本身的，但我只想使用Bert Tokenizer。通常我可以这样做： from transformers import BertTokenizerbert_tokenizer_de=BertTokeniz
浏览 125提问于2021-10-18得票数 0
回答已采纳
labels) pairs, as expected by keras.Model.fitbert_classifier.fitraise ValueError(str(e))
ValueError: Dimensions must be equal, but are 512 and 1024 for '{{node bert_classifier/bert_encoder_1/posit
浏览 23提问于2021-03-05得票数 0
回答已采纳
1回答
BERT至XLNET列车模型
、、、、
# we access the transformer model within our bert object using the bert attribute (而不是bert.bert
浏览 7提问于2021-05-17得票数 0
回答已采纳
BertForSequenceClassification, AdamW, BertConfig, BertModel "bert-base-uncased", # Use the 12-layer BERT model, with an uncased vocab.the model returns all hidden-states.我想要创建一个具有相同架构和随机初始权重的新模型，但嵌入层除外：
==== Em
浏览 0提问于2021-05-25得票数 1
回答已采纳
1回答
def __init__(self, freeze_bert=False): @param bert: a BertModel objectto fine-tune the BERT model super(BertClassifier, self).D_in, H, D_out = 768, 50, 2
浏览 10提问于2021-03-11得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
