以BERT
为代表的预训练模型是目前NLP领域最火热的方向,但是Google发布的 BERT
是Tensorflow
格式的,这让使用pytorch
格式 程序猿
们很为难。
为解决这个问题,本篇以BERT
为例,介绍将Tensorflow
格式的模型转换为Pytorch
格式的模型。
使用工具为:Transformers
(链接),该工具对常用的预训练模型进行封装,可以非常方便的使用 pytorch
调用预训练模型。
使用如下命令安装:
pip install transformers
BERT
模型;export BERT\_BASE\_DIR=/path/to/bert/uncased\_L-12\_H-768\_A-12
transformers bert \
$BERT\_BASE\_DIR/bert\_model.ckpt \
$BERT\_BASE\_DIR/bert\_config.json \
$BERT\_BASE\_DIR/pytorch\_model.bin
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。