使用与BERT兼容的静态嵌入
使用与BERT兼容的静态嵌入
提问于 2022-03-22 22:25:43
我有一个话语数据集和相应的情感标签。我想使用情感标签的嵌入作为BERT的额外输入(为了简化事情，您可以说我希望初始化我的BERT模型中的一些令牌的嵌入)。有6-7个独特的标签。我计划使用像GloVe这样的静态嵌入来将标签映射到嵌入，但这将与BERT不兼容，后者期望输入嵌入大小为768。如何生成标签的静态嵌入？
回答 1
Stack Overflow用户
发布于 2022-03-23 05:01:06
您可以尝试sbert为给定维度大小的句子和标签生成嵌入。这是库- https://www.sbert.net/
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/71579653
复制相关文章
相似问题
腾讯云开发者
