开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

keras+transformers模型上的"saved_model_cli show“显示与用于训练的模型不同的输入和形状

Keras是一个开源的深度学习框架，而Transformers是一个用于自然语言处理任务的预训练模型库。"saved_model_cli show"是TensorFlow提供的一个命令行工具，用于显示保存的模型的信息。

当使用Keras和Transformers进行模型训练时，可能会出现"saved_model_cli show"显示与用于训练的模型不同的输入和形状的情况。这通常是由于模型的输入预处理或者数据的不一致导致的。

要解决这个问题，可以按照以下步骤进行：

检查数据预处理：确保在训练和推理阶段使用相同的数据预处理步骤。例如，如果在训练时对文本进行了分词和编码，那么在推理时也需要进行相同的处理。
检查模型架构：确保在训练和推理阶段使用相同的模型架构。模型架构包括层的类型、层数、输入和输出的形状等。如果模型架构不同，可能需要重新训练或者调整模型。
检查模型加载：确保正确加载了训练好的模型。使用"saved_model_cli show"命令可以查看模型的输入和输出信息，确保与预期一致。
检查输入数据：确保输入数据的形状与模型期望的输入形状一致。可以使用模型的输入层的shape属性来查看期望的输入形状。

如果以上步骤都没有解决问题，可能需要进一步检查代码和数据，以确定问题的根本原因。

在腾讯云中，可以使用腾讯云的AI平台AI Lab（https://cloud.tencent.com/product/ai）来进行深度学习模型的训练和推理。AI Lab提供了丰富的深度学习工具和资源，可以帮助开发者快速构建和部署模型。

此外，腾讯云还提供了一系列与深度学习相关的产品和服务，如腾讯云机器学习平台（https://cloud.tencent.com/product/tiia）、腾讯云自然语言处理（https://cloud.tencent.com/product/nlp）、腾讯云图像识别（https://cloud.tencent.com/product/ocr）等，可以满足不同场景下的深度学习需求。

相关搜索:预测值与模型拟合的训练数据形状不同 Keras预训练模型的输入形状不变 Keras加载的模型输出与训练模型输出不同如何批量训练具有不同图像形状的模型转换后的Tensorrt模型与Tensorflow模型的输出形状不同？得到了训练模型和负载模型的不同精度顺序Keras模型的设置形状和输入形状的混淆嵌入具有不同输入维度的预训练Keras模型您可以在Tensorflow中更改训练模型的输入形状吗？在训练模型上预测新文本输入的标签使用在不同数据集上训练的cnn模型如何在不同大小的图像上训练keras模型构建序列模型时与数据类型和输入形状相关的错误具有不同形状的多个输入的tensorflow.keras模型(错误)如何在新输入上使用经过训练的模型？无法使用与模型训练时使用的图像形状相同的图像形状运行model.predict()如何在tf.keras中去除预训练模型的输入层，并使用不同的输入层作为模型的输入？如何同时为两个不同的训练集和不同的代价函数训练Keras模型当在keras模型中输入时，我的输入np数组会变成不同的形状我们可以在不同大小的图像上训练LeNet模型吗？

相关搜索:

页面内容是否对你有帮助？

有帮助

没帮助

相关·内容

用 BERT 精简版 DistilBERT+TF.js，提升问答系统 2 倍性能

特邀博文 / 软件工程师 Pierric Cistac；研究员 Victor Sanh；技术主管 Anthony Moi，来自 Hugging Face

03

如何查看Tensorflow SavedModel格式模型的信息

在《Tensorflow SavedModel模型的保存与加载》一文中，我们谈到SavedModel格式的优点是与语言无关、容易部署和加载。那问题来了，如果别人发布了一个SavedModel模型，我们该如何去了解这个模型，如何去加载和使用这个模型呢？

01

TensorFlow 2.0 的新增功能：第三、四部分

如果您使用过 TensorFlow 1.x，则本部分将重点介绍迁移到 TensorFlow 2.0 所需的总体概念更改。它还将教您使用 TensorFlow 可以进行的各种 AIY 项目。最后，本节向您展示如何将 TensorFlow Lite 与跨多个平台的低功耗设备一起使用。

02

怎样用英伟达TensorRT优化TensorFlow Serving的性能？谷歌工程师一文详解

怎样用TensorFlow Serving系统，结合英伟达的Tensor RT，实现高性能深度学习推理？

04

TensorFlow Serving

TensorFlow Serving[1] 可以快速部署 Tensorflow 模型，上线 gRPC 或 REST API。

03

业界 | TensorFlow 携手 NVIDIA，使用 TensorRT 优化 TensorFlow Serving 性能

AI 科技评论按：日前，TensorFlow 团队与 NVIDIA 携手合作，将 NVIDIA 用来实现高性能深度学习推理的平台——TensorRT 与 TensorFlow Serving 打通结合，使用户可以轻松地实现最佳性能的 GPU 推理。目前，TensorFlow Serving 1.13 已实现对 TF-TRT 的支持，而不久后 TensorFlow 2.0 也将支持 TF-TRT 的实现。 TensorFlow 在官方博客中对这项成果进行了发布，雷锋网 AI 科技评论编译如下。

02

【tensorflow2.0】AutoGraph和tf.Module

而Autograph机制可以将动态图转换成静态计算图，兼收执行效率和编码效率之利。

03

Transformers 4.37 中文文档（二十）

特征提取器负责为音频或视觉模型准备输入特征。这包括从序列中提取特征，例如，对音频文件进行预处理以生成 Log-Mel Spectrogram 特征，从图像中提取特征，例如，裁剪图像文件，但也包括填充、归一化和转换为 NumPy、PyTorch 和 TensorFlow 张量。

01

Transformers 4.37 中文文档（十四）

您可以使用AutoBackbone类初始化一个模型作为骨干，并获取任何阶段的特征图。您可以定义out_indices来指示您想要从哪些层获取特征图。如果您知道层的名称，也可以使用out_features。您可以互换使用它们。如果同时使用out_indices和out_features，请确保它们是一致的。不传递任何特征图参数将使骨干产生最后一层的特征图。为了可视化各个阶段的外观，让我们以 Swin 模型为例。每个阶段负责特征提取，输出特征图。

01

TensorFlow2.X学习笔记(4)--TensorFlow低阶API之AutoGraph相关研究

而Autograph机制可以将动态图转换成静态计算图，兼收执行效率和编码效率之利。

02

《Scikit-Learn、Keras与TensorFlow机器学习实用指南（第二版）》第19章规模化训练和部署TensorFlow模型

有了能做出惊人预测的模型之后，要做什么呢？当然是部署生产了。这只要用模型运行一批数据就成，可能需要写一个脚本让模型每夜都跑着。但是，现实通常会更复杂。系统基础组件都可能需要这个模型用于实时数据，这种情况需要将模型包装成网络服务：这样的话，任何组件都可以通过REST API询问模型。随着时间的推移，你需要用新数据重新训练模型，更新生产版本。必须处理好模型版本，平稳地过渡到新版本，碰到问题的话需要回滚，也许要并行运行多个版本做AB测试。如果产品很成功，你的服务可能每秒会有大量查询，系统必须提升负载能力。提升负载能力的方法之一，是使用TF Serving，通过自己的硬件或通过云服务，比如Google Cloud API平台。TF Serving能高效服务化模型，优雅处理模型过渡，等等。如果使用云平台，还能获得其它功能，比如强大的监督工具。

02

Transformers 4.37 中文文档（二十九）

DeBERTa 模型是由 Pengcheng He、Xiaodong Liu、Jianfeng Gao、Weizhu Chen 在DeBERTa: Decoding-enhanced BERT with Disentangled Attention中提出的，它基于 2018 年发布的 Google 的 BERT 模型和 2019 年发布的 Facebook 的 RoBERTa 模型。

01

Transformers 4.37 中文文档（二十六）

如果您在运行此模型时遇到任何问题，请重新安装支持此模型的最后一个版本：v4.30.0。您可以通过运行以下命令来执行：pip install -U transformers==4.30.0。

01

Transformers 4.37 中文文档（二十八）

CPM 模型是由张政彦、韩旭、周浩、柯培、顾宇贤、叶德明、秦宇佳、苏玉生、季浩哲、关健、齐凡超、王晓智、郑亚楠、曾国阳、曹焕琦、陈胜奇、李代轩、孙振波、刘知远、黄民烈、韩文涛、唐杰、李娟姿、朱小燕、孙茂松在CPM: A Large-scale Generative Chinese Pre-trained Language Model中提出的。

01

Spark Love TensorFlow

本篇文章介绍在 Spark 中调用训练好的 TensorFlow 模型进行预测的方法。

03

Transformers 4.37 中文文档（三十三）4-37-中文文档-三十三-

FLAN-T5 发布在论文扩展指令微调语言模型中 - 这是 T5 的增强版本，已在多种任务中进行微调。

01

Transformers 4.37 中文文档（四十六）

MPNet 模型由 Kaitao Song，Xu Tan，Tao Qin，Jianfeng Lu，Tie-Yan Liu 在MPNet: Masked and Permuted Pre-training for Language Understanding中提出。

01

Transformers 4.37 中文文档（九十八）

PatchTSMixer 模型是由 Vijay Ekambaram、Arindam Jati、Nam Nguyen、Phanwadee Sinthong 和 Jayant Kalagnanam 在TSMixer: Lightweight MLP-Mixer Model for Multivariate Time Series Forecasting中提出的。

01

LP love tensorflow & spark

昨天看到一篇文章激发起了我很多兴趣点，文章的题目是 Spark Love Tensorflow，心想何止如此，LP love tensorflow & spark，之前谜之Love Tensorflow，花了三年的时候把它收入麾下，19年开始接触spark，同样激发出不少火花，同时学习了scala语言(人生太短，python吧)，也想花二到三年的时间将spark拿下。

02

Transformers 4.37 中文文档（七十三）

Vision Transformer（ViT）模型是由 Alexey Dosovitskiy、Lucas Beyer、Alexander Kolesnikov、Dirk Weissenborn、Xiaohua Zhai、Thomas Unterthiner、Mostafa Dehghani、Matthias Minderer、Georg Heigold、Sylvain Gelly、Jakob Uszkoreit、Neil Houlsby 在一张图值 16x16 个词：用于大规模图像识别的 Transformer中提出的。这是第一篇成功在 ImageNet 上训练 Transformer 编码器的论文，与熟悉的卷积架构相比取得了非常好的结果。

01

Transformers 4.37 中文文档（五十六）

RoBERTa-PreLayerNorm 模型由 Myle Ott, Sergey Edunov, Alexei Baevski, Angela Fan, Sam Gross, Nathan Ng, David Grangier, Michael Auli 在 fairseq: A Fast, Extensible Toolkit for Sequence Modeling 中提出。它与在 fairseq 中使用 --encoder-normalize-before 标志相同。

01

Transformers 4.37 中文文档（四十五）

MegatronGPT2 模型是由 Mohammad Shoeybi、Mostofa Patwary、Raul Puri、Patrick LeGresley、Jared Casper 和 Bryan Catanzaro 在使用模型并行训练多十亿参数语言模型的 Megatron-LM中提出的。

01

Transformers 4.37 中文文档（三十五）

Fuyu 模型由ADEPT创建，作者是 Rohan Bavishi、Erich Elsen、Curtis Hawthorne、Maxwell Nye、Augustus Odena、Arushi Somani、Sağnak Taşırlar。

01

Transformers 4.37 中文文档（二十二）

BARThez 模型是由 Moussa Kamal Eddine、Antoine J.-P. Tixier 和 Michalis Vazirgiannis 于 2020 年 10 月 23 日提出的BARThez: a Skilled Pretrained French Sequence-to-Sequence Model。

01

Transformers 4.37 中文文档（二十七）

CANINE 模型是由 Jonathan H. Clark、Dan Garrette、Iulia Turc、John Wieting 在CANINE: Pre-training an Efficient Tokenization-Free Encoder for Language Representation中提出的。这是第一篇在训练 Transformer 时不使用显式分词步骤（如字节对编码（BPE）、WordPiece 或 SentencePiece）的论文之一。相反，该模型直接在 Unicode 字符级别进行训练。在字符级别进行训练不可避免地会导致更长的序列长度，CANINE 通过高效的下采样策略解决了这个问题，然后应用深度 Transformer 编码器。

01

Transformers 4.37 中文文档（八十四）

中文 CLIP 模型是由 An Yang、Junshu Pan、Junyang Lin、Rui Men、Yichang Zhang、Jingren Zhou、Chang Zhou 在中文 CLIP：中文对比视觉-语言预训练中提出的。中文 CLIP 是在大规模中文图像-文本对数据集上实现的 CLIP（Radford 等，2021）的一个实现。它能够执行跨模态检索，并且还可以作为视觉任务的视觉骨干，如零样本图像分类、开放域目标检测等。原始的中文 CLIP 代码在此链接上发布。

01

Transformers 4.37 中文文档（八十二）

XLS-R 模型由 Arun Babu、Changhan Wang、Andros Tjandra、Kushal Lakhotia、Qiantong Xu、Naman Goyal、Kritika Singh、Patrick von Platen、Yatharth Saraf、Juan Pino、Alexei Baevski、Alexis Conneau、Michael Auli 在XLS-R: Self-supervised Cross-lingual Speech Representation Learning at Scale中提出。

01

TensorFlow 2.0入门

谷歌于2019年3月6日和7日在其年度TensorFlow开发者峰会上发布了最新版本的TensorFlow机器学习框架。这一新版本使用TensorFlow的方式进行了重大改进。TensorFlow拥有最大的开发者社区之一，从机器学习库到完善的机器学习生态系统已经走过了漫长的道路。

03

Transformers 4.37 中文文档（五十五）

如果您在运行此模型时遇到任何问题，请重新安装支持此模型的最后一个版本：v4.30.0。您可以通过运行以下命令来执行：pip install -U transformers==4.30.0。

01

Transformers 4.37 中文文档（九十四）

SpeechEncoderDecoderModel 可用于使用任何预训练语音自编码模型作为编码器（例如 Wav2Vec2，Hubert）和任何预训练自回归模型作为解码器初始化语音到文本模型。

01

Transformers 4.37 中文文档（三十四）

FNet 模型由 James Lee-Thorp, Joshua Ainslie, Ilya Eckstein, Santiago Ontanon 在 FNet: Mixing Tokens with Fourier Transforms 中提出。该模型用傅立叶变换替换了 BERT 模型中的自注意力层，仅返回变换的实部。该模型比 BERT 模型快得多，因为它具有更少的参数并且更节省内存。该模型在 GLUE 基准测试中达到了约 92-97% 的准确率，并且比 BERT 模型训练速度更快。论文的摘要如下：

01

Transformers 4.37 中文文档（九十六）

VipLlava 模型是由 Mu Cai、Haotian Liu、Siva Karthik Mustikovela、Gregory P. Meyer、Yuning Chai、Dennis Park、Yong Jae Lee 在《Making Large Multimodal Models Understand Arbitrary Visual Prompts》中提出的。

01

Transformers 4.37 中文文档（六十五）

条件 DETR 模型是由孟德普、陈晓康、范泽佳、曾刚、李厚强、袁宇辉、孙磊、王京东在用于快速训练收敛的条件 DETR中提出的。条件 DETR 提出了一种用于快速 DETR 训练的条件交叉注意力机制。条件 DETR 的收敛速度比 DETR 快 6.7 倍至 10 倍。

01

Transformers 4.37 中文文档（六十二）

**免责声明：**如果您看到异常情况，请提交GitHub 问题并指定@patrickvonplaten

01

Transformers 4.37 中文文档（九十）

LiLT 模型在Jiapeng Wang, Lianwen Jin, Kai Ding 撰写的《LiLT: A Simple yet Effective Language-Independent Layout Transformer for Structured Document Understanding》中提出。LiLT 允许将任何预训练的 RoBERTa 文本编码器与轻量级的 Layout Transformer 结合起来，以实现多种语言的 LayoutLM 类似文档理解。

01

Transformers 4.37 中文文档（五十四）

REALM 模型是由 Kelvin Guu、Kenton Lee、Zora Tung、Panupong Pasupat 和 Ming-Wei Chang 在REALM: Retrieval-Augmented Language Model Pre-Training中提出的。这是一个检索增强语言模型，首先从文本知识语料库中检索文档，然后利用检索到的文档来处理问答任务。

01

Transformers 4.37 中文文档（六十一）

X-MOD 模型是由 Jonas Pfeiffer、Naman Goyal、Xi Lin、Xian Li、James Cross、Sebastian Riedel 和 Mikel Artetxe 在Lifting the Curse of Multilinguality by Pre-training Modular Transformers中提出的。X-MOD 扩展了多语言掩码语言模型，如 XLM-R，在预训练期间包含特定于语言的模块化组件（语言适配器）。在微调中，每个 Transformer 层中的语言适配器被冻结。

01

基于Tensorflow2 Lite在Android手机上实现图像分类

Tensorflow2之后，训练保存的模型也有所变化，基于Keras接口搭建的网络模型默认保存的模型是h5格式的，而之前的模型格式是pb。Tensorflow2的h5格式的模型转换成tflite格式模型非常方便。本教程就是介绍如何使用Tensorflow2的Keras接口训练分类模型并使用Tensorflow Lite部署到Android设备上。

01

基于Tensorflow2 Lite在Android手机上实现图像分类

Tensorflow2之后，训练保存的模型也有所变化，基于Keras接口搭建的网络模型默认保存的模型是h5格式的，而之前的模型格式是pb。Tensorflow2的h5格式的模型转换成tflite格式模型非常方便。本教程就是介绍如何使用Tensorflow2的Keras接口训练分类模型并使用Tensorflow Lite部署到Android设备上。

04

Transformers 4.37 中文文档（五十九）

SwitchTransformers 模型是由 William Fedus、Barret Zoph 和 Noam Shazeer 在Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity中提出的。

01

Transformers 4.37 中文文档（一）

下表表示库中对这些模型的当前支持，它们是否有 Python 分词器（称为“slow”）。由🤗 Tokenizers 库支持的“fast”分词器，它们是否在 Jax（通过 Flax）、PyTorch 和/或 TensorFlow 中有支持。

01

Transformers 4.37 中文文档（六十）

T5v1.1 是由 Colin Raffel 等人在google-research/text-to-text-transfer-transformer存储库中发布的。这是原始 T5 模型的改进版本。这个模型是由patrickvonplaten贡献的。原始代码可以在这里找到。

01

Transformers 4.37 中文文档（六十三）

XLM-RoBERTa-XL 模型是由 Naman Goyal、Jingfei Du、Myle Ott、Giri Anantharaman、Alexis Conneau 在用于多语言掩码语言建模的更大规模 Transformer中提出的。

01

Transformers 4.37 中文文档（三十七）

OpenAI GPT-2 模型是由 Alec Radford、Jeffrey Wu、Rewon Child、David Luan、Dario Amodei 和 Ilya Sutskever 在 OpenAI 提出的，它是一个因果（单向）变压器，使用语言建模在一个大约 40GB 的文本数据语料库上进行预训练。

01

tf.lite

它允许您使用一组TensorFlow操作并注释构造，以便toco知道如何将其转换为tflite。这在张量流图中嵌入了一个伪函数。这允许在较低级别的TensorFlow实现中嵌入高级API使用信息，以便以后可以替换其他实现。本质上，这个伪op中的任何“输入”都被输入到一个标识中，并且属性被添加到该输入中，然后由构成伪op的组成ops使用。

06

Transformers 4.37 中文文档（五十七）

RoCBert 模型是由 HuiSu、WeiweiShi、XiaoyuShen、XiaoZhou、TuoJi、JiaruiFang、JieZhou 在 RoCBert: Robust Chinese Bert with Multimodal Contrastive Pretraining 中提出的。它是一个经过预训练的中文语言模型，在各种形式的对抗攻击下具有鲁棒性。

01

用深度学习解决nlp中的命名实体识别(ner)问题(深度学习入门项目)

本文源码已经上传至 github.: https://github.com/HuBlanker/Keras-Chinese-NER

02

Transformers 4.37 中文文档（三十六）

我们介绍了 GPT-NeoX-20B，这是一个拥有 200 亿参数的自回归语言模型，经过 Pile 训练，其权重将通过宽松许可证免费向公众开放。据我们所知，这是在提交时具有公开可用权重的最大稠密自回归模型。在这项工作中，我们描述了 GPT-NeoX-20B 的架构和训练，并评估了其在一系列语言理解、数学和基于知识的任务上的性能。我们发现，GPT-NeoX-20B 是一个特别强大的少样本推理器，在进行五次评估时性能提升明显，而与大小相似的 GPT-3 和 FairSeq 模型相比。我们开源了训练和评估代码，以及模型权重，链接为 github.com/EleutherAI/gpt-neox。

01

Transformers 4.37 中文文档（八十八）

LayoutLM 模型是由 Yiheng Xu，Minghao Li，Lei Cui，Shaohan Huang，Furu Wei 和 Ming Zhou 在论文LayoutLM: Pre-training of Text and Layout for Document Image Understanding中提出的。这是一种简单但有效的文本和布局预训练方法，用于文档图像理解和信息提取任务，如表单理解和收据理解。它在几个下游任务上取得了最先进的结果：

01

可视化深度学习模型架构的6个常用的方法总结

可视化有助于解释和理解深度学习模型的内部结构。通过模型计算图的可视化可以弄清楚神经网络是如何计算的，对于模型的可视化主要包括以下几个方面：

02

扫码

添加站长进交流群

领取专属 10元无门槛券

手把手带您无忧上云

扫码加入开发者社群

相关资讯

热门标签

活动推荐

运营活动

活动名称

广告关闭