我有一个tensorflow模型，并转换为tensorrt模型。Tensorflow模型的uff转换如下所示。输入是图像，输出是Openpose/concat_stage7 NOTE: UFF has been tested with TensorFlow 1.12.0.Openpose/concat_stage7No. node
浏览 49提问于2019-06-03得票数 0
回答已采纳
我正在尝试将我的Tensorflow冻结模型转换为NVIDIA TensorRT引擎。我有TensorRT 3版本。TensorRT不支持特定的Tensorflow层/函数，如tf.Cast等。我的模型使用tf.abs()函数(编辑:它实际上由TensorRT支持，但不受构建TensorRT引擎所需的UFF解析器的支持
浏览 0提问于2018-04-16得票数 1
回答已采纳
1回答
我正在使用Nvidia Tesla P100上的tensorflow 对象检测模型来提取边界框和关键点，用于检测视频中的人。使用来自tensorflow.org的预训练，我能够处理大约16帧每秒.有没有办法提高这个模型的评估速度？以下是我一直在研究的一些想法：
并没有成功地做到这一点。在构建模型时更改label_map似乎不会提高性能。使用类似于TensorR
浏览 0提问于2020-11-04得票数 5
在将TensorFlow模型转换为TensorFlow精简版格式时，是否存在性能损失？因为我从不同的边缘设备获得了这些结果： ? 当Nvidia Jetson与树莓派( TensorFlow Lite )模型进行比较时，Nvidia Jetson与TensorFlow模型(TensorRT优化)具有更高的准确性，这有意义吗？
浏览 110提问于2020-04-09得票数 1
回答已采纳
我有一个tensorflow (version 1.14) float32 SavedModel，我想将其转换为float16。根据的说法，我可以将" fp16“传递给precision_mode以将模型转换为fp16。但是转换后的模型，在检查了tensorboard之后，仍然是fp32的: net参数是DT_FLOAT而不是DT_HALF。并且转换后的
浏览 4提问于2020-02-27得票数 0
这就是我如何了解TensorFlow-Lite，TensorFlow-TRT和TensorRT的.我有一些关于他们的问题：使用TensorFlow动物园提供的模型
b.将模型
浏览 6提问于2020-09-07得票数 1
我正在尝试转换，然后用Tensorflow模型运行推理。我用tf.keras生成了一个Tensorflow模型：model.add(Conv2D(64, kernel_size=3, activation='relu，然后将保存.pb tensorflow冻结图文件的文件转换为UFF，并使用：
uff_model = uff.from_tensorflow_frozen_model
浏览 1提问于2019-05-02得票数 1
我的项目使用多个Keras模型。这些模型可以有不同批次大小的输入，从1到24不等。我决定使用TRT优化这些模型。我尝试了两种转换方法：第一种方法转换模型，但不为模型创建TensorRTpredict(model3_input)
当
浏览 18提问于2020-04-01得票数 4
我有一个tensorflow训练模型，并在tensorflow测试，精度达到95%。我该从哪里看这个精度下降的地方？唯一的</e
浏览 6提问于2020-09-11得票数 0
回答已采纳
我的Tensorflow模型是follow (模型的一部分)。 ? Tensorflow模型需要是NHWC格式的输入图像及其处理。在将Tensorflow模型转换为TensorRT引擎时，upsample需要实现插件。 但是TensorRT插件需要的格式必须是PluginFormat::kNCHW。那么如何为这样的T
浏览 110提问于2019-08-29得票数 0
回答已采纳
所以现在有一个很大的更新，从TensorFlow 1.X转移到2.X。
在TF-1.X中，我习惯了一条管道，它帮助我把我的角膜模型推向生产。管道：keras (h5) model --> freeze & convert to pb --> optimize pb --这个工作流帮助我加快了推理的速度，我的最后一个模型可以存储一个(pb)文件如何在TensorFlow 2.0.0?中优化我的推理模型</em
浏览 15提问于2019-11-08得票数 9
1回答
我有tensorflow模型，如图所示。并尝试转换为TensorRT。 ? 需要在转换为TensorRT的upsample节点的插件。对于Tensorflow实现，假设输入大小为1x3x4x19形状，并上采样为1x12x14x19张量。 在TensorRT插件中实现了同样的东西，考虑的流程如下。展平后的数据长度为228。 1
浏览 10提问于2019-08-29得票数 0
回答已采纳
我想使用NVIDIA TensorRT来运行我的Tensorflow模型。目前，TensorRT支持Caffe prototxt网络描述符文件。我找不到将Tensorflow模型转换为Caffe模型的源代码。有什么变通方法吗？
浏览 0提问于2016-12-14得票数 9
我保存了一个tensorflow模型，与中的所有模型相同。!wget http://download.tensorflow.org/models/object_detection/tf2/20200711/ssd_resnet5
浏览 15提问于2020-08-09得票数 5
回答已采纳
1回答
我试图找出在TensorFlow中(在单机执行环境中)运行多个经过预先训练的模型以进行推理的最佳方法。我读过几个关于这方面的问题，但我还是有点困惑。据我所知，我也可以这样做：
使用TensorFlow服务。如果我在一个只包含一个多核CPU的平台上运行这个程序，我设想(从执行的</
浏览 5提问于2017-11-27得票数 2
我已经在Tensorflow 2.0中训练了一个模型，并且正在尝试改进当转移到生产时(在一个支持GPU的服务器上)的预测时间。通过阅读Nvidia对TensorRT的描述，他们认为使用TensorRT比单独使用Tensorflow可以加速7倍的速度。来源：
我已经训练了我的模型，并使用Tensorflow的SavedModel格式将其保存到一个SavedMode
浏览 9提问于2019-11-13得票数 4
回答已采纳
3回答
将Deeplab Tensorflow模型转换为TensorRT模型会显著增加推理时间，我在代码中做错了什么？这里我正在做从Tensorflow图到TensorRT图的转换，并保存这个新的TRT模型：
# read Tensorflow在另一个脚本中，我再次加载这个TRT模型<
浏览 4提问于2019-01-30得票数 0
1回答
我训练了一个用于目标检测的tensorflow模型，输入作为占位符，维度为1，None，None,3，因为我的训练图像具有不同的大小。然后我将冻结的图(.pb文件)转换为tensorRT图，以便更快地推断，但tensorRT给了我一个警告，即输入张量具有未知的非批处理维度，因此节点将回落到TF。错误消息为： 2019-05-22 08:59:56.628216: W tensorflow</
浏览 23提问于2019-05-23得票数 2
我使用TensorRT将模型从onnx转换为trt -format。该模型最初是来自Tensorflow模型动物园(SSD ResNet50)的一个模型。当我试图转换它时，我得到了错误：
[E] [TRT] /home/jenkins/agent/workspace/OSS/OSS_L0_MergeRequest/oss/parsers/onnx
浏览 2提问于2021-06-18得票数 4
回答已采纳
1回答
有了经过训练的“.h5”Keras模型文件，我正在尝试优化推理时间：
“int8”量化。此时，我可以将模型文件转换为TensorFlow protobuf '.pb‘格式，但作为一个侧面，它还包含几个层的自定义对象。看到了一些关于TensorRT转换和TFLite转换的文章，但我似乎找不到一个可读的</
浏览 1提问于2019-07-06得票数 3
云服务器
ICP备案
云直播
即时通信 IM
实时音视频
腾讯云开发者
