我的Tensorflow模型是follow (模型的一部分)。 ? Tensorflow模型需要是NHWC格式的输入图像及其处理。在将Tensorflow模型转换为TensorRT引擎时，upsample需要实现插件。 但是TensorRT插件需要的格式必须是PluginFormat::kNCHW。如果设置为PluginFormat::kNHWC，则无法编译插件。 那么如何为这
浏览 110提问于2019-08-29得票数 0
回答已采纳
我必须手动添加一个卷积层，因为我有一些Tensorflow解析器不支持的特殊操作。TensorRT期望从.wts文件中读取的权重的顺序是什么？例如，Tensorflow的conv2d权重张量通常具有顺序ofH，W，IN_CHANNEL，OUT_CHANNEL。我知道TensorRT希望输入数据的顺序是NCHW，但是当它被写入.wts文件时，权重的顺序也必须改变吗？如果是这样，<em
浏览 3提问于2018-12-04得票数 0
我无法理解整个过程，因为它说我必须替换特定下载的tensorRT、cuda、cuDNN版本的版本。他们说的是什么特别的下载？下面是第三篇step.Please的全部说明和解释：7.x.x.x with the TensorRT version
cuda-x.x with
浏览 2提问于2020-12-15得票数 0
回答已采纳
2回答
我正在尝试安装conda env中的tensorrt，我已经通过conda导航器在我的env中安装了cudatoolkit和cudnn。我也更新了我的pip和setuptool，但是得到下面的错误，我应该做什么？错误：Collecting nvidia-tensorrtDownloading nvidia-<e
浏览 16提问于2022-09-13得票数 1
我想使用NVIDIA TensorRT来运行我的Tensorflow模型。目前，TensorRT支持Caffe prototxt网络描述符文件。我找不到将Tensorflow模型转换为Caffe模型的源代码。有什么变通方法吗？
浏览 0提问于2016-12-14得票数 9
1回答
使用来自tensorflow.org的预训练，我能够处理大约16帧每秒.有没有办法提高这个模型的评估速度？以下是我一直在研究的一些想法：
最初试图转换为TensorRT的尝试没有任何性能改进。批处理预测
浏览 0提问于2020-11-04得票数 5
我想优化我的神经网络(来自谷歌的Resnet101)，以便使用TensorRT (ver.5.1)。我一直在寻找如何做到这一点的博客和教程，并找到了一些像和其他一些东西。max_workspace_size_bytes=workspace_size, 但问题是，我的TensorRT版本没有这样的功能。Python 3.6.6 |Anaconda custom (6
浏览 134提问于2019-04-30得票数 0
回答已采纳
我的目标是在C++应用程序中运行tensorrt优化的tensorflow图。我正在使用tensorflow 1.8和tensorrt 4。使用python api，我能够优化图形并看到良好的性能提升。其他的，非张量图是有效的。我在python api中也遇到过类似的错误，但通过导入tensorflow.contrib.tensorrt解决了这个问题。
浏览 3提问于2018-05-02得票数 2
python --version)
import tensorrt as trt[TensorRT] ERROR: INVALID_CONFIG: Deserialize the cuda engine我在完全相同的机器上进行储存和装载，在完全相同<e
浏览 9提问于2020-01-27得票数 1
2回答
import tensorflow.contrib.tensorrt as trtTraceback (most recentcall last):AttributeError: module 'tensorflow.contrib.tensorrt'Python版本为3.6.7
"dpkg -l | grep nvinfer“<
浏览 3提问于2019-07-03得票数 1
我尝试安装tensorrt7.2.3.4，我的系统是win10，cuda11.1，python3.8。按照安装说明操作之后，我进行了tensorrt测试：Tensorrt samples 我们可以看到tensorrt应该可以正常安装 但是当我想导入tensorrt时，出现错误：enter image description
浏览 55提问于2021-03-24得票数 0
1回答
我训练了一个用于目标检测的tensorflow模型，输入作为占位符，维度为1，None，None,3，因为我的训练图像具有不同的大小。然后我将冻结的图(.pb文件)转换为tensorRT图，以便更快地推断，但tensorRT给了我一个警告，即输入张量具有未知的非批处理维度，因此节点将回落到TF。错误消息为： 2019-05-22 08:59:56.628216: W tensorflow/contrib/tensorrt/
浏览 23提问于2019-05-23得票数 2
我已经安装了tensorrt 3.0.4，但是当我尝试使用tensorrt 3.0.4安装tensorflow时，我得到了以下结果：tensorrt 3.0.4 requires argparse>=1.4.0, which is not installed.但奇怪的是，pip show argparse会产生以下输出：Version: 1.
浏览 1提问于2018-04-06得票数 0
在Nvidia的博客中，他们介绍了他们的TensorRT如下：
NVIDIA TensorRT™是一种用于生产部署深度学习应用的高性能神经网络推理机。TensorRT可用于快速优化、验证和部署经过训练的神经网络，用于向超级计算机数据中心、嵌入式或汽车产品平台进行推理。所以我想知道，如果我有一个预先训练过的Tensorflow模型，我能在Jetson TX1中的TensorRT中使用它进行推理吗？
浏览 4提问于2017-02-24得票数 0
我正在使用一个基于Ubuntu18.04的深度学习AMI的EC2实例。我所做的工作如下：
ModuleNotFoundError: No module named 'tensorrt'
我还试图安装为sudo或使用-U或
浏览 53提问于2020-11-26得票数 0
我想开发一个gstreamer插件，可以使用图形卡的GPU (NVIDIA RTX2xxx)提供的加速。目标是有一个快速的gstreamer管道来处理一个视频流，其中包括一个自定义过滤器。经过两天的搜索，我找不到任何例子或提示。
最好的选择之一是使用"nvivafilter"，传递一个cuda模块作为参数。然而，没有地方解释如何安装这个插件或提供一个例子。最糟糕的是，它似乎是专门针对Nvidi
浏览 6提问于2020-07-11得票数 3
回答已采纳
1回答
我认为在nVidia Jetson上运行的是一个非常轻量级的CNN，带有Jetpack4.4。nVidia声称纳米可以以36的价格运行ResNet-50.，因此我期望我的小得多的网络能够轻松地在30+ fps上运行。我的推理代码有什么根本问题吗？正如
浏览 0提问于2021-01-06得票数 1
回答已采纳
我正在尝试使用tensorRT优化deeplab v3+模型，我得到了以下错误：=== Automatically deduced input nodesconvert_tf2uff_nodeKeyError: 'logits/semantic/biases/read'
据我所知，这是由uff转换器不支持的某些层造成的吗我在tensorflow中使用了原始的d
浏览 21提问于2018-11-15得票数 2
这就是我如何了解TensorFlow-Lite，TensorFlow-TRT和TensorRT的.我有一些关于他们的问题：使用TensorFlow动物园提供的模型c.使用原型对图形进行序列化。d.改为Tf
浏览 6提问于2020-09-07得票数 1
我试图在YoloV4 (Demo 5)上运行上的AWS ec2。在这个EC2上，我取出并输入了tensorrt官方容器，其中包括：从阅读的角度来看，这个问
浏览 17提问于2022-05-11得票数 0
回答已采纳
云服务器
ICP备案
对象存储
云直播
实时音视频
腾讯云开发者
