带有TensorFlow的TensorRT在推断时没有结果
TensorFlow是一个开源的机器学习框架，而TensorRT是英伟达（NVIDIA）推出的用于高性能深度学习推理的优化器和运行时引擎。在使用TensorRT进行推断时，出现没有结果的情况可能有以下几个原因：
- 模型加载问题：首先需要确保已正确加载了TensorFlow模型，并且模型文件的路径是正确的。可以使用TensorFlow提供的函数加载模型，例如tf.saved_model.load()。
- 输入数据问题：推断时需要提供正确的输入数据。确保输入数据的维度和类型与模型要求一致。可以使用tf.constant()或tf.placeholder()创建输入张量，并将其传递给模型进行推断。
- 模型转换问题：TensorRT对TensorFlow模型进行了优化和转换，但并不是所有的TensorFlow操作都支持转换为TensorRT操作。如果模型中包含不支持的操作，可能会导致推断时没有结果。可以使用TensorRT提供的日志功能来查看是否有不支持的操作。
- 硬件兼容性问题：TensorRT对不同的GPU架构提供了不同的优化，因此需要确保使用的GPU与TensorRT兼容。可以查看TensorRT的官方文档，了解支持的GPU架构。
- 版本兼容性问题：TensorFlow和TensorRT的版本兼容性也需要注意。确保使用的TensorFlow版本与TensorRT版本兼容，并且按照官方文档中的指导进行配置和安装。
如果以上步骤都没有解决问题，可以尝试在TensorRT的官方论坛或社区中寻求帮助，或者查阅TensorRT的官方文档以获取更详细的信息和解决方案。
腾讯云提供了一系列与人工智能和深度学习相关的产品和服务，例如腾讯云AI Lab、腾讯云AI 机器学习平台、腾讯云AI 画像处理等。这些产品可以帮助用户在云端进行深度学习模型的训练和推断，并提供了丰富的API和工具支持。具体产品介绍和链接地址可以参考腾讯云官方网站的相关页面。
相关·内容
我正在使用珊瑚吞吐板和Nvidia Jetson TX2。这就是我如何了解TensorFlow-Lite，TensorFlow-TRT和TensorRT的.我有一些关于他们的问题：
在TensorFlow-TRT和TensorRT之间:当使用与TensorRT完全优化/兼容的图时，哪一个更快，为什么？
在Google中使用TFlite的管道(当使用TensorFlow 1.x.)is:
使用TensorFlow动物园提供的模型
b.将模型转换为冻结(.pb)
c.使用原型对图形进行序列化。
d.改为Tflite
e.应用量化(INT8)
f.汇编
当使用TensorFlow-TRT和Tenso
浏览 6提问于2020-09-07得票数 1
3回答
将Deeplab Tensorflow模型转换为TensorRT模型会显著增加推理时间，我在代码中做错了什么？
这里我正在做从Tensorflow图到TensorRT图的转换，并保存这个新的TRT模型：
OUTPUT_NAME = ["SemanticPredictions"]
# read Tensorflow frozen graph
with gfile.FastGFile('/frozen_inference_graph.pb', 'rb') as tf_model:
tf_graphf = tensorflow.GraphDef
浏览 4提问于2019-01-30得票数 0
1回答
我使用的是带有JetPack 4.4.1、Tensorflow 2.3.1和Tensorrt7.1.3的JetsonNano。我有一个转换为TF-TRT模型的Keras模型
在模型上执行推断时，我得到以下错误：
TF-TRT Warning: Engine creation for PartitionedCall/TRTEngineOp_0_0 failed. The native segment will be used instead. Reason: Internal: Failed to build TensorRT engine
在推理过程中，我得到：
W tensorflow/co
浏览 37提问于2021-02-25得票数 0
我已经在Tensorflow 2.0中训练了一个模型，并且正在尝试改进当转移到生产时(在一个支持GPU的服务器上)的预测时间。在Tensorflow 1.xI中，使用冻结图可以得到预测的加速，但从Tensorflow 2开始就不再推荐这种方法了。通过阅读Nvidia对TensorRT的描述，他们认为使用TensorRT比单独使用Tensorflow可以加速7倍的速度。来源：
我已经训练了我的模型，并使用Tensorflow的SavedModel格式将其保存到一个SavedModel文件中。现在，我使用nvidia的文档来优化使用tensorrt：进行推理的模型。
当我跑步时：
import
浏览 9提问于2019-11-13得票数 4
回答已采纳
我已经安装了Tensorflow r1.14，并希望使用TF-TRT。但是，会发生以下错误：
"ModuleNotFoundError:没有名为‘tensorflow.contrib.tensorrt’的模块“
运行示例代码时。Tensorflow r1.13也会发生同样的错误。所以我的问题是，我是否需要单独安装tensorflow.contrib.tensorrt库？如果是，怎么做？
此外，我可以成功地运行TensorRT的示例代码，例如sampleINT8。单击查看我成功运行的示例代码。
这使我相信TensorRT安装得很好。然而，TF-TRT仍然不能工作。
任何帮助都将不
浏览 2提问于2019-04-04得票数 2
在将TensorFlow模型转换为TensorFlow精简版格式时，是否存在性能损失？因为我从不同的边缘设备获得了这些结果： ? 当Nvidia Jetson与树莓派( TensorFlow Lite )模型进行比较时，Nvidia Jetson与TensorFlow模型(TensorRT优化)具有更高的准确性，这有意义吗？
浏览 110提问于2020-04-09得票数 1
回答已采纳
我有一个tensorflow训练模型，并在tensorflow测试，精度达到95%。
Tensorflow模型被转换为ONNX并转换为TensorRT。TensorRT引擎以16位精度运行.在TensorRT中，准确率下降到75%。即使使用kTF32，准确率仍为75%。测试相同的图像为两个测试和相同的输入大小。
我该从哪里看这个精度下降的地方？唯一的区别是我在TensorRT中进行批处理推理，而不是在Tensorflow中。
对于Tensorflow和TensorRT，使用OpenCV读取图像。
从Tensorflow到ONNX的转换精度会下降吗？
浏览 6提问于2020-09-11得票数 0
回答已采纳
SageMaker Neo相对于每个ML加速器提供的专用本机运行时(如NVIDIA TensorRT、Intel OpenVINO、DeepView RT、CoreML、ArmNN等)有什么优势？我知道Neo在幕后使用了一些框架，比如TensorRT，但是直接为Neo或TensorRT编译模型有什么好处呢？
我认为拥有edge ML工作负载的公司将在给定的平台上标准化，例如NVIDIA、ARM或Intel，而且每个供应商都可能处于最佳位置，可以通过其他框架的交叉编译工具为自己的平台提供优化的运行时(每个人似乎都支持TensorFlow和ONNX)。这是正确的吗？你在现场见过不同的案子吗？
另一
浏览 10提问于2022-10-31得票数 0
我试图加快分割模型(UNET-Mobileenet-512x512)。我将我的tensorflow模型转换为具有tensorRT精度模式的FP16。而且速度比我预期的要慢。在优化之前，我使用.pb冻结图进行推理。经过tensorRT运算后，我得到了14 have。
以下是Jetson网站的基准测试结果
您可以看到，unet 256x256的分割速度是146 FPS。我想，在最坏的情况下，我的unet512x512速度应该慢4倍。
下面是使用TensorRt优化tensorflow保存模型的代码：
import numpy as np
from tensorflow.python.co
浏览 10提问于2021-02-07得票数 6
回答已采纳
列出了将TensorFlow SavedModel转换为TensorRT SavedModel的两种方法:第一种方法是
from tensorflow.python.compiler.tensorrt import trt_convert as trt
converter = trt.TrtGraphConverterV2(input_saved_model_dir=input_saved_model_dir)
converter.convert()
converter.save(output_saved_model_dir)
第二种是
import tensorflow as tf
from
浏览 1提问于2020-05-12得票数 2
回答已采纳
我试图加快yolov3 TF2和TensorRT的推理速度。我在tensorflow 2中使用TrtGraphConverter函数。
我的代码本质上是：
from tensorflow.python.compiler.tensorrt import trt_convert as trt
tf.keras.backend.set_learning_phase(0)
converter = trt.TrtGraphConverter(
input_saved_model_dir="./tmp/yolosaved/",
precision_mode="
浏览 3提问于2019-07-19得票数 3
回答已采纳
我使用的是TensorFlow 1.14，要将TensorFlow SavedModel加载到Estimator，下面的代码对我有效：
estimator = tf.contrib.estimator.SavedModelEstimator(saved_model_dir)
prediction_results = estimator.predict(input_fn)
但是，当我使用TensorRT将TensorFlow SavedModel转换为TensorRT SavedModel时，它返回一条错误消息：
ValueError: Directory provided has an inv
浏览 23提问于2020-09-17得票数 0
我在windows上使用TensorRT用于python时遇到了问题。
我想在windows上使用open体式，但是对于python，它需要TensorRT。当我试图执行文件run_webcam.py (打开代码)时，我有以下错误：
ModuleNotFoundError: No module named "tensorflow.contrib.tensorrt"
我安装了tensorflow软件包(上一个版本)，但它不包含查找解决方案的tensorrt类，我在nvidia网站上找到了以下信息
如果windows不支持python的OpenPose ?如何在windows上工作
浏览 2提问于2019-09-24得票数 4
我的Tensorflow模型是follow (模型的一部分)。 ? Tensorflow模型需要是NHWC格式的输入图像及其处理。在将Tensorflow模型转换为TensorRT引擎时，upsample需要实现插件。 但是TensorRT插件需要的格式必须是PluginFormat::kNCHW。如果设置为PluginFormat::kNHWC，则无法编译插件。 那么如何为这样的Tensorflow模型创建插件呢？
浏览 110提问于2019-08-29得票数 0
回答已采纳
最近，我下载了一个用于TensorFlow文本分类的android演示应用程序，这是GitHub链接。
在该应用程序中，它有两种模式来预测文本是正的还是负的(AverageWordVec / MobileBERT )，但是MobileBERT的准确性要好得多。
现在，我试图寻找替代，但使用python，但我找不到任何使用相同的模式，甚至接近相同的习惯。
是否可以在python中使用mobilebert.tflite文件并获得相同的预测？如果有人能给我一个在python中运行该文件的示例代码，我将非常感激。
更新
当im使用tokenizer方法时，它会运行，但im得到以下输出：
浏览 39提问于2022-11-08得票数 1
每次优化tensorflow图表时，我都会收到此警告： TensorRTOptimizer is probably called on funcdef! This optimizer must *NOT* be called on function objects. 我只想知道这个警告是什么意思，我如何才能避免它，以及它的影响。 我使用的是带有cuda 10.0和tensorflow-GPU1.15的tensorRT 5.1.5 谢谢!
浏览 70提问于2020-01-15得票数 0
回答已采纳
2回答
我在导入Logger()和Builder()时出错
我在Jetson AGX Xavier上
我也尝试过python shell。
import tensorflow.contrib.tensorrt as trt
TRT_LOGGER = trt.Logger(trt.Logger.INFO)
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
AttributeError: module 'tensorflow.contrib.tensorrt'
浏览 3提问于2019-07-03得票数 1
我一直试图通过在NVIDIA网站()上的教程将转换成张量RT。
我使用SavedModel方法进行转换，并成功地将原始模型转换为FP16，并将结果保存为新的SavedModel。当新SavedModel加载在与转换相同的进程中时，它将正确加载，并且我能够对图像运行推断，但是，当我试图在新进程中加载FP16保存的模型时，会出现问题。当我尝试这样做时，我会得到以下错误：
2020-04-01 10:39:42.428094: I tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully opened dyn
浏览 17提问于2020-04-01得票数 3
回答已采纳
我已经在家用笔记本电脑(Ubuntu18.04)的虚拟主机上安装了tensorflow 2.1.0。当我从终端import tensorflow as tf时，我会收到以下警告：
tensorflow/stream_executor/platform/default/dso_loader.cc:55] 2020-03-12 :17:17:56.485098:W 无法加载动态库'libnvinfer.so.6'；：libnvinfer.so.6:无法打开共享对象文件:没有这样的文件或目录
2020-03-12 :17:17:56.485179:W tensorflow/strea
浏览 3提问于2020-03-12得票数 1
我已经安装了tensorrt 3.0.4，但是当我尝试使用tensorrt 3.0.4安装tensorflow时，我得到了以下结果：
uff 0.2.0 requires argparse>=1.4.0, which is not installed.
tensorrt 3.0.4 requires argparse>=1.4.0, which is not installed.
但奇怪的是，pip show argparse会产生以下输出：
Name: argparse
Version: 1.4.0
Summary: Python command-line parsing lib
浏览 1提问于2018-04-06得票数 0
1回答
我正在尝试使用Jetson Nano在管道中运行两个推论。第一个推论是使用MobileNet和TensorRT进行目标检测。我用于第一个推断的代码几乎是从AastaNV/TRT存储库复制而来的。唯一的区别是我更改了该代码，使其驻留在Inference1类中。 第二个推理作业使用第一个推理的输出来运行进一步的分析。对于这个推断，我使用tensorflow (不是TensorRT，但我假设它是在后端调用的？)使用自定义模型。此模型是从.pb文件(冻结图形)加载的。加载后，通过调用tensorflow的session.run()命令执行推理。 如果我只运行Inference1或Inference2
浏览 88提问于2019-10-14得票数 0
我有一个用于目标检测的自定义的更快的R-CNN网络，其中我定义了一些自定义的运算符：nms和roi_pooling，它们被编译成.so文件。包装了.so文件，它可以被tensorflow框架调用。
在我将tensorflow冻结的图形转换为.pb文件后，我使用以下代码：
trt_graph = trt.create_inference_graph(graph_def, OUTPUT_NAMES,
max_batch_size=cfg.test_batch_per_gpu,
浏览 1提问于2018-04-25得票数 2
我正在尝试转换，然后用Tensorflow模型运行推理。
我用tf.keras生成了一个Tensorflow模型：
model = Sequential()
model.add(Conv2D(64, kernel_size=3, activation='relu', input_shape=(224,224,3), name='image'))
model.add(Conv2D(32, kernel_size=3, activation='relu'))
model.add(Flatten())
model.add(Dense(num_class
浏览 1提问于2019-05-02得票数 1
我有TensorRT引擎生产的tensorflow冷冻模型。
我不能再训练模型，因为我没有所有需要的图像。
但是Tensorflow流程有一些后处理层，我喜欢添加到TensorRT引擎中。
什么是最好的方法？
我可以使用TensorRT层创建插件层吗？
这些Tensorflow层主要可用在TensorRT中，如下所示。
self.tensor_heatMat_up = tf.image.resize_area(self.tensor_output[:, :, :, :19], self.upsample_size,
浏览 0提问于2019-07-22得票数 1
回答已采纳
我必须手动添加一个卷积层，因为我有一些Tensorflow解析器不支持的特殊操作。TensorRT期望从.wts文件中读取的权重的顺序是什么？例如，Tensorflow的conv2d权重张量通常具有顺序ofH，W，IN_CHANNEL，OUT_CHANNEL。我知道TensorRT希望输入数据的顺序是NCHW，但是当它被写入.wts文件时，权重的顺序也必须改变吗？如果是这样，TensorRT期望得到的订单是什么？IN_CHANNEL、OUT_CHANNEL、H、W
浏览 3提问于2018-12-04得票数 0
pip3 --version == pip 20.0.2 from /home/nitin/anaconda3/envs/tensorflow/lib/python3.7/site-packages/pip (python 3.7)
python --version == python 3.7.6
我用conda create --name tensorflow创建了一个环境。我在里面安装了tensorflow 2.0，我用它安装了conda。我在tensorflow环境中用pip install --upgrade tensorflow升级了它
现在，当我执行import t
浏览 8提问于2020-01-28得票数 0
回答已采纳
如何安装带有Nvidia Geforce GTX1650和TensorFlow的Windows2.2(在Windows10上)
我想知道这个anaconda命令是否有效，而不是手动安装所有必需的文件，如CUDA toolkit、CUdnn和TensorRT (适用于TensorFlow版本2.2GPU)。
$conda create Test Tensorflow-gpu==2.1
$conda activate Test
$pip3 install Tensorflow-gpu==2.2
注意:我会按照tensorflow官网推荐的方式手动下载GPU驱动！
我使用pip3 install
浏览 15提问于2020-05-22得票数 0
我想使用NVIDIA TensorRT来运行我的Tensorflow模型。目前，TensorRT支持Caffe prototxt网络描述符文件。
我找不到将Tensorflow模型转换为Caffe模型的源代码。有什么变通方法吗？
浏览 0提问于2016-12-14得票数 9
2回答
我正在使用TensorFlow 1.14并测试TensorRT；正如我在文档中看到的那样，TensorRT支持3种精确模式："FP32“、"FP16”和"INT8“。因此，我想知道TensorFlow的默认精确模式是什么；我想它是FP32，但我不完全确定这一点？
浏览 5提问于2020-09-02得票数 1
回答已采纳
我使用以下运行时信息运行停靠程序映像：
Tensorflow 2.0.0 (tf.__version__)
Python3.6 (!python --version)
TensorRT 6.0.1 (!dpkg -l | grep nvinfer)
cuda 10.2
我在TensorFlow 2.0中构建了一个模型，并将其转换为converted+saved：
1/
├── assets/
| └── trt-serialized-engine.TRTEngineOp_0
├── variables/
| ├── variables.data-00000-of
浏览 9提问于2020-01-27得票数 1
我在使用conda环境时遇到了麻烦。
我简单地通过以下方式创建一个环境：
conda create -n NAME python==3.5
所以有一个python3.5虚拟环境。然后进入虚拟环境并安装tensorflow-gpu：
conda install tensorflow-gpu
现在我可以看到tensorflow-gpu包连同cudatoolkit和cudnn。但是当我运行一个简单的程序时，它只是没有使用gpu.I，我不认为它是nvidia驱动程序问题或来自不同资源的包，因为它在旧的conda环境中工作，但是当我创建一个新的，它失败了。
更有趣的是，它将使用来自外部环境的包(tens
浏览 2提问于2018-10-29得票数 3
我正在使用TensorRT FP16精密模式来优化我的深度学习模型。我在Jetson TX2上使用了这个优化模型。在测试模型时，我发现TensorRT推理机是而不是确定性。换句话说，对于相同的输入图像，我的优化模型给出了不同的FPS值在40到120 FPS之间。
当我看到关于数据自动化系统的评论时，我开始认为非决定论的根源是浮点操作：
“如果您的代码使用浮点原子，结果可能因运行不同而不同，因为浮点操作通常不是关联的，而且数据输入计算的顺序(例如和)在使用atomics时是不确定的。”
FP16、FP32和INT8等精度类型是否影响TensorRT的确定性？或者其他什么？
你有什么想法吗
浏览 1提问于2019-07-19得票数 1
回答已采纳
我的项目使用多个Keras模型。这些模型可以有不同批次大小的输入，从1到24不等。我决定使用TRT优化这些模型。
我尝试了两种转换方法：
from tensorflow.python.compiler.tensorrt import trt_convert as trt
第一种方法转换模型，但不为模型创建TensorRT引擎：
conversion_params = trt.DEFAULT_TRT_CONVERSION_PARAMS._replace(
precision_mode=trt.TrtPrecisionMode.FP32)
converter = t
浏览 18提问于2020-04-01得票数 4
1回答
我尝试使用GPU与Tensorflow，所以我安装了CUDA10.1，CURN7.6，TensorRT 6和Tensorflow-GPU2.1.0。但是当我导入tensorflow来检查它是否能检测到gpu时。它给出了以下错误
>>> import tensorflow as tf
2020-04-22 14:44:14.473830: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'libnvinfer.so.6';
浏览 0提问于2020-04-22得票数 1
各位朋友：
我有一台安装了tensorflow 1.6和jetpack 3.2 (tensorrt3.0)的Jetson TX2。我也安装了UFF。如何将tensorflow中的ssd_mobilenet_v1冻结图转换为tensorRT等效图？
谢谢,
浏览 2提问于2018-05-01得票数 2
深度学习领域的新事物。
我需要安装带有GPU支持的Tensorflow。在我购买GPU之前，我需要知道GPU是否与Tensorflow兼容。在Tensorflow安装页面中，带有GPU的Tensorflow选项是软件需求。
必须在您的系统上安装以下NVIDIA软件：
NVIDIA GPU驱动程序-CUDA 9.0需要384.x或更高版本。库达
工具包-TensorFlow支持CUDA9.0。CUPTI与数据自动化系统一起航行
工具箱。cuDNN SDK (>= 7.2)
(可选) NCCL 2.2，用于多个GPU支持。
(可选) TensorRT 4.0，以提高对某些
浏览 2提问于2018-10-18得票数 0
我正在尝试将我的PB模型转换为tenrorrt模型，以使其在tx2上工作。
我使用了来自Nvidia论坛的示例代码，并尝试执行它。我知道这是一些与python包相关的问题，但我无法解决它。
我在下面的代码中得到以下错误
import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data
import tensorrt as trt
from tensorrt.parsers import uffparser
import pycuda.driver a
浏览 0提问于2018-04-12得票数 1
我想使用tensorrt来加速tensorflow模型推断。但是当我这样做的时候没有得到任何结果，下面是我的代码。返回框和分数都是空的。我是不是用错了TensorRT和tensorflow？ import tensorflow as tf
import tensorflow.contrib.tensorrt as trt
import os
from PIL import Image
import numpy as np
with tf.Session() as sess:
with tf.gfile.GFile('model/ssd_inceptionv2.pb'
浏览 34提问于2019-01-19得票数 1
1回答
我训练了一个用于目标检测的tensorflow模型，输入作为占位符，维度为1，None，None,3，因为我的训练图像具有不同的大小。然后我将冻结的图(.pb文件)转换为tensorRT图，以便更快地推断，但tensorRT给了我一个警告，即输入张量具有未知的非批处理维度，因此节点将回落到TF。错误消息为： 2019-05-22 08:59:56.628216: W tensorflow/contrib/tensorrt/convert/convert_nodes.cc:3710] Validation failed for TensorRTInputPH_0 and input slot
浏览 23提问于2019-05-23得票数 2
当使用TensorRT的Python (以及PyCUDA)运行面部识别算法时，我遇到以下错误：
[TensorRT] ERROR: ../rtSafe/safeContext.cpp (133) - Cudnn Error in configure: 7 (CUDNN_STATUS_MAPPING_ERROR)
[TensorRT] ERROR: FAILED_EXECUTION: std::exception
代码仍然在编译和运行，但是结果是不准确的--当需要更连续的数字范围时，程序的输出在0.999999907141816到0之间波动。我已经用TRT和Keras测试了这一点，我的代码在这
浏览 6提问于2019-11-07得票数 0
回答已采纳
1回答
我试着安装tensorflow-gpu。当我使用以下命令检查安装时
import tensorflow as tf
tf.test.is_gpu_available()
结果是
Ignoring visible gpu device (device: 0, name: Quadro K5100M, pci bus id: 0000:01:00.0, compute capability: 3.0) with Cuda compute capability 3.0. The minimum required Cuda capability is 3.5. => False
操作系统=
浏览 1提问于2020-06-30得票数 3
6回答
我通常试图导入TensorFlow python包，但是我得到了以下错误：
以下是上述终端图像的文本：
2020-02-23 19:01:06.163940: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'libnvinfer.so.6'; dlerror: libnvinfer.so.6: cannot open shared object file: No such file or directory
2020-02-2
浏览 6提问于2020-02-24得票数 31
回答已采纳
我将keras model.h5转换为frozen_graph.pb，以便优化并在jetson上运行。但是优化frozen_graph.pb镜头的错误。
raise (‘graph_def必须是一个GraphDef proto。’)TypeError: graph_def一定是GraphDef的原型。
代码：
import tensorflow.contrib.tensorrt as trt
frozen_graph = './model/frozen_model.pb'
output_names = ['conv2d_59','conv2d_67
浏览 0提问于2020-03-19得票数 4
回答已采纳
我的最终目标是使用TensorRT来优化我的模型以进行部署。我正在tensorflow中做实验。但是TensorRT需要caffemodel格式的输入模型。
浏览 3提问于2017-06-14得票数 0
我正在使用一个基于Ubuntu18.04的深度学习AMI的EC2实例。
我所做的工作如下：
启动终端
激活conda环境：conda activate tensorflow2_latest_p37
安装软件包pip3 install tensorrt
运行我的代码python3 mycode.py
我得到了以下错误：
ModuleNotFoundError: No module named 'tensorrt'
我还试图安装为sudo或使用-U或-m选项。什么都不管用。我无法安装conda安装，因为它中没有tensorrt。
浏览 53提问于2020-11-26得票数 0
当我试图在服务器上加载Tensorflow联合库时，我得到了以下错误。我使用的是tensorflow_federated版本0.13.1 我在服务器上的Cuda版本是10.2。Cudnn库的版本高于7.6。 被询问的"libnvinfer.so.6"是什么？ 2020-03-28 17:26:18.357394: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'libnvinfer.so.6'; dlerror: li
浏览 133提问于2020-03-29得票数 1
回答已采纳
我使用以下脚本将我的frozen_inference_graph转换为TensorRT优化的a：
import tensorflow as tf
from tensorflow.python.compiler.tensorrt import trt_convert as trt
with tf.Session() as sess:
# First deserialize your frozen graph:
with tf.gfile.GFile('frozen_inference_graph.pb', 'rb') as f:
浏览 18提问于2019-08-02得票数 1
1回答
我正试图在Jetson上将TF 2.0 saved_model转换为tensorRT。
模型保存在TF 2.0.0中。nano拥有Jetpack 4.2.2w/ TensorRT __和Tensorflow 1.14 (这是Jetson最新的Tensorflow版本)。
我一直在跟踪的安装，其中描述了如何将TF 2.0.0 saved_model转换为TensorRT。
下面是我的代码：
import tensorflow as tf
from tensorflow.python.compiler.tensorrt import trt_convert as trt
tf.enable_eag
浏览 2提问于2019-11-14得票数 0
回答已采纳
我尝试安装tensorflow和docker，如下链接
我将tensorflow镜像从tensowflow Hub下载到docker中，然后尝试测试tensorflow python脚本。然后我得到了下面的错误信息。我认为它与GPU有关，但我刚刚下载了tensorflow/tensorflow:最后，我不需要GPU版本。我想如果我使用docker + tensorflow，我不会得到任何错误。有谁能告诉我这是怎么回事..
2020-02-15 08:24:32.759681: W tensorflow/stream_executor/platform/default/dso_loader.cc
浏览 0提问于2020-02-15得票数 0
在一个新的LambdaLabs GPU实例中，我用Bazelisk安装了Bazel：
wget https://github.com/bazelbuild/bazelisk/releases/download/v1.8.1/bazelisk-linux-amd64
chmod +x bazelisk-linux-amd64
sudo mv bazelisk-linux-amd64 /usr/local/bin/bazel
然后我下载TF的源代码：
git clone https://github.com/tensorflow/tensorflow.git
cd tensorflow
git c
浏览 13提问于2022-11-07得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
