我在jetson nano上推断TensorRt模型。它通过onnx从pytorch转换而来。在推理时，TensorRt模型的精度已经急剧下降。它是一个目标检测类型的模型。代码链接：https://github.com/NVIDIA/TensorRT/issues/467
浏览 124提问于2020-03-31得票数 0
回答已采纳
1回答
如何将角点序列模型转换为张量-rt？我正在研究人脸识别，我用keras序列模型建立了人脸编码模型。现在我想在jtson上实现这一点。这是模型架构： model = Sequential()
model.add(Dense
浏览 2提问于2020-01-24得票数 1
回答已采纳
我已经训练了一个对象检测模型，用于生产实时应用程序.我有以下两个选择。有人能建议什么是最好的方式运行Jetson的最佳性能推断吗？任何其他建议也是受欢迎的。将模型转换为ONXX格式并与TensorRT一起使用
将模型保存为Torchscript并在C++中运行推理
浏览 9提问于2021-02-08得票数 2
我正在将onnx版本的arcface模型转换为tensorrt。我正在遵循nvidia的官方文档进行这个过程。但是，我得到了一个错误的分割错误核心转储。请提供您最好的建议。我在jetson nano上运行它。
浏览 33提问于2019-11-05得票数 1
我正在尝试使用tensorRT优化deeplab v3+模型，我得到了以下错误：=== Automatically deduced input nodesconvert_tf2uff_nodeKeyError: 'logits/semantic/biases/read'
据我所知，这是由uff转换器不支持的某些层造成的吗有没有人成功地将deeplab模
浏览 21提问于2018-11-15得票数 2
我开发了一个改进版本的yolov4 4-微型模型。我想将这个已开发的模型转换成一个TensorRT模型，但是在参考了附加的URL之后，我发现我只能转换原来的v4-微型模型。我的问题是，其他人如何将他们的原始模型转换为TensorRT？
提前谢谢你。
浏览 16提问于2022-04-06得票数 0
在将TensorFlow模型转换为TensorFlow精简版格式时，是否存在性能损失？因为我从不同的边缘设备获得了这些结果： ? 当Nvidia Jetson与树莓派( TensorFlow Lite )模型进行比较时，Nvidia Jetson与TensorFlow模型(TensorRT优化)具有更高的准确性，这有意义吗？
浏览 110提问于2020-04-09得票数 1
回答已采纳
2回答
我已经在Nvidia GPU上训练了分类模型，并保存了模型权重(checkpoint.pth)。如果我想在jetson nano中部署这个模型并对其进行测试。 我应该把它转换成TenorRT吗？如何将其转换为TensorRT？ 我对此还不熟悉。如果有人能纠正我，那将是很有帮助的。
浏览 54提问于2021-04-21得票数 0
我试图加快分割模型(UNET-Mobileenet-512x512)。我将我的tensorflow模型转换为具有tensorRT精度模式的FP16。而且速度比我预期的要慢。经过tensorRT运算后，我得到了14 have。您可以看到，unet 256x256的分割速度是146 FPS。下面是使用TensorRt优化tensorflow保存模型</em
浏览 10提问于2021-02-07得票数 6
回答已采纳
有人在Nvidia Jetson产品上使用过Tensorflow Lite吗？我想使用我的Jetson Nano进行推理，并希望使用GPU与tf-lite进行推理。是否可以选择使用完整的Tensorflow库(我不希望使用Nvidia TensorRT引擎)？
浏览 3提问于2020-03-27得票数 3
2回答
我正在尝试将经过预先训练的火炬模型转换为ONNX，但会导致以下错误：我在一个预先训练过的彩色模型上尝试这个：!现在，当我尝试将ONNX转换为TensorRT时，我遇到了一个新的可能相关的问题。我得到以下错误：
[TensorRT] ERROR:
浏览 34提问于2020-12-29得票数 5
回答已采纳
我正在使用珊瑚吞吐板和Nvidia Jetson TX2。这就是我如何了解TensorFlow-Lite，TensorFlow-TRT和TensorRT的.我有一些关于他们的问题：使用TensorFlow动物园提供的模型
浏览 6提问于2020-09-07得票数 1
1回答
我正在尝试使用Jetson Nano在管道中运行两个推论。第一个推论是使用MobileNet和TensorRT进行目标检测。我用于第一个推断的代码几乎是从AastaNV/TRT存储库复制而来的。唯一的区别是我更改了该代码，使其驻留在Inference1类中。 第二个推理作业使用第一个推理的输出来运行进一步的分析。对于这个推断，我使用tensorflow (不是TensorRT，但我假设它是在后端调用的？)使
浏览 88提问于2019-10-14得票数 0
1回答
我用TensorRT优化了我的深度学习模式。C++接口在Jetson TX2上通过优化模型对图像进行推理。这个接口提供了平均60 FPS (但不稳定)。推论在50和160 FPS范围内)。我需要运行这个系统作为实时实时修补Jetson。我已经尝试设置高优先级的进程和线程提供抢占。我期望在每次推理中都能
浏览 1提问于2019-03-24得票数 0
Jetson Nano可以同时处理多少传入的视频源，以便进行人员计数和物体检测。假设我有4个IP摄像头，2个摄像头馈送，我需要做物体检测，另外2个我想要计算人的数量。我是否需要4个Jetson nano，或者我可以使用一个板来处理所有4个提要。
浏览 45提问于2020-07-06得票数 0
我目前正在写关于人工智能推理的硬件和框架的BA论文.在我的研究中，我查找了TensorRT并找到了我不太明白的ab表。
但我不明白它与fp32和int 8有什么关系，以及这张表想告诉我什么。谢谢你的回答
浏览 9提问于2022-06-18得票数 -1
网络的权重需要从Tensorflow中训练的模型导入。我将使用火炬编写网络的C++版本，但由于一些问题，我不能在火炬中训练网络。我可以使用哪些方法来完成此操作？
浏览 1提问于2020-05-13得票数 0
1回答
我正试图在Jetson上将TF 2.0 saved_model转换为tensorRT。import tens
浏览 2提问于2019-11-14得票数 0
回答已采纳
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号