目标:使用这个对albert-base-v2模型执行量化。
PyTorch和ONNX
浏览 35提问于2022-01-20得票数 0
回答已采纳
我正在尝试将模型导出为onnx格式。架构很复杂，所以我不会在这里分享它，但基本上，我将网络权重放在一个.pth文件中。我能够加载它们，创建网络，并对其执行推理。重要的是要注意，我已经调整了代码，以便能够量化网络。我添加了量化和反量化运算符以及一些torch.nn.quantized.FloatFunctional()运算符。但是，每当我尝试使用导出它时 torch.onnx.export(torch_model, # model being
浏览 123提问于2020-10-09得票数 1
回答已采纳
我的代码是 a=torch.randn(1,80,100,requires_grad=True)
torch.onnx.export(waveglow,a, "waveglow.onnx") 我正在尝试将PyTorch模型导出为ONNX格式，这样我就可以在TensorRT中使用它。在PyTorch中测试我的模型时，输入张量维度是(1,80，x)，其中x随输入文本长度而变化(我使用的模型是名为waveglow的TTS
浏览 631提问于2019-03-10得票数 3
1回答
我在PyTorch中有一个PyTorch模型，我想使用CoreML运行它。当将模型导出到ONNX时，输入维度被固定为导出过程中使用的张量的形状，并再次通过从ONNX到CoreML的转换。='13')对于ONNX导出，您可以导出动态维度- model, x, '
浏览 3提问于2020-05-17得票数 4
3回答
我已经通过以下方式将我的模型导出到ONNX：torch_out = torch.onnx.不幸的是，PyTorch/Caffe2 2对Android的支持相当缺乏或太复杂，但是Tensorflow看起来要简单得多。File "anaconda3/lib/python3.6/site-packages&#
浏览 3提问于2018-11-07得票数 20
我有一个定制的dnn模型，它是我在PyTorch中定义和训练的，我试图将它部署到一个通过ONNX用C#编写的应用程序中。加载模型时，会出现以下错误：经过一些测试后，我发现只有当我将网络的上采样端(它使用转置卷积)返回时才会发生这种情况。
浏览 0提问于2018-09-18得票数 0
回答已采纳
3回答
我正在尝试将我的LSTM异常检测Pytorch模型导出到ONNX，但遇到错误。请看我下面的代码。class Model(torch.nn.Module):model.eval()torch_ou
浏览 3提问于2019-08-01得票数 4
5回答
尝试使用ONNX转换 pytorch模型时出现此错误。我搜索过github，这个错误以前在1.1.0版本中出现过，但显然已经被纠正了。现在我使用的是torch 1.4.0。(python 3.6.9)，我看到了这个错误。我也尝试了最新的夜间构建，同样的错误也出现了。(net, dummy, "Model.onnx", input_names=["ima
浏览 386提问于2020-03-14得票数 2
为了将PyTorch模型转换为CoreML模型，我首先使用torch.onnx.export将其转换为ONNX模型。这个函数需要传递一个虚拟输入，这样它才能执行图形。现在，我可以使用onnx_coreml.convert函数将ONNX模型转换为CoreML模型。通过将该模型复制到XCode中，我可以在检查模型时看到，my_name列在“Input”部分下，并且预期
浏览 2提问于2020-01-09得票数 0
回答已采纳
我试图将自定义的PyTorch模型导出到ONNX以执行推理，但没有成功.这里的棘手之处在于，我试图使用基于脚本的导出程序，如示例中所示，以便从我的模型中调用一个函数。我可以在没有任何抱怨的情况下导出模型，但是当尝试启动InferenceSession时，我会得到以下错误：
Fail: [ONNXRuntimeError] : 1 : FAIL : Load modelfrom ner.onnx failed:Type Error: T
浏览 9提问于2021-03-18得票数 1
背景所以我得为torch.mv操作符做点什么。然而，我无法理解和描述在 of torch.onnx。中是标准化的，而mv则不是，所以如何将模型导出到包括torch.mv的onnx？：
浏览 8提问于2021-04-02得票数 0
我已经将一个LSTM模型从pytorch导出到onnx。该模型采用长度为200的序列。它的隐藏状态大小为256，层数=2。在使用onnx运行时推断模型时，我得到一个错误。隐藏状态和单元格状态维度相同。
浏览 430提问于2020-07-04得票数 0
，因为我使用的是TensorFlow 2转换过程成功地生成model.onnx并返回以下内容：
但是，当我试图读取转换后的模型时，会出现以下错误：
File "C:\Tensorflow\testcovertedTF2ToONNX.pytf_text_graph_ssd.
浏览 13提问于2022-04-09得票数 0
我正试图在C#中运行一个ONNX模型，该模型是用Python中的py手电筒创建的，用于图像分割。当我在CPU上运行它时，一切都很好，但是当我尝试使用GPU时，我的应用程序就会在运行推断时崩溃。(在用GPU进行python推理时，一切都很好)错误处理应用程序名称: DeepLearningONNX.exe，版本: 1.0.0.0，时间戳(3.10 64位) :
import
浏览 70提问于2022-11-14得票数 0
我正在跟踪一个关于在片上系统(ARM处理器+ Xilinx )中实现神经网络的Xilinx教程，并且在编译步骤中出现了一个错误。我在Matlab2020b中训练了一个U-Net，并通过onnx2keras导出到Keras，并遵循本教程的步骤，没有任何错误：冻结TF图。运行编译器(解析原始模型时</
浏览 0提问于2021-10-15得票数 0
1回答
我正在使用一个3D网格的数据库，这些网格被他们的三维坐标的量化所困扰。我的问题是为什么这些三维网格上有洞？你能解释得很深吗?因为我不熟悉量化。(我只知道二维图像中的量化允许将一个数字(符号)分配给我们正在采样的信号的一小部分)。
浏览 0提问于2015-12-12得票数 0
回答已采纳
17回答
我认为对于内存较低的PyTorch用户来说，这是一个非常常见的消息：
RuntimeError: CUDA out of memory.我想知道，在使用小GPU内存的同时，是否有任何技巧和技巧来训练大型的深度学习模型。
浏览 16提问于2019-12-01得票数 106
回答已采纳
如果我用训练过的重量通过模型发送一个图像，它是有点工作的。下一步是用我的相机让YOLO实时发挥它的魔力。然后，我有几个错误，我认为是关于正确的工作的工作流。如果删除model.eval()，就会在以下方面出现另一个错误：这是回溯
浏览 4提问于2021-08-19得票数 0
回答已采纳
我正在运行一个PyTorch ANN模型(用于分类任务)，我使用skorch的GridSearchCV来搜索最优的超参数。
当我使用GridSearchCV运行n_jobs=1时(即。当我将n_jobs设置为大于1时，就会出现内存溢出错误.因此，我现在正试图看看是否可以使用PyTorch的DataLoader将数据集分割成批处理，以避免内存崩溃的问题。根据另一个PyTorch论坛问题()，我们似乎可以使用SliceDataset。会收
浏览 29提问于2020-11-01得票数 0
3回答
我一直在修补在XNA/D3D (DX11)中渲染台球。我已经编写了一个Blinn-Phone着色器，它使用HLSL中的SamplerState将我的台球纹理映射到我在VisualStudio2012中生成的球体FBX。1)您可以看到纹理显示了球体的底层多边形所在的位置。纹理应用程序似乎在很大程度上超出了我的控制范围，因为顶点法线之间的插值是在管道中完成的，而不是我。我已经为抗锯齿做了以下工作，
浏览 2提问于2013-03-19得票数 1
回答已采纳
云服务器
ICP备案
云直播
对象存储
腾讯会议
腾讯云开发者
