前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >【pytorch】ncnn

【pytorch】ncnn

作者头像
JNingWei
发布于 2021-12-06 13:13:48
发布于 2021-12-06 13:13:48
66600
代码可运行
举报
文章被收录于专栏:JNing的专栏JNing的专栏
运行总次数:0
代码可运行

onnx转ncnn

完整实现:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
def onnx2ncnn(self):
    assert os.path.isfile(simplified_onnx_path)

    os.system('onnx2ncnn {} {} {}'.format(simplified_onnx_path, param_path, bin_path))
    print('\n param has been save to {}'.format(param_path))
    print(' bin   has been save to {}\n'.format(bin_path))

    os.system('ncnnoptimize {} {} {} {} fp32'.format(param_path, bin_path, param_path, bin_path))
    print('\n param has been ncnnoptimized')
    print(' bin   has been ncnnoptimized\n')

1. 简化onnx

如果省略此步,会导致模型耗时增加约一半,模型大小增加约一半。且利用网站在线转换时容易报错:Unsupported unsqueeze axes !

如果没安装过 onnx-simplifie,安装一下:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
pip install onnx-simplifier==0.2.4 -i https://pypi.tuna.tsinghua.edu.cn/simple 

Note:经过simplify的onnx并不会有精度损失!

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
python -m onnxsim .\2task.aiyou.0.0.onnx 2task.0.0.onnx

2. onnx2ncnn

2.1.指令转ncnn

安装:

参照 进行安装。

把ncnn/build/tools/下的 onnx2ncnn 和 ncnnoptimize(其他地方会用到) 移到全局环境下:

即可到任意目录下执行 onnx 到 ncnn 的转换:

2.2.网站在线转ncnn

进入 convertmodel.com 进行在线转换:

3. 优化ncnn

Note:如果不优化的话,pnn下loadModel时可能会fail。

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
ncnnoptimize A.param A.bin A.param A.bin fp32

优化后的param只剩卷积结构:

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021/09/22 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • onnx转ncnn
    • 1. 简化onnx
    • 2. onnx2ncnn
    • 3. 优化ncnn
领券
💥开发者 MCP广场重磅上线!
精选全网热门MCP server,让你的AI更好用 🚀
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档