前面写过一系列的OpenVINO相关的技术文章，很多人希望出一套配到的视频教程，经过快两个月的各种煎熬与努力，OpenVINO开发视频教程终于发布了，首先来看看视频中有哪些核心技术点：
OpenVINO提供了大量的预训练模型，对车牌、车辆检测SSD模型，车辆属性识别、车牌识别模型、人脸检测、表情识别等模型，都提供模型重新训练与部署的扩展通道，通过tensorflow object detection框架集成与pytorch框架集成， 支持如下的模型重新训练，
我在开始前需要安装 Python 以及 Git，如果你还没有安装好，可以自己去网上找一些教程。我们这里就不再赘述了。
对象检测是计算机视觉最常见的任务之一，应用非常广泛，本文主要给给大家价绍两条快速方便的自定义对象检测模型的训练与部署的技术路径，供大家实际项目中可以参考。
在本教程中，将学习如何将OpenVINO工具包与OpenCV一起使用，以便在Raspberry Pi上进行更快速的深度学习推理。
OpenVINOOpen Visual Inference & Neural Network Optimization toolkit 的缩写，是一个用于优化和部署人工智能推理模型的综合工具包。虽然名称中包含 Visual，但OpenVINO 还支持语言、音频、时间序列等各种附加任务。
我经常被问各种OpenCV开发环境文件，从OpenCV3到OpenCV4，从OpenCV源码编译到扩展模块编译，从SIFT支持到CUDA支持，从OpenCV C++版本到OpenCV-Python版本。被问的多啦，我都懒得回答，不是我态度问题，而是我想到一个更好的办法，可以节省点时间，同时有可以让大家很详细的学会如何搭建OpenCV开发环境，如何编译OpenCV各种版本支持，于是我就录制了一系列的OpenCV/OpenVINO开发环境搭搭建的视频教程，而且全部上传到了B站，需要的直接看即可。如果有问题再下面留言即可，这样方便后来者更好的查看，希望变成一个CGC，可持续更新的视频内容！
OpenVINO2023版本衍生出了一个新支持工具包NNCF(Neural Network Compression Framework – 神经网络压缩框架)，通过对OpenVINO IR格式模型的压缩与量化更好的提升模型在OpenVINO框架上部署的推理性能。
OpenVINO自发布以来，依靠其强大的加速性能，在CPU上进行深度学习模型加速优势，迅速受到很多公司与开发者的青睐，但是如何从OpenCV源码编译生成OpenVINO的inferinference engine(IE)加速推理支持的OpenCV版本，一直是很多开发者头疼的事情，很多人都不得不使用OpenVINO官方编译的OpenCV支持版本，无法实现从源码开始的定制化的OpenCV版本编译。本人从2018年12月份开始研究OpenVINO开发技术，上半年也发布一系列的OpenVINO开发技术相关文章，得到了大家热烈响应，今天我们就来很详细的一步一步的教大家如何从OpenCV源码开始在windows10系统下如何编译IE加速版本的OpenCV安装包，并如何配置与测试IE支持之后的OpenCV DNN的卓越性能。
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 安装与测试 最近YOLOv5最新更新升级到v6.x版本，工程简便性有提升了一大步，本教程教你基于YOLOv5框架如何训练一个自定义对象检测模型，首先需要下载对应版本： https://github.com/ultralytics/yolov5/releases/tag/v6.1 鼠标滚到最下面下载源码zip包： https://github.com/ultralytics/yolov5/archive/refs/t
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 YOLOX目标检测模型 旷视科技开源了内部目标检测模型-YOLOX，性能与速度全面超越YOLOv5早期版本！ 如此神奇原因在于模型结构的修改，下图说明了改了什么地方： 把原来的耦合头部，通过1x1卷积解耦成两个并行的分支，经过一系列处理之后最终取得精度与速度双提升。实验对比结果如下： 论文与代码模型下载地址： https://arxiv.org/pdf/2107.08430.pdfhttps://github
多对象追踪(Multi- Object Tracking, MOT) 在计算机视觉领域有着广泛且重要的应用。大到可以用在多目标导弹跟踪、市中心人流统计, 小到可以用在统计鱼池里的观赏鱼类等等。本篇文章将会带您了解百度飞桨目标检测套件PaddleDetection项目里的 FairMOT模型,并通过Intel的 OpenVINO将其转换成ONNX通用模型，最终在计算机上运行此AI模型实现行人检测项目。
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 OpenVINO2022 API介绍 OpenVINO2022 版本的SDK在使用比之前版本简单，而且功能比较丰富，特别是支持动态输入设置，一次可以推理多张图像；相比之前的模型输入只支持一种尺度输入跟每次一张图片推理来说是大大的提升执行效率。特别是Python版本的API简单易学，容易上手，只需要掌握下面几个函数就可以完成从模型加载到推理。 01 导入支持 要使用Python SDK，首先需要导入支持语句， fro
之前介绍的项目《优秀的 Verilog/FPGA开源项目介绍（十四）- 使用FPGA实现LeNet-5 深度神经网络模型》最后我们分析了，纯FPGA实现神经网络的缺点，以及现在FPGA厂家的加速方案，这里引用一下：
本篇文章主要内容为在使用OpenVino时的一些注意点，方便带大家快速入门。OpenVino相比TVM和libtorch在intelx86的CPU端还是有很大优势的，可以说在X86上推断速度没有什么框架可以媲美OpenVino。实际测试中OpenVino确实出乎了我的意料，值得尝试。另外，Intel也在大力发展OpenVino(从跟新频率可以看出来)，也有一些相关的活动和比赛可以参与试试。
首先需要从官方下载安装文件，下载OpenVINO2020R01版本，然后默认安装，图示如下：
OpenVINO是英特尔基于自身现有的硬件平台开发的一种工具套件，主要用于快速开发高性能计算机视觉及深度学习视觉的应用程序和解决方案，从而实现人类视觉模拟、自动语音识别、自然语言处理和推荐系统任务。该工具套件基于最新一代的人工神经网络，包括卷积神经网络、递归网络和基于注意力的网络，可扩展跨英特尔硬件的计算机视觉和非视觉工作负载，从而最大限度地提高性能。基于OpenVINO，可提升应用程序在CPU计算设备上的推理速度。
针对对一个问题，OpenCV开发包包含的东西太多了，大而全，而它们的项目可能需要只是一点点，需要的是小而精，其实这个很容易解决，这个就是要求做好OpenCV的模块裁剪与移植，通过CMake自己编译，关于这个问题，我也写过一篇文章来介绍，感兴趣可以点击这里：
本文编辑的时间是2020年12月3日,官方最新的releases是v3.1,在v3.0的版本中,官网有如下的声明
OpenCV4.5.4昨天早晨更新了，本文将简单介绍此版本更新内容，供大家参考了解。
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 引子 我用QT C++写了一个YOLOv5模型推理演示应用，主要包括功能有： YOLOv5+ OpenCV4.5.4 DNN推理演示YOLOv5+OpenVINO2022.1推理演示YOLOv5+ONNXRUNTIME 推理演示 上述三个都CPU版本的推理演示，然后我最终完成GUI演示程序如下图： 支持一些显示选项，例如FPS计算显示，类别显示设置等。后来我又加上了YOLOX的推理演示，跟Faster-RCN
大家好，过去的十多年时间，本人一直从事图像处理跟视觉相关的开发与技术培训工作。在此过程中深深感受到OpenCV教学领域缺乏一款好的教学工具软件，它可以帮助高职院校老师减轻备课压力、提高工作效率、提升教学效果，特别是对各种图像处理、分析、测量等机器视觉常见算子熟练掌握与使用，更加高效有针对性的培养机器视觉人才。因此本人从2021年底开始策划启动，前后花了一年多的时间开发完成了一款机器视觉教学平台软件，借助它，高职院校再也不用担心开设OpenCV视觉课程没有硬件、没有软件、没有案例、无法检查学生掌握程度等现实问题。
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 大家好，我是贾志刚，OpenCV学堂 微信公众号 号主，也是该号绝大多数原创文章的作者。我超过10年以上的OpenCV相关开发经验，先后出版过三本相关书籍，CSDN+51CTO博客访问超过500W+。 今天我斗胆分享一下作为一个CV开发者需要哪些必备的技能？ 现在CV行业已经严重内卷，但是真正可以写程序，会写程序的还是很缺乏，一个CV开发者要想很好的搞好项目落地，只会python肯定不行，必须是C++与Python都可
OpenVINO是英特尔推出基于CPU/GPU新一代视觉加速框架，可以对常见的各种检测模型与分割模型在CPU端侧实现10倍以上加速。其自带预训练模型库支持多种常见视觉感知与识别应用场景，可以快速搭建原型演示程序与极简应用。相关视频教程可以点击下面链接学习：
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 引言 我把YOLOv5最新版本的模型分别用OpenCV DNN（Python、C++）部署、OpenVINO（Python、C++）部署、ONNXRUNTIME-GPU（Python、C++）部署，然后还测试了CPU/GPU不同平台上的运行速度比较。 软件版本与硬件规格 测试用的硬件与软件信息： GPU 1050TiCPU i7八代OS：Win10 64位OpenVINO2021.4ONNXRUNTI
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 引言 OpenVINO2022版本发布之后，对之前旧版本的功能做明确的划分，其中仍然通过exe方式安装程序的是runtime推理包，支持ONNX、IR、PADDLE等模型读取与推理。但是模型优化转换、模型库下载功能等其他功能被分在一个叫Dev Tool的部分。该部分可以通过pip方式直接安装，然后通过命令行直接直线，完成模型的转换，下载等操作，跟之前版本易用性有较大提升！做个对比如下： Dev Tools安装与使用
最近这一个月基本没写过博客，因为一直在树莓派4B上部署yolov5的模型，已经数不清楚踩了多少坑了，来来回回折腾了一个月，终于完成了。于是写下这篇博客，一是记录下全部的流程，方便以后其他项目借鉴；二是希望和我一样有类似需求的朋友能少走些弯路。
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 要求： 找到下图的螺丝圆心并测量它们之间的距离，本人通过一通OpenCV简单的基础操作完成了整个流程！原图如下： 整个流程图如下： 各步运行名称与运行结果对比： 扫码查看OpenCV+OpenVIO+Pytorch系统化学习路线图 推荐阅读 CV全栈开发者说 - 从传统算法到深度学习怎么修炼 2022入坑深度学习，我选择Pytorch框架！ Pytorch轻松实现经典视觉任务 教程推荐
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 安装OpenVINO2022.1 2022版本的安装包跟之前的不一样地方包括： -OpenCV部分不在默认安装包中-Dev Tools 跟 Runtime安装方式不同-Dev Tools包模型转换器跟其它开发组件-Runtime主要负责模型推理，支持Python跟C++ 在intel官方下载页面选择如下： 下载之后点击安装，出现的第一个画面如下： 点击【Continue】 选择第一种，推荐安装方式，点击【
FFmpeg作为一个集录制、转换、音/视频编码解码功能为一体的开源框架，自然也需要考虑怎样去和当下流行的视频分析技术融合。本文来自英特尔网络平台部软件工程师谢林在LiveVideoStack线上分享中
英特尔从去年推出OpenVINO开发框架，从此以后几乎每三个月就更新一个版本，最新版本2019R03，但是此版本跟之前的版本改动比较大，所以在配置Python SDK支持与开发API层面跟之前都有所不同。这里假设你已经正确安装好OpenVINO框架。如果不知道如何安装与配置OpenVINO可以看我在B站视频教程：
智慧城市旨在利用大数据、物联网（IoT）、人工智能和5G等数字技术，提高政府公共服务水平、社会治理效能，推动经济增长，不断增强人民群众的获得感、安全感和幸福感。自十四五规划以来，国家和各大主要城市一直加速推进新型智慧城市分级分类建设，但在实施的过程中也遇到了一些问题和困难。
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 TorchScript介绍 TorchScript是PyTorch模型推理部署的中间表示，可以在高性能环境libtorch（C ++）中直接加载，实现模型推理，而无需Pytorch训练框架依赖。torch.jit是torchscript Python语言包支持，支持pytorch模型快速，高效，无缝对接到libtorch运行时，实现高效推理。它是Pytorch中除了训练部分之外，开发者最需要掌握的Pytorch框架开发
Photo by Lukas from Pexels FFmpeg作为一个集录制、转换、音/视频编码解码功能为一体的开源框架，自然也需要考虑怎样去和当下流行的视频分析技术融合。本文来自英特尔网络平台
在当前发展阶段，制造企业普遍面临着诸多的挑战，包括如何改善工作效率以提升行业竞争力，如何降低生产过程中的产品不良率等，从而优化产业成本，其中缺陷检测便是最典型的场景之一。人工肉眼检测的识别效率低，且成本较高，传统机器的方法可扩展性又较差，深度学习技术为上述问题提供了一条解决之道。通过在智能制造系统中使用深度学习技术，制造企业将能够获得自动视觉定位缺陷位置，辨别缺陷种类，真正实现降本增效的目的。
点击上方↑↑↑“OpenCV学堂”关注我 yolox 推理openvino与c++支持 YOLOX模型ONNX格式说明 我记得大概是在去年七月份的时候我写过一篇文章是介绍YOLOX+OpenVINO推理的，下载YOLOX的ONNX格式模型（github上可以下载） https://github.com/Megvii-BaseDetection/YOLOX/tree/main/demo/ONNXRuntimehttps://github.com/Megvii-BaseDetection/YOLOX/rel
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 前言 OpenCV开发者基本技能之一就是要从源码编译OpenCV生成各种裁剪版本的OpenCV库，同时根据需要编译源码生产支持CUDA加速版本的OpenCV库。 但是，很多开发者还是编译中会遇到各种问题，被迫放弃！可以说还没用CUDA加速就已经自我放弃啦! 所以周末我又重新编译了一遍，针对各种问题，帮大家理清了对策，帮助大家可以完成OpenCV+CUDA编译，实现性能加速！ 软件版本信息：
本文介绍了一个开源的AI模型部署工具箱--AiDB。该项目使用C++开发，将主流深度学习推理框架抽象成统一接口，包括ONNXRUNTIME、MNN、NCNN、TNN、PaddleLite和OpenVINO，支持Linux、MacOS、Windows、Android、Webassembly等平台。AiDB提供C/C++/Python/Lua等多种API接口。并且提供多种场景的部署实例Demo(Server、PC、Android等)。目前，AiDB集成了数十个开源算法(如Yolo系列、MobileSAM等)，约300个模型，并且持续更新。
OpenVINO中模型优化器(Model Optimizer)支持tensorflow/Caffe模型转换为OpenVINO的中间层表示IR(intermediate representation)，从而实现对模型的压缩与优化，方便推断引擎更快的加载与执行这些模型。以tensorflow对象检测框架支持的SSD MobileNet v2版本的模型为例，实现从tensorflow的pb文件到IR格式的bin与xml文件生成。全部的过程可以分为三个部分，下面一一解析！
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 UNet模型 这个模型来自我之前的文章，基于CrackForest数据集训练生成的模型，如何训练道理裂纹数据集，生成UNet模型并导出为ONNX看这里，这个系列文章就可以知道： 轻松学Pytorch – 构建UNet实现道路裂纹检测 https://mp.weixin.qq.com/s/xeUdW2l71RsHe1Zdzr5a7Q 然后我把模型转换ONNX格式了，然后我用OpenVINO+ONNX做个部署演示。之前
点击上方蓝字关注我们 微信公众号：OpenCV学堂 关注获取更多计算机视觉与深度学习知识 版本信息 首先必须要交代一下硬件跟依赖包的版本信息 -GPU -3050ti-Win10 x64-CUDA11.0.1-cuDNN8.2.x-TensorRT8.4.0.x-Python3.6.5-Pytorch1.7.1 然后我还下载了YOLOv5的最新版本，并测试通过如下： Python API配置支持 我把tensorRT解压在D:\TensorRT-8.4.0.6 目录结果如下： 首先输入
我经常被问各种OpenCV开发环境文件，从OpenCV3到OpenCV4，从OpenCV源码编译到扩展模块编译，从SIFT支持到CUDA支持，从OpenCV C++版本到OpenCV-Python版本。被问的多啦，我都懒得回答，不是我态度问题，而是我想到一个更好的办法，可以节省点时间，同时有可以让大家很详细的学会如何搭建OpenCV开发环境，如何编译OpenCV各种版本支持，于是我就录制了一系列的OpenCV开发环境搭搭建的视频教程，而且全部上传到了B站，需要的直接看即可。如果有问题再下面留言即可，这样方便后来者更好的查看，希望变成一个CGC，可持续更新的视频内容！
OpenVINO除了可以集成OpenCV DNN一起使用之外，其本身也提供了一套开发接口(SDK)，可以不依赖于其他任何第三方库实现对模型的加速推断运行。
前几天加了两个Openvino群，准备请教一下关于Openvino对YOLOv3-tiny的int8量化怎么做的，没有得到想要的答案。但缺发现有那么多人Openvino并没有用好，都是在网络上找资料，我百度了一下中文似乎没有靠谱的目标检测算法的部署资料，实际上这个并不难，用官方提供的例子改一改就可以出来。所以我答应了几个同学写一个部署流程希望对想使用Openvino部署YOLOv3-tiny(其他目标检测算法类推)到cpu或者Intel神经棒上(1代或者2代)都是可以的。
如果说深度学习模型性能的不断提升得益于英伟达GPU的不断发展，那么模型的边缘部署可能就需要借助英特尔的边缘计算来解决。伴随交通、医疗、零售等行业中深度学习应用的发展，数据处理和智能分析逐渐从云端走向边缘。本人与大家分享一下英特尔的边缘计算方案，并实战部署yolo v3-tiny模型。
CVPR 2021 相关论文、代码 、解读和demo整理，同时为了方便下载论文，已把部分论文上传到上面了，欢迎小伙伴们 star 支持一波！
选择windows，登录intel账户后，跳转下载页面，选择Full Package按钮：
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
云直播
