OpenVINO™ 工具包是一个全面的工具包,用于快速开发解决各种任务的应用程序和解决方案,包括模拟人类视觉、自动语音识别、自然语言处理、推荐系统等。
该工具包基于最新一代人工神经网络,包括卷积神经网络 (CNN)、循环网络和基于注意力的网络,可跨英特尔® 硬件扩展计算机视觉和非视觉工作负载,从而最大限度地提高性能。
它通过从边缘到云部署的高性能、人工智能和深度学习推理来加速应用程序。
覆盖更多生成式AI,集成更多框架,最大限度减少代码更改:
支持更广泛的LLM模型,提供更多模型压缩技术:
在边缘及云端,或本地运行AI时,具有更高的可移植性和更好的性能表现:
新版本的OpenVINO加强了在大模型上的优化能力,我们后面也会和大家一起体验一下它的用法。敬请关注。
我是Tango,一个热爱分享技术的程序猿我们下期见。
我正在参与2024腾讯技术创作特训营第五期有奖征文,快来和我瓜分大奖!
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。