首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    使用OpenVINO在 “云-边-端” 快速实现高性能人工智能推理

    人工智能、无所不在的计算、无处不在的连接、从云到边缘的基础设施是驱动创新与变革的四大超级力量。近日,在“英特尔AI开发者私享会”现场,英特尔AI 软件布道师武卓分享了在云端和边缘端实现高性能人工智能推理的一些特点与好处。 (英特尔AI 软件布道师武卓线上分享) 云规模开发具有很多的好处:云端能很好的支持多种不同的AI框架和服务,另外在云端可以简化训练开发,比如无需软件下载、无需配置、无需安装,可以直接使用云端所提供的计算资源和服务。‍‍在边缘端进行推理也有很多优势:由于数据通常是在边缘端产生和采集的,‍‍

    01

    GPU功耗管理方式介绍(Linux)

    Management PCI-Express Runtime D3 (RTD3) Power Management是一种用于管理PCI-Express设备的低功耗模式的技术RTD3是一种睡眠状态,当PCI-Express设备处于空闲状态时,可以将其置于低功耗模式,以减少能源消耗和热量产生。英伟达™(NVIDIA®)图形处理器有许多省电机制。其中一些机制会降低芯片不同部分的时钟和电压,在某些情况下还会完全关闭芯片部分的时钟或电源,但不会影响功能或继续运行,只是速度较慢。然而,英伟达™(NVIDIA®)GPU 的最低能耗状态需要关闭整个芯片的电源,通常是通过调用 ACPI 来实现。这显然会影响功能。在关机状态下,GPU 无法运行任何功能。必须注意的是,只有在 GPU 上没有运行任何工作负载的情况下才能进入这种状态,而且在试图开始工作或进行任何内存映射 I/O (MMIO) 访问之前,必须先重新开启 GPU 并恢复任何必要的状态。

    04
    领券