爱芯通元AI处理器正式发布 已完成高中低三档算力布局

7月5日消息，在2024 WAIC智能芯片及多模态大模型论坛上，爱芯元智正式发布了“爱芯通元AI处理器”，展示了智能芯片与大模型深度融合的技术应用与商业生态。

爱芯元智创始人、董事长仇肖莘表示，大模型真正大规模落地需要云边端三级紧密结合，而边缘侧和端侧结合的关键在于AI计算与感知。爱芯元智基于爱芯智眸AI-ISP和爱芯通元混合精度NPU两大自研核心技术，确立了以“AIoT+ADAS”为主的一体两翼战略路线，并向边缘计算、AI推理领域纵深发展，推动智慧城市、智能驾驶等应用场景加速落地。

仇肖莘认为，智能芯片和多模态大模型已经成为人工智能时代的“黄金组合”，当大模型的应用日益广泛，更经济、更高效、更环保将会成为智能芯片的关键词，而搭载AI处理器的高效推理芯片将是大模型落地更合理的选择，这也是推进普惠AI的关键所在。

作为国内领先的基础算力平台公司，爱芯元智在2022年预判了transformer的爆发，并率先推出了搭载爱芯通元AI处理器的芯片。爱芯元智联合创始人、副总裁刘建伟介绍，爱芯通元AI处理器的核心是算子指令集和数据流微架构。其底层采用了可编程数据流的微架构，来提高能效和算力密度。同时它的灵活性也保证了算子指令集的完备性，支撑各种AI的应用。而其成熟的软件工具链可以让开发者快速上手。此外，软硬件的联合设计也保证了爱芯通元AI处理器的高速迭代，保证了爱芯通元AI处理器的竞争力。爱芯通元AI处理器很大程度降低了AI应用的开发及运维成本，让AI智能更经济、更高效、更环保。

刘建伟介绍，爱芯通元AI处理器在高中低三档算力中已完成布局，并在智慧城市和辅助驾驶两个领域实现了规模化量产，能效比较GPGPU芯片提升了一个数量级，而在以文搜图、通用检测、以图生文、AI Agent等通用大模型应用中，爱芯通元AI处理器也可以让AI开发者以更低的成本进行高效开发。

AI处理器的应用前景如何？

论坛上，爱芯元智在智慧物联、智能驾驶等领域的合作伙伴也分享了AI处理器的应用前景。智慧物联和人工智能创新融合专家殷俊表示，以视觉为主的智能在城市治理与生产生活方面应用广泛，近年来大模型在文本、语音等领域快速发展，但在视觉领域的落地却面临可靠性、稳定性、理解不够全面等挑战，真实准确描述客观世界是视觉大模型落地的关键。针对不断更新迭代的视觉大模型，殷俊认为，不应该让用户放弃原有的技术投资，而是要通过大小模型协同和模型小型化，实现最优算力配置，来加快大模型行业落地。

和物联网一样，智能驾驶也经历了模型从小到大的过程，“BEV+Transformer”大模型架构正在成为智驾行业的主力军，背后则需要突破“端到端”模型技术难题。对此，迈驰智行科技有限公司CTO张弛表示，大模型加速了自动驾驶从高速公路向更加复杂的城区场景的过渡，也促进了端到端感知规控一体化的形成，这一过程中，激光雷达、高精度地图的作用在减弱，但丰富的端到端大模型也让不受地理环境限制的点到点自动驾驶成为可能。

人工智能未来发展方向是什么？

现场嘉宾们也对人工智能发展方向做出了预测。面壁智能副总裁贾超认为，凭借在成本、隐私、延时性、可靠性等方面的优势，端侧AI发展会成为全球趋势，这也意味着大模型正式进入了轻量化时代。这一背景下，“模型知识密度，平均每8个月提升1倍”将会成为大模型时代的新摩尔定律。贾超强调，企业开发端侧大模型需要从算法侧和芯片侧来做双向奔赴，把端侧模型用端侧芯片，在用户场景上高效落地，这样才能给用户带来最极致的体验。

达摩院RISC-V及生态高级技术专家尚云海分析到，大模型未来就会呈现规模大、结构统一、能力增强三大趋势，目前处于计算需求与硬件计算能力不匹配的阶段，量化、结构化稀疏、低精度训练将成为提升大模型性能的有效路径。RISC-V作为开源、开放指令架构，可以第一时间适应AI算法和算子的快速变化，满足当前大模型所需的推动AI算力和芯片架构发展。

智能芯片的突破创新让算力更加有的放矢，大模型的应用落地也给各行各业的智能化转型带来更广阔的想象空间，爱芯元智方面表示，将坚定推进智能芯片与大模型的深度融合，促进云边端的一体化，助力推动AI普惠的不断深化。