首页
学习
活动
专区
圈层
工具
发布

#编译

揭秘 CANN 内存管理:如何让大模型在小设备上“轻装上阵”?

晚霞的不甘

在 CANN(Compute Architecture for Neural Networks)架构中,内存管理不是简单的“分配-释放”,而是一套基于计算图拓扑...

700

CANN 编译器深度解析(一):从 ONNX 到 CANN IR 的图优化全流程

晚霞的不甘

ATC 的价值,不在于它“能编译”,而在于它“知道如何编译得更好”。每一次融合、每一次内存复用、每一次布局调整,都是对硬件极限的逼近。

1400

多模态大模型落地实战:CANN 如何加速 Vision-Language 推理?

晚霞的不甘

通用推理框架往往在此类任务中“力不从心”。而 CANN(Compute Architecture for Neural Networks) 凭借其全栈协同设...

2000

深入 CANN 图编译引擎:如何让神经网络“跑得更快、吃得更少”?

晚霞的不甘

CANN 编译器会自动识别该模式,并替换为一个名为 FusedConvBnRelu 的自定义算子。开发者无需修改模型代码,只需在编译时启用优化:

800

Flutter for OpenHarmony 实战:[开发环境搭建与项目编译指南]

晚霞的不甘

4.把下面的四个路径复制上去然后把红框里的换成刚才复制的路径就行了(就是Dev安装的位置)

1200

[Arm飞牛实战] 解决mt7601u无线网卡驱动缺失问题(Linux 6.12.41-trim内核编译教程)

用户10982650

最近购买了一块明创控能 IOT-MKC3568-Main-v1.1开发板(基于RK3568-EVB1-DDR4-V10设计),但是这个开发板没有任何资料支持,连...

8610

Openwrt 嵌入式Linux发行版

云域A

嵌入式Linux发行版 OpenWrt是专为路由器等嵌入式设备设计的开源操作系统,基于Linux内核,支持高度模块化定制。它提供完整的包管理工具(OPKG)、...

14510

Maven介绍与安装和配置

云域A

Maven 是一款基于 Java 平台的项目管理和整合工具,它将项目的开发和管理过程抽象成一个项目对象模型(POM)。开发人员只需要做一些简单的配置,Maven...

29610

ARRAY_SIZE宏作用及使用注意事项

一个平凡而乐于分享的小比特

ARRAY_SIZE 宏是C/C++中用于在编译时获取数组元素个数的常用宏。我来详细讲解它的原理、作用和注意事项。

6210

Makefile 源码编译系统详解

一个平凡而乐于分享的小比特

Makefile 是一个自动化构建工具,它用简单的文本文件描述了源代码文件之间的依赖关系以及构建这些文件的命令。就像是一个烹饪食谱,告诉厨师(make工具):

10610

Linux动态库与静态库技术详解

一个平凡而乐于分享的小比特

库是预先编译好的代码集合,包含可重复使用的函数、类或资源,可以被多个程序共享使用。

10410

摄像头应用测试

一个平凡而乐于分享的小比特

作者简介: 一个平凡而乐于分享的小比特,中南民族大学通信工程专业研究生在读,研究方向无线联邦学习 擅长领域:驱动开发,嵌入式软件开发,BSP开发 作者主页:...

11110

RV1106 芯片 源码编译烧录

一个平凡而乐于分享的小比特

作者简介: 一个平凡而乐于分享的小比特,中南民族大学通信工程专业研究生在读,研究方向无线联邦学习 擅长领域:驱动开发,嵌入式软件开发,BSP开发 作者主页:...

10910

RK3568---4G模块驱动实验

一个平凡而乐于分享的小比特

作者简介: 一个平凡而乐于分享的小比特,中南民族大学通信工程专业研究生在读,研究方向无线联邦学习 擅长领域:驱动开发,嵌入式软件开发,BSP开发 作者主页:...

7010

BusyBox与嵌入式根文件系统的关系详解

一个平凡而乐于分享的小比特

这种共生关系使得嵌入式Linux系统既能保持小巧高效,又能提供丰富的功能,正是这种灵活性让嵌入式Linux在各个领域大放异彩。

10210

49. Constraint Decoding 在 vLLM 中的位置:解码约束与生成质量的平衡

安全风信子

作者:HOS(安全风信子) 日期:2026-01-21 来源平台:GitHub 摘要: 本文深入剖析了Constraint Decoding在vLLM中的...

9610

41. ModelRunner 解析:vLLM的模型执行核心

安全风信子

未来,编译优化将成为推理框架的标配,ModelRunner的编译缓存和自适应编译技术将得到广泛应用,显著提高模型执行效率。

8710

OpenHarmony 通用 C/C++三方库 标准化鸿蒙化适配

徐建国

这是本次指南的核心内容,鸿蒙的底层能力、三方库生态均依赖 C/C++库的支撑,官方对 C/C++库的鸿蒙化适配做了极致标准化的定义,所有适配工作均围绕「固定 6...

17110

Plug-In(插件)架构设计与哲学

JanYork_简昀

很多系统宣称自己“支持插件”,但真正提供的,只是模块切换、实现替换,或者在编译期多接了几行代码。

8610

Go语言中的//export:让你的Go函数被C调用!

技术圈

当我们在Go函数前添加 //export 注释时,Go编译器会生成相应的C语言头文件,其中包含该函数的C接口声明。这样,C程序就可以像调用普通C函数一样调用Go...

10010
领券