首页
学习
活动
专区
圈层
工具
发布

#LoRa

大模型训练|LoRA高效参数微调技术

用户11991538

低秩适应(LoRA,Low-Rank Adaptation )是参数高效微调(PEFT, Parameter-Efficient Fine-Tuning)领域的...

600

医疗大模型LoRA微调实战:我用40行代码让AI学会看病

七夜zippoe

传统微调就像给房子重新装修——得把墙都砸了重来。LoRA的思路完全不同:房子不动,只加智能家居。它在大模型的权重矩阵旁边加两个小矩阵(A和B),通过低秩分解实现...

1000

轻量级大模型在RAG系统中的集成方案

七夜zippoe

轻量级RAG系统的核心设计理念是"检索增强+轻量化推理"的双重优化。传统RAG架构依赖大型语言模型(LLM)的强大能力,但在小型语言模型(SLM)场景下存在显著...

1000

ThinkLink为什么可以轻松支持传感器的LoRaWAN 对接

用户8921672

市面上大量现有的传感器仍采用有线接口(如RS-485、M-Bus、4-20mA、0-10V、DI/DO等),为适应智能化和灵活布设的需求,亟需实现无线接入。

6510

构建AI智能体:从SVD的理论到LoRA的实践:大模型低秩微调的内在逻辑

未闻花名

英文简称SVD,直观的理解就是拆解与重组,任何复杂的操作都可以被拆解成一系列简单步骤的组合。比如,一个复杂的舞蹈动作,可以拆解为“抬手”、“转身”、“跳跃”等基...

17510

构建AI智能体:AI古典文学:基于LoRA微调本地大模型打造唐诗生成器

未闻花名

通过前一篇我们了解了LoRA的基础原理,LoRA技术的精妙之处在于,它通过极低的参数调整,通常仅为模型总参数量的0.1%-1%,就能让预训练语言模型获得专业的诗...

12610

构建AI智能体:深入浅出LoRA:低成本高效微调大模型的原理与实践

未闻花名

在我们的印象中,我们曾比喻大模型为一位学识渊博、通晓古今的大学者,他读过亿万本书,知识储备深不可测。但是,如果我们先想让他成为我们公司的法律顾问,或者帮我们写中...

1.4K20

LLM微调技术:从LoRA到QLoRA的演进

安全风信子

作者:HOS(安全风信子) 日期:2025-12-30 来源:GitHub 摘要: 本文深入探讨了2025年大语言模型(LLM)微调技术的最新进展,从经典...

28810

基于 LoRaWAN 的 CJ/T 188 M-Bus 热量表采集方案解析:KC22 与 Edge-Bus 的工程化实践

赵明飞

在集中供热、区域能源管理等场景中,热量表往往分布广泛、供电条件受限,且设备生命周期长。传统有线抄表或私有无线方案在改造成本、维护复杂度和扩展性方面存在明显不足。

7810

如何快速体验ThinkLink平台

用户8921672

ThinkLink(以下简称 TKL)是一个功能全面、高度集成的综合性物联网系统,专为构建高效、安全、可扩展的 LoRaWAN 物联网解决方案而设计。TKL 内...

1400

LoRaWAN 应用层协议碎片化问题分析及平台侧统一方案实践

赵明飞

在 LoRaWAN 技术快速普及的过程中,不同传感器厂商在应用层协议上的差异逐渐成为系统集成和规模化部署的主要挑战。相比在传感器端强制统一协议,在物联网平台侧完...

11910
领券