江南清风起

文章/答案/技术大牛

发布

LV4

发表了文章 2026-01-142026-01-14 17:40:02

LoRA+AdaLoRA 混合微调：梯度低秩自适应到底该选哪一档 rank？

随着大语言模型（LLM）参数规模突破千亿级别，传统全参数微调已变得不切实际。以GPT-3 175B为例，单次微调需要数百GB显存，这催生了参数高效微调技术（PE...

江南清风起 2026-01-142026-01-14 17:40:02

腾讯技术创作特训营S17

发表了文章 2026-01-082026-01-08 15:02:54

从 FlashAttention-1 到 FlashAttention-3：矩阵乘法如何砍掉 87% 访存

在Transformer架构中，注意力计算的时间和内存复杂度与序列长度的平方成正比，这成为大语言模型处理长上下文的主要瓶颈。传统注意力机制需要将大小为 $O(N...

江南清风起 2026-01-082026-01-08 15:02:54

腾讯技术创作特训营S17

发表了文章 2026-01-072026-01-07 11:23:34

DeepSpeed-Ulysses 实战：在 8×A100 上把 176B 模型压缩到 24GB 显存

近年来，随着 Transformer 架构的崛起，大语言模型的参数量呈现指数级增长。从 GPT-3 的 1750 亿参数到最新的万亿级模型，这种增长带来了性能的...

江南清风起 2026-01-072026-01-07 11:23:34

腾讯技术创作特训营S17

发表了视频 2025-12-292025-12-29 10:34:29

48秒

智识试题通AI好帮手-腾讯元器智能体演示视频

2025-12-29

发表了文章 2025-12-282025-12-28 20:25:29

[智识试题通AI好帮手]—基于腾讯元器搭建教育企业/老师的AI试题智能体

智识试题通AI好帮手是一款专为教育机构、企业、教师打造的单题精准识别工具。支持各类题型文本快速提取，无需手动录入，大幅提升试题整理、题库搭建效率。

江南清风起 2025-12-282025-12-28 20:38:32

地球online合法外挂#企业副本

发表了视频 2025-12-272025-12-27 17:46:34

1分0秒

守岁小暖伴

2025-12-27

发表了文章 2025-12-272025-12-27 17:46:15

春节「守岁小暖伴」智能体搭建—腾讯元器×混元大模型助力春节[构建智能体全流程]

春节作为中国最重要的传统节日，承载着团圆、陪伴与期盼的核心情感。但随着城市化进程加快、跨区域就业常态化，独居青年、异地过年打工人、海外华人等群体的 “孤独过年”...

江南清风起 2025-12-272025-12-27 17:46:14

地球online合法外挂#心灵奇旅

发表了文章 2025-12-142025-12-14 16:37:20

自监督学习中的相变现象：模型规模与智能跃迁的临界条件

自监督学习在近年的突破揭示了一个令人着迷的现象：随着模型规模的增大，智能能力并非线性增长，而是在特定临界点发生相变式跃迁。这种相变现象在语言模型、视觉表征和多模...

江南清风起 2025-12-142025-12-14 16:37:20

腾讯技术创作特训营S16

发表了文章 2025-12-132025-12-13 10:01:17

大模型压缩与效率优化：量化、剪枝与蒸馏的协同策略

当前，GPT-4、LLaMA等百亿甚至万亿参数大模型在各类任务上展现出卓越性能，但巨大的计算开销和内存占用严重限制了其实际部署。单一优化技术往往只能在特定维度带...

江南清风起 2025-12-132025-12-13 10:01:17

腾讯技术创作特训营S16

发表了文章 2025-12-112025-12-11 10:06:31

多模态大模型的涌现能力：视觉-语言对齐的认知机制探析

近年来，多模态大模型如CLIP、DALL-E、Flamingo等展现出了令人惊叹的涌现能力——它们不仅能够分别处理视觉和语言信息，更重要的是能够在不同模态间建立...

江南清风起 2025-12-112025-12-11 10:06:31

腾讯技术创作特训营S16

发表了文章 2025-12-092025-12-09 16:10:38

神经符号混合架构：破解大模型“黑箱”的新思路

当前的大型语言模型在感知和生成能力上取得了令人瞩目的成就，但它们的推理过程仍然是一个不透明的“黑箱”。这种黑箱特性带来了三大关键问题：可解释性缺失、逻辑推理薄弱...

江南清风起 2025-12-092025-12-09 16:10:38

腾讯技术创作特训营S16

发表了文章 2025-12-072025-12-07 15:15:38

大模型可解释性新范式：从“回路分析”到“表征解耦”的方法论演进

随着大语言模型（LLMs）参数量突破万亿级别，传统的可解释性方法面临根本性挑战。早期基于"回路分析"（Circuit Analysis）的方法尝试在Transf...

江南清风起 2025-12-072025-12-07 15:15:38

腾讯技术创作特训营S16

发表了文章 2025-12-052025-12-05 17:14:24

大规模语言模型知识编辑：定位-编辑-再训练的一致性误差分析

随着大规模语言模型（LLMs）如GPT-4、LLaMA等在实际应用中的广泛部署，一个关键挑战日益凸显：如何高效、精准地更新这些模型内部存储的知识？传统的全量微调...

江南清风起 2025-12-052025-12-05 17:14:24

腾讯技术创作特训营S16

发表了文章 2025-12-042025-12-04 11:18:11

算法公平性统计指标：机会均等与校准误差的不可兼容性

在算法公平性研究的核心，存在着一个深刻的数学悖论：我们能否同时实现统计上的机会均等和完美的概率校准？2016年，Kleinberg等人从理论上证明了，在某些条件...

江南清风起 2025-12-042025-12-04 11:18:11

腾讯技术创作特训营S16

发表了文章 2025-12-032025-12-03 09:52:52

分布外检测的Score-Based方法：能量函数与似然比的校准理论

在现实世界的机器学习部署中，一个长期存在的挑战是模型在面对与训练数据分布不同的样本时的行为不可预测性。这种分布外（Out-of-Distribution, OO...

江南清风起 2025-12-032025-12-03 09:52:52

腾讯技术创作特训营S16

发表了文章 2025-11-302025-11-30 16:30:35

可解释AI的公理化方法：Shapley值与交互指数的公理冲突

在人工智能决策日益影响人类生活的今天，模型可解释性已从"锦上添花"变为"不可或缺"。然而，当前最流行的Shapley值解释方法正面临深刻的数学危机——其核心公理...

江南清风起 2025-11-302025-11-30 16:30:35

腾讯技术创作特训营S16

发表了文章 2025-11-292025-11-29 08:57:51

社会选择理论视角下的AI对齐：投票规则的不可能性定理

在人工智能系统日益渗透我们生活的今天，AI对齐问题——即如何确保AI系统的目标与人类价值观保持一致——已成为该领域最紧迫的挑战之一。传统方法往往将人类价值观视为...

江南清风起 2025-11-292025-11-29 08:57:51

腾讯技术创作特训营S16

发表了文章 2025-11-282025-11-28 16:55:53

大模型推理阶段的计算优化：投机解码的马尔可夫决策过程

在大语言模型(LLM)时代，推理阶段的计算效率已成为制约其广泛应用的关键瓶颈。传统的自回归解码方式虽然简单可靠，但其串行生成特性严重限制了推理速度。投机解码(S...

江南清风起 2025-11-282025-11-28 16:55:53

腾讯技术创作特训营S16

发表了文章 2025-11-272025-11-27 10:07:26

自动化神经架构搜索的可微分采样器收敛性分析

神经架构搜索(NAS)作为自动化机器学习的重要分支，近年来在深度学习领域引起了广泛关注。在众多NAS方法中，可微分架构搜索(DARTS)因其高效性而备受推崇。然...

江南清风起 2025-11-272025-11-27 10:07:26

腾讯技术创作特训营S16

发表了文章 2025-11-222025-11-22 18:31:28

自监督视觉预训练：掩码图像建模的互信息最大化解释

在自监督学习的革命浪潮中，掩码图像建模（Masked Image Modeling, MIM）已然成为计算机视觉领域最具影响力的预训练范式之一。从自然语言处理中...

江南清风起 2025-11-222025-11-22 18:31:28

腾讯技术创作特训营S16

12 3 4 5 下一页

个人简介

暂未填写公司和职称
暂未填写个人简介
暂未填写技能专长
暂未填写学校和专业
暂未填写个人网址
暂未填写所在城市
加入社区时间：2022-11-24

个人成就

获得 59 次赞同
文章被阅读 57.6K 次
文章获得 2 次首页推荐

关注了：1关注者：20