未闻花名

文章/答案/技术大牛

发布

LV8

发表了文章 1天前2026-08-20 09:50:04

投机解码原理拆解：Draft-Target双模型流水线：小模型预生成 + 主模型并行校验20.0

我们在应用大模型服务时，应该都有过这种直观感受：大模型回答问题，总感觉 “慢吞吞” 的。明明算力服务器配置很高，显存、算力都没跑满，可每多等一秒，屏幕就只多出一...

未闻花名 1天前2026-08-20 09:50:04

大模型部署、第四期热点征文-大模型技术

发表了文章 1天前2026-08-19 17:28:42

本地大模型落地医疗场景：Qwen3-32B与ChatGLM3-6B高血压慢病筛查实战测评19.9

做本地大模型部署调试这段时间，直观感受真的是一山更比一山高。最开始落地医疗场景AI项目，我一直用的是ChatGLM3-6B，日常的语义对话、简单信息解读都很流畅...

未闻花名 1天前2026-08-19 17:28:41

大模型部署、模型测试

发表了文章 2天前2026-08-18 12:58:07

深度解析Harness Engineering工程体系，拆解大模型可控落地原理与完整实战流程19.8

不知道大家有没有遇到同样的情况，在大模型场景应用越多，越发现单独调用大模型API效果尚可，但落地到真实业务就频繁出问题。要么模型输出随意、频繁产生幻觉，要么无法...

未闻花名 2天前2026-08-18 12:58:07

大模型服务平台 TokenHub、玩转腾讯混元大模型

发表了文章 3天前2026-08-17 15:40:31

RTX4090适配ChatGLM3-6B本地私有化部署：前后端分离构建对话服务实战项目19.7

今天我们从应用的角度构建一套完整可落地的一体化项目，基于原生Transformers实现推理，FastAPI搭建高性能后端，配套独立美观Web前端面板，同时内置...

未闻花名 3天前2026-08-17 15:40:31

大模型部署、第四期热点征文-大模型技术

发表了文章 5天前2026-08-16 11:00:42

大模型命名后缀解析：看懂参数、量化、蒸馏、微调标识，快速筛选适配本地模型19.6

最开始刚接触本地跑大模型时每次逛Hugging Face、ModelScope找权重，同一个基础模型能拉出十多个版本，后缀一串字母数字堆在一起，完全摸不着门道。...

未闻花名 5天前2026-08-16 11:00:42

大模型部署、第四期热点征文-大模型技术

发表了文章 6天前2026-08-15 08:04:08

随机森林结合大模型处理医疗表格数据，实现高精度建模搭配大模型医学文本归因19.5

做医疗数据分析、AI辅助诊断应该都会遇到两个非常棘手的问题：一是纯表格结构化病历数据，只用大模型直接训练精度拉胯，数值、检验指标、分级特征很难被大模型精准捕捉；...

未闻花名 6天前2026-08-15 08:04:08

大模型部署、第四期热点征文-大模型技术

发表了文章 7天前2026-08-14 08:04:20

分层配额显存共享方案：RTX4090运行ChatGLM2/3双模型，显存池化应用实践19.4

本地私有化部署ChatGLM系列模型是比较普遍的落地场景，实际过程中也必定会碰到一个硬性资源瓶颈：一张24G的 RTX4090 显卡，原生框架只能串行加载Cha...

未闻花名 7天前2026-08-14 08:04:20

模型测试、大模型部署

发表了文章 8天前2026-08-13 08:01:30

RTX4090单卡跑32B参数模型实践：4bit量化+Transformers与vLLM双方案部署差异19.3

最近一直被32B环绕洗脑，本着体验和探索，核心思路就是聚焦实操体验与深度模型探索，抱着说干就干的落地心态，直面大模型本地部署的现实算力难题。当下开源大模型里，3...

未闻花名 8天前2026-08-13 08:01:30

大模型部署、第四期热点征文-大模型技术

发表了文章 8天前2026-08-12 14:09:36

跨病种共病关联挖掘：高血压 + 糖尿病 + 肾病，混元大模型因果推理疾病关联分析实践19.2

在日常慢病临床与健康大数据场景里，高血压、2 型糖尿病、慢性肾病从来都不是单独存在的疾病。很多患者先是血压升高，长期代谢紊乱诱发血糖异常，久而久之肾脏微血管持续...

未闻花名 8天前2026-08-12 14:09:36

腾讯混元大模型、第四期热点征文-大模型技术

发表了文章 10天前2026-08-11 10:28:50

K-Means多维聚类分层慢病群体，混元大模型智能归纳特征标签，构建慢病人群健康画像19.1

在慢性病长期健康管理场景里，高血压、糖尿病、心脑血管慢病患者基数庞大、病程长短不一、并发症差异明显、用药与生活习惯各不相同。传统人工分组方式效率极低、分层粗糙，...

未闻花名 10天前2026-08-11 10:28:50

玩转腾讯混元大模型、大模型服务平台 TokenHub

发表了文章 11天前2026-08-10 08:29:03

单卡4090显存优化实践：模型单卡分片加载、推理链路拆解、延迟与吞吐平衡调优19.0

基本我们做大模型推理落地、本地私有化部署，都会遇到一个非常头疼的现实问题：手握RTX 4090显卡，显存规格足够强悍，却依旧跑不动千亿、百亿参数级别的大模型。

未闻花名 11天前2026-08-10 08:29:03

大模型部署、第四期热点征文-大模型技术

发表了文章 11天前2026-08-09 13:08:56

大模型激活函数迭代演进：SwiGLU替代传统ReLU/GELU激活逻辑提升模型性能18.9

在前一期《大模型主流激活函数解析：ReLU/GELU/SwiGLU 原理差异，拆解 FFN 前向逻辑》内容中，我们已经系统认识了神经网络激活函数的基础作用：线性...

未闻花名 11天前2026-08-09 13:08:56

第四期热点征文-大模型技术

发表了文章 13天前2026-08-08 09:29:55

大模型主流激活函数解析：ReLU/GELU/SwiGLU原理差异，拆解FFN前向逻辑18.8

很多刚接触大模型微调、模型结构分析、推理优化的同学，第一眼看到 Transformer、FFN 前馈网络、SwiGLU、GELU、ReLU 这些名词都会觉得很抽...

未闻花名 13天前2026-08-08 09:29:55

第四期热点征文-大模型技术

发表了文章 13天前2026-08-07 17:46:24

大模型参数规模拆解：十亿百亿千亿模型能力差异，结构配比决定AI智能上限18.7

相信我们做大模型应用实践过程中，一直都有一个根深蒂固的认知：大模型参数越多，智商就越高，效果就越厉害。于是行业也疯狂卷千亿参数、万亿参数模型，让大众也默认参数越...

未闻花名 13天前2026-08-07 17:46:24

第四期热点征文-大模型技术

发表了文章 15天前2026-08-06 09:42:53

FlashAttention、PagedAttention两代注意力算法，改写大模型推理生态详解18.6

大模型能够实现流畅对话、长文本理解、多轮交互应答，核心底层完全依靠自注意力机制。但早期原生Transformer注意力，天生带着算力与显存双重致命缺陷，序列长度...

未闻花名 15天前2026-08-06 09:42:53

第四期热点征文-大模型技术

发表了文章 16天前2026-08-05 11:54:45

词嵌入Embedding：Token离散转连续向量规则、RoPE特性、微调适配实践18.5

如果接触过大模型调用、或从事AI应用开发的工程师，基本天天都和Embedding打交道，分词Token、向量检索、语义匹配、RAG知识库、大模型对话生成，处处都...

未闻花名 16天前2026-08-05 11:54:45

大模型部署、第四期热点征文-大模型技术

发表了文章 17天前2026-08-04 10:16:26

大模型幻觉本质：源于Transformer架构天生固有缺陷 + RAG根治方案参数调优18.4

不知道大家是不是也一样，做大模型应用做的久了，回过来头来总结思考，一直都有一个误区：总觉得大模型胡说八道、编造事实的幻觉问题，改改代码、修修bug、优化一下推理...

未闻花名 17天前2026-08-04 10:16:26

大模型部署、第四期热点征文-大模型技术

发表了文章 17天前2026-08-03 13:34:19

揭秘大模型通用8192维度奥秘：千亿大模型为何统一采用8192隐层维度的真相18.3

经常接触大模型、应用过模型权重配置的朋友一定会发现一个特别有意思的现象：不管是国内主流开源大模型，还是其他通用对话大模型，不管是7B、13B、70B还是更大参数...

未闻花名 17天前2026-08-03 13:34:19

第四期热点征文-大模型技术、大模型部署

发表了文章 20天前2026-08-01 09:05:46

VLLM大模型高效加载原理解析PagedAttention核心机制、推理流程、性能优化.182

通过反复对大模型的学习了解，我们知道Transformer架构大模型普遍存在参数量庞大、显存占用极高、推理并发能力弱、长文本对话卡顿、批量请求处理效率低下等行业...

未闻花名 20天前2026-08-01 09:05:46

大模型部署、腾讯技术创作特训营S17#我与AI

发表了文章 21天前2026-07-31 10:24:51

本地大模型常见异常全解：显存溢出、推理慢、驱动报错、环境冲突调试指南.181

本地大模型即脱离云端API调用，将开源大语言模型权重文件下载至个人电脑、工作站、服务器本地，依托本机硬件算力完成模型加载、上下文编码、文本生成全流程运算的部署模...

未闻花名 21天前2026-07-31 10:24:51

大模型部署、腾讯技术创作特训营S17#我与AI

12 3 4 5 6 7 8...16 下一页

个人简介

AI不释手 | 大健康产业
深耕青少年心理和医疗大健康领域，融合AI大模型的本地化应用，对大模型有深度的应用经验和使用体验。
腾讯云AI编程达人秀
暂未填写学校和专业
暂未填写个人网址
浙江省 | 杭州市
加入社区时间：2025-10-23

个人成就

获得 792 次赞同
文章被阅读 268.6K 次
文章获得 278 次首页推荐

关注了：0关注者：119

未闻花名

投机解码原理拆解：Draft-Target双模型流水线：小模型预生成 + 主模型并行校验20.0

本地大模型落地医疗场景：Qwen3-32B与ChatGLM3-6B高血压慢病筛查实战测评19.9

深度解析Harness Engineering工程体系，拆解大模型可控落地原理与完整实战流程19.8

RTX4090适配ChatGLM3-6B本地私有化部署：前后端分离构建对话服务实战项目19.7

大模型命名后缀解析：看懂参数、量化、蒸馏、微调标识，快速筛选适配本地模型19.6

随机森林结合大模型处理医疗表格数据，实现高精度建模搭配大模型医学文本归因19.5

分层配额显存共享方案：RTX4090运行ChatGLM2/3双模型，显存池化应用实践19.4

RTX4090单卡跑32B参数模型实践：4bit量化+Transformers与vLLM双方案部署差异19.3

跨病种共病关联挖掘：高血压 + 糖尿病 + 肾病，混元大模型因果推理疾病关联分析实践19.2

K-Means多维聚类分层慢病群体，混元大模型智能归纳特征标签，构建慢病人群健康画像19.1

单卡4090显存优化实践：模型单卡分片加载、推理链路拆解、延迟与吞吐平衡调优19.0

大模型激活函数迭代演进：SwiGLU替代传统ReLU/GELU激活逻辑提升模型性能18.9

大模型主流激活函数解析：ReLU/GELU/SwiGLU原理差异，拆解FFN前向逻辑18.8

大模型参数规模拆解：十亿百亿千亿模型能力差异，结构配比决定AI智能上限18.7

FlashAttention、PagedAttention两代注意力算法，改写大模型推理生态详解18.6

词嵌入Embedding：Token离散转连续向量规则、RoPE特性、微调适配实践18.5

大模型幻觉本质：源于Transformer架构天生固有缺陷 + RAG根治方案参数调优18.4

揭秘大模型通用8192维度奥秘：千亿大模型为何统一采用8192隐层维度的真相18.3

VLLM大模型高效加载原理解析PagedAttention核心机制、推理流程、性能优化.182

本地大模型常见异常全解：显存溢出、推理慢、驱动报错、环境冲突调试指南.181

个人简介

个人成就

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐