首页
学习
活动
专区
圈层
工具
发布
首页标签大模型部署

#大模型部署

大模型生成:在“概率的混沌”与“工程的秩序”之间,搭建确定性之桥

闪 学it

当人们惊叹于大模型(LLM)的“博学”时,他们往往将其比作一个无所不知的“数字大脑”。但顶尖的AI应用开发者心里清楚:大模型本质上不是数据库,而是一台对海量人类...

2000

一文讲透本体、知识图谱、RAG:一张图看懂"形 / 图 / 值 / 用"四层分工

dongdonglog

问题一:某股份制银行把客户征信、交易流水、关联企业数据建成了企业关联图谱(覆盖股权、担保、交易等 15 种关系类型),贷前审查时间从 72 小时缩短到 4 小时...

1610

"免费"不是免备案的挡箭牌:生成式AI服务合规备案实务解读

AI算法大模型备案当当

导读:不少 AI 团队认为 "我的服务免费,不收费就不用备案",结果产品刚上线就被约谈、下架。备案义务的判定标准到底是什么?是否收费真的不影响吗?本文基于《生成...

1400

2026 大模型怎么选:一张表搞定日常/深度/视频

华东子

写给刚接触 AI、或工具太多挑花眼的你:别看榜单排名,按"手头这笔活"选——3 分钟用一张表定下日常、专业创作、视频三类需求该用哪款。

1410

怎么选模型、怎么测模型,一套流程全给你

用户12720126

测 AI 别问"你怎么看",问出来的都是正确废话。真实素材 + 六层考题,六个 AI 的底裤全露了:有人死咬字面,有人编引用,有人给自己打 94 分。

4110

为什么你的大模型备案总被驳回?六大高频驳回点全解析与避坑指南

AI算法大模型备案当当

摘要:随着《生成式人工智能服务管理暂行办法》常态化落地,大模型备案已成为 AI 产品公网上线的刚性门槛。然而大量团队在备案中反复被驳回,整体周期从常规的 6-8...

1200

免费 AI 模型在哪找怎么接:模型接入技能的发现层设计与完整实战

斯晨的AI笔记

免费大模型 API 的攻略有一个通病:写作当天是真的,一个月后变成坑。我 8 月 21 日发布的 OpenRouter 免费模型接入教程就是活例,主角模型 6 ...

4810

给 Agent 装技能:一套可落地的 Skill 机制设计

Archive

做 Agent 应用的人大多会走到同一个岔路口:模型本身越来越强,但"能力"却越来越难管。

7110

推理成本显性化之后:端云协同语音系统的模型分层路由设计

用户12531518

信号一:推理成本首次成为财报单列项。 某头部云厂商最新一季财报首次将 AI 应用业务单独披露:该板块收入约 33 亿元,经调整 EBITA 亏损约 139 亿元...

3700

GLM-5.3-Flash部署完整教程:从 API、单机异构到多卡生产服务

ai建国

智谱在 2026 年发布的 GLM-5.3-Flash 是一款约 320B 总参数、18B 激活参数、支持 1M token 上下文和原生图像/视频输入的混合架...

31110

2026算法备案全流程实操指南:从材料准备到拿证,一文讲透

AI算法大模型备案科普

写在前面:2026年7月17日,国家网信办发布第十八批深度合成服务算法备案信息公告,本批次共 706 个算法通过备案、涉及 620 家主体。截至本批,算法备案已...

6110

AI Infra 系列 · 第四章 推理引擎 (下):投机解码、量化、KV 池化、MoE 并行,一张卡当两张用

dongdonglog

decode 慢的根源是串行:一次只能生成一个 token,每步都要把全部权重搬一遍。

11120

深度解析大模型优化核心原理:详解模型微调、LoRA、量化底层逻辑与应用实践20.7

未闻花名

刚入门做大模型开发时,最开始只会直接调用现成的开源模型,勉强满足基础的对话使用需求。但真正落地项目后,很快就遇到了瓶颈:通用模型不懂业务场景、回答不精准,想要适...

27170

AI Infra 系列 · 第四章 推理引擎 (上):为什么 LLM 一次只蹦一个 token,vLLM 和 SGLang 到底差在哪

dongdonglog

推理是单行道:用户的问题(prompt)先整体算一遍(这叫 prefill),然后一次只能生成一个 token(这叫 decode)。生成第 2 个 token...

21320

AI拟人化互动服务新规解读:AIGC开发者需要掌握的合规要点

aigc合规师虎虎

佛山迫无科技 | aigc合规师 (已认证)

2026年4月10日,国家网信办联合国家发展改革委、工业和信息化部、公安部、市场监管总局公布《人工智能拟人化互动服务管理暂行办法》(下称《办法》),自7月15日...

11510
领券