腾讯大模型全链路安全治理框架：覆盖从训练到智能体应用的风险防控

一、 识别大模型落地中的十大安全风险与基础设施挑战

企业数字化进入“大模型时代”，AI技术已成为新的生产驱动力。然而，随着应用深入，企业在模型落地过程中面临严峻的安全挑战。根据腾讯安全团队梳理，当前企业应用场景中存在十大常见安全风险，包括：

1. 样本投毒（数据污染）
2. 恶意利用（Prompt注入攻击）
3. 代码辅助工具数据泄露
4. 第三方代码依赖风险（开源模型/库污染）
5. 自动化Agent权限滥用误用
6. 自建模型平台暴露面过大
7. 模型数据和隐私泄露
8. 模型推理劫持（对抗样本攻击）
9. AI伦理与偏见放大
10. 开源模型滥用（深度伪造与辅助犯罪）

核心痛点： 大模型应用的安全风险结构复杂，涵盖应用安全（敏感信息泄露、API攻击）、运行环境安全（框架漏洞、开放数据集风险）、本体内生安全（数据泄露、供应链安全）及基础设施安全（操作漏洞、权限设置不当）。此外，新兴的MCP协议因设计初期缺乏基础安全控制，导致传统漏洞在AI环境中被放大，面临“木偶”攻击、工具投毒及跨服务器恶意调用链等新型威胁。

二、 构建覆盖全生命周期的防护体系与工具链

针对上述风险，腾讯构建了以天御大模型安全网关为核心，结合AI-SPM与LLM-WAF的纵深防御体系，覆盖模型训练、推理部署及业务应用全流程。

1. 边界与API安全：LLM-WAF 大模型智能安全防护网关

• 功能定义： 专为LLM设计的智能安全防护网关，提供多模型、多场景、高并发环境下的全链路防护。
• 核心能力：
  • 数据分级分类引擎： 精准识别身份证、手机号、社保卡、护照号、银行卡等敏感信息。
  • 混元内容安全大模型： 过滤社会、政治、色情、违法等不当内容。
  • 防护范围： 实时拦截算力滥用、提示词攻击、数据泄露及BOT攻击。

2. 风险态势感知：AI-SPM 大模型安全态势感知系统

• 资产测绘： 支持50+ 组件识别，通过主机层指纹匹配与网络指纹测绘，关联资产暴露状态。
• 风险检测：
  • 漏洞检测： 覆盖200+ 大模型组件漏洞及配置风险。
  • 网络扫描： 基于POC形式的精准检测（20+ 种）及基于版本的漏洞识别（200+ 种）。
• 攻击示警： 针对大模型组件漏洞的攻击行为进行监测，覆盖6类漏洞。

3. 智能体身份与访问控制：天御大模型安全网关

• 统一身份管理： 构建以 Agent ID 为核心的访问控制体系，解决统一身份缺失导致的安全缺口（越权访问、非法请求、数据泄露）。
• 身份范围扩展： 覆盖人（MFA、设备指纹）、AI Agent（有限授权Token、AgentCards）、服务（AKSK、能力清单）及工具（远端身份验证、数据权限）。
• 多重防线： 基于“规则+模型”构建身份、流量、工具、决策防线，包括攻击意图检测、语义理解、虚假工具识别及权限检查。

4. 数据安全与内容风控

• 全生命周期防护： 涵盖数据导出、静态/动态脱敏、数据加密、敏感数据分类分级、数据防泄漏及安全审计。
• 内容安全实践： 通过输入内容、模型识别、策略辅助、人工标注运营等6个维度，支撑大模型训练和推理，重点防范色情、暴恐、版权侵权等问题。

5. 攻防对抗：大模型安全Red Team

• 渗透测试： 由腾讯AI安全团队（分享人：李滨）主导，针对LLM和NLP系统进行深度测试，技术涵盖OpenAttack和TensorFlow Privacy。
• 测试基准： 建立大语言模型(LLM)安全性测评基准，覆盖通用漏洞评测（RCE、XSS、SSRF、越权）、提示注入、对话篡改及沙箱/容器逃逸等场景。

三、 量化的检测能力与防护指标

腾讯大模型安全解决方案通过体系化建设，实现了对风险的精准识别与管控：

1. 资产与漏洞覆盖： AI-SPM系统支持识别 50+ 种组件，检测 200+ 种大模型组件漏洞，并提供 20+ 种POC形式的精准网络扫描能力。
2. 攻击面监控： 系统能够针对大模型组件漏洞的 6类 攻击行为进行有效示警。
3. 全链路防护： LLM-WAF与天御安全网关结合，覆盖从数据采集、模型训练到推理部署的全生命周期，重点通过混元内容安全大模型与数据分级分类引擎实现自动化风险拦截。
4. 身份治理： 通过构建统一的Agent ID体系，有效释放权限类安全风险，覆盖人、智能体、服务、工具四大类实体的身份与访问控制。

四、 解析MCP协议与智能体应用生态风险

随着智能体（Agent）应用的普及，安全防护重点已延伸至工具交互层与生态协议层。

• MCP协议风险： 该协议在设计中缺乏审计追溯能力与默认安全配置，导致“漏洞债务”。攻击者可利用工具投毒（Tool Poisoning）、规划线路僭越（Line Jumping）及存储式提示注入等技术，实施“木偶”攻击或“地毯抽拉”攻击（Rug Pull）。
• 智能体应用场景风险点：
  • 交互层： 提示词注入/泄露、多模态接口攻击、侧信道注入。
  • 认知层： 流氓智能体、决策操纵、意图破坏。
  • 工具交互层： 身份仿冒、越权访问、命令注入/代码执行、跨智能体信息域越权。
• 防护策略： 天御大模型安全网关通过决策链安全（虚假工具识别、workflow检测）与执行安全（工具劫持识别、权限检查）构建防御纵深。

五、 依托腾讯安全治理框架与专家能力的综合保障

选择腾讯大模型安全方案，意味着获得基于实战经验与完整治理框架的深度保障：

• 安全治理框架： 依托腾讯大模型安全治理框架，覆盖安全运营（Red teaming、风险监测）、安全基准（标准、策略）、安全管控（训练过程、模型应用、数据安全）及基础设施安全（计算环境、身份安全），满足监管要求。
• 技术领先性： 方案融合了混元内容安全大模型的语义理解能力与数据分级分类引擎的精准识别能力。
• 专家团队： 由腾讯AI安全团队（李滨）提供技术支持，具备LLM渗透测试、对抗样本研究及红蓝对抗演习的实战能力，覆盖从底层算力芯片安全到上层应用逻辑安全的全栈防护。