首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >免费开源 AI 安全检测平台,覆盖 1900+ CVE、14 类风险

免费开源 AI 安全检测平台,覆盖 1900+ CVE、14 类风险

作者头像
勇哥AI笔记
发布2026-07-11 10:24:36
发布2026-07-11 10:24:36
5980
举报
文章被收录于专栏:技术人生黄勇技术人生黄勇

之前发过一些使用AI时的安全问题报道:

不用一个违禁词 让 Claude 说出炸药配方|红队攻击实录

89.2%攻击成功率!腾讯、字节研究发现 OpenClaw Agent 存在可利用结构性漏洞

有朋友问,有没有可以对AI进行安全检测的工具,可以对大模型、Agent、技能Skill、基础设施进行扫描?

有的,今天推荐你使用腾讯朱雀实验室开源的 AI-Infra-Guard(简称 A.I.G)。

它是什么?

AI-Infra-Guard 是一个一站式 AI 红队安全测试平台。

它能干五件事:

  1. 1. AI 基础设施漏洞扫描:连接你正在运行的 AI 服务,自动识别组件版本,匹配 1900+ 已知 CVE 漏洞。
  2. 2. MCP Server 与 Agent Skill 安全审计:检测 14 大类安全风险,支持源代码上传和远程 URL 两种方式。
  3. 3. Agent 工作流安全扫描:评估 Dify、Coze 等平台上的 AI Agent 是否存在失控风险。
  4. 4. OpenClaw 安全体检:一键检测 OpenClaw 的不安全配置、Skill 风险、CVE 漏洞和隐私泄露。
  5. 5. 大模型越狱评估:用精选数据集和越狱攻击算法,测试你部署的模型能不能扛住攻击。

你把 AI 系统跑起来之后,用 A.I.G 扫一遍,它会生成报告:哪里有风险、每个漏洞的严重等级、以及如何修复。

• A.I.G 目前能识别 100+ 种 AI 开源 Web 组件,指纹库覆盖 Ollama、ComfyUI、vLLM、n8n、Triton Inference Server、llama.cpp、sglang 等主流框架。

• 漏洞规则库包含 1900+ 已知 CVE,并且持续更新。

• MCP Server 安全检测覆盖 14 大类风险,从指令劫持到系统持久化驻留。

核心能力

AI 基础设施漏洞扫描:连上就能扫

这是 A.I.G 最直接的功能。

你不需要上传代码,不需要配什么配置文件。只要告诉它目标地址:

  • • 本地 vLLM 实例:http://127.0.0.1:8000
  • • 内网 Ollama 服务器:http://192.168.1.100:11434
  • • ComfyUI 实例:http://10.0.0.5:8188
  • • 批量扫描内网:192.168.1.0/24(CIDR 格式)

A.I.G 会主动连接目标,通过指纹识别判断是什么 AI 组件、什么版本,然后自动匹配漏洞库里的 CVE。

扫描结果会告诉你:这个组件是什么版本、命中了哪些漏洞、每个漏洞的 CVSS 严重等级、以及对应的修复建议链接。

MCP Server 安全审计:SkillTrustBench 分类法

MCP(Model Context Protocol)是 Anthropic 推出的 AI 模型与外部工具之间的标准协议,相当于给 AI 配了一个"万能接口"。

问题在于,这个万能接口如果被投毒,后果比传统 API 漏洞严重得多:AI 可以直接被操控去执行恶意操作。

A.I.G 的 MCP 安全扫描基于 SkillTrustBench 分类法,将风险分为四层九类:

A 层:指令与记忆层

  • • T01 技能指令劫持:攻击者修改 Skill 的系统提示词,让 AI 执行非预期行为。
  • • T02 Agent 记忆投毒:往 AI 的长期记忆里塞入恶意信息,影响后续所有对话。

B 层:代码执行通道

  • • T03 远程载荷下载执行:Skill 从远程地址拉取并执行恶意代码。
  • • T04 内嵌恶意代码:Skill 代码里本身就藏着后门或恶意逻辑。

C 层:系统权限与持久化

  • • T05 越权访问与提权:Skill 利用漏洞获取本不应有的系统权限。
  • • T06 系统持久化驻留:Skill 修改系统配置,保证自己重启后还在。

D 层:工具链与依赖层

  • • T07 工具劫持与伪装:Skill 伪装成合法的系统工具,劫持正常调用链。
  • • T08 不安全依赖:Skill 依赖了有已知漏洞的第三方库。

E 层:Skill 自身安全质量

  • • T09 不安全编码:Skill 代码本身存在硬编码密钥、拼接命令等不安全写法。

可以传 GitHub 仓库地址,也可以直接上传本地代码压缩包。

以 Claude Opus 4.6 为例,F1 值达到 0.9848,精确率 0.9725,召回率 0.9974,误报率只有 6.6%。

Agent 工作流安全扫描

很多人用 Dify、Coze 这类低代码平台搭 Agent,搭完之后几乎不会做安全审查。

A.I.G 的 Agent Scan 模块就是干这个的。

它支持 WebSocket 接入,可以直接连接到运行中的 Agent 工作流,评估其在多步操作中的安全风险。

包括且不限于:Agent 在执行过程中是否会被注入恶意指令、工具调用链是否存在篡改可能、以及多 Agent 协作时是否存在权限泄露。

这个模块还支持在 OpenClaw 中以 Agent Skill 的方式直接调用。

大模型越狱评估

模型本身的护栏够不够坚固?

A.I.G 提供了一套自动化评估方案。

你需要在设置里配好目标模型的 API 地址和 Key,选择评估数据集,然后启动扫描。

A.I.G 会用内置的越狱攻击算法(v4.1.14 新增了 9 种单轮越狱攻击方法)对模型进行测试,输出每个攻击类型的绕过率,并支持跨模型横向对比。

这个功能对模型选型比较有用。

但是建议谨慎使用,搞不好账号被封,也是一项损失。

安装

A.I.G 最简单的部署方式是一键脚本:

代码语言:javascript
复制
curl https://raw.githubusercontent.com/Tencent/AI-Infra-Guard/refs/heads/main/docker.sh | bash

或者用 Docker Compose:

代码语言:javascript
复制
git clone https://github.com/Tencent/AI-Infra-Guard.git
cd AI-Infra-Guard
docker-compose -f docker-compose.images.yml up -d

硬件要求不高:Docker 20.10+,4GB 内存,10GB 磁盘空间。

启动后访问 http://localhost:8088,就是完整的 Web 管理界面。

如果你想单独用 MCP/Skill 扫描能力,也可以 pip 安装:

代码语言:javascript
复制
pip install aig-skill-scan

# 设置 API Key
export LLM_API_KEY="your-api-key"

# 扫描本地 Skill 项目
aig-skill-scan --repo /path/to/your/skill \
           -m deepseek-v4-flash \
           --language zh \
           -o result.json

如果你在用 OpenClaw,直接装个 Skill:

代码语言:javascript
复制
clawhub install aig-scanner

然后在 OpenClaw 里就能直接调用 A.I.G 的扫描能力。

作者

A.I.G 背后的团队是腾讯朱雀实验室(Tencent Zhuque Lab),2019 年成立,研究方向集中在大模型安全、AI 智能体安全和 AI 赋能安全。

它把 AI 安全自查的门槛,从专业团队才能完成的工作内容,降到了普通开发者就可以自行部署上线,进行基本的安全扫描检测。

开源、免费、一键部署、覆盖全面。

如果你正在使用 Agent 或者开发 AI 应用,不妨花十分钟拉一个镜像,扫描一下你的 AI。

你考虑过 AI 的安全吗?

欢迎评论区留言。


项目地址:https://github.com/Tencent/AI-Infra-Guard 官方文档:https://tencent.github.io/AI-Infra-Guard/

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2026-07-09,如有侵权请联系 cloudcommunity@tencent.com 删除
目录
  • 它是什么?
  • 核心能力
    • AI 基础设施漏洞扫描:连上就能扫
    • MCP Server 安全审计:SkillTrustBench 分类法
    • Agent 工作流安全扫描
    • 大模型越狱评估
  • 安装
  • 作者
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档