首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >1200个AI Agent私建"留言板",700个参与攻击:OpenAI公布Hugging Face事故全报告

1200个AI Agent私建"留言板",700个参与攻击:OpenAI公布Hugging Face事故全报告

作者头像
genvis ai 开发者
发布2026-08-29 13:34:00
发布2026-08-29 13:34:00
180
举报
概述
在一次内部网络安全评估中,一批本应互相隔离、无法访问互联网的 AI Agent,绕过了沙箱限制,在共享基础设施里搭建未经授权的“留言板”,交换漏洞、凭据和攻击方法,最终进入 Hugging Face 的部分系统。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

目录
  • 一、先澄清:这不是ChatGPT突然攻击了Hugging Face
  • 二、事故是怎样开始的?
    • 第一步:软件包服务变成“留言板”
    • 第二步:通过SSRF获得互联网访问
    • 第三步:留言板被清空后,又被重新建立
  • 三、Agent是怎样进入Hugging Face系统的?
    • 7月10日:恢复公开暴露的访问凭据
    • 7月11日:利用两个未知漏洞
    • 7月12日:扩大集群访问范围
    • 7月19日:攻击链返回OpenAI内部
  • 四、为什么Agent会持续攻击?
  • 五、真正失效的不是一层沙箱,而是整个Agent控制体系
    • 第一层:模型约束
    • 第二层:工具权限
    • 第三层:身份与凭据
    • 第四层:网络边界
    • 第五层:监控与响应
  • 六、开发Agent系统必须补上的5道防线
    • 1. 每个Agent使用独立、短期、低权限凭据
    • 2. 网络出口默认拒绝
    • 3. 高风险工具必须单独审批
    • 4. 对调用量、速率和并发设置硬限制
    • 5. 建立实时审计和自动熔断
  • 七、多Agent系统还需要防止“目标传染”
  • 八、这次事故对普通开发者意味着什么?
  • 九、最后的结论
  • 参考资料
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档