谷歌 Apigee 添加了内置的 LLM 治理 Model Armor

作者 | Leela Kumili

译者 | 刘雅梦

策划 | 丁晓昀

谷歌云推出了 Model Armor 的 公开预览版，这是一个集成到 Apigee API 管理平台的原生大语言模型（LLM）治理框架。一篇社区帖子中详细介 绍了 Model Armor，它引入了针对 LLM 特定策略的即开即用执行，例如提示验证、输出过滤和 API 层的 token 级控制。

Model Armor 直接在 Apigee 的代理层运行，在那里它使用声明性策略检查请求和响应。它适用于所有 Apigee 层，允许团队无论他们的订阅级别如何，都能采用 LLM 治理。LLM API 实现了强大的新客户体验和自动化，但也引入了风险，例如提示注入（LLM 的一个 重要 OWASP 前 10 风险）攻击和敏感数据的暴露。

这些策略可以检测到越狱尝试、提示注入和个人身份信息（PII）暴露等问题，允许根据需要对输出进行编辑、更改或阻止，而无需修改下游系统。根据谷歌的说法，“有了 Model Armor，企业可以像对待传统 API 一样严格地对 LLM 流量进行同样的治理”。

这些控制用 Apigee 基于 XML 的策略语言表示，允许团队将 LLM 安全规则集成到现有 API 中。一个 实践教程 展示了如何应用这些策略，涵盖了提示检查、token 配额和与 Vertex AI 的集成。教程包括一个可下载的代理模板和配置 Model Armor 执行规则的分步指导。策略执行在代理层应用，以实现服务和端点之间的一致性。

Apigee 和 Model Armor 架构（来源：谷歌社区帖子）

Model Armor 支持多个 LLM 提供商，包括 Vertex AI（Gemini、Meta Llama）、OpenAI、Anthropic 和自托管模型，允许在异构架构中进行集中治理。

此外，谷歌已将 Model Armor 与 Google Kubernetes Engine（GKE）和 Security Command Center 集成。这允许组织直接在 GKE 集群中运行的推理网关或在负载均衡器上部署 Model Armor 策略。这些策略在模型提示和响应到达内部服务之前进行检查。任何违规行为都会作为安全发现出现在 Security Command Center 中，提供集中监控、预警和修复工作流程。这种集成加强了 Model-Armor 作为 LLM 流量治理和更广泛的云安全运营之间桥梁的地位。

Apigee 作为 LLM 应用程序和模型之间的网关（来源：谷歌社区帖子）

该框架为每次策略评估记录了详细的元数据，包括触发的过滤器和执行结果。这些日志输入到 Apigee 的可观测性和日志管道中，支持监控、异常检测和 LLM 行为的事后分析。

虽然其他 API 网关也提供了通用流量控制，但它们通常需要自定义中间件来实现模型级安全。Model Armor 旨在通过在 Apigee 中提供原生的 LLM 特定策略执行来消除这种复杂性。

原文链接：

https://www.infoq.com/news/2025/07/google-apigee-llm-model-armor/

声明：本文由 InfoQ 翻译，未经许可禁止转载。