LLM 可观测

最近更新时间:2025-11-27 17:12:11

我的收藏
本文为您介绍将一个 LLM 应用接入 LLM 可观测的操作教程。

准备工作

已注册腾讯云账号并完成实名认证。
如需注册腾讯云账号:点此 注册腾讯云账号
如需完成实名认证:点此完成 实名认证

操作步骤

步骤1:权限授予

如果使用子用户操作 LLM 可观测控制台,需要预先授予子用户访问 LLM 可观测的必要权限。
LLM 可观测复用应用性能监控(APM)的预设策略,实现快速授权。在大多数场景下,只需要使用QcloudAPMFullAccess(应用性能监控(APM)全读写访问权限)和QcloudAPMReadOnlyFullAccess(应用性能监控(APM)只读访问权限)这两个预设策略。
您可以在 访问管理控制台 通过搜索策略名称快速进行预设策略授权,让子用户正常访问 LLM 可观测,更多信息请参见 策略授予
如果需要根据具体的资源和操作进行精细化授权,请参见 自定义策略 进行操作。

步骤2:创建业务系统

LLM 可观测复用应用性能监控(APM)的业务系统,实现应用分类管理,每个业务系统有唯一的 Token,应用接入的时候需要指定 Token。可以在业务系统级别设置存储时长、上报限额等参数,也可以基于业务系统实现权限管理和分账,不同业务系统之间的监控数据完全隔离。关于业务系统的划分,请参见 如何划分业务系统
2. 在左侧菜单栏中选择 LLM 可观测 > 资源管理,选择需要新建业务系统的地域。
3. 业务系统管理页中选择对应的地域,单击新建
4. 按照提示填写业务名称,选择计费模式、上报地域、链路存储时长等信息,勾选相关协议并单击确定

步骤3:接入应用

2. 在左侧菜单栏中选择 LLM 可观测 > 应用列表。在应用列表管理页单击接入应用
3. 在数据接入页选择接入语言。
4. 在接入指南页选择接入协议类型上报方式
5. 根据页面指引接入应用。
6. 前往 应用列表 查看可观测数据。