查看 Memory 用量统计

最近更新时间:2026-07-07 17:21:00

我的收藏

操作场景

用量统计是云数据库 Agent Memory(TencentDB Agent Memory)用于统计实例 Credit(计费积分)消耗与 Token 用量的可视化页面。页面支持按实例、来源、用户和时间范围筛选,并通过成本监控(Credit)、Token 监控和使用明细三个功能页签,分别呈现 Credit 消耗汇总与分布、Token 输入/输出/缓存吞吐,以及单次请求的调用流水。该功能主要适用于以下场景:
成本归因与账单核对:当月度 Credit 消耗超出预期时,可按消耗来源拆解开销,判断成本主要来自业务调用本身,还是记忆系统;再结合各模型、各实例的消耗分布,定位是哪个模型或哪条业务线拉高了账单,为切换模型、优化调用策略提供依据。
用量异常排查:当某一时段 Credit 或 Token 用量突然飙升时,可通过趋势图定位异常发生的具体时间段,并借助使用明细逐条核对该时段的请求,快速判断是正常的业务高峰,还是批量任务未加限流、客户端重试风暴等非预期调用,及时止损。

操作步骤

步骤 1:进入用量统计页

2. 在左侧导航栏中选择 用量统计

步骤 2:设置筛选条件

页面顶部提供以下筛选条件,支持联动筛选:

筛选项
参数含义
联动与数据表现
实例
全部实例:聚合所有实例,呈现全局数据。
特定实例:查看单个实例详情,用于独立核算。
切换特定实例后,“User”筛选范围将联动刷新。
消耗来源
全部来源:包含所有途径的消耗。
业务调用:业务请求产生的模型费用。
记忆系统:长期记忆数据组织和提炼的消耗。
默认选中“全部来源”。
User
全部用户:查看该实例下的总体用户消耗。
特定用户:查看该实例下具体某位用户的消耗数据。
若实例选择为全部实例:本下拉框置灰,不可选择。
若实例选择为特定实例:本下拉框解锁,支持选择具体用户,图表和数据将联动刷新。
时间范围
快捷时间:快速切换近 24 小时近 7 天近 30 天
自定义时间:自主选择精确的起止时间,最大跨度为 60 天。
图表颗粒度联动:
选择近 24 小时,图表按小时/分钟级呈现。
选择近 7 天/近 30 天,或更多天数,图表自动按天级呈现。

步骤 3:查看不同维度的用量统计

用量统计页提供三个功能页签,分别从不同视角呈现消耗分析。您可以根据审计需求切换对应页签,查看以下多维度的可视化数据图表与流水明细:

成本监控(Credit)

展示 Credit(算力) 的总消耗量、消耗趋势、各模型及实例的消耗分布,方便您直观查看算力花费并进行财务对账。

核心监控图表/模块
含义
Credit 总消耗
展示指定筛选条件下的 Credit 累计消耗总量及对应等值金额,作为财务对账和总预算控制的核心指标。
预计节省 Credit
展示系统根据业务调用(提示词)动态匹配不同模型所预计帮您节省的 Credit 总量及等值金额。
节省比例
展示节省的 Credit 占总应消耗(实际消耗 + 预计节省)的百分比,用以直观评估整体的控本效率。
Credit 消耗趋势
以时间序列曲线图呈现实际 Credit 消耗与预计节省比例的趋势。
各模型 Credit 消耗
以横向柱状图呈现。展示不同大模型的调用次数与 Credit 消耗占比,便于优化模型选型结构。
按实例 Credit 消耗
当前置筛选为“全部实例”时展示。横向对比不同业务实例(如各类 Agent 实例)的 Credit 消耗量及各自的节省比例,快速识别哪个 AI 业务线最消耗资源。
按 User Credit 消耗
当前置筛选为“特定实例”时展示,以列表展示该实例下各 User 的 Credit 消耗量及各自的节省比例。

Token 监控

Token 监控页面主要展示 Token 的输入量、输出量、缓存命中率以及趋势分布,帮助您精准掌握大模型底层算力的吞吐规模与活跃度,便于研发人员进行性能调优与容量规划。

核心监控图表/模块
含义
输入 Token
用户发给大模型的提问、提示词所包含的字数/Token 总量。
输出 Token
大模型生成并返回的回复内容所消耗的 Token 总量。
Cache Write
未命中缓存时,首次输入并写入缓存系统的 Token 量。
Cache Read
命中缓存时,直接从缓存系统中读取并复用的 Token 量。
Cache 命中率
缓存 Token 占总输入 Token 的百分比,用以评估缓存策略的优化空间。
Token 用量趋势
以曲线图呈现输入、输出、Cache Read 以及Cache Write Token 随时间轴的波动,便于观测业务流量的高峰与低谷。
各模型 Token 用量
以横向柱状图对比不同大模型实际消耗的 Token 规模与调用次数,协助进行模型选型。
各实例 Token 用量
当前置筛选为“全部实例”时展示,以列表展示各业务实例的总 Token、输入、输出及缓存明细,用于衡量各业务线的 AI 活跃度。
按 User Token 用量
当前置筛选为“特定实例”时展示,以列表展示该实例下各 User 消耗的总 Token、输入、输出及缓存明细,用于精细化分析单个实例内部各用户的 AI 活跃度与消耗画像。

使用明细

以流水表形式展示单次请求的精确时间、调用模型、Token 消耗以及实际扣除的 Credit(计费积分)明细,方便您进行单笔调用的故障排查与精准对账。

字段
说明
时间
请求发生的精确时间(精确到秒),便于进行单次调用的故障排查与对账。
实例
展示当前消耗产生的实例名称及实例 ID。
来源
计费组件的产生来源。主要分为业务调用(业务请求产生的模型费用)与记忆系统(数据组织和提炼的消耗)两大类。
用户
发起本次请求的终端用户 ID,用于监控和分析单个用户的资源消耗情况。
模型
本次请求最终调用并执行的具体大模型。
输入
用户向模型发送的原始提示词(Prompt)内容简述。
输入 Token
用户发送的提示词(Prompt)所消耗的 Token 数量。
输出 Token
大模型生成并返回的内容所消耗的 Token 数量。
Cache Write
本次请求中写入缓存以供后续复用的 Token 数量。
Cache Read
本次请求中成功命中并直接从缓存中读取的 Token 数量。
Credit
本次请求实际扣除的计费 Credit(积分)。系统将不同模型的 Token 消耗统一折算为积分进行扣费。
节省比例
指业务调用过程中,通过动态匹配不同模型所减少的模型消耗量/费用占比。该数值基于标准资费动态估算,仅供技术优化参考。