Astra Gate

概览

费用、请求数、Token、缓存命中率与平均 TTFT

概览页回答一个问题:「今天(或最近一段)用了多少」。右上角切换时间范围:今日 / 7 天 / 30 天 / 90 天,所有卡片和图表随之刷新;工具栏左侧的图标可以按客户端快速过滤(比如只看 Codex 的用量)。

Astra — 概览
概览页:指标卡、使用趋势柱状图与请求日志卡片
概览页(时间范围:今日)

指标卡

卡片含义
总成本时间范围内所有成功请求的计费总额(按模型单价逐项累加)
总请求数经过网关的请求总数
Token输入 + 输出总量;卡片下方标注了输入 / 输出的拆分
缓存命中率缓存命中 token ÷ 输入总量;下方是命中与写入量
成功率状态为「成功」的请求占比
平均 TTFT首 token 平均延迟(流式请求的体感指标)

Token 口径

「输入总量」已包含缓存命中与缓存写入,「输出总量」已包含推理 token——两项不会重复相加。 命中率 = 缓存读取 ÷ 输入总量。上游未返回用量的请求记为 0,不影响命中率以外的指标。

使用趋势

「使用趋势」卡片右上角可切换指标:请求数 / Token / 费用。

  • 「今日」按小时分桶,其他范围按天分桶;
  • 柱状图左侧显示每小时(或每天)平均值,右侧坐标轴辅助读数;
  • 悬停柱子可看具体数值。

明细入口

页面底部的卡片提供三个标签:请求日志 / 提供商 / 模型,直接在概览里翻看最近的请求明细,或按提供商、模型聚合;「查看全部」跳转到对应页面。想深挖某条请求,到请求日志即可。

还没有数据?

全新安装时概览页会给出网关地址提示(http://127.0.0.1:17321/v1)——把任意兼容客户端指过去, 发一条请求后这里就会亮起来。

On this page