路由

路由决定一次请求最终使用哪个模型和 provider。新接入建议先用 model: "auto",再通过 tier 和 API Key 策略控制范围。

常用写法

目标请求写法
自动路由model: "auto"
指定档位model: "auto" + `tier: “economy"
固定模型model: "GLM-5"
让 Key 只能用一个模型在 API Key 策略设置 fixed model
禁止模型在 API Key 策略设置 blacklist

Tier

Tier适合场景
economy成本优先、批处理、低风险任务
standard默认平衡档
premium高质量或关键生产任务

钱包回退

当请求使用 model: "auto",且当前 tier 余额不足时,JoyToken 可在策略允许范围内尝试其他 tier。

当前 tier回退顺序
premiumstandard -> economy
standardpremium -> economy
economystandard -> premium

固定模型请求不会自动换模型。余额或预算不足时会返回 402 insufficient_quota

确认路由结果

信号说明
X-DAOE-Used-Model实际命中的模型
X-DAOE-Used-Provider实际服务请求的 provider
metadata.modelJoyToken 最终模型
metadata.tier实际计费/路由档位
metadata.billingCredits 和 token 消耗

常见排查

现象优先检查
tier 不允许API Key 策略是否允许该 tier
模型不允许fixed model 或模型黑名单
IP 不允许服务端出口 IP 是否在白名单
auto 失败策略、tier、余额过滤后是否还有候选模型
固定模型失败模型是否可用,钱包和预算是否足够