模型

JoyToken 支持两种模型选择方式:model: "auto" 自动路由,或指定模型目录里的具体 model_key

推荐选择

场景写法
新接入model: "auto"
成本优先model: "auto" + tier: "economy"
默认平衡model: "auto" + tier: "standard"
质量优先model: "auto" + tier: "premium"
已完成评测的生产链路指定具体 model_key

自动路由

1{
2 "model": "auto",
3 "tier": "standard",
4 "messages": [
5 { "role": "user", "content": "Write a short onboarding message." }
6 ]
7}

auto 会在 API Key 策略、tier、钱包余额和模型池状态允许的范围内选择模型。

固定模型

1{
2 "model": "GLM-5",
3 "messages": [
4 { "role": "user", "content": "Write a concise release note." }
5 ]
6}

固定模型适合已完成评测的生产链路。它仍然会经过 API Key 策略、黑名单、tier 和钱包检查。

获取模型目录

调用模型目录前,先从 环境 选择并设置 JOY_TOKEN_API_BASE_URL

$curl "$JOY_TOKEN_API_BASE_URL/api/v1/models"

常用筛选:

$curl "$JOY_TOKEN_API_BASE_URL/api/v1/models?tier=standard&feature_tag=code"

模型字段

字段含义
model_key请求里的模型名
display_name展示名
tier计费和路由档位
provider模型提供方
feature_tags能力标签
customer_input_mtok输入价格,单位 Cr / MTok
customer_output_mtok输出价格,单位 Cr / MTok

模型列表能看到但请求失败

模型目录是平台可用模型,不代表每把 API Key 都能调用。失败时检查:

检查项说明
API Key 策略tier、黑名单、fixed model
请求来源 IP是否被 Key 策略允许
钱包和预算对应 tier 是否有余额
请求模型先用 auto 跑通,再换具体模型