模型配置
在左侧推理(Inference)下打开模型(Models)页面。模型是网关的门面目录:客户端请求中的 model 会先匹配这里维护的条目,再结合 路由配置 决定使用哪个上游。你可以在页面中新建、编辑或导入预设,并维护分层定价;列表中还会提示与模型相关的路由情况。

在管理台里要做什么
Section titled “在管理台里要做什么”- 打开模型(Models)页面。
- 新建或编辑:设置与客户端和路由中一致的模型标识、展示名称、厂商等表单字段;按需填写上下文长度、输出上限等信息(以界面为准)。
- 从目录导入:使用内置模型目录批量预填,导入后请核对并保存。
- 定价:在页面中的分层定价编辑器里维护各档位价格(界面金额单位会随全局计费币种设置变化)。
- 保存后:务必在 路由配置 中为该模型添加至少一条状态为
active的路由,否则客户端无法正常路由。 - 能力与计费模式:图片模型需核对
image_billing_mode(token/per_image),语音转写模型需核对audio_billing_mode(token/per_second);默认的hash_affinity路由策略会在协议粒度稳定首选同一供应商。
客户端 model 怎么写
Section titled “客户端 model 怎么写”可使用 基础模型标识,或使用 基础模型标识:路由组(例如 my-model:free)以指定路由组;路由组名称须与路由页配置一致。更完整的协议说明见 GitHub 技术参考。
/v1/models 与 /catalog/models
Section titled “/v1/models 与 /catalog/models”| 接口 | 鉴权 | 典型用途 |
|---|---|---|
GET /v1/models | 用户 sk-… | 智能体(Agent)与 SDK;默认仅返回 LLM,可用 kind=image / kind=audio / kind=all |
GET /catalog/models | 无 | 门户公开发现;按 active 路由聚合协议与路由组 |
二者不是同一响应形态,请勿混用。图片生成定价见 图片生成 / 编辑。