跳转到内容

模型配置

在左侧推理(Inference)下打开模型(Models)页面。模型是网关的门面目录:客户端请求中的 model 会先匹配这里维护的条目,再结合 路由配置 决定使用哪个上游。你可以在页面中新建、编辑或导入预设,并维护分层定价;列表中还会提示与模型相关的路由情况。

OctaFuse 管理后台模型(Models)页面展示模型目录、厂商筛选、能力字段和分层定价。
模型页面维护客户端可见的模型目录,包括模型标识、能力、厂商、路由状态和定价信息。
  1. 打开模型(Models)页面。
  2. 新建或编辑:设置与客户端和路由中一致的模型标识展示名称厂商等表单字段;按需填写上下文长度、输出上限等信息(以界面为准)。
  3. 从目录导入:使用内置模型目录批量预填,导入后请核对并保存。
  4. 定价:在页面中的分层定价编辑器里维护各档位价格(界面金额单位会随全局计费币种设置变化)。
  5. 保存后:务必在 路由配置 中为该模型添加至少一条状态为 active 的路由,否则客户端无法正常路由。
  6. 能力与计费模式:图片模型需核对 image_billing_modetoken / per_image),语音转写模型需核对 audio_billing_modetoken / per_second);默认的 hash_affinity 路由策略会在协议粒度稳定首选同一供应商。

可使用 基础模型标识,或使用 基础模型标识:路由组(例如 my-model:free)以指定路由组;路由组名称须与路由页配置一致。更完整的协议说明见 GitHub 技术参考

接口鉴权典型用途
GET /v1/models用户 sk-…智能体(Agent)与 SDK;默认仅返回 LLM,可用 kind=image / kind=audio / kind=all
GET /catalog/models门户公开发现;按 active 路由聚合协议与路由组

二者不是同一响应形态,请勿混用。图片生成定价见 图片生成 / 编辑