Skip to content

模型配置 ​

一句话:把钥匙变成「能对话的模型」——平台、类型、参数都在这里定;每个模型还能一键发一次真实请求做可用性体检。

功能在哪 ​

  • 菜单路径:AI → 控制台 → 模型配置
  • 地址栏路由:/ai/console/model
  • 主要权限:菜单可见即可看列表;「新增」要 ai:model:create,行内「测试」要 ai:model:query,「编辑」要 ai:model:update,「删除」要 ai:model:delete

界面认识 ​

区域作用常用操作
查询区模型名字 / 模型标识 / 模型平台 / 状态「搜索」「重置」「新增」
列表序号 / 所属平台 / 模型类型 / 模型名字 / 模型标识 / API 秘钥 / 排序 / 状态(开关)/ 温度参数 / 回复数 Token 数 / 上下文数量 / 操作行内「测试」「编辑」「删除」;状态列开关
分页每页 20 条翻页

列比较多,窗口窄时表格要横向滚动,操作列固定在右侧不会滚走。

模型配置列表:12 列,操作列固定右侧;向量类模型没有温度等三个值

编辑模型弹窗:模型类型灰掉不可改,聊天类型才有温度/Token/上下文三项

「模型名字」与「模型标识」是两回事

名字给人看,可以改、可以重复;标识是发给厂商的模型 ID(如 qwen-plus、gpt-4o-mini),必须与厂商文档逐字一致——填错一个字符,每次调用都是 model not found。抄厂商控制台里的模型 ID,别手打。

编辑时「模型类型」是灰的:类型创建后不可改

模型类型(聊天 / 图像 / 音频 / 视频 / 向量 / 重排)在创建后锁定。要换类型只能删了重建;而模型可能被智能体、工作流引用,删之前先确认没人用。

常用操作 ​

新增模型 ​

必填:所属平台、模型类型、API 秘钥、模型名字、模型标识、模型排序、开启状态。选「聊天」类型时还会多出三项(也是必填):

字段取值含义
温度参数0 ~ 2越大越发散:问答、抽取类填低值,创作类可填高一点
回复数 Token 数0 ~ 8192单次回复的长度上限
上下文数量0 ~ 20随请求带上的历史消息条数

向量、重排等非聊天类型没有这三项,列表里对应格子是空的(见列表第 13 行)——它们不参与对话,只被检索与重排链路调用。

启用 / 停用:状态列上的开关 ​

与密钥页同一套交互:往启用方向直接生效,往停用方向弹二次确认。

停用模型的二次确认:候选链立刻少掉它,钉住它的任务不切换

停用模型的两个后果(确认框原文)

「确认禁用模型「×××」?禁用后所有 AI 调用的候选链立刻少掉它;已经钉住这个模型的进行中任务不会切换到别的模型,而是直接报『本次任务已钉住模型,它现在不可用』。」

候选链只由启用中的模型组成,所以停用是「让它立刻从生产调用里消失」的开关;反过来,启用就是让它重新入链。

启用=清掉这个模型的失败冷却

失败冷却按「模型更新时间 | 密钥更新时间」判活,点一次启用会刷新模型更新时间,冷却立即解除。改完配置想马上验证,「停用再启用」一次最快。

测试:一次真实的可用性体检 ​

行内「测试」打开弹窗,弹窗一开就自动发一次真实的最小对话请求(会消耗少量 token),不用你再点「开始测试」。

测试成功:模型可用(耗时 1.7s),带回复片段、token 用量与七格事实表

测试失败:模型不可用 + 厂商原始响应逐字 + 底部失败分型说明

  • 成功:绿色「模型可用(耗时 ×s)」,下面给回复片段与 token:输入 × / 输出 ×;
  • 失败:红色「模型不可用(耗时 ×s)」,下面给「厂商原始响应(逐字)」——厂商回什么就原样贴什么,不做加工;
  • 事实表七格:所属平台 / 模型标识 / 端点路由 / 思考模式 / 耗时 / 模型状态 / 密钥状态。排障时先看后两格:哪一格是「关闭」,问题就在哪一层;
  • 「端点路由」「思考模式」两格只对通义平台有意义,其他平台显示「不适用(非通义平台)」;
  • 弹窗右下角的「超时 ×秒」(5 ~ 120,步长 5)只对下一次测试生效;厂商慢的时候调大,避免把慢当成挂。

底部的「分型」是本系统的判断,不是厂商的说法

失败结论下面有一行分型说明,三档后果不同:

分型生产链遇到它时冷却
QUOTA 额度类判本次调用失败,不切换候选30 分钟
CONFIG 配置类切到下一个候选本模型 30 分钟(改好配置或停用再启用可立即解除)
TRANSIENT 瞬时类切到下一个候选60 秒

测试弹窗会把当前这档的后果写全;同一故障在测试弹窗里只影响这一次体检,在真实对话里才走上面这套切换与冷却。

视角对照 ​

视角看到什么
租户管理员 docadmin全部模型与增删改、启停、测试
普通员工 salesman01没有这组菜单,直接敲地址整页 404(同API 密钥的视角对照截图)

进阶 ​

  • 模型与钥匙是多对一:一把钥匙挂多个模型;钥匙停用=这些模型一起出局,见API 密钥;
  • 「排序」小的在前,列表与下拉都按它排;同平台挂多个模型时,用它把主力模型排前面;
  • 列表里启用与停用的模型混排,状态列一眼可辨:只有启用中的模型会进入候选链,停用行只是台账;
  • 测试成功只代表「此刻这把钥匙 + 这个标识能通」;助手答不答还取决于 AI 助手侧的总开关与智能体绑定(见本章后续页面)。

常见问题 ​

Q:测试报 401 / Unauthorized / AuthenticationError? A:钥匙的问题,不是模型的问题:密钥错、过期或格式不对。看事实表「密钥状态」是否关闭,再去API 密钥换一把或重新粘贴真密钥。

Q:测试成功,但 AI 助手不回答? A:助手链路还有两道闸:AI 助手的总开关、以及智能体绑定的模型。先确认总开关是开的,再确认对应模型处于启用状态。

Q:为什么「模型类型」改不了? A:创建后锁定(编辑弹窗里该下拉是灰的)。换类型只能删了重建,删之前确认没有智能体 / 工作流在引用它。

Q:温度参数、回复数 Token 数、上下文数量填多少合适? A:问答与抽取类:温度 0 ~ 0.5、上下文 10 左右;创作类:温度 0.8 ~ 1.2。回复数 Token 数按业务最长回复估,填太小回复会被截断。三项只对聊天类型生效。

Q:向量类模型为什么没有温度等三个值? A:它们不做对话,只被检索 / 重排链路调用,这三个参数对它们没有意义,表单里也不出现。

相关页面 ​

  • API 密钥:模型挂的钥匙在这里维护;
  • 字典管理:模型类型、平台两个下拉的取值来源。