开始前
- 权限:账号的「用户身份」是「系统管理员」。模型组是全局资源,不按项目隔离。
- 入口:左下角头像 →「系统设置」→ 左侧「模型组」。首次部署时初始化向导也会带你配一次。
- 准备一份接入信息:走 AskTable 托管算力只要「算力 API Key」;接自己的服务要 Base URL、API Key 和模型名。
- 私有部署要确认服务器能出网访问模型服务地址。
操作步骤
1
首次部署:走初始化向导
打开站点会进
/setup,顶部两个步骤:「创建管理员」「配置模型」。「配置模型」页有三张卡:点「完成配置」后进入项目列表。已经初始化过的站点不会再进这个向导。
2
打开模型组管理
左下角头像 →「系统设置」→ 左侧「模型组」。标题「模型组管理」,副标题「管理系统中的 LLM 模型组配置」,右上角「新建模型组」。左栏是模型组列表,每项显示「显示名称」(留空时显示「唯一标识」)和 Base URL,徽标有「官方」「默认」,非 OpenAI 协议的显示协议名(例如「Anthropic」)。右栏没选中时显示「选择一个模型组查看详情」;一个组都没有时左栏显示「暂无数据」。
3
新建模型组
点「新建模型组」,第一步「选择模型组类型」,三张卡:
- 「AskTable 官方」——「使用 AskTable 算力服务,只需填写算力 API Key」。
- 「OpenAI 兼容」——「接入第三方 LLM 服务,自由配置」。
- 「Anthropic 兼容」——「接入 Anthropic 协议的第三方 LLM 服务」。
asktable-)。自定义类型要填:点「创建」,按钮变成「创建中…」,成功提示「模型组创建成功」。官方类型会自动把 Base URL 写成
https://aiproxy.asktable.com/v1,并把三个角色预置成 asktable-fast、asktable-omni、asktable-agent。4
把模型加进可用列表
选中一个组,右栏「可用模型」区块:
- 手填:在「模型 ID(如 gpt-4o)」和「显示名称(可选)」两个框里填值,点「添加」;重名提示「模型已存在」。
- 拉取:点「Fetch」调上游的模型列表接口,把没见过的模型补进来,新补进来的默认关闭。
- 搜索与统计:搜索框提示「搜索模型…」,上方统计形如「共 N 个模型,M 个已启用(已启用排在前面)」。
5
逐个测通模型
点行内的「测试模型」(闪电图标),成功提示「模型 X 测试通过」,失败提示「模型 X 测试失败」。只把测通过的模型打开开关:「模型路由」的下拉里只列已启用的模型。
6
给三个角色分模型
「模型路由」区块有三行,角色名是 Fast、Omni、Agent,每行一个下拉。未选时显示「未指定」,可选值就是已启用的模型。改动即时保存,不需要再点保存按钮。
7
调模型选项
点某个模型的齿轮打开「模型选项」弹窗,说明是「配置 X 的选项」:
「思考参数」的 provider 选项是「不启用(不覆盖)」「DeepSeek(思考开关)」「OpenAI(reasoning_effort)」「通义千问 / DashScope(enable_thinking)」「自定义(原始 JSON)」。选到具体 provider 时,快速模式默认取最省档位、深度思考模式默认取较强档位,可以再改;选「自定义(原始 JSON)」时两个模式各给一个 JSON 文本框,JSON 写错会标红且不保存。「回传历史推理内容(reasoning_content)」的说明是「DeepSeek V4 等接续推理模型需开启;asktable-fast 等不接受该字段的模型必须关闭。」
8
设默认、克隆、删除
右栏右上角「更多」菜单里有两个操作:
- 「设为默认」:成功提示「已设为默认模型组」。默认组全站只有一个,也是没指定时的兜底。
- 「克隆模型组」:复制出一个标识加
-copy的组,凭证和模型配置一起带走。
9
决定项目用哪个组
默认情况下项目跟随系统默认组。要单独指定:左侧主导航 → 项目名右侧的「设置」→「通用」→「模型组」下拉,选项是「默认」「默认(组名)」或具体组名,占位提示「请选择模型组」。一个可用组都没有时提示「暂无可用模型组,请联系管理员配置模型。」
关键约束
以上数值都是默认值,可在管理后台调整。
