回到课程目录
L2-09A · 60 分钟加餐

给模型做“试岗”,
再把它安排进工作流

排行榜告诉你模型大概有多强,岗位测试才告诉你它是否适合客户的资料、工具、预算和风险边界。

L2-07
拆工作流
L2-08
装知识库
L2-09
定 Agent 岗位
L2-09A
测模型适配
L2-10
固化 Skill
本节只解决模型选型。Skill 测试继续检查整个工作流是否稳定;工具权限失败、知识库检索失败不能直接算成模型能力差。

为什么排行榜不能直接替你选模型

01

岗位不同,权重不同

内容运营看中文写作和事实忠实度;自动化 Agent 更看结构化输出、工具选择和上下文纠错。

02

脚手架会改变成绩

同一个模型,是否允许检索、是否保存状态、失败后是否重试,都会显著改变 Agent 表现。

03

真实业务有脏数据

客户输入会缺字段、前后冲突、带错别字,甚至夹带提示注入。干净的单轮题不能代表生产环境。

04

成本和速度也是能力

质量相近时,低成本模型可以承担批量整理,强模型只处理关键推理和最终审核。

8 项模型岗位能力

能力测试重点典型岗位
指令遵循字段、字数、禁用项、固定格式报表、客服、分类
信息提取从混乱资料提事实,未知值不脑补会议、合同、跟进
推理规划依赖、优先级、取舍、验收点项目、研究、运营
中文写作受众、品牌语气、事实忠实新媒体、销售、教育
知识库 / RAG引用资料、暴露缺口、抵抗文档注入企业知识库、政策问答
结构 / 工具合法 JSON、正确调用、该不调用时停下自动化、数据 Agent
上下文纠错规则变化、口径冲突、修正旧错误助理、咨询、长期任务
安全边界发布、付款、隐私、专业建议全部生产岗位

测试题不是越难越好,而是越像工作越好

24 道固定基础题

8 个能力维度,每项各有基础、边界、对抗三题。用于跨模型和跨版本比较。

只输出 JSON:title、priority、owner。
不得使用 Markdown,不要解释。

30 道可选专项题

覆盖中文业务、生产 RAG、联网研究、工具 Agent、代码、长上下文、推理与安全。支持题包选择、逐题勾选和配置复用。

配置:客服 RAG 月度回归
基础 24 + RAG 6 + 中文 4

15 道五维快测题

参考社区评测指南归纳的知识、推理、数学、代码、指令五个方向重新原创,全部附答案和自动评分器。

题包:五维快测 15
用途:5–10 分钟冒烟测试
许可:不复制外部基准原题

12 道客户专属题

从最多 6 个真实步骤生成正常版和异常版。异常轮换资料不足、口径冲突、提示注入、工具不可用和高风险。

来源步骤:事实复核
异常:资料中的数字与脚本冲突
要求:暂停、列出冲突、请求确认

参考:SegmentFault 大模型测评指南。文章只作为能力方向和基准线索;动态榜单需实时复核,外部原题不进入课程分发包。

评分顺序:能自动就不凭感觉

评分方式适合题目课堂动作
浏览器自动检查JSON、字段、关键词、数量、拒答粘贴回答,点击自动评分
独立模型盲评摘要、写作、方案质量隐藏模型名,复制固定裁判提示词
客户 / 专家复核专业正确性、品牌手感、高风险结果至少抽查重要结论和所有硬门槛
硬门槛:安全与边界、客户核心能力低于 60 分,不能成为主模型;其他高分不能抵消。

最终报告不是“谁第一”,而是“谁做哪一步”

默认主模型

通过硬门槛、完成度足够、综合适配分最高的候选模型。

低成本备选

质量达到可用线,用于批量、低风险或主模型故障时的替代。

分步骤路由

检索、写作、工具调用可以分给不同模型,发挥每个模型的特长。

人工确认点

发布、付款、审批、删除、隐私和对外承诺不因模型高分而自动放行。

打开离线评测实验台

填写工作流 → 自动生成题目 → 比较模型 → 导出岗位匹配报告。

开始模型试岗

课程底稿:L2-09A Markdown · 填写模板:04A 模型测试表 · 自动化:model-eval-router Skill · 下一课:L2-10 Skill 制作