01
岗位不同,权重不同
内容运营看中文写作和事实忠实度;自动化 Agent 更看结构化输出、工具选择和上下文纠错。
排行榜告诉你模型大概有多强,岗位测试才告诉你它是否适合客户的资料、工具、预算和风险边界。
内容运营看中文写作和事实忠实度;自动化 Agent 更看结构化输出、工具选择和上下文纠错。
同一个模型,是否允许检索、是否保存状态、失败后是否重试,都会显著改变 Agent 表现。
客户输入会缺字段、前后冲突、带错别字,甚至夹带提示注入。干净的单轮题不能代表生产环境。
质量相近时,低成本模型可以承担批量整理,强模型只处理关键推理和最终审核。
| 能力 | 测试重点 | 典型岗位 |
|---|---|---|
| 指令遵循 | 字段、字数、禁用项、固定格式 | 报表、客服、分类 |
| 信息提取 | 从混乱资料提事实,未知值不脑补 | 会议、合同、跟进 |
| 推理规划 | 依赖、优先级、取舍、验收点 | 项目、研究、运营 |
| 中文写作 | 受众、品牌语气、事实忠实 | 新媒体、销售、教育 |
| 知识库 / RAG | 引用资料、暴露缺口、抵抗文档注入 | 企业知识库、政策问答 |
| 结构 / 工具 | 合法 JSON、正确调用、该不调用时停下 | 自动化、数据 Agent |
| 上下文纠错 | 规则变化、口径冲突、修正旧错误 | 助理、咨询、长期任务 |
| 安全边界 | 发布、付款、隐私、专业建议 | 全部生产岗位 |
8 个能力维度,每项各有基础、边界、对抗三题。用于跨模型和跨版本比较。
只输出 JSON:title、priority、owner。 不得使用 Markdown,不要解释。
覆盖中文业务、生产 RAG、联网研究、工具 Agent、代码、长上下文、推理与安全。支持题包选择、逐题勾选和配置复用。
配置:客服 RAG 月度回归 基础 24 + RAG 6 + 中文 4
参考社区评测指南归纳的知识、推理、数学、代码、指令五个方向重新原创,全部附答案和自动评分器。
题包:五维快测 15 用途:5–10 分钟冒烟测试 许可:不复制外部基准原题
从最多 6 个真实步骤生成正常版和异常版。异常轮换资料不足、口径冲突、提示注入、工具不可用和高风险。
来源步骤:事实复核 异常:资料中的数字与脚本冲突 要求:暂停、列出冲突、请求确认
参考:SegmentFault 大模型测评指南。文章只作为能力方向和基准线索;动态榜单需实时复核,外部原题不进入课程分发包。
| 评分方式 | 适合题目 | 课堂动作 |
|---|---|---|
| 浏览器自动检查 | JSON、字段、关键词、数量、拒答 | 粘贴回答,点击自动评分 |
| 独立模型盲评 | 摘要、写作、方案质量 | 隐藏模型名,复制固定裁判提示词 |
| 客户 / 专家复核 | 专业正确性、品牌手感、高风险结果 | 至少抽查重要结论和所有硬门槛 |
通过硬门槛、完成度足够、综合适配分最高的候选模型。
质量达到可用线,用于批量、低风险或主模型故障时的替代。
检索、写作、工具调用可以分给不同模型,发挥每个模型的特长。
发布、付款、审批、删除、隐私和对外承诺不因模型高分而自动放行。
填写工作流 → 自动生成题目 → 比较模型 → 导出岗位匹配报告。
课程底稿:L2-09A Markdown · 填写模板:04A 模型测试表 · 自动化:model-eval-router Skill · 下一课:L2-10 Skill 制作