L2-08B 本地生产级 RAG

本节升级：L2-08 解决“知识库是什么”；L2-08B 解决“怎样把本地知识库做成可运行、可验收、可更新、可回滚的生产 RAG”。

TRACK A / OFFLINE INGESTION离线建库

P1资料登记doc_id / 版本 / ACL / hash

P2解析与 OCR标题、页码、表格、代码

P3清洗去重隐私、页眉、重复、过期

P4结构化 Chunk按标题、条款、步骤、函数

P5父子与元数据parent_id / section_path

P6Embedding模型、维度、revision

P7Dense + Sparse向量语义 + 精确关键词

P8蓝绿索引验证后切 alias，可回滚

TRACK B / ONLINE RETRIEVAL在线问答

Q1身份与权限tenant / ACL 召回前过滤

Q2查询理解保留原问题，扩展辅助查询

Q3混合召回Dense Top-30 + BM25 Top-30

Q4RRF 融合合并两路，保留候选

Q5RerankCross-Encoder → Top-5/10

Q6上下文装配去重、父块、token 预算

Q7受约束生成只依据资料，逐事实引用

Q8验证与反馈拒答、冲突、日志、评测

三个模型，三个岗位

Embedding
批量召回“意思相近”

→

Reranker
精细比较问题与候选块

→

生成 LLM
依据最终上下文回答

本地模型组合：先小后大，用题集决定

LIGHT / 单机起步

Qwen3 0.6B 组合

Qwen3-Embedding-0.6B
Qwen3-Reranker-0.6B

先验证吞吐和召回

BALANCED / 中文多语言

BGE-M3 组合

BAAI/bge-m3
bge-reranker-v2-m3

Dense + Sparse + Rerank

GPU / 高价值检索

Qwen3 4B / 8B

更大的 Embedding 与 Reranker 只是候选，必须证明质量收益高于延迟和显存成本。

不按榜单盲选

Chunk：先保完整意思，再谈长度

文档	拆分边界	第一轮参数	不能拆散
Markdown / 制度	H1-H4 + 段落	300-600 tokens，重叠 40-80	标题路径、列表、来源
FAQ	一问一答	尽量不拆	问题和答案
SOP	完整步骤 / 阶段	300-700 tokens	前置条件、步骤号、警告
合同 / 政策	章、条、款	200-500 tokens	条款号、生效日期
表格	表头 + 行组	10-30 行起测	表头、单位、页码
代码 / API	类、函数、接口	完整函数优先	签名、注释、示例

参数不是答案。固定同一组真实问题，比较 300/500/800 tokens 三组配置，再用 Recall@K、MRR、Precision、P95 延迟和上下文噪声选择。

检索参数的第一版，不是最终版

ACL / tenant / version 过滤（必须在召回前）
Dense Top-30 + BM25 / Sparse Top-30
→ RRF 融合 Top-30
→ Cross-Encoder Rerank Top-5 至 Top-10
→ 去重 + 父块 / 邻块 + token 预算
→ 带来源编号的上下文
→ 本地 LLM 受约束生成
→ 引用与权限验证

先测检索，再测回答

RETRIEVAL

资料有没有找对

Recall@K：正确 Chunk 是否进入前 K
Precision@K：前 K 有多少真相关
MRR / nDCG：正确结果排得是否靠前
Zero-hit：有资料却没有命中

GENERATION

答案有没有忠实使用资料

Faithfulness 与事实正确性
Citation Accuracy
无答案时正确拒答
冲突、过期、越权时转人工

生产上线的四条红线

权限前置

ACL 在召回前过滤，不能召回后让 LLM 自觉保密。

版本可追

语料、Chunk、Embedding、Reranker、Prompt 全部记录版本。

删除彻底

源文件、缓存、Chunk、Dense/Sparse 向量都要进入删除流程。

索引可回滚

换模型或拆分策略时新建 collection，验证后切 alias。

失败可归因

先区分解析、召回、重排、生成和工具故障，再决定改哪里。

拒答可验收

资料外、冲突、越权、注入必须进入固定测试集。

填写本地 RAG 生产方案

完成资料登记、Chunk 实验、模型选型、检索参数、评测集、更新与回滚。

打开 03A 验收表

完整讲义：Markdown 底稿 · RAG 持续评测：model-eval-router Skill · 前置课：L2-08 知识库基础 · 下一步：L2-09 Agent 岗位