两年大模型经验,被一个垂直领域检索失效问题干翻。检索失效从来不是单点故障,而是「分词 → 召回 → 精排 → 生成 → 校验」在领域语义上的集体失配。本白皮书给出从根因诊断到生产落地的完整方案,先广捞、后细排、再校验。
通用 RAG 在金融、医疗、法律、制造等垂直领域普遍失效,根因是「领域语义鸿沟」——通用 Embedding 与分词器从未见过行业语料。失效表现为:行业专有名词被切碎、正确文档排不进 Top-K、多义词召回错域、模型对专业问题编造答案。
通用分词把「熔喷布 / 磷酸铁锂」拆成「熔 / 喷 / 布」,关键词召回直接为空。词典扩展是成本最低的修复。
通用 Embedding 缺领域语料,向量近邻漂移,正确文档排不进 Top-K,召回即失败。
只按余弦相似度排序,相关片段被低相关片段挤掉,缺乏交叉语义判定。
「充电」(电池 / 营销)「募集」(金融 / 动物)等多义词无领域上下文,召回错域内容。
模型对专业问题编造答案,无文档段落依据,专业合规风险高。
治理不是调一个阈值,而是从「检索前」到「生成校验」逐层加固。五层设计遵循「先粗后细、先广后精」:词典兜底词法、混合召回广捞、精排细筛、领域适配收敛语义、生成校验守住底线。
查询扩展 + 分词修正 + 同义词/缩写归一。零训练成本、立竿见影,是垂直领域的先手修复。
Dense 向量召回 Top50(ANN)+ Sparse 关键词召回 Top50(BM25),RRF 倒数排名融合去重,实体硬过滤(query 核心实体必须命中 chunk 实体集,否则丢弃)。
Cross-Encoder 对候选集逐条与 query 交叉阅读打分,取 Top5 送 LLM;实体数量 × 置信度做软重排融合,过滤语义不匹配的低相关片段。
小样本领域语料对 Embedding 做低秩适配(LoRA 对比学习);多 Embedding 融合(Mixture / Confident RAG)兜底召回差异。
强制引用文档段落依据,无来源的行业解读禁止输出;术语语义逐点比对行业共识,不一致触发消歧检索或剔除。
按预算、数据规模与专业度选择适配档位。三档可平滑升级,均以「检索层增强 + 精排语义校验」为基线,不依赖提示词堆叠。
| 方案 | 适配手段 | 适用场景 |
|---|---|---|
| 快速版 | 行业词典增强 + 混合检索 + 通用 Cross-Encoder 重排 | 上线急、无训练数据、预算有限 |
| 标准版 | 快速版 + 实体硬过滤(AISO)+ 领域重排微调 | 常规垂直领域、数据量中等 |
| 深度版 | 标准版 + Embedding LoRA 适配 + 领域消歧库 + 合成数据增强(hard-negative mining) | 高专业度、强合规、长尾实体密集 |
离线行业词典做查询扩展 + 本地开源基座 LoRA 微调,数据全程不离开企业环境。
建立领域语义消歧库,按文档行业标签自动切分语义空间,同一词汇在不同领域映射不同向量表示。
监控专业术语召回率、语义匹配准确率、答案专业合规率,异常自动告警;适配模块故障降级为宽召回 + 通用重排 + 严格提示词约束 + 人工抽检。
系统提示词只做生成引导,可靠性真正依赖检索层领域增强 + 精排语义校验;即使模型想瞎解读,检索层也不会把错误片段送进来。
识别术语失配 / 语义歧义 / 数据不出域的真实场景,讲清「不依赖提示词工程做检索层领域增强」的工程落地。