中国吧 · AI 教程
RAG 与微调怎么选:企业知识库落地的实战指南
（本文为中文深度解读。点击右上角 中 / EN 按钮可切换查看英文概要）
一句话讲清两者的区别
RAG(检索增强生成)是给模型配一个「开卷考试」的资料库:问题来了,先从你的文档里检索相关片段,再连同问题一起喂给模型,让它照着资料回答。微调(Fine-tuning)则是「培训」模型本身:用成百上千条问答对重新训练,让知识和风格长进模型的参数里。
记住这个比喻,后面的选型就顺了:知识经常变、需要引用出处 → 开卷(RAG);想要固定话术、特定文风、离线可用 → 培训(微调)。
决策矩阵:六个维度一次看清
| 维度 | RAG | 微调 |
|---|---|---|
| 知识更新 | 加文档即生效,分钟级 | 要重新训练,小时到天级 |
| 答案可溯源 | 强,可标出来源文档和页码 | 弱,模型「凭记忆」回答 |
| 幻觉风险 | 低,有资料约束 | 中高,训不充分反而更会编 |
| 数据需求 | 有文档就行 | 需要高质量问答对(至少几百条) |
| 成本 | 低,向量库+API 调用 | 高,训练算力+数据标注 |
| 擅长场景 | 客服问答、内部文档检索、政策咨询 | 固定话术、特定文风、分类/打标任务 |
经验法则:90% 的企业知识库项目应该从 RAG 起步。只有当你发现「检索回来的资料是对的,但模型的表达方式总不对」时,才轮到微调上场。
RAG 落地五步(从 0 到可用)
- 文档治理:先把文档洗干净——去重、切分合理的 chunk(建议 300-800 字)、保留标题层级。RAG 的效果 70% 决定于文档质量,这是最被低估的一步。
- 向量化与索引:用 embedding 模型把 chunk 转成向量,存入向量库。中文场景注意选对中文优化的 embedding 模型,别直接用英文为主的模型凑合。
- 检索调优:先做混合检索(向量+关键词 BM25),再加 rerank 重排。实测中 rerank 对中文问答准确率的提升常常超过换更大的 embedding 模型。
- 提示词约束:系统提示词写死三条铁律——只根据检索到的资料回答、资料不足就直说不知道、每个结论标注来源。幻觉 mostly 死在这里。
- 评估闭环:准备 50-100 个真实问题做评测集,每次改动跑一遍看准确率变化。没有评测集的 RAG 优化都是玄学。
微调的正确打开方式:LoRA 与数据
全参数微调又贵又容易「训崩」,2026 年的主流是 LoRA/QLoRA 这类参数高效微调:只训练模型 1% 左右的参数,一张消费级显卡就能跑,效果接近全量微调。
- 数据 > 算法:500 条精心清洗的问答对,胜过 5000 条粗糙爬来的数据。每条数据都要像考试标准答案一样干净。
- 别拿微调当知识库:微调适合教「怎么说话」(风格、格式、话术),不适合灌「新知识」——硬灌新知识,模型要么记不住,要么开始一本正经地胡说八道。
- 防灾难性遗忘:微调数据里混入 10-20% 的通用问答,保住模型的通用能力,别训成只会背话术的复读机。
混合方案与成本账
成熟团队的最终答案往往是「RAG + 轻量微调」:RAG 管知识(可更新、可溯源),微调管表达(统一话术、固定格式)。两者分工明确,互不抢戏。
成本账(量级参考):RAG 项目主要是人力成本,1-2 人几周可上线,后续按 API 调用量付费;微调项目起步就是数据标注成本(每条高质量问答对的人工成本不容小觑)加上 GPU 训练费用。预算有限时,RAG 永远是第一选择。
常见问题 FAQ
RAG 和微调可以同时用吗?
可以,而且这是成熟方案:RAG 负责提供最新、可溯源的知识,微调负责统一回答风格和话术。两者解决的是不同层面的问题,不冲突。
RAG 需要多少文档才能跑起来?
没有下限,几十份核心文档就能做出可用版本。关键是文档质量而非数量:结构清晰、去重、切分合理,比堆几千份乱文档效果好得多。
微调会不会让模型变笨(灾难性遗忘)?
会,如果数据单一、训练过度,模型的通用能力会退化。缓解方法:训练数据中混入 10-20% 通用问答、用 LoRA 而非全参数微调、训练前后用标准评测集对比通用能力。
小公司没算法团队,能做 RAG 吗?
能。2026 年 RAG 的工程门槛已经很低:向量库有托管服务,embedding 和 rerank 有现成 API,开源 RAG 框架开箱即用。真正的门槛在文档治理和评测,这是业务问题不是算法问题。