微调是什么?和提示词、RAG 怎么选,一张对比表讲透封面图
AI 百科约 8 分钟

微调是什么?和提示词、RAG 怎么选,一张对比表讲透

AI 指南··◉ 0 浏览

一句话结论:想让 AI 输出稳定的格式、语气或固定完成某个任务,才考虑微调;只是觉得模型知识不够新、不够全,用 RAG;剩下的绝大多数问题,把提示词写好就够了。

先看一个比喻:三种方案对应三种考试

把「让 AI 干活」想象成一场考试,三种方案就是三种考法:

  1. 提示词像给一个聪明人出考题:他本身什么都会,你把题目说清楚,他就能答好。成本几乎为零,立刻见效。
  2. RAG 像开卷考试:他不背书,你把资料摊在桌上让他照着答。适合知识经常更新的场景。
  3. 微调像把孩子送艺校:入学前是普通孩子,经过长时间专门训练,出来后就带着固定的唱法和台风。适合需要固定风格和技能的场景。

提示词、RAG、微调三种方案怎么选的决策树示意图

提示词是出考题、RAG 是开卷考试、微调是送艺校的比喻示意图

提示词:最便宜、最灵活的第一选择

提示词就是你发给模型的指令。模型本身已经学过海量知识,多数时候你只需要把要求说清楚:背景是什么、要什么格式、给一两个例子。它的好处是零成本、秒级见效、随时能改,不满意推翻重来就行。

想系统学怎么写,可以看这篇《如何向 AI 提问:普通人可直接套用的提示词方法》:https://www.ai345.info/ai-guide/prompt-writing-guide

RAG:开卷考试,专治「知识不够新」

RAG(检索增强生成)的做法是:先从你的资料库里检索出相关内容,再把检索结果连同问题一起交给模型,让它照着资料回答。

它解决的是模型「不知道」的问题:训练数据里没有的私有知识、过时的信息、需要天天更新的内容,都靠 RAG 补。代价是每次都要多付检索和更长上下文的 token 费用(怎么省钱可以看这篇省 token 指南:https://www.ai345.info/ai-guide/how-to-save-token),资料塞太多还可能触发上下文超限,比如《Ox Alpha 报错怎么办》里讲到的上下文超限就是典型场景:https://www.ai345.info/ai-guide/ox-alpha-errors-fix

微调:送艺校,专治「行为不稳定」

微调(fine-tuning)是在一个已经训练好的模型上,用你自己的示例数据再训练一轮,让它在特定任务上表现更稳定。按维基百科的定义(https://en.wikipedia.org/wiki/Fine-tuning_(deep_learning) ),它属于迁移学习的一种:复用模型原来学到的知识,去适配一个更具体的任务。

OpenAI 官方文档对监督微调的描述很直白:用「正确答案示例」训练模型,让它更可靠地输出你想要的风格和内容。门槛也不高:最少 10 条示例,官方建议先准备 50 条高质量示例去试效果,50 到 100 条通常就能看到明显提升。

微调训练流程示意图

但要注意:微调擅长改变「行为」(格式、语气、风格、任务熟练度),不擅长补充「知识」。想让模型知道你公司最新的产品价格,微调不是正确答案,RAG 才是。

一张对比表讲透三方案

维度 提示词 RAG 微调
解决什么问题 任务表达不清楚 知识缺失或过时 输出格式风格不稳定
成本 几乎为零 每次多付检索与上下文 token 费 训练费用加长期维护
见效速度 分钟级 天级(要搭好检索链路) 周级(数据、训练、评测)
知识更新 不更新,靠模型自带 实时换资料即可 训完即定版,更新要重新训练
适合场景 日常问答、写作、翻译 客服知识库、文档问答 固定格式输出、品牌语气、垂直任务

官方也是这么建议的

OpenAI 在官方优化指南里把三条路讲得很清楚:先从提示词开始打基线;如果模型缺知识(训练集里没有、已经过时、属于私有信息),走上下文优化,也就是 RAG;如果输出格式不一致、语气不对、推理不稳定,才动微调。官方还特别强调提示词工程「通常是最好的起点」,像摘要、翻译这类任务,把提示词写好就可能直接达到生产可用。详见 Optimizing LLM Accuracy。

场景化推荐:如果你是这几种人

  1. 产品经理做功能验证:先用提示词,快,随时推翻重来,别一上来就想着训练模型。
  2. 做客服机器人或企业文档问答:选 RAG,知识库天天变,只有开卷考试跟得上。
  3. 每天大批量产出固定格式内容(工单摘要、商品文案、周报初稿):提示词调到极限还不稳,再上微调。
  4. 大多数实际项目是组合拳:官方给出的典型优化路径就是微调提升稳定性,再用 RAG 补知识,两者叠加使用。

微调不是银弹:三个坑

  1. 数据质量决定一切:示例里有什么毛病,模型就学什么毛病,垃圾进垃圾出。
  2. 先评测再投入:官方明确提醒,先搭好评测,确认微调后的模型确实比原模型好,再继续加数据,否则钱白花。
  3. 平台在收缩:OpenAI 已宣布微调平台不再对新用户开放,动手前先确认你用的平台还支持这个能力。

延伸阅读

把这篇吃透后,建议按这个顺序接着读:

常见问题

微调和提示词是二选一吗?

答:不是。它们解决不同问题,实际项目里经常叠加使用:微调负责固定行为,提示词负责每次任务的具体要求。

微调需要准备多少数据?

答:官方口径是最少 10 条,建议从 50 条高质量示例开始,50 到 100 条通常就有明显提升。质量远比数量重要。

微调一次要多少钱?

答:费用按训练数据量计算,各平台差异很大,没有统一数字,具体价格可以参考《千帆大模型平台价格表》这类平台报价:https://www.ai345.info/ai-guide/baidu-cloud-2026-guide 。建议先用 50 条示例小规模试跑,确认有效再扩大投入。

微调之后模型会变笨吗?

答:有可能。训练数据太窄会让模型在其他任务上表现下降。所以官方建议先做评测,对比微调前后的整体表现再决定。

普通人应该先学哪个?

答:先学提示词,成本最低、收益最快。RAG 和微调是工程手段,等确认提示词确实解决不了问题再考虑。

评论 (0)

?
0/1

还没有评论,来发第一条吧

网站上的服务均为第三方提供,
请用户注意自行甄别。

北京酷讯互动科技有限公司

备案京ICP备2024094994号-29

© 2026 AI345 · All Rights Reserved

用户服务协议·隐私政策