promptgarten 🌱
🌍 DE
指南●●○4 分钟 · +40 XP

提示词工程、RAG 还是微调?决策路径

三种途径以根本不同的方式解决 AI 问题——选错了方式,可能要花上数周的工作,才能达到一个更好的提示词本可以在一小时内实现的效果。

这不是一篇基础入门章节

微调在技术层面究竟意味着什么,在《微调——对模型进行继续训练》一章中有详细说明。本章讨论的是在此之前的决策:什么时候值得优化提示词,什么时候该用 RAG,什么时候才真正需要微调?

第一步:先尝试提示词工程(Prompting)

更清晰的系统提示词、更好的示例,或固定的输出结构,能出人意料地解决许多问题,除了时间之外不需要任何成本,而且立即见效。提示词工程不会改变模型的能力,但通常足以引导语气、格式和侧重点。

第二步:当知识缺失时,使用 RAG

如果任务失败的原因是模型缺乏最新的或企业专属的知识——价格表、内部文档、上周才发布的内容——那么正确的手段是 RAG,而不是微调。微调对新事实的记忆并不可靠;RAG 则能在每次请求时都提供最新的信息。

第三步:微调只作为最后一步

只有当提示词工程和 RAG 都已经用尽,某种固定的格式或行为依然无法稳定实现时,微调才值得考虑——或者是在请求量非常大、更短的提示词能明显节省成本和延迟的情况下。

判断标准概览

数据量、知识变化的频率(频繁变化更适合用 RAG 而非重新训练)、成本与时间投入(提示词工程只需几分钟,RAG 需要几天,微调需要数周),以及在高请求量下的格式一致性要求。

示例

三个示例案例的决策表: 案例 A:“模型不知道我们当前的产品价格。” → 知识缺口,且经常变化 → RAG 案例 B:“回答太过正式,我们需要一种轻松的品牌语气。” → 行为/风格问题,不缺知识 → 提示词工程(配有示例的系统提示词) 案例 C:“每月 200 万张客服工单,分类必须极其精简,并且始终以完全相同的 JSON 格式输出,长提示词的成本太高。” → 高请求量、固定一致性要求、成本压力 → 微调

🛠️ 练习——自己动手试试

从你身边找出三个真实或虚构的问题,分别归类到这三种途径之一,并说明理由。

  1. 收集三个你遇到过的、或可能合理出现的不同 AI 问题(例如语气不对、缺乏专业知识、高请求量下输出格式不一致)。
  2. 针对每个问题,先问:一个更好的提示词是否就足够了?
  3. 然后再问:是否确实缺少会发生变化的知识?
  4. 最后再判断这三个问题中是否真的有一个需要微调,并说明为什么另外两种途径对此不够用。

自查清单

  • 在采用更复杂的解决方案之前,你是否先针对每个问题检查了提示词工程是否足够?
  • 对于你认为适合微调的候选问题,你能具体说明为什么 RAG 在那里不够用吗?

小测验

一个团队发现:模型根本没有所需的知识(当前的公司价格表)。根据决策逻辑,三种途径中哪一种应该最先考虑?

分享:𝕏in💬

来源

相关主题

Fine-Tuning——继续训练模型 ●●○RAG(检索增强生成) ●●○什么是 prompt? ●○○自己动手搭建一个简单的 RAG 系统 ●●●