promptgarten 🌱
🌍 DE
概念●●○4 分钟 · +40 XP

网络搜索与基于事实的检索(grounding):智能体自己去查证

拥有网络搜索能力的智能体不必去猜测新版本、价格或事件——它可以直接查证。但它读取的每一个外部页面,也都是一条潜在的攻击路径。

什么是基于事实的检索(grounding)

"基于事实的检索"(grounding)是指不单纯依靠模型训练时记住的内容来生成答案,而是将答案锚定在可实际调取的、最新的信息来源上。拥有网络搜索能力的智能体因此不必去猜测某个库当前是哪个版本——它可以直接调取文档并查阅。

技术上如何运作

启用网络搜索工具(Web-Search-Tool)后,Claude 会自行判断何时进行搜索合适,调取相应的页面,并在回答中标注每句话具体出自哪个来源。这些引用事后可以核实——这与源自模型记忆、没有依据的说法不同。

网络搜索真正有用的场景

对于当前版本状态、价格、营业时间,或训练截止日期之后发生的事件等问题,搜索能提供确凿、可核实的事实,而不是一个看似合理却可能已经过时的猜测。

网络搜索何时会带来负面影响

每一个被调取的页面都是未经核实的外部内容:如果其中藏有隐藏指令,就可能操纵智能体(即提示注入,Prompt Injection)。此外,额外的调取会带来明显的延迟,搜索结果进入上下文也会产生额外的 token 成本。对于稳定不变的专业知识,纯粹依靠模型自身的知识往往更快、更省钱。

示例

系统提示词:"你可以使用网络搜索工具(Web-Search-Tool)。只有当问题需要最新信息或与版本相关的信息时才使用它。" 请求:"React 目前的主版本号是多少,是什么时候发布的?" 不使用网络搜索:模型基于训练时的知识状态作答——可能已经过时。 使用网络搜索:模型调取 React 官方文档或发布日志,给出版本号和日期,并在回答中直接引用来源。

🛠️ 练习——自己动手试试

针对一个自训练以来可能已经发生变化的问题,比较使用与不使用网络搜索时得到的答案。

  1. 提出一个关于当前版本状态或价格的问题(例如“Node.js 目前最新的稳定版本是什么?”)。
  2. 分别在关闭和开启网络搜索的情况下提出这个问题。
  3. 比较两次回答的时效性,以及是否附带了引用或来源。
  4. 检查使用网络搜索得到的回答中,引用的来源是否确实包含所声称的内容。

自查清单

  • 不使用网络搜索的回答是否明显更过时或表述更不确定?
  • 你能否将网络搜索回答中的每一条陈述都对应到一个具体、可追溯的来源?

小测验

为什么通过网络搜索获取的内容存在纯模型知识所不具备的潜在安全风险?

分享:𝕏in💬

来源

相关主题

工具使用(Tool Use):LLM 如何调用工具 ●●○Prompt Injection ●●●RAG(检索增强生成) ●●○用智能体从网页获取数据 ●●○