本页目录6
要点速览
- 核心思路：允许 Claude 承认「不知道」，可显著减少虚假信息
- 长文档（>2万 token）任务中，先让 Claude 摘录原文逐字引用，再基于引用作答，能提升事实基础
- 可要求 Claude 为每条结论附引用来源，若找不到支持性引用则撤回该结论
- 进阶手段包括：思维链验证、Best-of-N 多次生成比对、迭代式自我核查、限制仅用给定文档作答
- 官方明确说明：这些技巧能大幅减少但无法完全消除幻觉，关键决策仍需人工核实
本文是对 Claude 官方参考页「Reduce hallucinations」的中文整理，完整与最新内容以原文为准：https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/reduce-hallucinations
即使是最先进的语言模型（如 Claude），也可能生成与事实不符或与上下文不一致的内容，这一现象称为「幻觉」（hallucination）。该现象会削弱 AI 应用的可靠性。本页整理了官方给出的若干缓解幻觉的技巧。
基础技巧
| 技巧 | 说明 |
|---|---|
| 允许 Claude 说「我不知道」 | 明确授权 Claude 在不确定时承认不确定性，这一简单做法能大幅减少虚假信息 |
| 用直接引用做事实锚定 | 对长文档（超过 2 万 token）任务，先让 Claude 逐字摘录原文引用，再基于这些引用完成任务，使回答扎根于原文，减少幻觉 |
| 用引用验证结论 | 让 Claude 的回答可被审计：为每条结论标注引用的原文与来源；也可让 Claude 在生成回答后逐条核查，为每个结论寻找支持性引用，找不到则撤回该结论 |
示例：允许说「不知道」（并购报告分析）
提示词要点：要求 Claude 作为并购顾问分析报告，聚焦财务预测、整合风险、监管障碍；若报告信息不足或存在不确定，应回答「我没有足够信息来自信地评估这一点」而非强行作答。
示例：直接引用做事实锚定（隐私政策合规审计）
提示词要点：先让 Claude 从政策原文中摘录与 GDPR、CCPA 合规最相关的逐字引用（若找不到相关引用，应回答「未找到相关引用」）；再要求 Claude 仅基于这些摘录的引用、并按编号引用它们来分析合规性，不得超出引用范围展开。
示例：用引用验证结论（产品发布新闻稿撰写）
提示词要点：要求 Claude 仅依据提供的产品简介和市场报告撰写新闻稿；撰写完成后，逐条核查稿中每个结论，为其寻找原文中的直接引用作为支持；若找不到支持性引用，则删除该结论，并在删除处用空的方括号 [] 标记。
进阶技巧
| 技巧 | 说明 |
|---|---|
| 思维链验证（Chain-of-thought verification） | 让 Claude 在给出最终答案前逐步解释其推理过程，有助于暴露有缺陷的逻辑或假设 |
| Best-of-N 验证 | 用同一提示词让 Claude 多次生成回答，并比对多个输出；输出之间的不一致可能提示存在幻觉 |
| 迭代式细化（Iterative refinement） | 将 Claude 的输出作为后续提示的输入，要求其对先前陈述进行验证或展开，从而发现并修正不一致之处 |
| 外部知识限制（External knowledge restriction） | 明确指示 Claude 仅使用所提供文档中的信息，不得调用其自身的通用知识 |
重要提示
官方特别说明：上述技巧能显著减少幻觉，但无法将其完全消除。对于高风险决策场景，务必始终对关键信息进行人工核实。