揭开 AI 幻觉的面纱:如何用 AI 智能体减少错误

新闻

作者：微信文章
“ 本文介绍什么是 AI 幻觉、以及如何避免它的发生。”

AI幻觉（AI Hallucination）指的是人工智能在生成内容时，给出了看似合理但实际上错误或虚构的信息。这种现象在大模型中尤为常见，尤其当它们被要求提供事实性信息时。AI 可能会编造不存在的论文、错误的统计数据、虚构的历史事件，甚至杜撰产品信息。这不仅会误导用户，在某些关键场景（如医学、法律等）还可能造成严重后果。

---

AI幻觉的成因

1. 基于概率预测：

AI 并不真正“理解”信息，而是根据大量训练数据的统计规律预测最可能的下一个单词。这意味着，它可能会根据“最像答案的模式”生成内容，而不是真正检索到正确的答案。

2. 数据局限性：

AI 只能依赖于训练数据。如果数据不完整或过时，它可能会自行“填补空白”，从而产生幻觉。

3. 缺乏事实校验：

除非结合外部知识库（如RAG技术），AI 没有主动验证信息真实性的能力。

4. 上下文误导：

AI 可能会受到用户问题或之前对话内容的影响，生成符合逻辑但实际上不准确的回答。

---

如何用 AI 智能体减少 AI 幻觉？

通过优化提示词（Prompt Engineering）或者检索增强生成（Retrieval-Augmented Generation），可以显著降低 AI 产生错误信息的可能性。以下用一个例子来说明如何用优化提示词的方式，来确保 AI 回答的准确性。

示例：如何避免 AI 编造大力士泡泡糖的蔗糖含量？

普通提问（可能导致幻觉）：

> 大力士泡泡糖的蔗糖含量是多少？

AI可能会凭空捏造一个答案，例如：“10克/每块。”

但实际上，正确答案是15克/每块。

优化后的Prompt（分步引导法）

第一步：提供明确的背景信息，让AI首先总结已知内容

> 请阅读以下信息并总结关键点：

> - 大力士泡泡糖的蔗糖含量为15克/每块。

> - 其他成分包括天然香料、食用色素、胶基。

> - 口味有草莓、柠檬、蓝莓。

这样AI会先提取信息，而不是直接回答问题，减少错误的可能性。

第二步：基于总结的信息回答具体问题

> 请根据你的总结回答下列问题：

> 大力士泡泡糖的蔗糖含量是多少？请确保答案基于你的总结，不要编造信息。

这样，AI 只能基于已提供的事实信息作答，从而避免幻觉。将第一步的“提供明确的背景信息”改成从“外部数据源获取信息”，就变成了 RAG 的实现方式，具体的例子可以看《成为生成式AI的熟练工：RAG（检索增强生成）详解》。在此基础上更进一步，分步引导的过程可以通过 AI 智能体来封装实现，从而实现应用级的 AI。

---

---

~关于 Nextrove医焕安~

我们在药物警戒领域潜心深耕，积累了超过 20 年的丰富经验。秉持 “赋能客户提升患者安全” 的使命，积极拓展全球业务版图，目前已在中日韩、美国以及欧盟多地设立公司。

我们已成功获得 ISO27001、SOC2、GDPR 等权威认证，集全球化视野与本地化服务优势于一身，是一家专业的 PV IT 服务及 AI 自动化工具提供商。

---