别让AI胡说八道5个一看就懂的防幻觉技巧《提示词修炼手册从会问到会用》第8篇 | 系列共14篇摘要AI会用非常自信的语气编造看起来合理却不存在的内容这就是AI幻觉。本文梳理幻觉高发的场景数据、人名、法律条款等给出5个防御性提示词技巧要求标注来源、允许说不知道、分步验证、交叉提问、自我检查并提醒AI的回答是参考不是事实本身的保证。一个真实会踩的坑你帮我介绍一下《XX公司2023年年报》里提到的营收数据AI根据年报该公司2023年营收达到28.6亿元同比增长15.3%……听起来言之凿凿数字精确到小数点。问题是——如果你没有把年报原文给AI它手里根本没有这份年报这些数字是编出来的。这种现象有个专业名字叫AI幻觉Hallucination通俗点说就是AI会用非常自信、非常流畅的语气编造出看起来合理但实际上不存在或不准确的内容。它不是故意骗你——还记得第1篇讲的本质AI是概率续写机当它没有真实依据却被要求给出具体答案时它会生成统计上最可能出现的内容这种内容往往长得很像真的但未必是真的。幻觉最容易出现在哪些场景具体数据/统计数字营收、人数、百分比人名、职位、时间谁说的、什么时候发生的法律条款、政策细节容易编造出听起来合理但不存在的条款引用来源AI可能编造一个根本不存在的参考文献或报道链接专业领域的冷门细节越冷门AI越容易自信地编一个简单的判断标准越具体、越需要查证才能确定对错的信息幻觉风险越高。5个防御性提示词技巧技巧一要求提供信息来源请回答以下问题如果涉及具体数据或引用请说明信息来源如果你不确定来源或无法验证请明确说明这是基于常识的推测未经验证。这句话的作用是逼AI把确定的信息和推测的信息分开标注而不是混在一起、都用同样自信的语气说出来。技巧二允许它说不知道如果你对这个问题没有足够确定的信息请直接说我不确定不要为了给出完整答案而编造内容。很多幻觉的根源其实是AI被训练得倾向于给出一个完整答案而不是承认不知道。明确授权它可以说不知道能显著降低编造行为。技巧三分步骤验证对于重要的事实性问题不要只问一次而是追加验证[AI给出答案后] 请重新检查你刚才的回答如果其中有任何数据或事实是你无法100%确认来源的请标注出来。这招相当于让AI自己回头检查作业很多时候能揪出第一次回答中的可疑内容。技巧四交叉提问针对关键信息换一个角度重新问一次看两次回答是否一致原问题XX公司的创始人是谁交叉验证问法请列出XX公司的核心团队成员和他们各自的背景。如果两次回答中关于创始人的信息互相矛盾说明这条信息本身不可靠需要你自己去查证真实来源。技巧五让AI自我检查苏格拉底式反问在给出最终答案前请先问自己这个回答中有没有任何部分是我在猜测而不是确定知道的如果有请标注出来再给我完整答案。这是一种元认知提示——让AI在生成答案的同时也生成一份对自己答案的可信度自评。哪些场景风险最高必须格外小心场景风险等级原因专业数据/统计 高具体数字极易被编造看起来却很精确人名/职位/头衔 高容易张冠李戴或完全编造具体时间/日期 中高时间线容易记错或推测错误法律条款/政策 高政策细节经常更新AI的知识可能过时或编造常识性知识 低训练数据覆盖充分相对可靠创意/观点类内容 低本身就是生成性任务不涉及事实对错一条简单的判断法则如果这条信息错了会造成实际后果决策失误、法律风险、对外发布的错误数据一定要用上面的技巧做二次验证绝不能直接采信AI的一次性回答。避坑提醒不要用AI说的当作最终依据无论用了多少防御技巧都要记住一条底线AI的回答是辅助判断的参考不是事实本身的保证。涉及对外发布的重要数据、法律文件、专业结论最终都需要人工核实原始来源。下一篇预告前8篇都是面向日常场景的内容从下一篇开始我们进入进阶专区——如果你需要处理长文档、使用AI Agent、写代码或者构建对外服务接下来5篇会更偏技术向。如果你只是日常使用AI聊天办公也可以直接跳到第14篇看系列总结。下一篇《长文档不丢记忆长上下文管理与分段提示策略》讲讲为什么AI处理长文档时会读到后面忘了前面以及怎么应对。本文是《提示词修炼手册从会问到会用》系列第8篇共14篇。11.3