kylearn
安全与对齐

幻觉

Hallucination

AI 一本正经地胡说八道,像个不肯说'我不知道'的学生,没把握也要硬编一个像模像样的答案。

先打个比方

你身边有没有这种朋友:你随口问他一个不太了解的事,他从来不说"我不知道",反而眉飞色舞、有鼻子有眼地给你编一通,听上去特别专业,结果全是瞎掰。AI 的"幻觉"就是这个毛病——它一本正经地胡说八道,没把握也要硬凑一个像模像样的答案给你。

它到底是怎么回事

要理解它,得先知道 AI 不是在"查资料",而是在"猜下一个字最该是什么"。它本质上是个超级会接话的家伙,目标是把句子说得顺、说得像那么回事,而不是保证句句是真。所以当它知识不够、或者你问的东西它压根没见过时,它不会卡壳,而是顺着语感把空白"脑补"出来。结果就是:语气十足自信,内容却可能是假的。

为什么和你有关

这是用 AI 最大的坑。它编出来的东西往往特别逼真——假的数据、不存在的法律条文、点开是 404 的链接、张冠李戴的名人名言,全都说得理直气壮。你要是直接拿去交作业、写报告、做决定,分分钟翻车。⚠️

所以记住一条铁律:AI 给的越是关键信息(数字、出处、链接、引用),你越要自己动手核对一遍。把它当成一个聪明但爱吹牛的实习生——思路可以参考,结论必须验证。

本文为 AI 整理的科普解读,可能有误,仅供入门参考。

没看懂?让 AI 再讲一遍:

延伸阅读:可在公众号「数字生命卡兹克」「Datawhale」搜同名概念的科普文章。

相关概念