【深度揭秘】AI 幻觉背后的技术真相与应对策略，探索人工智能的未来—慢慢学AI042

admin管理员组

文章数量:1597416

写在前面

• AI真的能分辨真实与虚构吗？
  • 如果你的 AI 助手在关键会议中搬出了一个虚构的法律先例，你会不会想钻地洞？

• 我们准备好为 AI 的错误买单了吗？
  • 当AI的“诊断”可能让医生瞬间变成“杀手”，你还敢信它的建议吗？
• 能完全消除 AI 的幻觉吗？
  • 技术真的能发展到不需要人类监督的程度吗？
  • 还是说我们永远需要在AI身后打补丁？
• 如何在使用 AI 的同时保持对其输出的控制？
  • 企业该怎么在AI和人工审查间找到平衡？
  • 毕竟，AI也是会“走神”的！
• AI 幻觉有风险也有机遇，我们该如何取舍？
  • 能不能把AI幻觉当成创新的跳板，而不是坑爹的障碍？
• 对于普通人而言，AI幻觉在未知领域难以评判其结论
  • 应该慎重对待，大胆假设，小心求证。

AI 幻觉是劝退很多人深度使用 AI 的原因之一，AI 胡说八道又一本正经。曾经也有提示词技巧通过让 AI 基于训练数据回答，一定程度上可以规避日期类的幻觉，但是并不能完全杜绝，这和生成式 AI 的机制有关系。
本文试图从 AI 幻觉和人类认知偏差，已经 AI 幻觉的产生背景以及当前的努力方向，最后从正面角度观察 AI 幻觉，引出和 AI 的相处之道。

AI 也会“白日梦”？——细思极恐的 AI 幻觉案例

“当律师开始胡说”——AI 编造虚假法律判例

想象一下，一位律师在法庭上自信地引用 AI 提供的判例，却在关键时刻被法官指出该判例纯属虚构，会是怎样尴尬的场面？ 这可不是电影情节，而是真实发生在我们身边的 AI 幻觉案例。
AI 尽管拥有海量法律知识，却常常在回答问题时捏造根本不存在的判例，从案件名称到法官姓名，甚至判决日期都编造得天衣无缝。这不禁让人担忧。

“心脏糖尿病”？！—AI 医生，你认真的吗？

AI 医疗诊断的出现，为解决医疗资源短缺和提高诊断效率带来了希望。然而，AI 医生也可能犯下令人啼笑皆非，甚至危及生命的错误。

一些医学领域的 AI 在回答问题时，会编造出闻所未闻的医学术语。例如，它可能会将“心脏衰竭”和“糖尿病”这两个常见病症生硬地拼凑成一个全新的诊断——“心脏糖尿病”！这种荒谬的“创造力”不仅暴露了 AI 对医学知识理解的不足，更可能误导医生，延误患者的治疗，甚至造成无法挽回的后果。 AI 医生，你确定不是在开玩笑吗？

看起来，AI 的幻觉问题简直要人神共愤了，简直无法直视，真的是这样吗？我们再来看个案例。

AI 的“脑洞大开”——通往科学新发现的捷径？

AlphaFold3 是一种可以用于研究生物分子结构的蛋白质结构预测方法。它可以预测不同分子之间的相互作用方式，这可以帮助科学家了解疾病的运作机制并开发新药。

例如，AlphaFold3 可用于研究抗体如何与病毒结合。这些信息可用于设计新的疫苗。

以下是该方法的一些潜在应用：

• 研究蛋白质如何与其他分子相互作用，例如药物或靶标分子。
• 预测蛋白质的结构和功能，这可以帮助科学家设计新的药物和治疗方法。
• 研究疾病的机制，这可以导致新的诊断和治疗方法的开发。

AlphaFold3 是一项强大的新工具，有望彻底改变我们对生物分子的理解和治疗疾病的方式。

AlphaGo 战胜李世石的 37 手，几乎所有人类看来，都是相当令人迷惑的，然而，人类输了！很难说这不是傲慢的人类想象出来的“幻觉”，在这类所谓幻觉之下，人类逐渐会被自己打脸。

AI 幻觉：为何令人迷惑？与错误有何区别？

老实说，说得这么信誓旦旦，要不是查询一下，确实是拿不准。

人们之所以将 AI 模型的某些错误输出称为“幻觉”，主要有以下几个原因：

输出内容的“合理性”

AI 幻觉不同于一般的语法错误或拼写错误，它指的是模型生成了语法正确、语义流畅，甚至看似合理的句子，但这些句子却与事实不符，或者与用户的预期不符。这种“合理性”让人难以第一时间察觉其中的错误，从而产生了“被欺骗”的感觉。

输出语气的“自信”

AI 通常会以非常自信的语气给出答案，即使这些答案是错误的。这种“自信”很容易让人误以为模型真的“知道”答案，从而放松了警惕，更容易相信其输出的内容。

与人类幻觉的类比

“幻觉”一词原本是指人类在没有外部刺激的情况下产生的感知体验，例如看到或听到并不存在的事物。人们将 AI 的错误输出称为“幻觉”，也是将其与人类的这种认知现象进行类比，暗示 AI 模型也可能像人一样产生“虚假感知”。

幻觉和错误的区别和示例

	错误	幻觉
性质	语法、拼写、计算等方面的错误，这些错误比较容易被识别和纠正	模型在知识理解、推理、以及与人类期望对齐方面出现的错误，这些错误更深层次、更难以察觉，也更难以纠正
表现形式	导致输出内容不完整、不流畅，或者明显不合理	导致输出内容看似合理、流畅，甚至带有强烈的自信，但仔细推敲就会发现其中存在逻辑漏洞或事实性错误
原因	由于模型在训练或解码过程中出现了随机性误差	由于模型本身的知识局限性、训练数据偏差、或者推理能力不足

一般的错误

• 问题： “请将这句话翻译成法语：’今天天气真好。’”
• 模型输出： “Aujourd’hui est un beau temps.” (语法错误，正确翻译是 “Il fait beau aujourd’hui.”）

AI 幻觉

• 问题： “请将这句话翻译成法语：’今天天气真好。’”
• 模型输出： “巴黎是法国的首都。” (看似合理，但与用户的指令不符)

AI 幻觉

• 问题： “如果把珠穆朗玛峰的高度降低 500 米，哪座山会成为世界最高峰？”
• 模型输出： “如果把珠穆朗玛峰的高度降低 500 米，它仍然是世界最高峰。” (看似合理，但推理错误)

如同一声警钟，敲响了人们对 AI 幻觉的担忧。难道 AI 真的会产生类似人类的“幻觉”？ AI 幻觉与人类的认知偏差之间，究竟有什么区别和联系？ 为了更好地理解这一问题，我们需要将两者进行深入的对比分析。

AI 也会犯错？——与人类认知偏差的“镜像”

人潮人海中，有你有我，人类的错觉

很多年前，在大学宿舍的走道里，常常响起黑豹的怒吼

茫茫人海中，有你有我，相遇相识相互琢磨

没有人提醒，也没人觉得为违和，每次唱都只有这两句，后来认真看了看词，发现唱错了，知道错了以后，就再也没唱过了。我想，当时听到的同学们，心理大概也是默认了这句词，这么热情奔放的怒吼，哪里会有唱错的道理呢？

我们会笃定一些事，然后它却和事实有偏差，生活中不乏此类状况，互联网的谣言，听到了，并对这件事了有最初的认知，辟谣的时候却因为各种原因没有看到。

我们都曾经历过“看花眼”、“听岔了”的尴尬时刻，这些都是人类认知偏差的表现。那么，AI 也会犯类似的错误吗？ AI 幻觉，是否就是 AI 世界的“认知偏差”？ 为了解开这个谜团，我们需要将两者进行深入的对比分析。

定义和产生机制 ： “表亲”而非“孪生兄弟”

AI 幻觉和人类认知偏差都指向 对信息的扭曲或误解 。然而，两者在 产生机制 上却有着根本区别

• 人类认知偏差: 根源于人类的心理和生理机制。
  • 例如注意力不集中、记忆偏差、情绪波动，以及固有的认知偏见等。人类的感知系统并非完美无缺，我们的大脑会根据已有经验和预期对信息进行解读，这导致我们容易受到各种认知偏差的影响。
• AI 幻觉: 源于 AI 系统的技术局限性，包括：
  • 数据缺陷: 训练数据不足、数据偏差、数据噪声等问题，会导致 AI 模型无法准确学习现实世界的规律。
  • 模型缺陷: 模型结构过于简单、参数设置不合理、训练方法不完善等，也会导致 AI 模型的泛化能力不足，容易产生幻觉。
  • 推理缺陷: 即使 AI 模型拥有足够的知识储备，也可能因为推理能力不足，在面对复杂问题时出现逻辑错误或推断失误。

因此，AI 幻觉与人类认知偏差更像是“表亲”，而非“孪生兄弟”。它们有着相似的表现形式，但背后的原因却截然不同。

表现形式和影响范围：从“个体迷思”到“群体幻象”

学霸觉得这次考试考砸了，学渣觉得这次稳了。打螺丝的时候还在想，明明答对了呀！

本文标签： 相与人工智能幻觉深度应对策略