DeepSeek与AI幻觉

《DeepSeek 与 AI 幻觉》是清华大学相关研究团队推出的专题报告，围绕生成式人工智能中一个重要问题展开：为什么大模型会以非常确定的语气生成错误、虚构或偏离上下文的信息。报告将这种现象概括为 AI 幻觉，并区分事实性幻觉与忠实性幻觉。

报告进一步分析幻觉的成因，包括训练数据偏差、模型面对未知问题时的泛化困难、参数知识无法实时更新以及对用户意图理解错误等。以 DeepSeek 等模型为例，作者通过测试尝试比较不同场景中的幻觉表现。

在应对方法上，内容涉及联网搜索、外部知识验证、多模型交叉检查以及提示词约束等方式。核心思想是不要把语言流畅等同于事实可靠，而应在需要高可信信息的任务中建立检索、验证和引用机制。

报告最后还讨论 AI 幻觉的另一面：脱离既有事实有时也可能产生新的联想，在艺术创作、设计和科学探索中形成启发。它适合 AI 使用者、产品经理和大模型应用开发者阅读，有助于建立对生成式 AI 可靠性边界的基础认识。