AI hallucination（AI 幻觉）

AI幻觉源于模型基于概率生成文本，缺乏真实世界 grounding，尤其在训练数据不足或模糊查询时。它导致错误信息传播，影响决策。技术说明：大语言模型通过最大化似然估计生成序列，可能偏离事实。缓解方法包括检索增强生成（RAG）、强化学习从人类反馈（RLHF）、约束解码等。代表研究如OpenAI的GPT-4系统卡中讨论的幻觉问题。