AI生成内容常出现“幻觉”，即看似合理但事实错误的虚假信息，如北京律师黄贵耕被AI捏造“威胁法官”“私刻印章”等罪名，另有用户手机号被AI误标为养殖场电话。专家指出，幻觉源于训练数据质量差、模型概率机制及上下文过长等因素。当前技术无法完全消除幻觉，但可通过数据优化、强化训练和交叉验证缓解。法律层面，《生成式人工智能服务管理暂行办法》明确平台需承担内容生产者责任，对违法信息负有审查义务，不得以“AI生成”免责。用户遇侵权应及时固定证据，平台需提供事前预防与事后救济，如删除侵权内容、防止损害扩大。

AI幻觉源于大模型基于统计概率预测词语的机制，而非真正理解事实，在缺乏训练数据时易编造内容。全国首例AI幻觉侵权案标志其已升级为法律与社会问题。破解方法包括检索增强生成（变闭卷为开卷）和多智能体辩论框架。普通用户需巧问（明确范围）和善查（核对关键信息）。AI无法完全消除幻觉，但提醒我们真正的智能在于知错能改、尊重事实。