AI生成内容常出现“幻觉”，即看似合理但事实错误的虚假信息，如北京律师黄贵耕被AI捏造“威胁法官”“私刻印章”等罪名，另有用户手机号被AI误标为养殖场电话。专家指出，幻觉源于训练数据质量差、模型概率机制及上下文过长等因素。当前技术无法完全消除幻觉，但可通过数据优化、强化训练和交叉验证缓解。法律层面，《生成式人工智能服务管理暂行办法》明确平台需承担内容生产者责任，对违法信息负有审查义务，不得以“AI生成”免责。用户遇侵权应及时固定证据，平台需提供事前预防与事后救济，如删除侵权内容、防止损害扩大。