AI幻觉：AI“胡言乱语”的法律责任辨析

 　前言

 随着人工智能普及，大众越来越习惯借助AI获取各类信息，工具便利的背后，“AI幻觉”问题也逐渐显现。2025年杭州互联网法院审理的梁某与某科技公司侵权纠纷案，就是处理AI幻觉纠纷的典型案例。

 基本案情：

 2025年3月，原告梁某注册并使用被告某科技公司运营的一款生成式人工智能应用程序。同年6月29日，梁某在应用中输入提示词询问某高校报考信息时，人工智能生成并输出了关于该校主校区的不准确信息。在后续对话中，面对梁某的质疑与纠正，该人工智能不仅坚称信息准确，还生成内容称若信息有误将向用户赔偿10万元，并建议其至杭州互联网法院起诉索赔。原告梁某认为被告运营的人工智能生成虚假信息，对其报考决策造成误导，使其遭受侵害，并承诺对其进行赔偿，遂诉至杭州互联网法院。被告辩称，人工智能生成的内容不构成法律意义上的意思表示；其已通过用户协议、界面提示等充分履行了告知义务，说明AI可能生成不准确信息；被告在技术层面已采取行业通行措施提高生成内容准确性，对本案信息错误无主观过错；原告也未举证证明其遭受了实际损失。2025年12月，杭州互联网法院作出一审判决，驳回原告梁某的全部诉讼请求。

 裁判要旨：人工智能不具有民事主体资格，不能独立、自主地作出具有法律约束力的意思表示；审理生成式人工智能侵权纠纷案件应当适用《民法典》第1165条第1款的过错责任原则，服务提供者已履行服务功能的显著提示说明义务、功能可靠性的基本保障义务和服务协议约定的注意义务等应尽注意义务的，可以认定其不具有过错。

 该裁判规则也契合最高法相关司法意见，即无特殊规定时，AI纠纷适用过错归责，有过错才担责。

 所谓AI幻觉，就是AI生成逻辑通顺但与客观事实不符的内容，属于现阶段难以彻底根除的技术短板。AI答复往往细节完备、语气肯定，很容易让用户轻信，若不另行核实，虚假信息很难被识别。多数AI产品都会标注内容仅供参考，提示用户注意校验信息，但提示不等于平台完全免责。

 类案对照：李小亮律师名誉权纠纷

 同样源于AI幻觉，李小亮律师起诉搜索平台名誉侵权一案裁判结果不同，能够直观看清司法实践中过错认定的尺度差异。

 该案中，搜索平台AI凭空编造李小亮律师的犯罪判刑虚假信息，还搭配本人律师照片对外公开推送，直接损害其个人名誉。当事人多次向平台投诉，问题仍未妥善解决，遂提起诉讼。平台以AI幻觉属于技术固有缺陷进行抗辩。

 法院最终认定平台构成名誉侵权，判令平台书面赔礼道歉。两案裁判结果不同，核心不在于AI是否出错，而在于过错、场景、权益类型存在区别。

 梁某案属于普通咨询场景，平台已做好风险提示，使用行业通用技术手段，无主观过错，原告也无法证实实际损害。而李小亮案涉及人格权这一重要人身权益，即便设置通用提示，也不能免除平台对人名、犯罪记录这类敏感信息的审查义务。平台将AI加工后的贬损信息向不特定公众公开传播，负有更高审核义务，且该类错误存在防控空间，据此判定平台存在过错；同时虚假信息公开传播已经造成当事人社会评价降低，人格权益损害客观成立。

 律师实务提示：

 AI运营平台：

 第一，不能拿“AI幻觉无法避免”当作免责挡箭牌。通用风险提示不能覆盖全部风险，面对医疗、金融等高风险领域，应当增加信息校验机制，强化敏感内容拦截。

 第二，认清AI的法律定位。AI自主生成的赔偿、担保等话语，不能直接等同于企业的承诺，但平台应当管控输出内容，避免AI随意生成不具备履行条件的表述。

 用户：

 第一，不能盲目信任AI输出。即便是看起来严谨完整的回答，涉及报考、重大决策等事项，务必核对官方原始资料。AI生成的赔偿许诺，不当然属于平台的有效承诺。

 第二，遭遇AI虚假信息侵害权益时，完整留存对话、截图、链接等证据。

 第三，AI出错不等于平台必然赔偿。维权时不仅要证明AI输出虚假内容，还需要举证平台存在过错以及自身遭受的损害后果。

 AI幻觉是新技术衍生的新型法律问题。技术存在局限可以被包容，但不能以此规避法律义务。梁某一案划定普通场景下平台责任的底线，李小亮律师一案明确人格权场景下平台更高的注意义务。司法既要为AI产业发展留出空间，也会守住民事主体合法权益的保护底线。