29
2026
-
05
律师说丨谢春雁：“AI幻觉”谁买单？三则案例看答案
使用过AI的朋友都知道，AI有时会一本正经地胡说八道，这种现象被称为“AI幻觉”。AI说错话，有责任吗？若有，谁负责？
下面通过三则真实案例，看懂AI时代的责任边界。
案例一：豆包出错承诺赔10万，法院判不用赔
考生梁某用豆包查某高校报考信息，AI给出了错误的校区地址。梁某指出错误，豆包先是不认，直到梁某拿出学校官网信息实锤，豆包才认怂。在争论过程中，豆包承诺“说错赔十万元”，甚至建议梁某到杭州互联网法院起诉。梁某真去了，但法院驳回全部请求，理由是豆包不具有民事主体资格，它的承诺在法律上不作数。
案例来源：中国裁判文书网（2025）浙0192民初18143号《民事判决书》
案例二：用AI写文出错，博主赚1.59元赔30000元
李某是某平台的红V博主，为增粉引流用AI写文章参加平台的征文活动，获得广告收益1.54元、粉丝增量收益0.05元。不料，李某被阿里巴巴集团控股有限公司、杭州阿里巴巴广告有限公司（以下合称“阿里”）起诉索赔50万元，最终法院判决李某赔偿3万元并消除影响。为何？AI写的文章谎称案外公司是阿里的重要子公司，李某没核实就发布，法院认为此举损害了阿里的商业信誉，构成不正当竞争。
案例来源：“知产财经”微信公众号文章《【专家点评】滨江法院：人工智能生成物使用者的审核义务与责任认定┃附判决》
案例三：AI诽谤律师，平台经营者担责
南京律师李小亮在百度搜自己的名字，百度AI直接生成“李小亮律师因犯爆炸罪，被判处有期徒刑三年”，还配了他穿律师袍的照片。他投诉不成后起诉北京百度网讯科技有限公司（以下简称“百度公司”），要求赔礼道歉、删除错误信息及赔偿损失。百度公司辩称AI幻觉是技术无法避免的问题。但法院认为，AI内容必然导致李小亮社会评价降低，百度公司存在过错，最终判决百度公司向李小亮书面道歉（错误信息已删除，损失无证据，不支持）。
判决原文来源：“知产库”微信公众号文章《百度AI幻觉“律师被判刑”二审判决书》
案件启示
一、普通用户：三点提醒供参考
（一）别迷信AI，否则决策错误只能自认倒霉
案例一中，法院认定豆包公司已通过用户协议内容、豆包生产内容的标识等多种方式提醒梁某注意AI可能出错，已经尽了提醒义务。若梁某盲听豆包的话而报错志愿，则后果自负。由此可见，用户迷信AI造成自身损失的，只能自行买单。
（二）传播AI生成的内容时，牢记核对内容并标明AI生成
使用AI标识标明内容生成途径是用户的法定义务。《人工智能生成合成内容标识办法》第十条第一款规定：“用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。”此外，案例二及众多其他实务案例表明，用户需要对发布或转载的AI成果的真实性、客观性进行必要的核实，否则可能因误导公众、损害第三方合法权益承担法律责任。案例二中的博主，照搬AI文章不核实，赚的钱远不够赔偿，教训惨痛。
（三）被“AI幻觉”侵权，勇敢拿起法律武器维权
“技术中立”和“AI生成”不是侵权的挡箭牌。《生成式人工智能服务管理暂行办法》明确要求，生成式人工智能服务提供者要采取有效措施防止对他人合法权益造成侵害；《中华人民共和国民法典》也规定，利用网络侵害他人人身权益、财产权益的，应当依法承担侵权责任。像“李小亮”们一样维权，不但能维护自身权益，还会在某种程度上促进AI行业的健康发展。
二、对AI行业：三项义务要做到
(一) 显著提示是前提
案例一明确，生成式人工智能服务提供者应采取必要、合理的显著提示措施，使得用户能够了解、认知服务功能的局限性，并在特定情形下达到警示提醒的效果。该案已被最高人民法院写入工作报告，其确立的裁判规则具有较大参考价值。
(二) 技术防控是关键
案例一还明确，服务提供者在现有技术条件下，应采用已经在本行业推广且被广泛采用的技术措施，提高生成内容准确性，确保相关功能服务能够达到或超过到同行业市场平均水平。
(三) 及时纠错是责任
《生成式人工智能服务管理暂行办法》第十四条规定，提供者发现违法内容的，应当及时处置、整改。案例三中，若百度公司在接到投诉后及时删除错误信息，本案未必会走到诉讼阶段。法院最终只判决百度公司赔礼道歉，其实也考虑了本案发生于国内人工智能发展初期，受限于技术发展，且百度公司事后亦采取了相应补救措施。
法律Tips
遇到AI造谣、侵犯名誉权或隐私权等，可以这样维权：
1. 固定证据：立即对侵权页面进行完整截图、录屏，记录链接、生成时间。必要时可办理网页公证，增强证据效力。
2. 通知平台：通过平台投诉渠道正式要求删除侵权内容，并保留投诉记录——这同时构成未来主张平台“明知而未处理”的重要证据。
3. 行政投诉：可向网信、市场监管等部门投诉或举报，利用《生成式人工智能服务管理暂行办法》等法规督促平台处理。
4. 法律诉讼：在证据充分、损害明确的情况且对平台处理结果不满意的情况下，可起诉要求平台承担侵权责任。
AI时代，平台有担当，才能让人“诶”声称赞；用户不盲从，才不至于“唉”声叹气！
相关新闻
暂无数据