AI“犯错”，谁之过？ ——三起司法案例揭示生成式人工智能服务提供者的“分层”注意义务

2026年7月17日，以“智能伙伴 共创未来”为主题的2026世界人工智能大会暨人工智能全球治理高级别会议在上海启幕。这场盛会既展示着AI技术的迅猛发展，也引发了关于治理规则的深层思考——当AI“犯错”，谁来担责？

2026年6月，中国社会科学院法学研究所发布了“首批涉人工智能精品司法案例”，杭州互联网法院审理的梁某诉某人工智能公司案（简称“AI幻觉案”）¹ 、上海某文化公司诉杭州某智能公司案（简称“奥特曼案”）² 双双入选。这两起案件连同行某公司诉合肥名某公司等不正当竞争案（简称“AI种草案”）³ ，为人工智能服务提供者法律责任这一核心议题提供了来自司法实践的答案。

一、三起案件的主要案情与裁判理由

（一）AI幻觉案

该案系全国首例因生成式AI“幻觉”引发的侵权纠纷案。

被告某人工智能公司运营一款基于自研大语言模型的通用型智能对话应用程序。梁某在该智能对话应用程序中输入提示词询问某高校报考的相关信息时，该程序生成了不准确信息，并提出若生成内容有误将向梁某提供10万元赔偿，并建议梁某到杭州互联网法院起诉索赔。梁某诉称，某人工智能公司开发的人工智能产品向其提供了错误信息，对其构成误导，使其遭受侵害，并承诺对其进行赔偿，请求法院判令某人工智能公司赔偿其因此遭受的损失9999元。

法院认为，生成式人工智能应用程序不具有民事主体资格，不能独立作出具有法律约束力的意思表示，其生成的“承诺”在案涉情形下也不能视为服务提供者的意思表示，不产生意思表示的法律效力。生成式人工智能服务导致的侵权纠纷，应当适用过错责任原则，而不应适用产品责任的无过错责任原则。梁某主张的是纯粹经济利益损失，不能依据权益本身被侵害而认定行为的非法性或不法性，而须从被告某人工智能公司是否违反注意义务进行判定。被告某人工智能公司已充分履行了服务功能的显著提示说明义务和生成内容可靠性的基本保障义务，案涉行为不存在过错，亦未构成对原告梁某权益的损害，依法应认定不构成侵权。