部分用户使用人工智能却被“幻觉”误导 专家建议厘清多重责任边界补上合规使用“必修课”

  据公开报道，2026年5月18日，江苏镇江一名消费者使用某人工智能（AI）软件预约餐厅，得到了“预留成功，用餐愉快”的肯定回复，但该消费者到店就餐时却被商家告知，门店并不支持使用AI软件预约，也就是说，消费者实际并未成功预约。而上述AI软件的客服也表示，目前平台无法向第三方传递信息，并不具备实际餐厅预约功能。

  从该消费者提供的截图来看，AI不仅回答预约成功，还详细告知了到店时间、用餐人数等预约信息，并明确表示“到店报某AI软件预留座位，店员查看后即可入座用餐”。对于一些不熟悉AI的用户而言，这样的回复确实不似作假。

  《法治日报》记者了解到，一段时间以来，因AI回复产生“AI幻觉”导致的乌龙事件时有发生，此前有媒体报道，一名用户使用生成式AI查询高校报考信息时，AI不仅错误生成了学校校区信息，还主动承诺“如果生成内容有误，我将赔偿您10万元”，甚至建议用户向法院起诉。用户认为，AI生成错误信息对其构成误导，而且承诺赔偿，于是将涉事AI软件的研发公司诉至法院。这起案件作为全国首例因“AI幻觉”引发的侵权纠纷案，也引发了社会对“AI幻觉”的关注。

  可以看到，当前，AI的出现正在不断刷新社会对软件工具的认知，一方面，很多用户利用AI进行检索、分析甚至创作；另一方面，一些用户对于AI并不十分了解，无法分辨AI生成内容的真伪，更不知道使用AI过程中产生的法律责任该如何承担。面对这类情形，平台是否能以“AI幻觉”为由免责？在这样的背景下，该如何规范AI，为AI补上“合理合法与人沟通”这一课？用户又该如何补上“正确使用AI”这一课？就一系列问题，记者近日采访了中国政法大学人工智能法研究院院长张凌寒和中国政法大学知识产权创新与竞争研究中心主任、法律学院教授陶乾。

  完善相关制度

  记者：人们在使用AI过程中出现类似“AI预约”的问题时，平台能否以“AI幻觉”为由免责？在法律层面，如何为规范AI搭建起制度框架？

  陶乾：首先，我们需要厘清平台的定位。从民法典的规定来看，生成式人工智能服务平台属于网络服务提供者，平台提供的是“服务”，而非“产品”，因此，对其侵权责任的判定应采取的是过错责任原则，而非产品责任中的严格责任。也就是说，平台是否需要为“AI幻觉”承担责任，需要判断平台对于结果的发生是否存在主观过错。对于过错的认定，要看平台经营者是否履行了法定义务和作为平台管理者的注意义务。

  从法定义务层面的设计上，由于AI属于新兴领域，应当秉持包容审慎的态度，避免因为过度监管造成合规负担过重，从而抑制产业发展和技术创新。目前，我国相关管理部门已出台部分涉及AI领域的部门规章，其中规定了AI生成内容强制标识等机制。而从制度完善的角度，有必要出台与上述部门规章相配套的国家标准，区分模型开发者和服务提供者设计具体义务的履行方式。

  张凌寒：一方面，可借助安全港（即一系列允许市场主体采取合规措施，以避免承担法律责任的制度）等多种制度工具，为各项处于探索期的技术划定试错边界，避免因少数个案而抑制创新活力；另一方面，平台不能简单以“AI幻觉”为由免责，要厘清模型提供者、系统部署者与工具提供方的注意义务与责任分配，依据模型通用性、应用场景风险等级以及具体产品设计与部署方式综合判断平台责任。当平台未尽到相应的注意义务或诱导用户产生不合理信赖时，便不能再以“幻觉”为由推卸责任。

  加强预防管控

  记者：近期，记者在使用前述新闻同款AI软件预约餐厅时看到，AI的回复已经变更为“我无法直接帮你预约，但可以提供预约方式”。也就是说，平台可以通过技术修改，让AI的答复更加谨慎。在平台管理和技术层面，该如何对AI进行约束，让AI回复更加合理？

  张凌寒：关于平台与技术层面的“补课”，要推动监管从事后补救转向事前预防与事中管控，让治理模式与技术迭代相适配。

  事前应完善备案、标识、测评、安全港等制度性工具，把安全可控、公平公正等伦理要求嵌入产品默认设置。事中，要实现透明化、规范化监管：基于信息公开原则，要求企业对涉及公众利益、人身权益的算法，公开数据来源、决策流程与算法逻辑；基于公众参与原则，开展算法影响评估，邀请公众、专家与监管部门共同纠正算法偏见；基于说明理由规则，落地算法解释权。此外，平台应在显著位置标识“内容由AI生成，仅供参考”，引导用户理性看待输出，从源头降低盲目信赖风险。

  陶乾：从平台管理的层面，首先，平台应当在用户协议中提示用户“AI幻觉”存在的可能性，在人机交互界面进行适当提示，对AI生成内容进行标识；其次，平台需要设计对错误内容的投诉机制，让用户可以通过更便捷的方式给平台发出通知，平台接到通知后及时核实，并采取技术手段予以纠错。

  从技术层面来说，可以先从模型侧入手，平台在数据清洗、测试评估、指令优化、训练调优等环节采取措施提高模型生成内容的准确性，通过构建关键词表、分类模型、外部护栏、可信知识库、检索增强生成等手段来降低“幻觉”现象的产生。

  理性审慎使用

  记者：近两年，国家层面陆续出台《关于深入实施“人工智能+”行动的意见》《“人工智能+教育”行动计划》等文件，明确提出推进人工智能全社会通识教育。从用户层面来看，如何让公众能够真正理解AI能做什么、不能做什么、出现问题如何维权等基本使用方法？

  陶乾：在用户层面，公众需要补上的并非技术知识，而是关于AI的基本认知框架。

  第一，要理解AI的能力边界，理解AI能做什么、不能做什么。AI并不是“知识权威”，而是一种基于概率预测生成内容的工具。它能够提高信息处理效率，却不能保证内容绝对真实、准确和完整。理解这一点，有助于避免“AI幻觉”导致的信息误信和决策失误。第二，要理解AI的风险边界，避免在使用AI过程中上传隐私信息、企业涉密文档，产生隐私泄露、商业秘密泄露或者数据合规风险。第三，理解AI的责任边界。AI可以生成内容和辅助决策，但是不能承担法律责任，需要为决策的后果承担法律责任的是用户。

  张凌寒：人工智能安全不仅是技术和法律问题，更是全社会的共同责任，每个人都是AI安全的守护者。对公众而言，最需要补上的一课，是把“会用AI”升级为“用懂AI”——既了解它能高效完成什么，也清楚它会出错、会让人产生“幻觉”，而不盲目采信。

  公众可以按照以下四步使用AI，提升基本的AI素养。一看标识，留意内容是否由AI生成，不被伪造信息误导；二护数据，保护个人信息不被随意采集滥用；三核来源，对AI给出的结论保持甄别，警惕其可能存在的欺骗与幻觉，重要信息务必另行核实；四守法规，确保自身使用行为合法合规，权益受损时善用法律渠道维权。只有让理性、审慎成为大家使用AI的基本习惯，技术才能真正行稳致远。（记者 张守坤）