如果我的聊天机器人说谎了怎么办？

Patricia Koch
Partner at BALDER

人工智能驱动的聊天机器人已成为企业客户服务中广泛使用的工具。它们能够回答咨询、提供信息，并在消费者作出购买或签约决定的过程中提供协助，实现全天候服务，而无须人工实时介入。然而，这种自动化服务模式也引发了一个日益重要的法律问题：当聊天机器人提供虚假或误导性信息时，谁应承担法律责任？

德国哈姆高等地区法院（Oberlandesgericht Hamm）于2026年5月12日作出的一项判决对此给出了明确答案：企业不能仅以相关陈述由人工智能自动生成、并非人工提供为由，免除自身的法律责任。

一项根本不存在的医学专科资质

本案涉及一家消费者保护协会与一家提供医学美容服务的诊所之间的法律纠纷。该诊所提供的服务包括微创美容治疗。

一名用户通过诊所网站上的聊天机器人询问，该诊所的两名负责医生是否具有整形与美容外科专科医师资格。

聊天机器人给出了肯定答复，声称两名医生均具备相关专科资质，以及开展相应治疗所需的专业知识和经验，并进一步邀请用户预约就诊。

在用户随后提出的进一步询问中，聊天机器人再次确认了两名医生所谓的专科医师身份，甚至使用了并不对应任何官方认可资格的专业称谓。

然而，事实恰恰相反：这两名医生均不具备聊天机器人所宣称的专科医师资格。 实际上，诊所官方网站公布的医生职业履历中也并未记载相关资质。

企业能否以聊天机器人的错误为由免除责任？

诊所辩称，该聊天机器人由第三方服务商开发，并根据诊所官方网站及常见问题解答中的信息进行配置，而这些原始资料并不包含有关医生资质的虚假陈述。

诊所还主张，聊天机器人的回答是在没有人工干预的情况下自主生成的，而且消费者普遍知道人工智能系统可能出现错误。

然而，法院并未采纳上述抗辩理由。

法院认为，聊天机器人是企业开展商业宣传和对外沟通的工具，其作出的陈述应归属于使用该工具的企业。 无论这些内容在技术层面上如何生成，均不影响其法律责任的归属。

法院同样指出，消费者即使普遍知晓人工智能可能产生所谓的“幻觉”（即生成不符合事实的信息），也不能因此减轻有关陈述的误导性质。

对于医疗专业人员资质的介绍，可能直接影响消费者是否选择接受其服务。尤其当消费者的健康利益受到影响时，相关信息的真实性具有更为重要的意义。

因此，法院支持了消费者保护协会的诉讼请求，责令诊所停止作出相关误导性陈述，并承担诉讼费用及此前正式警告所产生的相关费用。

误导性广告与人工智能：如果发生在西班牙，法律会如何认定？

尽管本案判决由德国法院作出，但我认为，西班牙法院很可能得出类似的结论。

西班牙《反不正当竞争法》（Ley de Competencia Desleal）与欧盟相关法律规定保持一致，禁止可能使消费者对商品、服务或服务提供者的重要特征产生错误认识的商业行为。

人工智能的应用并不会改变这一基本原则：企业可以将商业沟通工作交由技术工具完成，但不能因此将相应的法律责任转移给技术工具。

因此，企业应当对聊天机器人提供的信息进行核实，建立适当的监督与审核机制，并特别关注涉及专业资质、认证、服务能力以及产品或服务特征的相关陈述。

结论很简单：人工智能可以让回答实现自动化，却无法让法律责任随之消失。

在允许聊天机器人代表企业对外发言之前，企业应当牢记这一点。毕竟，看似聪明的聊天机器人，有时也可能给企业惹来意想不到的法律麻烦……

‍

‍