Was, wenn mein Chatbot lügt?

Patricia Koch
Partner bei BALDER

KI-gestützte Chatbots sind aus dem Kundenservice kaum noch wegzudenken. Sie beantworten Fragen, stellen Informationen bereit und begleiten Verbraucher während des gesamten Entscheidungs- und Vertragsabschlussprozesses – rund um die Uhr und ohne unmittelbares menschliches Zutun. Diese Automatisierung wirft jedoch eine rechtlich zunehmend relevante Frage auf: Wer haftet, wenn ein Chatbot falsche oder irreführende Informationen liefert?

Eine aktuelle Entscheidung des Oberlandesgerichts Hamm vom 12. Mai 2026 gibt darauf eine klare Antwort: Ein Unternehmen, das einen Chatbot einsetzt, kann sich seiner Verantwortung nicht mit dem Argument entziehen, die betreffenden Aussagen seien von einer künstlichen Intelligenz generiert worden.

Eine fachärztliche Qualifikation, die es nie gab

Dem Rechtsstreit lag die Klage eines Verbraucherschutzverbandes gegen eine Klinik zugrunde, die ästhetisch-medizinische Behandlungen, darunter auch minimalinvasive Eingriffe, anbot.

Über den Chatbot auf der Website der Klinik erkundigte sich ein Nutzer, ob die beiden verantwortlichen Ärzte Fachärzte für Plastische und Ästhetische Chirurgie seien. Der Chatbot bejahte dies und erklärte, beide verfügten über die entsprechende fachärztliche Qualifikation sowie über die für die Durchführung der Behandlungen erforderlichen Kenntnisse und Erfahrungen. Abschließend forderte er den Nutzer auf, einen Termin zu vereinbaren.

Auch auf weitere Nachfragen bestätigte das System wiederholt die angebliche Facharztqualifikation der Ärzte und verwendete dabei sogar Berufsbezeichnungen, die keinen amtlich anerkannten Qualifikationen entsprachen.

Das Problem lag auf der Hand: Keiner der beiden Ärzte verfügte über die vom Chatbot behauptete Facharztqualifikation. Tatsächlich wurde eine solche Qualifikation auch in den auf der Website der Klinik veröffentlichten beruflichen Profilen nicht angegeben.

Können sich Unternehmen für die Fehler ihrer Chatbots der Haftung entziehen?

Die Klinik machte geltend, der Chatbot sei von einem externen Dienstleister entwickelt und auf Grundlage der Informationen ihrer Website sowie der häufig gestellten Fragen konfiguriert worden. Diese Informationen hätten keine unzutreffenden Angaben zu den Qualifikationen der Ärzte enthalten.

Darüber hinaus argumentierte sie, dass die Antworten eigenständig und ohne menschliches Zutun generiert würden. Verbrauchern sei zudem allgemein bekannt, dass künstliche Intelligenz Fehler machen könne.

Das Gericht wies diese Argumentation zurück.

Es stellte fest, dass der Chatbot ein Instrument der kommerziellen Kommunikation des Unternehmens darstellt. Seine Aussagen seien der Klinik daher zuzurechnen, unabhängig davon, auf welche Weise sie technisch erzeugt worden seien.

Auch das allgemeine Bewusstsein für sogenannte „Halluzinationen“ künstlicher Intelligenz lasse den irreführenden Charakter der Aussagen nicht entfallen. Angaben zur fachlichen Qualifikation eines Arztes könnten für die Entscheidung eines Verbrauchers, dessen Leistungen in Anspruch zu nehmen, von wesentlicher Bedeutung sein – insbesondere dann, wenn die Gesundheit des Verbrauchers betroffen ist.

Das Gericht gab der Klage des Verbraucherschutzverbandes daher statt und verurteilte die Klinik, die irreführenden Aussagen künftig zu unterlassen. Darüber hinaus musste die Klinik die Prozesskosten tragen und die Kosten der vorgerichtlichen Abmahnung erstatten.

Irreführende Werbung und künstliche Intelligenz: Wie wäre die Rechtslage in Spanien?

Auch wenn die Entscheidung von einem deutschen Gericht stammt, halte ich es für sehr wahrscheinlich, dass spanische Gerichte zu einem vergleichbaren Ergebnis gelangen würden.

Das spanische Gesetz gegen den unlauteren Wettbewerb (Ley de Competencia Desleal) verbietet im Einklang mit dem europäischen Recht Geschäftspraktiken, die geeignet sind, Verbraucher über wesentliche Eigenschaften von Produkten, Dienstleistungen oder der sie anbietenden Berufsträger irrezuführen.

Der Einsatz künstlicher Intelligenz ändert an diesem Grundsatz nichts: Wer seine kommerzielle Kommunikation an ein technisches System delegiert, überträgt damit nicht zugleich die rechtliche Verantwortung.

Unternehmen sollten daher die von ihren Chatbots bereitgestellten Informationen überprüfen, geeignete Kontrollmechanismen einrichten und insbesondere bei Aussagen über berufliche Qualifikationen, Zertifizierungen, Leistungsmerkmale sowie Eigenschaften ihrer Produkte und Dienstleistungen besondere Sorgfalt walten lassen.

Das Fazit ist einfach: Künstliche Intelligenz kann Antworten automatisieren – nicht aber die Verantwortung dafür.

Daran sollte man denken, bevor man einen Chatbot im Namen des eigenen Unternehmens sprechen lässt. Denn manchmal steckt der Teufel eben nicht nur im Detail, sondern auch im Chatbot …

‍