Das Oberlandesgericht Hamm hat die Haftung für falsche Aussagen eines KI-Chatbots deutlich eingeordnet. Unternehmen können demnach auch dann verantwortlich sein, wenn die fehlerhaften Angaben von einer KI erzeugt wurden.
Im konkreten Fall ging es um eine Schönheitsklinik, deren Chatbot auf der Website Facharztbezeichnungen erfunden hatte. Der Bot bezeichnete die beiden hinter der Klinik stehenden Mediziner unter anderem als „Fachärzte für ästhetische Medizin“ und „Fachärzte für ästhetische Behandlungen“. Diese Bezeichnungen existieren laut Gericht nicht. Zudem seien die Ärzte keine Fachärzte für plastische und ästhetische Chirurgie.
Verbraucherschützer hatten die Klinik deshalb zunächst abgemahnt und eine strafbewehrte Unterlassungserklärung gefordert. Zwar deaktivierte die Klinik später den Chatbot, unterschrieb die Erklärung aber nicht. Der Fall landete daraufhin vor Gericht. Das OLG Hamm wertete die Aussagen des Chatbots als irreführende geschäftliche Handlung. Nach Ansicht des Gerichts konnten die Angaben Verbraucher beeinflussen und zu Entscheidungen führen, die sie andernfalls nicht getroffen hätten. Entscheidend ist dabei die Zurechnung der Aussagen: Der Chatbot gilt nicht als unabhängiger Dritter, sondern als Teil der Unternehmenskommunikation.
Besonders relevant ist die Entscheidung, weil das Gericht die Verantwortung nicht davon abhängig machte, ob die fehlerhaften Aussagen bewusst hinterlegt wurden. Selbst wenn die Klinik den Chatbot ausschließlich mit korrekten Informationen trainiert oder konfiguriert habe, müsse sie für die falschen Angaben einstehen. Das betrifft ein Kernproblem vieler KI-Systeme: sogenannte Halluzinationen, bei denen Inhalte plausibel wirken, tatsächlich aber falsch oder frei erfunden sind.
Für Unternehmen geht der Fall damit über die Gesundheitsbranche hinaus. KI-gestützte Chatbots werden inzwischen auf vielen Webseiten eingesetzt, etwa im Kundenservice, bei Produktfragen oder zur Beratung im Checkout. Wenn solche Systeme falsche Aussagen zu Produkten, Lieferzeiten, Garantien, Preisen oder Qualifikationen machen, kann daraus ein wettbewerbsrechtliches Risiko entstehen.
Die Entscheidung dürfte deshalb den Druck erhöhen, KI-gestützte Kundenkommunikation stärker zu kontrollieren. Dazu gehören klare Begrenzungen der Antworten, bessere Datenquellen und regelmäßige Prüfungen der ausgegebenen Inhalte. Gerade generative KI-Systeme erzeugen Antworten dynamisch und nicht ausschließlich aus festen Textbausteinen. Dadurch steigt das Risiko, dass fehlerhafte Aussagen unbemerkt veröffentlicht werden.
Das Urteil ist noch nicht rechtskräftig. Das OLG Hamm hat die Revision zum Bundesgerichtshof zugelassen.
