Das Landgericht Kiel musste sich im (soweit ich weiß) ersten Urteil in Deutschland mit der Haftung für KI auseinandersetzen (LG Kiel, Urteil vom 29.02.2024 (AZ: 6 O 151/23)). Im Artikel erkläre ich dir, worum es in dem Urteil geht und welche praktischen Konsequenzen das für dich und dein Unternehmen hat.

Was war passiert?

Ein Wirtschaftsinformationsdienst hatte fälschlicherweise die Vermögenslosigkeit eines Unternehmens vermeldet. Suchte man nach dem Unternehmen, gab der Wirtschaftsdienst folgende Meldung aus:

(Registerbekanntmachung)
Es ist die Löschung der nachstehenden Gesellschaft wegen Vermögenslosigkeit gemäß § 394 FamFG beabsichtigt. Widerspruchsfrist: 2 Monate.“

Die Informationen wurden durch eine vollständig automatisierte Datenverarbeitung ermittelt, die Einträge aus öffentlichen Registern auswertet. Wie du dir vermutlich schon denken kannst, war diese Information falsch. Das betroffene Unternehmen verklagte daraufhin den Dienst auf Unterlassung.

Der beklagte Wirtschaftsdienst wies zwar in seinen Nutzungsbedingungen auf mögliche Fehler in den Informationen hin:

„Sie werden durch vollständig automatisierte Analyse gewonnen und können teils oder auch weitgehend fehlerbehaftet sein.“

Das half jedoch nicht. Das Landgericht Kiel entschied: Die Haftung für KI liegt beim Unternehmen, das sie einsetzt.

„Die Klägerin ist jedoch als unmittelbare Störerin anzusehen, weil sie sich willentlich zur Beantwortung von Suchanfragen einer eigenen Software bedient, die Informationen aus den veröffentlichten Pflichtmitteilungen extrahiert und aufbereitet veröffentlicht. Die Beklagte kann sich nicht darauf zurückziehen, sie sei an diesem automatischen Vorgang nicht beteiligt gewesen, weil sie sich bewusst zur Beantwortung von Suchanfragen ihrer Nutzer einer künstlichen Intelligenz bedient hat, die in Fällen wie diesem unzulänglich programmiert war, weil sie nicht erkannt hat, dass vorliegend die XXX, Amtsgericht XXX, HRB XXX, gemeint war und ein Zuordnungsfehler (XXX vs. XXX) vorlag (so auch OLG Düsseldorf I-16 U 136/20; Anlage K6 S. 19).“

Weiterhin führte das Gericht aus:

„Zum anderen haftet der Betreiber eines Portals auch dann als unmittelbarer Störer für die von einem Dritten eingestellten Inhalte, wenn er sich diese aus Sicht eines verständigen Durchschnittsnutzers auf der Grundlage einer Gesamtbetrachtung aller relevanten Umstände zu eigen gemacht und dafür nach außen erkennbar die inhaltliche Verantwortung übernommen hat (BGH, Urteil vom 01.03.2016 – VI ZR 34/15, Rz. 17; so auch OLG Düsseldorf I-16 U 136/20; Anlage K6 S. 19). Dies schafft die Beklagte dadurch, dass sie die Pflichtveröffentlichungen zu einem Unternehmen bei sich auf der Seite bündelt und die Informationen teilweise untereinander verknüpft.“

Einzelfall?

Bei dem Urteil handelt es sich zunächst nur um ein einzelnes Urteil eines Landgerichts. Es bleibt abzuwarten, wie Gerichte höherer Instanzen – insbesondere Oberlandesgerichte oder der BGH – entscheiden werden. Tatsächlich glaube ich jedoch nicht, dass sich hier eine andere Tendenz durchsetzt. KI ist letztlich nichts anderes als ein Tool, das ein Unternehmen einsetzt. Und wer ein solches Tool verwendet, muss auch für dessen Fehler geradestehen.

Eine Besonderheit in diesem Fall ist, dass es sich um ein presserechtliches Verfahren handelt. Die beiden Parteien stritten über Tatsachenbehauptungen und Meinungsäußerungen. Unabhängig davon bin ich der Meinung, dass die Grundsätze auch auf andere Sachverhalte angewendet werden können, etwa bei Schadensersatzforderungen.

Das Urteil des Landgerichts Kiel bestätigt, was vermutlich viele Juristen bereits geahnt haben: Wer KI einsetzt, haftet für deren Fehler. Ähnlich entschied ein Gericht in Kanada.

KI-Haftungsrichtlinie

Auch die EU arbeitet bereits an einer Haftungsrichtlinie für KI. Diese soll einheitliche Anforderungen an bestimmte Aspekte der außervertraglichen zivilrechtlichen Haftung für Schäden festlegen, die durch den Einsatz von KI-Systemen verursacht werden. Dabei geht es insbesondere um Beweis- und Vermutungsregeln. Die Richtlinie ist jedoch noch nicht in Kraft und muss nach ihrer Verabschiedung erst in nationales Recht umgesetzt werden.

Was bedeutet das für dich und dein Unternehmen?

In der Praxis musst du davon ausgehen, dass du für Fehler der KI haftbar gemacht werden kannst. Das bedeutet, du solltest beim Einsatz von KI-Systemen genau darauf achten, was diese machen. Insbesondere bei generativer KI ist es wichtig, die Ergebnisse nicht ungeprüft zu verwenden. Du solltest KI nur in Bereichen einsetzen, in denen du die Ergebnisse verifizieren kannst.

Um Haftungsrisiken zu minimieren, ist es wichtig, klare Regeln für den Einsatz von KI in deinem Unternehmen zu haben. Im Blog haben wir einmal die rechtlichen Aspekte beim Einsatz von KI zusammengefasst. Damit der Einsatz von KI nicht zum Chaos führt, sollten Mitarbeitende eine Richtlinie für den Umgang mit KI erhalten. Ein Muster für eine solche Richtlinie findest du im Downloadbereich. Zudem haben wir eine Anleitung erstellt, worauf du bei der Erstellung einer Richtlinie achten solltest.

Fazit: Die Haftung für KI erfordert klare Verantwortung und Sorgfalt

Mit dem Einsatz von KI musst du auch die Verantwortung für die Qualität und Korrektheit der Ergebnisse übernehmen. Die Haftung für KI umfasst daher nicht nur die technische Implementierung, sondern auch die kontinuierliche Überwachung und Fehlervermeidung. Wenn du KI für die Verarbeitung sensibler Daten nutzt, musst du sicherstellen, dass die ausgegebenen Informationen korrekt sind.

Wenn du KI-basierte Dienstleistungen anbietest kannst die Haftung für KI nicht ganz ausschließen. Durch eine durchdachte Planung und kontinuierliche Prüfung der Systeme kannst du das Risiko aber minimieren.