Ich kenne eigentlich niemanden, der nicht irgendwie KI im Unternehmen einsetzt. Und machen wir uns nichts vor, das macht schon Spaß und erleichtert die Arbeit nicht unwesentlich. Dabei solltest du beim Einsatz von KI im Unternehmen ein paar rechtliche Aspekte beachten. Dieser Artikel gibt dir eine Übersicht über rechtliche Aspekte beim Einsatz von KI im Unternehmen, auf die du achten solltest.

Viele Themen, viele Fragen

Beim Einsatz von KI musst du gleich mehrere Themen beachten. Dazu gehören Datenschutz, Urheberrecht und Geschäftsgeheimnisse, Persönlichkeitsrechte und allgemeine Haftungsfragen. Diese Themen ziehen sich dann durch das gesamte Spektrum des Einsatzes. Es geht los bei der Frage, womit man die KI füttern darf bis hin zur Frage welche Rechte am Output bestehen. Leider sind die meisten Fragen hier noch vollkommen ungeklärt und es wird eine Zeit dauern, bis sich ein roter Faden etabliert. Den Spaß am Einsatz von KI solltest du dir dadurch aber nicht nehmen lassen. In diesem Beitrag gebe ich dir einen Überblick über aktuelle rechtliche Aspekte beim Einsatz von KI im Unternehmen. Viele der Fragen zum Einsatz von KI sind noch ungeklärt. Dennoch solltest du bestimmte Themen im Auge behalten, um nicht eines Tages eine böse Überraschung zu erleben.

Allgemeine urheberrechtliche Aspekte beim Einsatz von KI

Ein großes Thema beim Einsatz von KI ist das Urheberrecht quer durch die Bank. Das Thema berührt nahezu jeden Punkt beim Einsatz von KI und wirft einige Fragen auf.

Kein Schutz des KI-Erzeugnisses

Nach aktuellem Stand ist der urheberrechtliche Schutz von durch eine KI erzeugten Ergebnissen umstritten. Das Urheberrecht erfordert eine geistige Schöpfung. Eine geistige Schöpfung wiederum setzt ein menschliches Wirken voraus. Das menschliche Wirken aber fehlt in der Regel bei der Erzeugung durch KI. Ein US-Gericht lehnte urheberrechtlichen Schutz hier noch 2023 ab, wie der Hollywood Reporter berichtet und auch das US-Copyright Office entschied gegen den urheberrechtlichen Schutz (Zarya of the Dawn).

Schwieriger sind die Fälle zu entscheiden, bei denen das Produkt nicht vollständig durch eine KI erzeugt wurde, z. B. wenn ein Text teilweise durch ChatGPT erzeugt wurde, aber durch dich ergänzt, vervollständigt usw. wurde. Solche Situationen sind nicht eindeutig und werden noch für viel Diskussion sorgen.

Urhebernennung

Da das Erzeugnis per se nicht geschützt ist, musst du auch keinen Urheber nennen. Es steht dir allerdings frei einen Hinweis anzubringen, dass das Bild oder der Text durch eine KI erzeugt wurde. Bei bestimmten Erzeugnissen wie DeepFakes musst du sogar darauf hinweisen, dass es sich um einen DeepFake handelt (Art. 52 KI-Verordnung).

Prompts können geschützt sein

Jetzt könntest du argumentieren, dass sehr aufwendige und kreative Prompts eine geistige Schöpfung sein können. Die kreative Leistung ist dabei nicht das zufällige Ergebnis, sondern der Prompt selbst. Das ist ein gutes Argument und so sah es auch ein chinesisches Gericht und sprach urheberrechtlichen Schutz zu. Die kreative Leistung lag hier nach Auffassung des Gerichts im immer fortwährenden Ändern der Prompts. Das letzte Wort ist hier noch lange nicht gesprochen. Ich gehe aber davon aus, dass gerade deutsche Gerichte hier eher eine enge Auslegung vornehmen und aktuell eher gegen einen Schutz, zumindest des Erzeugnisses, entscheiden würden. Das ist aber nur eine Vermutung.

Kommerzielle Verwertung

Wenn wir jetzt davon ausgehen, dass kein urheberrechtlicher Schutz besteht, wird es schwer deine KI-Erzeugnisse zu schützen. Die Einräumung von Nutzungsrechten hilft hier nur begrenzt. Du kannst dann zwar vertraglich Nutzungsrechte einräumen. Diese wirken aber nur zwischen dir und deinem Vertragspartner. Jeder andere kann das Erzeugnis nutzen, wie er will. D. h. ein Text, der z. B. im Netz eingesetzt wird, kann dann von jedem kopiert und genutzt werden. Dasselbe gilt für Videos und Bilder. Das ist ein Dilemma. Die einzige sichere Möglichkeit dürfte hier darin bestehen, dass du dieses „Risiko“ entsprechend mit in deine Preiskalkulation einbeziehst.

Verletzung des Urheberrechts durch KI-Erzeugnis?

Nur weil das Ergebnis aber per se nicht geschützt ist, heißt das nicht, dass das Ergebnis nicht gegen Urheberrecht verstoßen kann. Es ist nämlich möglich, dass die KI ein Ergebnis produziert, was einem geschützten Werk ähnelt oder sogar eine Kopie ist. Hier wird es noch viel Diskussionen geben. Aktuell klagt z. B. die NY-Times gegen OpenAI mit genau diesem Argument. Nach Auffassung der Times sind viele Erzeugnisse von ChatGPT Kopien von geschützten Texten.

Datenschutz

Selbstverständlich darfst du auch das Thema Datenschutz nicht aus den Augen verlieren. Dabei geht es sowohl um die Eingabe von personenbezogenen Daten als auch um die Ausgabe.

Wenn du personenbezogene Daten in der KI nutzt, egal ob als klassischer Anwender oder für das Training, ist das eine Verarbeitung im Sinne der DSGVO. Diese Verarbeitung musst du auch in dein Verzeichnis der Verarbeitungstätigkeiten aufnehmen. Außerdem benötigst du eine Rechtsgrundlage. Rechtsgrundlagen gibt es einige. Welche Rechtsgrundlage geeignet ist, musst du im Einzelfall klären. Hier macht es einen Unterschied, ob du eine Software im Unternehmen einführst, die auch KI-Elemente beinhaltet oder die Daten in einer Drittsoftware wie ChatGPT nutzt. Ein wichtiger Punkt ist hier, wer die Daten verarbeitet. Der Einsatz einer KI, die nur auf deinen internen Servern betreiben wird, musst du ggf. anders bewerten als die Nutzung von Software im Netz, bei der die Daten direkt an den Anbieter der KI gehen.

Gerade in Fällen bei denen eine „externe Software“ genutzt wird, also die Daten direkt an den Anbieter gehen, solltest du vorsichtig sein. Hier kommt in der Regel nur die Einwilligung der betroffenen Person als Rechtsgrundlage in Betracht. Die Einwilligung ist allerdings immer mit gewissen Risiken verbunden. Das geht los bei der Frage nach der Transparenz und hört auf bei dem Umstand, dass die betroffene Person die Einwilligung jederzeit widerrufen kann. Warum die Einwilligung keine optimale Rechtsgrundlage ist, habe ich im Beitrag „Die Einwilligung im Sinne der DSGVO“ näher erläutert.

Aus Sicht des Datenschutzes ist aber nicht nur die Frage relevant, wer die Daten verarbeitet. Sofern die Software Einfluss auf eine natürliche Person haben kann, musst du auch das berücksichtigen. Wenn du z. B. den Einsatz einer HR-Software planst, die per KI eine Vorauswahl von Bewerbern analysiert, ist das selbstverständlich ein Datenschutzthema. In diesem Fall kann es sich sogar um eine sogenannte Hochrisiko-KI im Sinne der KI-Verordnung handeln, die weitere Maßnahmen erfordert.

Die Einführung von KI im Unternehmen solltest du auf jeden Fall mit deinem Datenschutzbeauftragten abstimmen. Bei der Nutzung von frei zugänglicher Software im Netz solltest du in deinen KI-Richtlinien klarstellen, dass dort keine personenbezogenen Daten eingegeben werden dürfen. Dazu gehören auch Bilder!

Geschäfts- und Betriebsgeheimnisse

Neben dem Datenschutz solltest du auch den Umgang mit Geschäftsgeheimnissen oder Betriebsgeheimnissen im Auge behalten. Darunter fallen alle Informationen, die du geheim halten willst. Das können Kundenlisten sein oder der Quellcode deiner Software. Auch solche Informationen solltest du nicht in der KI verwenden. Hier gibt es zwar per se keine ausdrückliche gesetzliche Verpflichtung zur Geheimhaltung. Aber vielleicht ist es zumindest nicht förderlich, wenn deine Entwickler den geheimen Quellcode zur Überprüfung in die KI geben und diese den Code zum Lernen nutzt.

Dasselbe gilt natürlich auch für vertrauliche Informationen von Dritten. Es kann sein, dass du vertrauliche Informationen im Rahmen einer Zusammenarbeit erhalten hast und dafür eine gesonderte Geheimhaltungsvereinbarung besteht. In diesem Fall kann die Nutzung der Informationen in der KI ein Verstoß gegen die Vereinbarung sein. Das kann Schadensersatz nach sich ziehen oder eine Vertragsstrafe.

KI und Arbeitsrecht

KI betrifft auch das Arbeitsrecht. Dabei geht es einerseits um den Einsatz von KI durch deine Mitarbeiter. Anderseits spielt KI auch immer häufiger eine Rolle in Bezug auf den Mitarbeiter selbst.

Einsatz von KI durch Mitarbeiter

Du kannst grundsätzlich frei entscheiden, ob du den Einsatz von KI durch deine Mitarbeiter zulässt oder nicht. Wenn du deinen Mitarbeitern erlaubst KI zu nutzen, solltest du aber in einer KI-Richtlinie festhalten, was erlaubt ist oder nicht. Ein Muster für eine KI-Richtlinie findest du ebenfalls in unserem Blog. Da der Einsatz von KI im Unternehmen nicht ganz ohne Risiko ist, solltest du deine Mitarbeiter auch verpflichten, entsprechenden Einsatz offenzulegen. Das ist schon allein deshalb erforderlich, damit du etwaige urheberrechtliche Themen klären kannst.

Einsatz von KI in Bezug auf Mitarbeiter

Eine andere Frage ist der Einsatz von KI, wenn es um den Mitarbeiter selbst geht. Die Einsatzmöglichkeiten sind hier enorm. Es geht schon los beim Einsatz von KI, die geeignete Bewerber für dich auswählt. Ebenso kann KI auch andere Prozesse im HR-Management abbilden. Wenn die KI dazu genutzt wird, um ggf. die Leistung von Mitarbeitern zu analysieren, kann dies erhebliche Auswirkungen auf deine Mitarbeiter haben. Diesen Einsatz solltest du in jedem Fall rechtlich abklären lassen. Mit Inkrafttreten der KI-Verordnung kann hier eine sogenannte Hochrisiko-KI vorliegen.

DeepFakes

Über die Möglichkeiten durch KI realistische Bilder und auch Videos zu erzeugen, muss ich hier nichts schreiben. Nutzt du KI, um Bilder von Personen zu erzeugen oder zu verändern, kann das ein Eingriff in das Recht am eigenen Bild der Person sein. Hiergegen kann sich diese wehren. Hier betreten wir dann den Bereich des Medienrechts. Aktuell geht Bundeskanzler Olaf Scholz z. B. gegen einen DeepFake von Korrektiv vor.

Unwahre Tatsachen

Probleme können aber nicht nur beim Erstellen von Bildern entstehen. Auch bei reinen Texterzeugnissen kann die KI unwahre Tatsachen schaffen und z. B. Unwahrheiten über Personen oder Unternehmen erfinden. Wenn diese dann in die Rechte Dritter eingreifen, kann dies ebenfalls zu Unterlassungsansprüchen führen. In den USA hatte ein Anwalt eine KI genutzt, um seinen Standpunkt in einem Gerichtsverfahren zu untermauern. Dabei hatte er Präzedenzfälle zitiert, die ihm die KI zur Verfügung gestellt hatte. Dumm nur, dass die Urteile nicht echt wahren und durch die KI frei erfunden wurden. Solche Halluzinationen sind natürlich peinlich und darüber hinaus auch gefährlich. Das gilt insbesondere, wenn man diese Informationen für rechtlich erhebliche Sachverhalte nutzt.

Haftung für KI-Einsatz

Ganz allgemein müssen wir uns in diesem Zusammenhang fragen, wer für falsche Informationen der KI haftet. Auch hier sind die denkbaren Fälle unbegrenzt. So kann es z. B. vorkommen, dass der ChatBot einer Fluggesellschaft falsche Informationen liefert. Wenn daraus ein Schaden entsteht, bleibt natürlich die Frage nach der Haftung. In Kanada musste eine Fluglinie gerade für einen solchen Fehler geradestehen. Hier hatte ein ChatBot falsche Preisinformationen gegeben.

Transparenzgebot

Eine allgemeine gesetzliche Kennzeichnungspflicht beim Einsatz von KI gibt es bislang nicht. Die KI-Verordnung sieht aber eine Kennzeichnungspflicht oder besser ein Transparenzgebot für bestimmte KI und Szenarien vor. Nach Art. 52 KI-Verordnung bist du verpflichtet, in den folgenden Situationen auf den Einsatz von KI hinzuweisen:

ChatBots und ähnliche Software

Beim Verwenden eines ChatBots oder eines anderen Systems für die Interaktion mit Natürlichen muss sichergestellt sein, dass natürlichen Personen mitgeteilt wird, dass sie es mit einem KI-System zu tun haben. Sofern der Einsatz einer KI aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, entfällt diese Pflicht.

Emotionserkennungssystems

Sofern du ein Emotionserkennungssystem oder eines Systems zur biometrischen Kategorisierung einsetzt, musst du die davon betroffenen Personen über den Betrieb des Systems informieren. Unabhängig vom Transparenzgebot aus der KI-Verordnung treffen dich beim Einsatz solcher Systeme vermutlich auch erhöhte Anforderungen im Datenschutz (Datenschutzfolgenabschätzung, besondere Pflichten bei Art. 9 Daten usw.).

Deepfake

Wenn du eine KI einsetzt, um Bild-, Ton- oder Videoinhalte zu erzeugen oder zu manipulieren, die wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln, musst du offenlegen, dass diese Inhalte künstlich erzeugt oder manipuliert wurden. Die Transparenz besteht allerdings nur, wenn die KI-Erzeugnisse „einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würden“.

Etwas anderes gilt, wenn der DeepFake für die Ausübung deines Rechts auf freie Meinungsäußerung, Kunstfreiheit oder Freiheit der Wissenschaft erforderlich ist und du geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter getroffen hast. In diesem Fall muss der Deepfake nicht transparent gemacht werden. Hier wird es in der Praxis sicherlich noch viele Diskussionen geben. Gerade das Kriterium der „Erforderlichkeit“ erweist sich dabei oft als „Spaßbremse“.

Rechtliche Aspekte beim Einsatz von KI im Unternehmen > Fazit

Bedenken über Bedenken … Beim Einsatz von KI kann viel passieren und in Anbetracht des – zumindest für die breite Öffentlichkeit noch jungen Themas – ist vieles rechtlich noch vollkommen offen. Dennoch sollte man sich die enormen Möglichkeiten nicht entgehen lassen. Mit ein wenig Vorsicht kann KI in vielen Bereichen gewinnbringend eingesetzt werden. Auf ein paar Punkte sollte man aber achten. Hast du zentrale rechtlichen Aspekte beim Einsatz von KI im Unternehmen im Auge, steht dem Spaß nichts mehr entgegen.