Künstliche Intelligenz (KI) hält Einzug in Unternehmen und verändert die Arbeitswelt grundlegend. Umso wichtiger ist es, einen verantwortungsvollen Umgang mit dieser Technologie zu gewährleisten. Eine KI-Richtlinie gibt dir und deinem Team Orientierung und schafft ein Regelwerk für den Einsatz von KI im Unternehmen. Wenn du mehr zu rechtlichen Themen im Beriech KI Einsatz im Unternehmen wissen willst, schau auf dir den Artikel Rechtliche Aspekte beim Einsatz von KI im Unternehmen an.

In diesem Blogartikel erkläre ich dir, welche Inhalte deine KI-Richtlinie abdecken sollte und was du sonst noch im Kontext deiner KI-Richtlinie beachten solltest. Selbstverständlich habe ich auch Muster für eine KI-Richtlinie für dich vorbereitet.

Inhalte einer KI-Richtlinie

Es gibt keine gesetzliche Regelung für die Mindestinhalte einer KI-Richtlinie. Was du in die Richtlinie aufnimmst und damit regeln willst, hängt maßgeblich vom Einzelfall ab. Dennoch gibt es ein paar Punkte du beachten solltest.

Anwendungsbereich und Ziele der Richtlinie

Jede Richtlinie sollte zunächst den eigenen Anwendungsbereich klarstellen. Deine KI-Richtlinie sollte dabei klar definieren, welche KI-Systeme und Anwendungsfälle darunter fallen und für welche Mitarbeiter und Unternehmensbereiche sie gilt.

Lege außerdem die Ziele deine KI-Richtlinie fest: z. B. Förderung von Transparenz, Fairness und ethischem Handeln.

Verantwortlichkeiten und Rollen

Zusätzlich solltest du die Verantwortlichkeiten für die Einhaltung der Richtlinie zuweisen: z. B. KI-Beauftragter, Management, Fachabteilungen. Definiere dabei die Rollen und Aufgaben der Beteiligten z. B. Entwickler, Nutzer, Datenschutzexperten.

Ethische Prinzipien und Werte

Verankere ethische Prinzipien und Werte im Unternehmenskontext. Lege Leitplanken für die Entwicklung und Nutzung von KI-Systemen fest, die mit diesen Prinzipien im Einklang stehen. Deine KI-Richtlinie könnte dabei folgende Aspekte abdecken:

• Transparenz: Nutzer sollten jederzeit verstehen können, wie und warum eine KI-Entscheidung getroffen wurde.
• Fairness: Deine KI-Systeme sollten frei von Vorurteilen sein und alle Nutzer gleich behandeln.
• Verantwortung: Leg fest, wer für die Überwachung der KI-Systeme verantwortlich ist und wie man bei Fehlverhalten vorgeht.

Datenmanagement und Datenschutz

Definiere Prozesse und Regeln für die Verarbeitung von personenbezogenen Daten für KI-Systeme. Stelle dabei sicher, dass die Datenverarbeitung den Datenschutzbestimmungen z. B. DSGVO und BDSG entspricht. KI-Systeme sind oft auf große Datenmengen angewiesen. Daher ist der Schutz dieser Daten von größter Bedeutung. Deine Richtlinie sollte klare Regeln für Datenschutz und Datensicherheit enthalten. Dabei können unterschiedliche Szenarien Regeln erfordern. Das Training einer eigenen KI musst du u.U. anders beurteilen, als die Nutzung von ChatGPT durch deine Mitarbeiter.

Transparenz und Nachvollziehbarkeit

Schaffe Transparenz über die Funktionsweise von KI-Systemen: z. B. Dokumentation von Algorithmen, Entscheidungen und Datensätzen.

Ermögliche die Nachvollziehbarkeit von Entscheidungen, die auf KI-Systemen basieren.

Betriebsgeheimnisse und vertrauliche Informationen

Definiere den Umgang mit Betriebsgeheimnissen. Betriebsgeheimnisse sind alle Informationen, die nicht öffentlich bekannt werden dürfen. In der Regel sind das deine Assets. Das können Kundenlisten sein, aber auch geheimer Quellcode. Du solltest definieren, welche Informationen als Betriebsgeheimnisse gelten, z. B. Geschäftsmodelle, Algorithmen, Datensätze oder Kundenlisten. Lege fest, welche Informationen im Kontext der KI genutzt werden dürfen. Im Zweifel muss die Nutzung sensibler Daten im KI-System streng untersagt werden. Hier geht es nicht nur um deine vertraulichen Informationen, sondern auch um die deiner Kunden.

Verpflichte deine Entwickler und Nutzer von KI-Systemen zur Verschwiegenheit. Das machst du am besten auch noch in einer gesonderten Vereinbarung.

Urheberrecht und geistiges Eigentum (IP)

Deine Richtlinie sollte den Umgang mit geistigem Eigentum (IP) regeln. Geistiges Eigentum ist alles im Bereich Urheberrecht, Patente, Designs oder Marken. Lege klaren Regeln fest, wie mit geistigem Eigentum umgegangen wird, wann dieses in der KI genutzt werden kann und wann nicht. Dabei geht es nicht nur fremdes IP, sondern auch eigenes. Die „Veröffentlichung“ einer Erfindung in der KI, die noch patentiert werden soll, kann verheerende Folgen haben, dasselbe gilt für Code, der einen geheimen Algorithmus enthält.

Unabhängig von der Eingabe solltest du auch regeln, wie man mit dem Output der KI umgeht.

Kläre die urheberrechtlichen Verhältnisse an den Ergebnissen von KI-Systemen bzw. Prompts. KI-Output ist in der Regel nicht geschützt. Du kannst daran also keine Rechte geltend machen. Das ist entscheidend für eine kommerzielle Verwertung dieses Inhalts. Hier muss klar geregelt werden. Hier sollten bereits klare Regeln existieren, die den Einsatz der KI offenlegen. Nur so kannst du oft überhaupt erkennen, was KI-Output ist. Es sollte auch geregelt werden, wie man solchen Output prüft. Hier besteht immer die Gefahr, dass z. B. KI-generierter Code Open-Source enthält oder ein Text bereits existiert.

Haftung und Versicherung

Definiere die Haftungsregelungen für Schäden, die durch KI-Systeme verursacht werden.

Etabliere ein Verfahren für die Bearbeitung von Beschwerden im Zusammenhang mit KI-Systemen (Beschwerdemanagement).

Nachhaltigkeit und soziale Verantwortung

Zu guter Letzt sollte deine KI-Richtlinie auch den langfristigen Einfluss von KI auf Gesellschaft und Umwelt berücksichtigen. Überlege, wie dein Unternehmen:

• KI-Technologien zum Wohl der Gesellschaft einsetzen kann (Soziale Verantwortung)
• KI-Systeme entwickelt, die ressourceneffizient sind und zur Erreichung von Nachhaltigkeitszielen beitragen (Nachhaltigkeit).

Rund um deine KI-Richtlinie

Mit der Erstellung deiner KI-Richtlinie ist es nicht getan. Du solltest auch ein paar Maßnahmen rund um die Richtlinie ergreifen. Die beste Richtlinie nützt nichts, wenn deine Mitarbeiter nicht wissen, worauf Sie achten sollten. Außerdem birgt neue Technik auch immer neue Gefahren.

Sicherheit und Risikomanagement

Implementiere Maßnahmen zur IT-Sicherheit und zum Schutz vor Cyberangriffen. Der Einsatz von KI eröffnet auch ein neues Feld für Cyberattacken. Um diese Risiken deutlich zu machen, hat eine Gruppe von Forschern einen Wurm geschaffen. Dieser kann sich von einem System auf ein anderes ausbreiten und dabei Daten stehlen oder Malware darin einsetzen.

Ebenso solltest du in eine Risikobewertung durchführen und potenzielle Risiken im Zusammenhang mit KI-Systemen identifizieren.

Mitbestimmung und Partizipation

Beteilige Mitarbeiter und Stakeholder an der Entwicklung und Nutzung von KI-Systemen.

Schaffe Möglichkeiten zur Mitbestimmung und zum Dialog über die Auswirkungen von KI auf die Arbeitswelt.

Schulung deiner Mitarbeitenden

Die erfolgreiche Implementierung von KI in deinem Unternehmen erfordert nicht nur technische Vorbereitungen, sondern auch die Schulung deiner Mitarbeitenden. Deine Richtlinie sollte daher Folgendes berücksichtigen:

• Schulungsprogramme: Biete regelmäßige Schulungen an, um sicherzustellen, dass alle Mitarbeiter die Prinzipien und Werkzeuge der KI verstehen und richtig anwenden können.
• Best Practices: Entwickle und teile Best Practices für den Einsatz von KI in verschiedenen Unternehmensbereichen.
• Kontinuierliche Weiterentwicklung: Aktualisiere deine KI-Richtlinie regelmäßig, um den aktuellen Entwicklungen im Bereich der KI Rechnung zu tragen.

KI-Richtlinie im Unternehmen > Fazit

Die Erstellung einer KI-Richtlinie ist ein wichtiger Schritt, um den Einsatz von KI im Unternehmen verantwortungsvoll zu gestalten. Die oben genannten Inhalte bilden ein Gerüst, das du an die Bedürfnisse deines Unternehmens anpassen kannst. Mit einer soliden KI-Richtlinie schaffst du Vertrauen und legst den Grundstein für eine nachhaltige und ethische Nutzung von KI im Unternehmen.

Download: Muster KI-Richtlinie für den Einsatz von KI im Unternehmen.