KI-Lexikon · Recht und Datenschutz
Schatten-KI
Auch genannt: Shadow AI · Schatten-IT mit KI
Was ist Schatten-KI?
Der Begriff kommt von Schatten-IT: Programme, die im Betrieb laufen, ohne dass die Chefin, der Chef oder die IT davon weiß. Bei KI geht das besonders schnell. Ein Browser-Tab reicht, und schon steckt die Reklamation eines Kunden mit Name und Adresse in einem Chat-Werkzeug.
Meist steckt guter Wille dahinter: Jemand will schneller antworten oder eine Mail freundlicher formulieren. Die Datenschutzkonferenz, das Gremium der deutschen Datenschutzaufsichtsbehörden, schreibt dazu: Ohne klare Regeln besteht das Risiko, dass Beschäftigte KI-Anwendungen eigenmächtig und unkontrolliert nutzen. Sie geht davon aus, dass das in vielen Unternehmen schon Realität ist.
Wie funktioniert das?
Schatten-KI entsteht dort, wo Regeln und passende Werkzeuge fehlen. Typische Wege in den Betrieb:
- Private Konten: kostenlose Chat-Werkzeuge mit privater Mailadresse, ohne Vertrag zwischen Betrieb und Anbieter.
- Erweiterungen und Apps: Schreibhilfen oder Übersetzer im Browser, die Text an einen fremden Dienst schicken.
- Neue KI-Funktionen in vorhandener Software: ein Assistent im Mailprogramm, im Office-Paket oder im CRM, den jemand einschaltet.
- Das Handy: Fotos von Unterlagen, die in eine KI-App wandern.
Warum zählt das für deinen Betrieb?
Weil personenbezogene Daten dann ohne Vertrag zur Auftragsverarbeitung bei einem Anbieter landen können, oft außerhalb der EU. Dazu kommen Betriebsgeheimnisse wie Preise und Kalkulationen, ungeprüfte Ergebnisse und Lücken bei der KI-Kompetenz: Wer nicht weiß, welche Werkzeuge im Einsatz sind, kann keine passenden Maßnahmen nach Art. 4 der KI-Verordnung ergreifen.
Die Datenschutzkonferenz empfiehlt klare, dokumentierte interne Regeln, ob, wofür und welche KI-Anwendungen genutzt werden dürfen, mit Beispielen für Erlaubtes und Verbotenes. Außerdem sollen Arbeitgeber Geräte und Konten für die berufliche Nutzung stellen, statt Beschäftigte auf private Konten zu verweisen. Das ist ein Überblick und kein Rechtsrat.
Wie setzt OsAI das ein?
OsAI rät, mit einer ehrlichen Bestandsaufnahme anzufangen und danach die erlaubten Werkzeuge mit Firmenkonto auf eine Liste zu setzen.
Für die Regeln gibt es die kostenlose Vorlage Die 1-Seiten-KI-Regel: erlaubte Werkzeuge, Daten, die nie hineinkommen, wer vor dem Versand prüft und wen man bei neuen Werkzeugen fragt. Die KI-Schulung von OsAI behandelt Datenschutz und vertrauliche Daten und endet mit einem Teilnahme-Nachweis je Person.
Häufige Fragen
Ist Schatten-KI verboten?
Kein Gesetz verbietet sie ausdrücklich, aber sie kann gegen geltende Regeln verstoßen. Gibt jemand Kundendaten in ein Werkzeug ohne Vertrag zur Auftragsverarbeitung, kann das gegen Art. 28 DSGVO verstoßen. Verantwortlich bleibt der Betrieb, nicht die Person am Rechner.
Wie finde ich heraus, ob es im Betrieb Schatten-KI gibt?
Frag offen und ohne Vorwurf nach: Wer nutzt welche KI-Werkzeuge, wofür und mit welchem Konto? Schau auch in die Einstellungen eurer vorhandenen Software, ob neue KI-Funktionen eingeschaltet sind. Aus den Antworten entsteht die Liste der erlaubten Werkzeuge.
Soll ich KI im Betrieb einfach verbieten?
Ein Verbot beseitigt nicht den Zeitdruck, der Mitarbeitende zu privaten Werkzeugen greifen lässt. Besser: geprüfte Werkzeuge mit Firmenkonto erlauben, Datenregeln aufschreiben und das Team schulen. In diese Richtung zielt auch die Orientierungshilfe der Datenschutzkonferenz.
Verwandte Begriffe
Weiterlesen im Blog
Passende Leistungen
Quellen
Stand: