← Alle Artikel
KI & Recht

KI-Tool prüfen: Datenschutz-Check in 4 Fragen

Veröffentlicht am 11 Min. LesezeitVon Osman Öztopcu
Laptop mit Anmeldemaske und Schloss-Symbol, davor eine Checkliste mit vier Kästchen, Stift und ein Vorhängeschloss (KI-generiertes Bild)

Bevor Kundendaten in ein KI-Tool kommen, beantwortest du vier Fragen: Wo werden die Daten verarbeitet, und auf welcher Grundlage gehen sie in ein Land außerhalb der EU? Trainiert der Anbieter mit deinen Eingaben, und lässt sich das abschalten? Gibt es einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO? Und wer im Team darf was eingeben? Bei ChatGPT, Claude, Gemini und Microsoft Copilot fallen die Antworten laut den Anbietern selbst für Gratis- und Firmenversion verschieden aus.

Warum solltest du ein KI-Tool vor dem Einsatz prüfen?

Weil du für die Daten deiner Kunden verantwortlich bleibst, auch wenn ein Anbieter sie verarbeitet. Die DSGVO nennt dich dann Verantwortlichen und den Anbieter Auftragsverarbeiter, das Verhältnis heißt Auftragsverarbeitung. Was jemand im Team in ein Chatfenster kopiert, hat den Betrieb schon verlassen.

Für die Prüfung reichen meist zwei Seiten des Anbieters: die Datenschutz-Hinweise und die Vertragsbedingungen für deinen Tarif. Bekommst du ein Tool von einem Dienstleister eingerichtet, stellst du ihm dieselben Fragen. Worauf du bei Beratern sonst achtest, steht im Ratgeber Seriösen KI-Berater erkennen. Ist das Tool geprüft, testest du es im Probelauf in 4 Wochen.

1. Wo werden die Daten verarbeitet?

Das steht in der Datenschutzerklärung oder im Vertrag des Anbieters, meist mit einer Liste der Unterauftragsverarbeiter, also der Firmen, die für ihn Daten verarbeiten. Liegt ein Standort außerhalb der EU und des EWR, braucht die Übermittlung eine Grundlage nach Art. 44 ff. DSGVO. Die drei häufigsten:

  • Angemessenheitsbeschluss (Art. 45): Die EU-Kommission hat entschieden, dass ein Land genug Schutz bietet. Für die USA gilt der Beschluss vom 10. Juli 2023 nur für Firmen, die auf der „Data Privacy Framework List“ des US-Handelsministeriums stehen.
  • Standardvertragsklauseln (Art. 46): Vertragstexte, die die EU-Kommission vorgibt und die der Anbieter mit dir vereinbart. Anthropic schreibt zum Beispiel, dass sein Vertrag zur Auftragsverarbeitung solche Klauseln enthält.
  • Verarbeitung in der EU: Manche Firmentarife verarbeiten Daten in der EU. Microsoft schreibt etwa, Copilot sei für EU-Kunden ein Dienst innerhalb der EU-Datengrenze. Modelle von Anthropic, die Microsoft als Unterauftragsverarbeiter einsetzt, sind davon laut Microsoft derzeit ausgenommen.

Ein Tool kann also größtenteils in der EU rechnen und für eine Funktion trotzdem woanders. Wer gar keine Daten aus dem Haus geben will, nimmt ein lokales Modell, das auf einem eigenen Rechner oder Server läuft. Das kostet Einrichtung und Pflege, dafür verlässt kein Text den Betrieb.

2. Wird mit deinen Eingaben trainiert, und lässt sich das abschalten?

Bei den Gratis- und Privatversionen der großen Chat-Werkzeuge kann das sein, bei den Firmenversionen sagen die vier Anbieter: standardmäßig nein. Training heißt, der Anbieter nutzt deine Unterhaltungen, um seine Modelle zu verbessern. Dabei lesen teils Menschen mit: Google schreibt, dass ein Teil der Chats in den Gemini-Apps von Prüfteams gelesen wird, auch von geschulten externen Dienstleistern.

Zwei Ausnahmen stehen im Kleingedruckten. Bei OpenAI kann eine Bewertung mit Daumen hoch oder runter in den Plänen für Einzelpersonen dazu führen, dass die ganze Unterhaltung ins Training geht, auch wenn du das Training abgeschaltet hast. Bei Anthropic gilt das für die Firmenprodukte: Wer Feedback oder Fehler meldet, gibt die Unterhaltung damit frei. Die Regel fürs Team lautet deshalb: keine Daumen-Knöpfe, wenn Kundendaten im Chat stehen.

Was schreiben ChatGPT, Claude, Gemini und Copilot zu Training und Vertrag?

So beschreiben es die vier Anbieter auf ihren eigenen Seiten, abgerufen am 13. November 2026. Die Tabelle gibt wieder und wertet nicht. Die Seiten ändern sich, lies vor dem Abschluss selbst nach.

Gratis- und Privatversion gegen Firmenversion, laut Anbieter (Stand 13.11.2026)
MerkmalGratis- und PrivatversionFirmenversion
ChatGPT (OpenAI)Bei Free, Plus und Pro kann OpenAI Inhalte zum Training nutzen. Abschalten unter Einstellungen > Datenkontrollen > „Das Modell für alle verbessern“. Temporäre Chats gehen nicht ins Training.Bei ChatGPT Business, Enterprise und der API nutzt OpenAI Ein- und Ausgaben standardmäßig nicht zum Training. Einen Zusatz zur Datenverarbeitung (DPA) schließt OpenAI für diese Tarife über ein Formular ab.
Claude (Anthropic)Bei Free, Pro und Max trainiert Anthropic mit Chats, wenn die Einstellung dafür an ist. Du wählst bei der Anmeldung und änderst das jederzeit. Mit Training speichert Anthropic die Chats fünf Jahre, sonst 30 Tage.Bei Claude for Work (Team, Enterprise) und der API trainiert Anthropic standardmäßig nicht mit Ein- und Ausgaben. Der DPA mit Standardvertragsklauseln ist Teil der kommerziellen Bedingungen und gilt mit deren Annahme.
Gemini (Google)In den Gemini-Apps nutzt Google Aktivitäten auch zum Training generativer KI-Modelle, solange „Aktivitäten speichern“ an ist. Geprüfte Chats bewahrt Google bis zu drei Jahre auf.Mit Gemini in Google Workspace werden Inhalte ohne Erlaubnis weder von Menschen geprüft noch zum Training außerhalb deiner Domain genutzt. Für die meisten Workspace-Versionen gilt der Zusatz zur Cloud-Datenverarbeitung.
Microsoft CopilotFür den Copilot für Verbraucher gilt laut Microsoft das Modelltraining, abmelden ist möglich. Ausgenommen ist unter anderem Copilot in den Microsoft-365-Apps mit Personal- oder Family-Abo.Mit Firmenkonto (Entra ID) werden Prompts, Antworten und Daten aus Microsoft Graph nicht zum Training der Basismodelle genutzt. Die Datenresidenz regeln die Produktbedingungen und der Nachtrag zum Datenschutz.

Firmenversion heißt bei allen vier: ein Konto der Firma mit dem passenden Tarif. Ein privates Konto auf dem Firmenrechner bleibt eine Gratis- oder Privatversion, auch wenn es bezahlt ist.

3. Gibt es einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO?

Für die Firmentarife der vier Anbieter aus der Tabelle ja. Verarbeitet ein Anbieter personenbezogene Daten in deinem Auftrag, verlangt Art. 28 Abs. 3 DSGVO einen Vertrag. Er legt unter anderem Gegenstand, Dauer, Art und Zweck der Verarbeitung fest und dass der Anbieter nur auf deine dokumentierte Weisung arbeitet.

  • Gilt er automatisch, oder schließt du ihn eigens ab? Bei Anthropic gilt er mit den kommerziellen Bedingungen, bei OpenAI schließt du ihn über ein Formular ab.
  • Gibt es eine Liste der Unterauftragsverarbeiter? Nach Art. 28 Abs. 2 muss dich der Anbieter über geplante Änderungen informieren, damit du widersprechen kannst.
  • Wo legst du ihn ab? Speicher den Vertrag mit Datum, damit du später zeigen kannst, was gilt.

Gibt es für einen Tarif keinen solchen Vertrag, kommen keine personenbezogenen Daten hinein. Das betrifft auch die Mail mit Namen und Telefonnummer, die du nur schnell umformulieren lassen willst. Dazu brauchst du für jede Verarbeitung eine Rechtsgrundlage nach Art. 6 DSGVO, etwa die Erfüllung eines Vertrags mit dem Kunden.

4. Wer im Team darf was eingeben?

Das legst du schriftlich fest, sonst entscheidet es jeder selbst. Nutzen Leute im Team KI-Werkzeuge ohne Wissen des Betriebs, oft mit privatem Konto, heißt das Schatten-KI. Dann helfen die Antworten auf Frage 1 bis 3 nichts, weil niemand weiß, welches Tool im Einsatz ist. Vier Punkte gehören in die Regel:

  • Welche Tools erlaubt sind, mit Firmenkonto und Tarif.
  • Welche Daten nie hineinkommen, etwa Kundennamen mit Kontaktdaten, Zahlungsdaten, Gesundheitsdaten und Daten von Mitarbeitenden.
  • Wer vor dem Versand prüft, was an Kunden geht.
  • Wen man bei neuen Tools fragt, bevor jemand ein Konto anlegt.

Diese vier Punkte passen auf eine Seite. Eine Vorlage dafür ist die 1-Seiten-KI-Regel. Welche Prompts sich ganz ohne Kundendaten nutzen lassen, zeigt der Ratgeber Prompts für den Betriebsalltag.

Was verlangt die KI-Verordnung zusätzlich?

Zwei Artikel betreffen fast jeden Betrieb, der KI-Tools nutzt. Die KI-Verordnung (EU AI Act) gilt neben der DSGVO, sie ersetzt sie nicht.

  • Art. 4, KI-Kompetenz: Wer KI-Systeme beruflich einsetzt, ergreift Maßnahmen, um die KI-Kompetenz seiner Leute zu unterstützen. Seit der Änderung vom Juli 2026 musst du kein bestimmtes Niveau garantieren. Eine Schulung und die Regeln aus Frage 4 können solche Maßnahmen sein. Mehr im Ratgeber KI-Schulungspflicht 2026.
  • Art. 50, Hinweis auf KI: Seit dem 2. August 2026 sollen Menschen, die mit einem KI-System sprechen oder schreiben, etwa mit einem Chatbot oder einem KI-Telefon, erfahren, dass es eine KI ist. Wer Deepfakes erzeugt, also künstlich erzeugte oder veränderte Bilder, Töne oder Videos, legt das offen.

Ob für deinen Einsatz weitere Pflichten gelten, zeigt der EU-AI-Act-Check. Ob deine Daten für KI überhaupt bereit sind, also vollständig, geordnet und zugänglich, prüft der KI-Daten-Check. Für Betriebe in der Schweiz gilt statt der DSGVO in der Regel das revidierte Datenschutzgesetz (DSG), Aufsicht ist der EDÖB. Das ist ein Überblick und kein Rechtsrat.

Welche Fehler passieren bei KI-Tools und Datenschutz am häufigsten?

Drei Fehler, die still schaden

  1. Fehler 1Die Kundenliste ins Gratis-Tool kopieren.

    Schnell eine Liste sortieren oder eine Serienmail schreiben lassen: Dann liegen Namen und Kontaktdaten in einem Tarif ohne Vertrag zur Auftragsverarbeitung, je nach Einstellung auch im Training.

    Besser: Personenbezogene Daten nur in Tools mit Vertrag. Für alles andere Namen und Kontaktdaten vorher entfernen.

  2. Fehler 2Dem Etikett „DSGVO-konform“ glauben.

    Das Wort steht auf vielen Seiten. Es sagt nicht, welcher Tarif gemeint ist, wo die Server stehen und ob es einen Vertrag gibt.

    Besser: Die vier Fragen stellen und die Antworten mit Link und Datum auf den Prüfbogen schreiben.

  3. Fehler 3Einmal prüfen und dann nie wieder.

    Anbieter ändern ihre Bedingungen. Anthropic hat 2025 die Regeln zum Training für Privatkonten geändert und alle Nutzer um eine Entscheidung gebeten.

    Besser: Den nächsten Prüftermin auf den Bogen schreiben, etwa einmal im Jahr und bei jedem Tarifwechsel.

Die vier Fragen sind schnell gestellt. Damit dein Team sie im Alltag auch stellt, hilft eine Schulung. Die KI-Schulung von OsAI dauert einen halben Tag, für bis zu 10 Personen, mit Teilnahmebescheinigung für jede Person, und kostet 890 €.

KI-Schulung ansehen

Häufige Fragen

Ist ChatGPT DSGVO-konform?+

Das hängt vom Tarif und vom Einsatz ab, nicht vom Namen. Für ChatGPT Business, Enterprise und die API schließt OpenAI laut eigener Angabe einen Zusatz zur Datenverarbeitung ab und nutzt Ein- und Ausgaben standardmäßig nicht zum Training. Bei Free, Plus und Pro kann OpenAI Inhalte zum Training nutzen, solange du das nicht abschaltest. Personenbezogene Daten gehören nur in einen Tarif mit Vertrag.

Was ist ein Auftragsverarbeitungsvertrag?+

Ein Vertrag nach Art. 28 DSGVO zwischen dir und einem Dienstleister, der personenbezogene Daten in deinem Auftrag verarbeitet. Er legt fest, was der Dienstleister mit den Daten tun darf, wie er sie schützt und wen er hinzuziehen darf. Bei KI-Anbietern heißt er oft DPA (Data Processing Addendum).

Was ist Schatten-KI?+

Schatten-KI heißt, dass Leute im Team KI-Werkzeuge nutzen, von denen der Betrieb nichts weiß, oft mit privatem Konto. Dann fehlen Vertrag, passende Einstellungen und Regeln. Dagegen helfen eine Liste erlaubter Tools mit Firmenkonten und eine kurze Einweisung.

Darf ich Kundendaten in ein KI-Tool eingeben?+

Das kann zulässig sein, wenn die Grundlagen stehen: ein Vertrag zur Auftragsverarbeitung, ein geklärter Speicherort mit Grundlage für Drittländer, kein Training mit deinen Daten und eine Rechtsgrundlage nach Art. 6 DSGVO. Fehlt eines davon, gibst du die Daten ohne Namen und Kontaktdaten ein. Das ist ein Überblick und kein Rechtsrat.

Gilt die KI-Verordnung auch für kleine Betriebe?+

Ja. Art. 4 gilt für alle, die KI-Systeme beruflich einsetzen, auch für einen Betrieb mit drei Leuten, der ChatGPT nutzt. Seit Juli 2026 heißt die Pflicht: Maßnahmen ergreifen, um die KI-Kompetenz zu unterstützen. Ein bestimmtes Niveau musst du nicht garantieren.

Quellen

Stand: November 2026.