- KI-Tools verarbeiten Daten – oft auf Servern außerhalb der EU
- Ihr braucht einen Auftragsverarbeitungsvertrag (AV-Vertrag) mit dem KI-Anbieter
- Personenbezogene Daten dürfen nicht ohne weiteres in KI-Tools eingegeben werden
- Die kostenlose Version von ChatGPT ist für Unternehmen datenschutzrechtlich problematisch
- Bei bestimmten Einsatzszenarien ist eine Datenschutz-Folgenabschätzung nötig
Warum ist das Thema so wichtig?
Über ein Drittel der deutschen Unternehmen nutzt bereits KI-Tools.
Viele davon verarbeiten dabei – oft unbewusst – personenbezogene Daten. Und damit greift die DSGVO.
Das Problem: Die meisten KI-Anbieter sitzen in den USA.
Jede Eingabe in ein KI-Tool kann eine Datenübermittlung in ein Drittland sein.
Und die kostenlose Version von ChatGPT nutzt eure Eingaben sogar zum Training – inklusive eventuell enthaltener personenbezogener Daten.
Das bedeutet für euch: Laut Art. 28 DSGVO brauchst ihr bei jeder Verarbeitung personenbezogener Daten durch Dritte einen Auftragsverarbeitungsvertrag. Ohne diesen Vertrag ist die Nutzung rechtswidrig.
Die DSGVO verbietet nicht den Einsatz von KI-Tools. Aber sie verlangt, dass ihr wisst, was mit den Daten passiert – und dass ihr es regelt.
Der AV-Vertrag: Eure rechtliche Grundlage
Wenn ein KI-Anbieter in eurem Auftrag personenbezogene Daten verarbeitet, braucht ihr einen Vertrag.
Einen Auftragsverarbeitungsvertrag (AV-Vertrag) nach Art. 28 DSGVO.
Ohne diesen Vertrag ist die Nutzung des Tools rechtswidrig.
Das bedeutet für euch: Gemäß Art. 28 Abs. 3 der Verordnung (EU) 2016/679 (DSGVO) muss die Verarbeitung durch einen Auftragsverarbeiter auf Grundlage eines Vertrags erfolgen. Der AV-Vertrag schützt euch rechtlich.
Welche Anbieter bieten AV-Verträge an?
| Anbieter | AV-Vertrag | Bedingung |
|---|---|---|
| OpenAI (ChatGPT) | Ja | Nur bei Team-, Enterprise- oder API-Lizenz |
| Microsoft (Copilot) | Ja | Im Microsoft 365-Vertrag enthalten |
| Google (Gemini) | Ja | Google Workspace-Vertrag mit AI-Zusatz |
| Anthropic (Claude) | Ja | Für Business-Nutzung verfügbar |
| DeepL | Ja | Bei Pro- und Business-Lizenzen |
Was steht im AV-Vertrag?
Ein AV-Vertrag regelt mindestens:
- Welche Daten verarbeitet werden
- Zu welchem Zweck die Verarbeitung erfolgt
- Welche technischen Schutzmaßnahmen der Anbieter trifft
- Ob und wo Unterauftragsverarbeiter eingesetzt werden
- Ob die Daten zum Training genutzt werden (sollte ausgeschlossen sein!)
Datenübermittlung in die USA
Die großen KI-Anbieter – OpenAI, Google, Microsoft, Anthropic – sitzen in den USA.
Personenbezogene Daten dürfen nur unter bestimmten Bedingungen in die USA übermittelt werden.
Das bedeutet für euch: Laut Art. 44-50 DSGVO sind Drittlandübermittlungen nur mit angemessenem Schutzniveau zulässig. Prüfe, ob der Anbieter DPF-zertifiziert ist, bevor ihr personenbezogene Daten übermittelst.
EU-US Data Privacy Framework
Seit Juli 2023 gibt es das EU-US Data Privacy Framework (DPF).
US-Unternehmen, die sich zertifizieren lassen, gelten als "angemessenes Schutzniveau".
Der Datentransfer ist dann ohne weitere Maßnahmen zulässig.
- OpenAI: DPF-zertifiziert
- Microsoft: DPF-zertifiziert
- Google: DPF-zertifiziert
- Anthropic: DPF-zertifiziert
Was darf in KI-Tools eingegeben werden?
Was dürfen eure Mitarbeiter in ChatGPT, Copilot & Co. eintippen?
Die Faustregel: Alles ohne Personenbezug.
Das bedeutet für euch: Gemäß Art. 5 und Art. 6 DSGVO müssen personenbezogene Daten rechtmäßig, zweckgebunden und datensparsam verarbeitet werden. Ohne Rechtsgrundlage und Zweckbindung: nicht eingeben.
Das dürft ihr eingeben
- Allgemeine Fragen ohne Personenbezug ("Erstelle eine Agenda für ein Team-Meeting")
- Öffentlich verfügbare Informationen ("Fasse die DSGVO zusammen")
- Eigene Texte ohne Personenbezug ("Verbessere diesen Marketingtext")
Das dürft ihr NICHT eingeben
- Personenbezogene Daten: Namen, E-Mail-Adressen, Telefonnummern von Kunden oder Mitarbeitern
- Gesundheitsdaten: Krankmeldungen, Diagnosen, Befunde
- Finanzdaten: Gehaltsabrechnungen, Kontonummern
- Vertrauliche Geschäftsdaten: Verträge, Kalkulationen, Quellcode
Praxis-Tipp: Anonymisieren
Wenn ihr einen Text mit Personenbezug verarbeiten wollt, anonymisiert ihn vorher:
| Statt | Schreibt |
|---|---|
| "Verfasse eine Antwort an Max Müller (max@mueller.de)" | "Verfasse eine Antwort an einen Kunden, der sich über Lieferverzug beschwert" |
| "Erstelle ein Zeugnis für Anna Schmidt, Vertrieb, seit 2019" | "Erstelle ein Zeugnis für eine Vertriebsmitarbeiterin mit 5 Jahren Erfahrung" |
Braucht ihr eine Datenschutz-Folgenabschätzung?
Eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO ist erforderlich.
Und zwar dann, wenn die Verarbeitung ein hohes Risiko für die Rechte der Betroffenen birgt.
Das bedeutet für euch: Laut Art. 35 Abs. 1 der Verordnung (EU) 2016/679 (DSGVO) ist eine DSFA bei hohem Risiko Pflicht. Bei Standard-KI-Tools wie ChatGPT für Texte ist das meist nicht der Fall.
Wann ist eine DSFA bei KI-Tools nötig?
- Systematische Bewertung von Personen (z.B. Bewerberauswahl per KI)
- Umfangreiche Verarbeitung besonderer Datenkategorien
- Automatisierte Entscheidungen mit rechtlicher Wirkung
- Systematische Überwachung öffentlicher Bereiche
Wann ist keine DSFA nötig?
- ChatGPT als Schreibassistent für allgemeine Texte
- DeepL für Übersetzungen ohne Personenbezug
- Copilot für Code-Unterstützung
Praxis-Beispiel: Müller GmbH
Die Müller GmbH (35 Mitarbeiter, Maschinenbau) nutzt drei KI-Tools im Alltag. So hat sie die DSGVO-Konformität sichergestellt:
| Tool | Einsatz | DSGVO-Maßnahme |
|---|---|---|
| Microsoft Copilot | E-Mails, Präsentationen | AV-Vertrag über Microsoft 365 vorhanden |
| ChatGPT Team | Textideen, Recherche | Team-Lizenz mit AV-Vertrag, Regel: keine Kundendaten |
| DeepL Pro | Übersetzungen | AV-Vertrag abgeschlossen, Daten in der EU |
Aufwand: AV-Verträge prüfen und abschließen hat insgesamt 2 Stunden gedauert.
Die internen Regeln zur Datennutzung wurden in der KI-Richtlinie festgehalten.
2 Stunden Aufwand statt 2.000 EUR Anwalt. Die Müller GmbH hat ca. 2.000 EUR für externe Rechtsberatung gespart. Ohne Berater-Abhängigkeit.
Microsoft Copilot: Besonderheiten
Viele KMU nutzen Microsoft 365 – und damit potenziell Copilot. Aber Copilot ist nicht gleich Copilot:
| Aspekt | Microsoft 365 Copilot | Bing Chat / Copilot (kostenlos) |
|---|---|---|
| AV-Vertrag | Im M365-Vertrag enthalten | Nicht für geschäftliche Nutzung vorgesehen |
| Datenverarbeitung | Innerhalb eures M365-Tenants | Verarbeitung durch Microsoft |
| Training | Keine Nutzung für Modell-Training | Kann für Verbesserungen genutzt werden |
| Empfehlung | Für geschäftliche Nutzung geeignet | Nicht für vertrauliche Daten |
Checkliste: KI-Tools DSGVO-konform nutzen
Mit dieser Checkliste stellt ihr sicher, dass ihr KI-Tools datenschutzkonform einsetzt:
- Alle genutzten KI-Tools erfasst
- AV-Verträge mit allen Anbietern geprüft/abgeschlossen
- DPF-Zertifizierung der US-Anbieter geprüft
- Interne Regeln definiert: Was darf eingegeben werden?
- DSFA-Pflicht geprüft (bei automatisierten Entscheidungen)
- Verarbeitungsverzeichnis um KI-Tools ergänzt
- Datenschutzerklärung aktualisiert (falls KI-Chatbot auf Website)
- Mitarbeiter geschult
Fazit
Unser Rat: Nehmt euch einen Nachmittag.
Regelt die Grundlagen und arbeitet diese Liste ab:
- Bezahlversionen nutzen – mit AV-Vertrag und ohne Training
- Keine personenbezogenen Daten eingeben – oder vorher anonymisieren
- AV-Verträge abschließen – das dauert nur Minuten
- Mitarbeiter sensibilisieren – klare Regeln in der KI-Richtlinie
- Verarbeitungsverzeichnis aktualisieren – KI-Tools gehören rein
Danach nutzt ihr KI-Tools rechtssicher.
Und könnt euch auf das konzentrieren, wofür ihr sie eigentlich einsetzen wollt.
Und nebenbei: Das gute Gefühl, beim nächsten Datenschutz-Audit nicht ins Schwitzen zu kommen. Die Ruhe, wenn ein Mitarbeiter fragt: "Darf ich das hier eingeben?" – und ihr die Antwort kennst.
Weiterführende Ressourcen
Diese Artikel vertiefen das Thema KI und Datenschutz: