Fast jedes zweite Unternehmen nutzt inzwischen KI-Tools wie ChatGPT, Microsoft Copilot oder Claude im Büroalltag. Was viele nicht wissen: Wer dabei die Vorgaben von DSGVO und EU AI Act ignoriert, riskiert Bußgelder bis zu 15 Millionen Euro oder 3 Prozent des Jahresumsatzes. Eine aktuelle Querschnittsprüfung in NRW zeigt, dass fast jedes dritte KMU noch immer keinen Auftragsverarbeitungsvertrag mit seinem KI-Anbieter abgeschlossen hat.
Datenschutz ist Chefsache, nicht IT-Angelegenheit. Foto: cottonbro studio auf Pexels
Warum das Thema jetzt dringlicher ist als je zuvor
Wer in der täglichen Arbeit ChatGPT-Konversationen mit Kundendaten füttert, Mitarbeiterbeurteilungen per KI vorformuliert oder Bewerbungen automatisiert auswählt, hat längst ein Datenschutzproblem, auch wenn er es noch nicht bemerkt hat.
Die Zahlen aus einer Querschnittsprüfung 2026 in Nordrhein-Westfalen sind eindeutig: Von 38 untersuchten mittelständischen Unternehmen nutzen 31 KI-Tools regelmäßig. Davon haben 12 keinen Auftragsverarbeitungsvertrag mit ihrem KI-Anbieter, 19 keine Datenschutz-Folgenabschätzung trotz erkennbarer Risikofälle und 26 keine dokumentierte Mitarbeiterschulung zum DSGVO-konformen KI-Einsatz. Das ist kein Einzelfall, das ist strukturelles Risiko.
Der Gesetzgeber schläft nicht. Die Datenschutzkonferenz (DSK) hat KI offiziell zum Prüfschwerpunkt 2026 erklärt. Der BfDI veröffentlichte im Dezember 2025 die Handreichung “KI in Behörden: Datenschutz von Anfang an mitdenken”, deren Grundsätze genauso für private Unternehmen gelten. Und der EU AI Act hat den Bußgeldrahmen (bis zu 35 Millionen Euro oder 7 Prozent des Jahresumsatzes; für KMU als Betreiber bis zu 15 Millionen oder 3 Prozent) bereits seit August 2025 scharf gestellt.
Die gute Nachricht: Sieben Regeln reichen, um das Gröbste zu vermeiden.
Regel 1: Die kostenlose Version ist für Firmendaten verboten
Die meisten KI-Anbieter bieten kostenlose Zugänge an. Für den privaten Gebrauch ist das unproblematisch. Im Unternehmen wird es zum Risiko, sobald auch nur ein Name, eine E-Mail-Adresse oder ein Vertragsdokument in das Eingabefeld landet.
Der Grund: Kostenlose Versionen von ChatGPT, Claude.ai oder Gemini stellen keinen Auftragsverarbeitungsvertrag bereit. Ohne diesen Vertrag dürfen keine personenbezogenen Daten verarbeitet werden. Dasselbe gilt für viele Browser-Plugins oder “KI-Assistenten” aus App-Stores, die im Hintergrund Daten an externe Server schicken.
Die Lösung: Team- oder Business-Lizenzen mit explizitem Auftragsverarbeitungsvertrag. OpenAI bietet ihn ab ChatGPT Team, Anthropic ab Claude for Work, Google ab Workspace AI. Microsoft 365 Copilot hat den Vertrag bereits im Standard-M365-Abonnement enthalten.
Regel 2: Auftragsverarbeitungsvertrag abschließen und aufbewahren
Der Auftragsverarbeitungsvertrag (kurz: AVV, englisch: DPA) regelt, was der KI-Anbieter mit den eingegebenen Daten machen darf. Er ist nach Art. 28 DSGVO Pflicht, sobald ein externer Dienstleister personenbezogene Daten für Sie verarbeitet.
Ein AVV muss folgende Punkte regeln: Art und Zweck der Verarbeitung, Kategorien personenbezogener Daten, Weisungsgebundenheit des Auftragsverarbeiters, Sicherheitsmaßnahmen, Subunternehmer-Liste sowie Pflichten bei Datenschutzvorfällen.
In der Praxis: Laden Sie den AVV Ihres KI-Anbieters herunter, unterzeichnen Sie ihn (bei Enterprise-Lösungen oft digital im Admin-Panel) und bewahren Sie ihn zusammen mit Ihrem Verarbeitungsverzeichnis auf. Bei Datenschutzprüfungen ist er das erste Dokument, das die Behörde sehen will.
Regel 3: Keine Kunden- und Mitarbeiterdaten ungeprüft eingeben
Auch mit einem gültigen AVV gilt das Prinzip der Datensparsamkeit nach Art. 5 Abs. 1 lit. c DSGVO. KI-Systeme brauchen für viele Aufgaben keine echten Personendaten.
Wer einen Angebots-Rohtext formuliert, braucht keinen echten Kundennamen. Wer eine E-Mail-Vorlage erstellt, braucht keine echten Kontaktdaten. Wer Vertragsklauseln prüft, kann Namen und Firmenangaben zunächst anonymisieren oder pseudonymisieren.
Faustregel: Bevor Sie personenbezogene Daten in eine KI eingeben, fragen Sie: Braucht das System das wirklich, oder reicht eine allgemeine Beschreibung? Wenn der Output genauso gut ohne Namen, Adressen oder spezifische Firmendaten auskommt, lassen Sie diese weg.
Besonders sensibel sind Beschäftigtendaten (Gehaltsangaben, Krankmeldungen, Leistungsbeurteilungen), Gesundheitsdaten und Daten aus dem Bewerbungsprozess. Diese unterliegen erhöhten Anforderungen.
Regel 4: Drittlandtransfer absichern
OpenAI, Anthropic und Google sitzen in den USA. Auch wenn Sie einen AVV haben: Ihre Daten verlassen die EU, und das ist nach der Schrems-II-Rechtsprechung nicht unkompliziert.
Für diesen Fall brauchen Sie ein Transfer Impact Assessment, also eine Bewertung, ob das Datenschutzniveau im Zielland dem europäischen Standard entspricht. In vielen Fällen ergibt diese Prüfung, dass zusätzliche Schutzmaßnahmen notwendig sind.
Eine praktische Alternative: ChatGPT Enterprise bietet seit Februar 2025 EU-Datenspeicherung und seit Januar 2026 sogar EU-seitige Inferenzverarbeitung an. Microsoft Azure OpenAI und Microsoft Copilot verarbeiten Daten in europäischen Rechenzentren.
Für besonders sensible Anwendungsfälle, etwa die lokale Protokollierung von Meetings ohne Cloud-Anbindung, ist eine On-Premise-Lösung die datenschutzrechtlich sauberste Option.
Regel 5: Mitarbeiter schulen und die Schulung dokumentieren
Seit dem 2. Februar 2025 gilt Art. 4 des EU AI Acts. Er verpflichtet alle Unternehmen, die KI einsetzen, für ausreichende KI-Kompetenz ihrer Mitarbeitenden zu sorgen. Keine Ausnahme für KMU.
Das klingt nach Aufwand, ist in der Praxis aber viel nüchterner: Eine kurze Schulung zum DSGVO-konformen Umgang mit KI-Tools, gefolgt von einem knappen Protokoll, reicht für die meisten KMU aus. Entscheidend ist die Dokumentation.
Die NRW-Querschnittsprüfung zeigt das Problem: 26 von 31 KI-nutzenden Unternehmen hatten keine schriftliche Schulungsdokumentation. Das ist kein inhaltliches Problem, das ist ein Nachweisproblem, das bei einer Prüfung sofort teuer werden kann.
Was Sie brauchen: Eine kurze schriftliche Richtlinie für Mitarbeiter (was ist erlaubt, was nicht, welche Lizenzen nutzen wir), eine Schulungsunterlage oder ein kurzes Erklär-Video und eine Teilnehmerliste mit Datum.
Regel 6: KI-Systeme im Verarbeitungsverzeichnis erfassen
Art. 30 DSGVO verlangt ein Verzeichnis aller Datenverarbeitungstätigkeiten. KI-Tools, die personenbezogene Daten verarbeiten, gehören da rein, auch wenn das viele KMU noch nicht tun.
Für jeden KI-Einsatz mit Personenbezug gehören folgende Angaben ins Verzeichnis: Name und Kontakt des Verantwortlichen, Zweck der Verarbeitung, betroffene Datenkategorien, Empfänger (inkl. KI-Anbieter als Auftragsverarbeiter), Übermittlung in Drittländer, geplante Löschfristen und Sicherheitsmaßnahmen.
Das Verzeichnis muss kein komplexes System sein. Eine gepflegte Tabelle reicht, solange sie vollständig und aktuell ist.
Im KI-gestützten Vertrieb etwa, wo CRM-Daten in KI-Systeme fließen, ist das Verzeichnis besonders wichtig, weil dort regelmäßig Kundendaten verarbeitet werden.
Regel 7: Datenschutz-Folgenabschätzung bei hohem Risiko
Wenn Sie KI systematisch für Entscheidungen über Personen einsetzen, greift Art. 35 DSGVO: die Datenschutz-Folgenabschätzung. Sie ist Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt.
Konkrete Beispiele, bei denen eine solche Prüfung fast immer nötig ist: automatisiertes Bewerberscreening, KI-gestütztes Mitarbeiter-Monitoring, automatisiertes Kunden-Scoring für Kreditentscheidungen und KI-gestützte Verhaltensanalyse im Marketing.
Die Abschätzung beschreibt das geplante System, bewertet die Risiken und legt fest, welche Maßnahmen diese mindern. Sie muss vor dem Einsatz des Systems erstellt werden, nicht nachträglich. Das BfDI empfiehlt, dabei einen externen Datenschutzbeauftragten hinzuzuziehen.
Was ab August 2026 noch dazukommt
Das sind die bestehenden DSGVO-Anforderungen. Ab dem 2. August 2026 treten zusätzlich die GPAI-Durchsetzungsregeln des EU AI Acts in Kraft: KI-Anbieter wie OpenAI oder Anthropic müssen neue Transparenz- und Sicherheitsanforderungen erfüllen. Für Unternehmen als Betreiber ändert sich ab diesem Datum noch nicht viel, aber die Prüfdichte der Datenschutzbehörden wird steigen.
Mehr zu den Fristen und Risikoklassen des EU AI Acts finden Sie im Digital-Omnibus-Überblick für den Mittelstand.
„Bei der Einführung von KI-Systemen werden häufig hohe Risiken für die Rechte und Freiheiten natürlicher Personen entstehen, sodass regelmäßig eine Datenschutz-Folgenabschätzung erforderlich ist.”
BfDI, Handreichung “KI in Behörden: Datenschutz von Anfang an mitdenken”, Dezember 2025
Die sieben Regeln auf einen Blick
| Regel | Maßnahme | Rechtliche Grundlage |
|---|---|---|
| 1 | Nur Business-Lizenzen mit AVV für Firmendaten nutzen | Art. 28 DSGVO |
| 2 | AVV je KI-Anbieter abschließen und aufbewahren | Art. 28 DSGVO |
| 3 | Datensparsamkeit: keine Personendaten ohne Notwendigkeit eingeben | Art. 5 DSGVO |
| 4 | Drittlandtransfer per TIA oder EU-Rechenzentrum absichern | Art. 44 ff. DSGVO |
| 5 | Mitarbeiter schulen und Schulung dokumentieren | EU AI Act Art. 4 |
| 6 | KI-Verarbeitungen ins Verarbeitungsverzeichnis eintragen | Art. 30 DSGVO |
| 7 | Datenschutz-Folgenabschätzung bei systematischen Personenentscheidungen | Art. 35 DSGVO |
Häufige Fragen
Darf ich ChatGPT kostenlos für berufliche E-Mails nutzen?
Nur, wenn diese E-Mails keine personenbezogenen Daten enthalten. Sobald Name, E-Mail-Adresse, Telefonnummer oder andere Informationen, die eine Person identifizierbar machen, in die KI eingegeben werden, ist ein Auftragsverarbeitungsvertrag Pflicht. Die kostenlose ChatGPT-Version stellt diesen nicht bereit. Für berufliche Nutzung mit Personendaten sind ChatGPT Team, Enterprise oder vergleichbare Business-Lizenzen erforderlich.
Muss ich als KMU wirklich eine Datenschutz-Folgenabschätzung durchführen?
Nicht bei jedem KI-Einsatz. Die Datenschutz-Folgenabschätzung ist nach Art. 35 DSGVO nur dann Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt. Typische Fälle sind automatisiertes Bewerberscreening, Mitarbeiter-Monitoring oder KI-gestützte Kreditentscheidungen. Wer KI nur für interne Textentwürfe oder Recherchen nutzt, braucht in der Regel keine Folgenabschätzung, wohl aber einen AVV und einen Eintrag im Verarbeitungsverzeichnis.
Reicht es, einfach Microsoft Copilot zu nutzen, weil der AVV im Vertrag enthalten ist?
Der AVV in Microsoft 365 ist ein wichtiger Grundbaustein, aber er reicht allein nicht aus. Sie müssen trotzdem die Rechtsgrundlage für die Verarbeitung dokumentieren (Art. 6 DSGVO), Mitarbeiter schulen (EU AI Act Art. 4), Copilot ins Verarbeitungsverzeichnis eintragen und bei risikoreichen Anwendungsfällen eine Datenschutz-Folgenabschätzung durchführen. Der AVV entbindet nicht von den übrigen Pflichten.
Quellen & Referenzen
- BfDI: Handreichung “KI in Behörden: Datenschutz von Anfang an mitdenken”, Dezember 2025. bfdi.bund.de
- EbeneX: Querschnittsprüfung KI-Tools im Mittelstand NRW 2026, Ergebniszusammenfassung. ebenex.de
- secjur: EU AI Act 2026, Artikel 4 (KI-Kompetenz), Bußgeldrahmen seit August 2025. secjur.com
- Externer Datenschutzbeauftragter Dresden: OpenAI Enterprise EU-Datenspeicherung und EU-Inferenz 2025/2026. externer-datenschutzbeauftragter-dresden.de
- DPLIANCE: DSFA für KI-Projekte: Praxisleitfaden 2026. dpliance.com
- ki-compliance-kit.de: EU AI Act Bußgeldtabelle für KMU: bis 15 Mio. Euro oder 3 Prozent des Jahresumsatzes. ki-compliance-kit.de
