Fast jedes zweite Unternehmen nutzt inzwischen KI-Tools wie ChatGPT, Microsoft Copilot oder Claude im Büroalltag. Was viele nicht wissen: Wer dabei die Vorgaben von DSGVO und EU AI Act ignoriert, riskiert Bußgelder bis zu 15 Millionen Euro oder 3 Prozent des Jahresumsatzes. Eine aktuelle Querschnittsprüfung in NRW zeigt, dass fast jedes dritte KMU noch immer keinen Auftragsverarbeitungsvertrag mit seinem KI-Anbieter abgeschlossen hat.
Datenschutz ist Chefsache, nicht IT-Angelegenheit. Foto: cottonbro studio auf Pexels
Warum das Thema jetzt dringlicher ist als je zuvor
Wer in der täglichen Arbeit ChatGPT-Konversationen mit Kundendaten füttert, Mitarbeiterbeurteilungen per KI vorformuliert oder Bewerbungen automatisiert auswählt, hat längst ein Datenschutzproblem, auch wenn er es noch nicht bemerkt hat.
Die Zahlen aus einer Querschnittsprüfung 2026 in Nordrhein-Westfalen sind eindeutig: Von 38 untersuchten mittelständischen Unternehmen nutzen 31 KI-Tools regelmäßig. Davon haben 12 keinen Auftragsverarbeitungsvertrag mit ihrem KI-Anbieter, 19 keine Datenschutz-Folgenabschätzung trotz erkennbarer Risikofälle und 26 keine dokumentierte Mitarbeiterschulung zum DSGVO-konformen KI-Einsatz. Das ist kein Einzelfall, das ist strukturelles Risiko.
Der Gesetzgeber schläft nicht. Die Datenschutzkonferenz (DSK) hat KI offiziell zum Prüfschwerpunkt 2026 erklärt. Der BfDI veröffentlichte im Dezember 2025 die Handreichung “KI in Behörden: Datenschutz von Anfang an mitdenken”, deren Grundsätze genauso für private Unternehmen gelten. Beim EU AI Act steht der Bußgeldrahmen (bis zu 35 Millionen Euro oder 7 Prozent des Jahresumsatzes; für KMU als Betreiber bis zu 15 Millionen oder 3 Prozent) seit August 2025 im Gesetz. Durchgesetzt wird er seit dem 2. August 2026: Seitdem haben die nationalen Marktüberwachungsbehörden ihre Befugnisse, in Deutschland ist das die Bundesnetzagentur.
Die gute Nachricht: Sieben Regeln reichen, um das Gröbste zu vermeiden.
Regel 1: Die kostenlose Version ist für Firmendaten verboten
Die meisten KI-Anbieter bieten kostenlose Zugänge an. Für den privaten Gebrauch ist das unproblematisch. Im Unternehmen wird es zum Risiko, sobald auch nur ein Name, eine E-Mail-Adresse oder ein Vertragsdokument in das Eingabefeld landet.
Der Grund: Kostenlose Versionen von ChatGPT, Claude.ai oder Gemini stellen keinen Auftragsverarbeitungsvertrag bereit. Ohne diesen Vertrag dürfen keine personenbezogenen Daten verarbeitet werden. Dasselbe gilt für viele Browser-Plugins oder “KI-Assistenten” aus App-Stores, die im Hintergrund Daten an externe Server schicken.
Die Lösung: Team- oder Business-Lizenzen mit explizitem Auftragsverarbeitungsvertrag. OpenAI bietet ihn ab ChatGPT Team, Anthropic ab Claude for Work, Google ab Workspace AI. Microsoft 365 Copilot hat den Vertrag bereits im Standard-M365-Abonnement enthalten. Wie die Einführung konkret abläuft, zeigt der Leitfaden Claude DSGVO-konform einführen.
Regel 2: Auftragsverarbeitungsvertrag abschließen und aufbewahren
Der Auftragsverarbeitungsvertrag (kurz: AVV, englisch: DPA) regelt, was der KI-Anbieter mit den eingegebenen Daten machen darf. Er ist nach Art. 28 DSGVO Pflicht, sobald ein externer Dienstleister personenbezogene Daten für Sie verarbeitet.
Ein AVV muss folgende Punkte regeln: Art und Zweck der Verarbeitung, Kategorien personenbezogener Daten, Weisungsgebundenheit des Auftragsverarbeiters, Sicherheitsmaßnahmen, Subunternehmer-Liste sowie Pflichten bei Datenschutzvorfällen.
In der Praxis: Laden Sie den AVV Ihres KI-Anbieters herunter, unterzeichnen Sie ihn (bei Enterprise-Lösungen oft digital im Admin-Panel) und bewahren Sie ihn zusammen mit Ihrem Verarbeitungsverzeichnis auf. Bei Datenschutzprüfungen ist er das erste Dokument, das die Behörde sehen will.
Regel 3: Keine Kunden- und Mitarbeiterdaten ungeprüft eingeben
Auch mit einem gültigen AVV gilt das Prinzip der Datensparsamkeit nach Art. 5 Abs. 1 lit. c DSGVO. KI-Systeme brauchen für viele Aufgaben keine echten Personendaten.
Wer einen Angebots-Rohtext formuliert, braucht keinen echten Kundennamen. Wer eine E-Mail-Vorlage erstellt, braucht keine echten Kontaktdaten. Wer Vertragsklauseln prüft, kann Namen und Firmenangaben zunächst anonymisieren oder pseudonymisieren.
Die DSGVO ist dabei nicht Ihre einzige Anspruchsgrundlage. Sobald Kalkulationen, Konstruktionsdaten, Lieferantenkonditionen oder Angebotsentwürfe in ein KI-Fenster wandern, greift das Geschäftsgeheimnisgesetz. Nach § 2 Nr. 1 Buchstabe b GeschGehG ist eine Information nur dann ein geschütztes Geschäftsgeheimnis, wenn sie „Gegenstand von den Umständen nach angemessenen Geheimhaltungsmaßnahmen durch ihren rechtmäßigen Inhaber” ist. Wer nie schriftlich geregelt hat, welche Firmendaten in welches Werkzeug dürfen, verliert im Streitfall nicht nur die Kontrolle über die Daten, sondern auch die Tatbestandsvoraussetzung für den Schutz. Die Geheimhaltungsmaßnahme gehört damit zur Anspruchsgrundlage selbst, und nicht-personenbezogene Firmendaten fallen genau deshalb unter dieselbe schriftliche Regel wie Kundendaten.
Faustregel: Bevor Sie personenbezogene Daten in eine KI eingeben, fragen Sie: Braucht das System das wirklich, oder reicht eine allgemeine Beschreibung? Wenn der Output genauso gut ohne Namen, Adressen oder spezifische Firmendaten auskommt, lassen Sie diese weg.
Besonders sensibel sind Beschäftigtendaten (Gehaltsangaben, Krankmeldungen, Leistungsbeurteilungen), Gesundheitsdaten und Daten aus dem Bewerbungsprozess. Diese unterliegen erhöhten Anforderungen.
Regel 4: Drittlandtransfer absichern
OpenAI, Anthropic und Google sitzen in den USA. Auch wenn Sie einen AVV haben: Ihre Daten verlassen die EU, und das ist nach der Schrems-II-Rechtsprechung nicht unkompliziert.
Für diesen Fall brauchen Sie ein Transfer Impact Assessment, also eine Bewertung, ob das Datenschutzniveau im Zielland dem europäischen Standard entspricht. In vielen Fällen ergibt diese Prüfung, dass zusätzliche Schutzmaßnahmen notwendig sind.
Eine praktische Alternative: ChatGPT Enterprise bietet seit Februar 2025 EU-Datenspeicherung und seit Januar 2026 sogar EU-seitige Inferenzverarbeitung an. Microsoft Azure OpenAI und Microsoft Copilot verarbeiten Daten in europäischen Rechenzentren.
Für besonders sensible Anwendungsfälle, etwa die lokale Protokollierung von Meetings ohne Cloud-Anbindung, ist eine On-Premise-Lösung die datenschutzrechtlich sauberste Option.
Regel 5: Mitarbeiter schulen und die Schulung dokumentieren
Art. 4 des EU AI Acts gilt seit dem 2. Februar 2025, und der Digital Omnibus hat ihn zum 27. Juli 2026 neu gefasst (Änderungsverordnung (EU) 2026/1744 vom 8. Juli 2026, ABl. L 2026/1744 vom 24. Juli 2026). Bis dahin mussten Unternehmen ein ausreichendes KI-Kompetenzniveau ihrer Mitarbeitenden sicherstellen. Jetzt lautet die Pflicht, Maßnahmen zur Förderung dieser Kompetenz zu ergreifen, abgestuft nach Unternehmensgröße, Vorwissen der Beteiligten und Einsatzkontext. Ein bestimmtes Kompetenzniveau einzelner Personen muss laut Verordnungstext niemand mehr garantieren. Eine Ausnahme für KMU gibt es weiterhin nicht.
Das klingt nach Aufwand, ist in der Praxis aber viel nüchterner: Eine kurze Schulung zum DSGVO-konformen Umgang mit KI-Tools, gefolgt von einem knappen Protokoll, reicht für die meisten KMU aus. Entscheidend ist die Dokumentation. Die neue Fassung nimmt Ihnen den Nachweisdruck für den Lernerfolg Ihrer Leute, den Nachweis der Maßnahme selbst nimmt sie Ihnen nicht ab.
Die NRW-Querschnittsprüfung zeigt das Problem: 26 von 31 KI-nutzenden Unternehmen hatten keine schriftliche Schulungsdokumentation. Das ist kein inhaltliches Problem, das ist ein Nachweisproblem, das bei einer Prüfung sofort teuer werden kann.
Was Sie brauchen: Eine kurze schriftliche Richtlinie für Mitarbeiter (was ist erlaubt, was nicht, welche Lizenzen nutzen wir), eine Schulungsunterlage oder ein kurzes Erklär-Video und eine Teilnehmerliste mit Datum.
Die Richtlinie ist dabei das Dokument, das aus einer guten Absicht eine überprüfbare Maßnahme macht, arbeitsrechtlich wie nach dem Geschäftsgeheimnisgesetz. Welche Entscheidungen darin stehen müssen, von der Werkzeugliste über die Freigabe bis zur Frage, wer bei einem Verstoß was tut, haben wir in KI-Richtlinie für Unternehmen: welche Entscheidungen wirklich drinstehen müssen aufgeschrieben. Hier geht es um die Auswahl der Werkzeuge nach Datenschutzkriterien, dort um die Regeln, die Sie danach für Ihr Team verbindlich machen.
Regel 6: KI-Systeme im Verarbeitungsverzeichnis erfassen
Art. 30 DSGVO verlangt ein Verzeichnis aller Datenverarbeitungstätigkeiten. KI-Tools, die personenbezogene Daten verarbeiten, gehören da rein, auch wenn das viele KMU noch nicht tun.
Für jeden KI-Einsatz mit Personenbezug gehören folgende Angaben ins Verzeichnis: Name und Kontakt des Verantwortlichen, Zweck der Verarbeitung, betroffene Datenkategorien, Empfänger (inkl. KI-Anbieter als Auftragsverarbeiter), Übermittlung in Drittländer, geplante Löschfristen und Sicherheitsmaßnahmen.
Das Verzeichnis muss kein komplexes System sein. Eine gepflegte Tabelle reicht, solange sie vollständig und aktuell ist.
Im KI-gestützten Vertrieb etwa, wo CRM-Daten in KI-Systeme fließen, ist das Verzeichnis besonders wichtig, weil dort regelmäßig Kundendaten verarbeitet werden.
Regel 7: Datenschutz-Folgenabschätzung bei hohem Risiko
Wenn Sie KI systematisch für Entscheidungen über Personen einsetzen, greift Art. 35 DSGVO: die Datenschutz-Folgenabschätzung. Sie ist Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt.
Konkrete Beispiele, bei denen eine solche Prüfung fast immer nötig ist: automatisiertes Bewerberscreening, KI-gestütztes Mitarbeiter-Monitoring, automatisiertes Kunden-Scoring für Kreditentscheidungen und KI-gestützte Verhaltensanalyse im Marketing.
Die Abschätzung beschreibt das geplante System, bewertet die Risiken und legt fest, welche Maßnahmen diese mindern. Sie muss vor dem Einsatz des Systems erstellt werden, nicht nachträglich. Das BfDI empfiehlt, dabei einen externen Datenschutzbeauftragten hinzuzuziehen.
Was seit dem 2. August 2026 zusätzlich gilt
Bis hierher ging es um die DSGVO. Am 2. August 2026 ist die KI-Verordnung allgemein anwendbar geworden, und dieser Termin trifft Sie als Betreiber direkter, als die Aufschub-Meldungen des Sommers vermuten ließen.
Seit diesem Tag gelten die Transparenzpflichten aus Artikel 50. Ein Chatbot auf Ihrer Website muss sich als KI zu erkennen geben. Deepfakes müssen Sie offenlegen, spätestens bei der ersten Wahrnehmung. Für KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse verlangt Absatz 4 einen Hinweis, den Menschen auch wahrnehmen; bei Texten entfällt diese Pflicht, wenn ein Mensch die redaktionelle Verantwortung übernimmt. Ein Angebotstext oder ein KI-generiertes Produktbild fällt in aller Regel nicht darunter, ein Blogbeitrag zur Gesundheitspolitik schon.
Parallel wurde der Bußgeldrahmen aus Artikel 99 durchsetzbar. Die Marktüberwachung liegt in Deutschland bei der Bundesnetzagentur, auf Grundlage des KI-Marktüberwachungs- und Innovationsförderungsgesetzes (KI-MIG) vom 29. Juli 2026. Die Behörde betreibt dazu einen KI-Service-Desk, der KMU bei der Risikoeinstufung ihrer Systeme unterstützt. Wie die Aufsicht organisiert ist, steht im Artikel zur neuen KI-Aufsicht nach dem KI-MIG.
Zur Größenordnung: Für Kennzeichnungsverstöße reicht der Rahmen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Absatz 6 dreht das für KMU und Start-ups auf den niedrigeren der beiden Werte um. Ein Mittelständler mit 20 Millionen Euro Umsatz landet damit bei 600.000 Euro Obergrenze. Die 35 Millionen, die durch viele Schlagzeilen laufen, gelten ausschließlich für die verbotenen Praktiken aus Artikel 5.
Zwei Termine stehen noch aus. Am 2. Dezember 2026 endet die Schonfrist für die maschinenlesbare Markierung nach Artikel 50 Absatz 2, und sie betrifft nur generative Systeme, die vor dem 2. August 2026 bereits auf dem Markt waren. Die Hochrisiko-Pflichten für eigenständige Systeme wie Bewerber-Scoring greifen seit dem Digital Omnibus erst am 2. Dezember 2027, in Produkte eingebettete Hochrisiko-KI am 2. August 2028. Das sind feste Termine, keine Zielmarken, die eine Kommissionsentscheidung noch vorziehen könnte.
Mehr zu den Fristen und Risikoklassen des EU AI Acts finden Sie im Digital-Omnibus-Überblick für den Mittelstand.
„Bei der Einführung von KI-Systemen werden häufig hohe Risiken für die Rechte und Freiheiten natürlicher Personen entstehen, sodass regelmäßig eine Datenschutz-Folgenabschätzung erforderlich ist.”
BfDI, Handreichung “KI in Behörden: Datenschutz von Anfang an mitdenken”, Dezember 2025
Die sieben Regeln auf einen Blick
| Regel | Maßnahme | Rechtliche Grundlage |
|---|---|---|
| 1 | Nur Business-Lizenzen mit AVV für Firmendaten nutzen | Art. 28 DSGVO |
| 2 | AVV je KI-Anbieter abschließen und aufbewahren | Art. 28 DSGVO |
| 3 | Datensparsamkeit: keine Personen- und Geheimhaltungsdaten ohne Notwendigkeit eingeben | Art. 5 DSGVO, § 2 GeschGehG |
| 4 | Drittlandtransfer per TIA oder EU-Rechenzentrum absichern | Art. 44 ff. DSGVO |
| 5 | Mitarbeiter schulen und Schulung dokumentieren | EU AI Act Art. 4 (seit 27.07.2026 Förderpflicht) |
| 6 | KI-Verarbeitungen ins Verarbeitungsverzeichnis eintragen | Art. 30 DSGVO |
| 7 | Datenschutz-Folgenabschätzung bei systematischen Personenentscheidungen | Art. 35 DSGVO |
Häufige Fragen
Darf ich ChatGPT kostenlos für berufliche E-Mails nutzen?
Nur, wenn diese E-Mails keine personenbezogenen Daten enthalten. Sobald Name, E-Mail-Adresse, Telefonnummer oder andere Informationen, die eine Person identifizierbar machen, in die KI eingegeben werden, ist ein Auftragsverarbeitungsvertrag Pflicht. Die kostenlose ChatGPT-Version stellt diesen nicht bereit. Für berufliche Nutzung mit Personendaten sind ChatGPT Team, Enterprise oder vergleichbare Business-Lizenzen erforderlich.
Muss ich als KMU wirklich eine Datenschutz-Folgenabschätzung durchführen?
Nicht bei jedem KI-Einsatz. Die Datenschutz-Folgenabschätzung ist nach Art. 35 DSGVO nur dann Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt. Typische Fälle sind automatisiertes Bewerberscreening, Mitarbeiter-Monitoring oder KI-gestützte Kreditentscheidungen. Wer KI nur für interne Textentwürfe oder Recherchen nutzt, braucht in der Regel keine Folgenabschätzung, wohl aber einen AVV und einen Eintrag im Verarbeitungsverzeichnis.
Reicht es, einfach Microsoft Copilot zu nutzen, weil der AVV im Vertrag enthalten ist?
Der AVV in Microsoft 365 ist ein wichtiger Grundbaustein, aber er reicht allein nicht aus. Sie müssen trotzdem die Rechtsgrundlage für die Verarbeitung dokumentieren (Art. 6 DSGVO), Maßnahmen zur Förderung der KI-Kompetenz Ihrer Mitarbeitenden ergreifen und dokumentieren (Art. 4 der KI-Verordnung in der seit dem 27. Juli 2026 geltenden Fassung, ein bestimmtes Kompetenzniveau muss dabei niemand garantieren), Copilot ins Verarbeitungsverzeichnis eintragen und bei risikoreichen Anwendungsfällen eine Datenschutz-Folgenabschätzung durchführen. Der AVV entbindet nicht von den übrigen Pflichten.
Muss ich KI-generierte Inhalte seit August 2026 kennzeichnen?
In bestimmten Fällen ja. Seit dem 2. August 2026 sind die Transparenzpflichten aus Artikel 50 der KI-Verordnung anwendbar, und sie treffen auch Betreiber, also ganz normale Unternehmen. Ein Chatbot auf Ihrer Website muss sich als KI zu erkennen geben, Deepfakes müssen offengelegt werden, und KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse brauchen einen für Menschen wahrnehmbaren Hinweis. Bei Texten entfällt die Pflicht, wenn ein Mensch die redaktionelle Verantwortung übernimmt. Ein Werbetext oder ein KI-generiertes Produktbild fällt in aller Regel nicht unter Absatz 4. Kontrolliert wird das in Deutschland von der Bundesnetzagentur, der Bußgeldrahmen für Verstöße gegen Artikel 50 liegt bei bis zu 15 Millionen Euro oder 3 Prozent Jahresumsatz, für KMU gilt der niedrigere Wert.
Quellen & Referenzen
- BfDI: Handreichung “KI in Behörden: Datenschutz von Anfang an mitdenken”, Dezember 2025. bfdi.bund.de
- EbeneX: Querschnittsprüfung KI-Tools im Mittelstand NRW 2026, Ergebniszusammenfassung. ebenex.de
- secjur: EU AI Act 2026, Artikel 4 (KI-Kompetenz), Bußgeldrahmen seit August 2025. secjur.com
- Externer Datenschutzbeauftragter Dresden: OpenAI Enterprise EU-Datenspeicherung und EU-Inferenz 2025/2026. externer-datenschutzbeauftragter-dresden.de
- DPLIANCE: DSFA für KI-Projekte: Praxisleitfaden 2026. dpliance.com
- ki-compliance-kit.de: EU AI Act Bußgeldtabelle für KMU: bis 15 Mio. Euro oder 3 Prozent des Jahresumsatzes. ki-compliance-kit.de
- Bundesnetzagentur: Marktüberwachung nach der KI-Verordnung, Zuständigkeit seit dem 2. August 2026 auf Grundlage des KI-MIG. bundesnetzagentur.de
- KPMG Law: Digital Omnibus on AI, Neufassung von Artikel 4 und verschobene Hochrisiko-Fristen, Verordnung (EU) 2026/1744. kpmg-law.at
- buzer.de: Artikel 4 KI-Verordnung, Fassungsvergleich alt gegen neu mit Änderungsnachweis zur Verordnung (EU) 2026/1744, ABl. L 2026/1744 vom 24.07.2026. buzer.de
- Bundesministerium der Justiz: § 2 GeschGehG, Begriffsbestimmung Geschäftsgeheimnis mit der Voraussetzung angemessener Geheimhaltungsmaßnahmen. gesetze-im-internet.de
- zerodox: Was seit dem 2. August 2026 aus Artikel 50 der KI-Verordnung für Betreiber gilt. zerodox.de
