Kaum ein Werkzeug hat sich in den vergangenen Jahren so schnell in den Arbeitsalltag geschoben wie ChatGPT. In den Unternehmen, die ich als externer Datenschutzbeauftragter betreue, höre ich praktisch dieselbe Frage in jeder zweiten Besprechung: “Dürfen wir das überhaupt nutzen?” Meine Antwort ist klar und sie ist kein Verbot: Ja, KI lässt sich datenschutzkonform nutzen — aber nicht unbedacht.
Das Problem ist selten die Technik selbst, sondern der sorglose Umgang damit. Wer Kundendaten, Bewerbungsunterlagen oder ganze E-Mail-Verläufe in ein frei zugängliches Chatfenster kippt, hat ein Datenschutzproblem — unabhängig davon, wie hilfreich die Antwort ausfällt. In diesem Beitrag erkläre ich, worauf es ankommt, welche Stellschrauben Sie haben und wie Sie KI im Unternehmen auf eine saubere Grundlage stellen.
Warum ChatGPT überhaupt ein Datenschutzthema ist
Ein Sprachmodell ist im Kern eine Datenverarbeitung. Sobald Sie etwas in den Prompt schreiben, verlässt diese Information Ihr Unternehmen und wird auf den Servern des Anbieters verarbeitet. Sind darin personenbezogene Daten enthalten — und das sind sie schneller, als die meisten denken — greift die DSGVO in vollem Umfang.
Drei Punkte machen ChatGPT zum Datenschutzthema:
- Der Input: Prompts enthalten oft Namen, E-Mail-Adressen, Vertragsdetails oder Gesundheitsangaben. Schon eine “Bitte formuliere mir eine Absage an Herrn Müller wegen seiner Krankschreibung” ist eine Verarbeitung sensibler Daten.
- Das Training und der Output: Bei den Standardversionen können Eingaben zur Weiterentwicklung der Modelle genutzt werden. Daten, die einmal ins Training eingeflossen sind, holen Sie nicht zurück.
- Der Datenfluss in die USA: OpenAI ist ein US-Anbieter. Damit ist jede Nutzung ein Drittlandtransfer, der eine eigene rechtliche Grundlage und geeignete Garantien braucht.
Wer diese drei Ebenen versteht, hat das Wesentliche begriffen. Alles Weitere ist die Frage, wie man die Risiken auf jeder Ebene in den Griff bekommt.
Ein praktisches Missverständnis räume ich gern gleich aus: Es geht nicht darum, ob ein einzelner Prompt “schlimm” ist, sondern darum, dass sich aus vielen kleinen Eingaben ein systematisches Verarbeitungsverhalten ergibt. Wenn ein Vertriebsteam täglich Kundenmails über ein frei zugängliches Chatfenster zusammenfasst, entsteht über Wochen ein erheblicher Datenfluss — ganz ohne böse Absicht, einfach weil es bequem ist. Genau diese unkontrollierte Schatten-Nutzung sehe ich in der Praxis am häufigsten, und sie ist der eigentliche Grund, warum klare Regeln nötig sind.
Welche Daten in den Prompt dürfen — und welche nicht
Die wirksamste Stellschraube ist die einfachste: Was geben Ihre Mitarbeiter überhaupt ein? Das Prinzip der Datenminimierung gilt auch hier. Vieles, wofür KI hervorragend taugt — Textentwürfe, Zusammenfassungen, Code, Brainstorming — funktioniert völlig ohne echte Personendaten.
Die folgende Tabelle nutze ich in Schulungen als grobe Faustregel. Sie ersetzt keine individuelle Bewertung, schafft aber im Alltag Orientierung:
| Eingabe | Bewertung | Hinweis |
|---|---|---|
| Allgemeine Fachfragen, Textgerüste | Unkritisch | Kein Personenbezug |
| Anonymisierte oder erfundene Beispieldaten | Unkritisch | Erst anonymisieren, dann eingeben |
| Interne Dokumente ohne Personenbezug | Bedingt | Geschäftsgeheimnisse beachten |
| Kundennamen, Kontaktdaten, Verträge | Kritisch | Nur in geprüfter Umgebung mit AV-Vertrag |
| Bewerbungsunterlagen, Lebensläufe | Kritisch | Personenbezug plus mögliche Profilbildung |
| Gesundheits-, Religions-, Gewerkschaftsdaten | Tabu | Besondere Kategorien, Art. 9 DSGVO |
Die unterste Zeile ist nicht verhandelbar. Besondere Kategorien personenbezogener Daten gehören niemals ungeprüft in ein frei zugängliches Chatfenster. Für alles in der Spalte “kritisch” gilt: nur dann, wenn die Umgebung passt — und genau darum geht es im nächsten Abschnitt.
Ein einfacher Reflex hilft im Alltag enorm: vor jeder Eingabe kurz innehalten und fragen, ob sich aus dem Text eine konkrete Person identifizieren lässt. Wenn ja, ist der nächste Gedanke nicht “ich lasse es” — sondern “lässt sich das anonymisieren oder pseudonymisieren?” Oft reicht es, Namen durch Platzhalter und Firmen durch Branchenbezeichnungen zu ersetzen. Die KI liefert trotzdem ein brauchbares Ergebnis, und der Personenbezug bleibt im Haus. Diese kleine Routine vermittle ich in Schulungen ganz bewusst, weil sie ohne technischen Aufwand auskommt und sofort wirkt.
Die richtige Version und die richtigen Einstellungen
Nicht jedes ChatGPT ist gleich. Zwischen dem kostenlosen Webzugang und einer Enterprise-Lösung liegen datenschutzrechtlich Welten. Der entscheidende Unterschied ist, ob Ihre Eingaben zum Training verwendet werden und ob der Anbieter Ihnen einen Vertrag zur Auftragsverarbeitung anbietet.
| Variante | Training mit Ihren Daten | AV-Vertrag | Eignung für Personendaten |
|---|---|---|---|
| Free / Plus (Standard) | Standardmäßig ja, Opt-out möglich | Nein | Ungeeignet |
| ChatGPT Team | Nein | Ja | Bedingt geeignet |
| ChatGPT Enterprise | Nein | Ja | Geeignet (mit Prüfung) |
| API | Nein (standardmäßig) | Ja | Geeignet (mit Prüfung) |
Drei Hebel sollten Sie kennen:
- Opt-out vom Training: Auch in den Standardversionen lässt sich die Nutzung der Eingaben zum Training in den Einstellungen deaktivieren. Das ist ein Mindeststandard, ersetzt aber keinen Vertrag.
- Team/Enterprise statt Free: Die Business-Tarife schließen die Trainingsnutzung vertraglich aus und bieten einen AV-Vertrag an. Für jede Nutzung mit Personenbezug ist das die Untergrenze.
- API statt Web: Über die Schnittstelle werden Daten standardmäßig nicht zum Training verwendet. Das ist für eigene Anwendungen oft die sauberere Wahl.
Wer mit Personendaten arbeitet, braucht zwingend einen Vertrag zur Auftragsverarbeitung mit dem Anbieter. Ohne diesen Vertrag fehlt die rechtliche Basis für die Weitergabe der Daten an OpenAI — und damit ist die Verarbeitung von vornherein unzulässig. In meiner Datenschutzberatung prüfe ich diese Verträge regelmäßig; die Unterschiede zwischen den Tarifen sind im Detail größer, als die Marketing-Seiten vermuten lassen.
Rechtsgrundlage und Transparenz: an Mitarbeiter und Betroffene denken
Eine geeignete Umgebung allein genügt nicht. Jede Verarbeitung braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Bei internen Arbeitserleichterungen ist das häufig das berechtigte Interesse, in anderen Fällen die Vertragserfüllung. Wo Sie sich auf eine Einwilligung stützen, muss diese freiwillig, informiert und widerrufbar sein — was im Beschäftigtenkontext heikel ist, weil Freiwilligkeit zwischen Arbeitgeber und Arbeitnehmer selten zweifelsfrei gegeben ist.
Mindestens ebenso wichtig ist die Transparenz. Setzen Ihre Mitarbeiter KI ein, müssen sie wissen, was erlaubt ist und was nicht — das regeln Sie über eine Richtlinie und über Schulungen. Werden personenbezogene Daten von Kunden oder Interessenten durch KI verarbeitet, müssen Sie diese darüber informieren. Das gehört in die Datenschutzerklärung und in Ihre Informationspflichten nach Art. 13 und 14 DSGVO.
Und nicht vergessen: Jede neue KI-gestützte Verarbeitung gehört ins Verzeichnis von Verarbeitungstätigkeiten. Das ist keine Formalie, sondern Ihr Nachweis, dass Sie den Überblick behalten — und das Erste, wonach eine Aufsichtsbehörde im Ernstfall fragt.
Der EU AI Act: kommt obendrauf, ersetzt nichts
Seit 2024 gibt es mit dem EU AI Act ein eigenes Regelwerk für künstliche Intelligenz. Wichtig zum Verständnis: Der AI Act ergänzt die DSGVO, er ersetzt sie nicht. Sie müssen also beide Welten im Blick behalten.
Der AI Act arbeitet mit Risikoklassen:
- Verbotene Praktiken — etwa Social Scoring oder bestimmte biometrische Überwachung.
- Hochrisiko-KI — beispielsweise im Personalwesen, bei Bonitätsbewertung oder in kritischer Infrastruktur. Hier gelten umfangreiche Pflichten.
- Begrenztes Risiko — vor allem Transparenzpflichten, etwa die Kennzeichnung, dass man mit einer KI interagiert.
- Minimales Risiko — der Großteil der alltäglichen Anwendungen.
Für die meisten kleinen und mittleren Unternehmen, die ChatGPT als Schreib- und Recherchehilfe nutzen, ist das Risiko begrenzt bis minimal. Sobald KI aber in sensible Entscheidungen eingreift — Bewerberauswahl, Leistungsbewertung, Kreditvergabe — landen Sie schnell im Hochrisikobereich, und dann verschärfen sich beide Regelwerke parallel. Ich rate dazu, den AI Act früh mitzudenken, statt ihn später nachzuziehen.
Eine Pflicht, die schon jetzt für nahezu jeden gilt, ist die KI-Kompetenz: Unternehmen müssen dafür sorgen, dass Mitarbeiter, die mit KI-Systemen arbeiten, über ein ausreichendes Grundverständnis verfügen. Das ist keine reine DSGVO-Anforderung, sondern kommt direkt aus dem AI Act — und es ist ein weiterer Grund, warum eine Schulung kein Nice-to-have, sondern Pflichtbestandteil eines verantwortungsvollen KI-Einsatzes ist. Auch hier zeigt sich das Zusammenspiel: Was der eine Rechtsrahmen verlangt, stützt den anderen.
Wann eine Datenschutz-Folgenabschätzung nötig wird
Nicht jeder KI-Einsatz löst eine DSFA aus, aber einige tun es. Eine Datenschutz-Folgenabschätzung ist verpflichtend, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der Betroffenen mit sich bringt. Bei KI ist das häufiger der Fall, als man denkt.
Typische Auslöser im KI-Kontext:
- Profiling und automatisierte Entscheidungen: Werten Sie mit KI Personen systematisch aus oder treffen Sie automatisierte Entscheidungen mit rechtlicher Wirkung, ist das ein klarer Fall für Profiling und in der Regel DSFA-pflichtig.
- Einsatz im Personalwesen: Bewerber-Screening oder Mitarbeiterbewertung berühren ein Machtgefälle und besonders schützenswerte Interessen.
- Verarbeitung sensibler Daten in großem Umfang: Sobald besondere Kategorien systematisch ins Spiel kommen.
Wenn Sie unsicher sind, ob ein Vorhaben eine DSFA braucht, ist das genau der Moment, an dem ich als externer Datenschutzbeauftragter ins Boot gehöre. Die Schwellenwertprüfung am Anfang spart Ihnen später viel Aufwand — und im Zweifel ein Bußgeld.
Die KI-Richtlinie: aus Unsicherheit wird Klarheit
All die genannten Punkte lassen sich nicht über Zuruf regeln. Die praktische Lösung ist eine KI-Nutzungsrichtlinie — ein kurzes, verständliches Dokument, das Ihren Mitarbeitern sagt, was geht und was nicht. Nach meiner Erfahrung ist das der wirksamste einzelne Schritt, den ein Unternehmen gehen kann.
Eine gute KI-Richtlinie beantwortet mindestens diese Fragen:
- Welche KI-Tools sind freigegeben, welche sind verboten?
- Welche Daten dürfen in einen Prompt — und welche niemals?
- Welche Version und welche Einstellungen sind Pflicht?
- Wer prüft neue Tools, bevor sie eingesetzt werden?
- Wie werden Ergebnisse kontrolliert, bevor man sich auf sie verlässt?
Eine Richtlinie wirkt aber nur, wenn die Mitarbeiter sie kennen und verstehen. Deshalb gehört zu jeder Einführung eine Datenschutz-Schulung, in der ich die Regeln an konkreten Beispielen erkläre. Theorie auf Papier ändert kein Verhalten — der Aha-Moment im Schulungsraum schon.
Eingebettet ist das Ganze in Ihr übergeordnetes DSGVO-Management. KI ist kein isoliertes Thema, sondern ein weiterer Baustein im Datenschutz Ihres Unternehmens. Wer schon ein sauberes Verzeichnis, dokumentierte technische und organisatorische Maßnahmen (TOM) und klare Prozesse hat, integriert KI mit überschaubarem Aufwand. Ein regelmäßiges Datenschutz-Audit hält das System aktuell, gerade weil sich die KI-Werkzeuge so schnell verändern.
So gehen Sie es konkret an
Wenn Sie KI im Unternehmen einsetzen oder einsetzen wollen, empfehle ich diese Reihenfolge:
- Bestandsaufnahme: Welche KI-Tools sind bereits im Einsatz — auch inoffiziell?
- Versionen und Einstellungen prüfen, Trainings-Opt-out und AV-Verträge sicherstellen.
- Schwellenwertprüfung: Ist irgendwo eine DSFA nötig?
- KI-Richtlinie erstellen und in der Belegschaft schulen.
- Verarbeitungen dokumentieren und regelmäßig nachhalten.
Diesen Weg gehe ich mit meinen Mandanten Schritt für Schritt — pragmatisch und ohne Ihren Betrieb auszubremsen. Vertiefende Beiträge finden Sie in meinem Themenhub KI und Datenschutz sowie im Überblick zu den DSGVO-Pflichten.
Fazit und nächster Schritt
ChatGPT und andere KI-Werkzeuge sind im Unternehmen kein Tabu — sie verlangen nur einen klaren Rahmen. Die richtige Version, eine durchdachte Auswahl der Eingaben, ein AV-Vertrag, die passende Rechtsgrundlage und Transparenz: Mehr braucht es im Kern nicht, um KI datenschutzkonform zu nutzen. Der Aufwand ist überschaubar, das Risiko ohne Rahmen dagegen erheblich.
Gerne richte ich für Ihr Unternehmen eine praxistaugliche KI-Richtlinie ein und prüfe Ihre eingesetzten KI-Tools datenschutzrechtlich — von der Versionswahl über den AV-Vertrag bis zur Frage, ob eine DSFA nötig ist. Mehr dazu finden Sie auf meiner Leistungsseite KI und Datenschutz. Lassen Sie uns unverbindlich sprechen: Nehmen Sie einfach Kontakt auf, und wir klären in einem kurzen Gespräch, wo Ihr Unternehmen steht.