Was ist der EU AI Act?
Der EU AI Act – offiziell die KI-Verordnung – ist die erste umfassende gesetzliche Regelung für künstliche Intelligenz in der Europäischen Union. Er wurde 2024 verabschiedet und tritt gestaffelt in Kraft. Ziel ist ein einheitlicher Rahmen, der Innovation ermöglicht, aber Grundrechte und Sicherheit schützt.
Wichtig: Der AI Act ersetzt die DSGVO nicht, sondern ergänzt sie. Wo ein KI-System personenbezogene Daten verarbeitet, gelten beide Regelwerke parallel. Der AI Act adressiert das KI-System als Produkt und seine Risiken; die DSGVO bleibt für den Schutz der personenbezogenen Daten zuständig.
Die Risikoklassen
Der AI Act folgt einem risikobasierten Ansatz und teilt KI-Systeme in vier Stufen ein:
- Unannehmbares Risiko: verbotene Praktiken wie Social Scoring durch den Staat oder manipulative Systeme,
- Hohes Risiko: etwa KI in der Personalauswahl, Kreditvergabe oder kritischen Infrastruktur – hier gelten strenge Pflichten zu Risikomanagement, Dokumentation und menschlicher Aufsicht,
- Begrenztes Risiko: Systeme mit Transparenzpflichten, etwa Chatbots, die sich als KI zu erkennen geben müssen,
- Minimales Risiko: der Großteil alltäglicher Anwendungen, die kaum gesonderten Pflichten unterliegen.
Für die meisten kleinen und mittleren Unternehmen sind vor allem die Transparenzpflichten und – falls Hochrisiko-Anwendungen wie automatisiertes Profiling im Bewerbungsprozess eingesetzt werden – die strengeren Hochrisiko-Pflichten relevant.
Was das für Unternehmen bedeutet
Auch wer KI nicht selbst entwickelt, sondern nur einsetzt, hat Pflichten – etwa beim Einsatz von Chatbots, KI-gestützten Auswahlverfahren oder generativen Tools wie Sprachmodellen. Erster Schritt ist immer eine Bestandsaufnahme: Welche KI-Systeme nutze ich, in welcher Risikoklasse bewegen sie sich, und welche Daten fließen hinein?
Verarbeitet ein KI-System personenbezogene Daten, ist häufig auch eine Datenschutz-Folgenabschätzung nötig. Praktische Hinweise zum Einsatz von Sprachmodellen finden Sie im Ratgeber zu ChatGPT und Datenschutz. Bei der Bewertung Ihrer KI-Nutzung unterstütze ich Sie mit der Leistung KI-Datenschutz.