KI-DSFA: Datenschutz-Folgenabschätzung für KI

Wann ist bei KI eine DSFA erforderlich?

Art. 35 DSGVO verlangt eine DSFA, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt. Bei KI-Anwendungen ist das häufig der Fall, weil mehrere Risikokriterien zusammenkommen:

• Neue Technologien: Die Leitlinien der europäischen Datenschutzaufsicht nennen den innovativen Einsatz neuer technologischer Lösungen ausdrücklich als Kriterium.
• Bewertung und Profiling: KI, die Bewerbende vorsortiert, Kreditwürdigkeit einschätzt oder Leistung von Beschäftigten bewertet, erfüllt die Regelbeispiele des Art. 35 Abs. 3 DSGVO oft unmittelbar.
• Umfang und sensible Daten: Große Datenmengen, besondere Kategorien nach Art. 9 DSGVO (etwa Gesundheits- oder biometrische Daten) oder schutzbedürftige Gruppen wie Beschäftigte erhöhen das Risiko.

Zudem führt die Liste der deutschen Datenschutzaufsichtsbehörden zu Verarbeitungen, für die eine DSFA verpflichtend ist, den Einsatz künstlicher Intelligenz zur Steuerung der Interaktion mit Betroffenen oder zur Bewertung persönlicher Aspekte auf. Ein interner Chatbot, der nur allgemeine Fragen zu Reisekostenrichtlinien beantwortet, braucht dagegen nicht zwingend eine vollständige DSFA – die Schwellwertanalyse sollte aber dokumentiert werden.

Was eine KI-DSFA zusätzlich abdecken muss

Trainingsdaten und Lebenszyklus

Eine KI-DSFA betrachtet nicht nur den Einsatz, sondern alle Phasen: Datenerhebung, Training, Feinabstimmung, Inferenz, Protokollierung und Weiterentwicklung. Für jede Phase sind Zweck und Rechtsgrundlage zu klären. Werden Daten, die für einen anderen Zweck erhoben wurden, zum Training genutzt, ist die Vereinbarkeit der Zweckänderung zu prüfen. Der Europäische Datenschutzausschuss hat in seiner Stellungnahme 28/2024 zu KI-Modellen unter anderem ausgeführt, dass ein Modell nicht automatisch anonym ist und dass unrechtmäßig verarbeitete Trainingsdaten Folgen für den späteren Einsatz haben können.

Modellspezifische Risiken

• Memorisierung und Datenabfluss: Modelle können Trainingsdaten wörtlich wiedergeben oder durch gezielte Abfragen preisgeben (Membership Inference, Model Inversion).
• Unrichtige Ausgaben: Generative KI kann falsche Aussagen über reale Personen erzeugen – ein Konflikt mit dem Grundsatz der Richtigkeit (Art. 5 Abs. 1 lit. d DSGVO).
• Diskriminierung: Verzerrte Trainingsdaten können zu systematisch nachteiligen Ergebnissen für bestimmte Gruppen führen.
• Betroffenenrechte: Auskunft, Berichtigung und Löschung lassen sich bei trainierten Modellen nur schwer umsetzen. Die DSFA muss beschreiben, wie Sie damit umgehen, etwa über Filter, Nachtraining oder den Verzicht auf personenbezogene Trainingsdaten.
• Drittanbieter: Bei KI-Diensten aus der Cloud sind Auftragsverarbeitung, Nutzung von Eingaben zum Training durch den Anbieter und Drittlandtransfers zu bewerten.

Automatisierte Entscheidungen nach Art. 22 DSGVO

Trifft ein KI-System Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung ohne maßgebliche menschliche Beteiligung, greift Art. 22 DSGVO. Nach der Rechtsprechung des EuGH (SCHUFA-Urteil, C-634/21, Dezember 2023) kann bereits ein automatisiert erzeugter Score darunter fallen, wenn er für die Entscheidung eines Dritten maßgeblich ist. Die DSFA sollte daher bewerten, ob die menschliche Überprüfung echt ist oder nur formal erfolgt, und wie Betroffene ihr Recht auf Darlegung des eigenen Standpunkts und Anfechtung wahrnehmen können.

Verhältnis zur Grundrechte-Folgenabschätzung nach dem AI Act

Der EU AI Act (Verordnung (EU) 2024/1689) führt mit Art. 27 eine Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment, FRIA) ein. Sie betrifft Betreiber bestimmter Hochrisiko-KI-Systeme, vor allem öffentliche Stellen und private Einrichtungen, die öffentliche Dienste erbringen, sowie Betreiber von Systemen zur Kreditwürdigkeitsprüfung und zur Risikobewertung bei Lebens- und Krankenversicherungen. Die Pflicht gilt zusammen mit den übrigen Hochrisiko-Anforderungen; nach dem Digital Omnibus (in Kraft seit 27. Juli 2026) für Systeme nach Anhang III ab 2. Dezember 2027.

Außerdem verpflichtet Art. 26 Abs. 9 AI Act Betreiber von Hochrisiko-Systemen, die vom Anbieter bereitgestellten Informationen für ihre DSFA zu verwenden. In der Praxis empfiehlt sich eine gemeinsame Bewertung mit einem Datenschutz- und einem Grundrechtsteil.

Vorgehen in der Praxis

1. Früh beginnen: Die DSFA gehört vor Beschaffung oder Entwicklung, nicht an das Projektende.
2. System beschreiben: Zweck, Modelltyp, Datenflüsse, Anbieter, Rolle des Menschen und Entscheidungswirkung dokumentieren.
3. Anbieterinformationen einholen: Technische Dokumentation, Angaben zu Trainingsdaten, Datenverwendung und Speicherorten anfordern.
4. Risiken je Lebenszyklusphase bewerten und Maßnahmen zuordnen, etwa Pseudonymisierung, Ausgabefilter, Zugriffsbeschränkungen, Bias-Tests und Löschfristen für Prompts und Logs.
5. Datenschutzbeauftragten und Fachbereiche einbinden, bei Beschäftigtendaten auch den Betriebsrat.
6. Restrisiko bewerten: Bleibt es hoch, ist die Aufsichtsbehörde vorab zu konsultieren (Art. 36 DSGVO).
7. Regelmäßig überprüfen, insbesondere bei Modellwechsel, Nachtraining oder neuen Einsatzzwecken.

Fazit

Eine KI-DSFA ist die ehrlichste Prüfung, ob ein KI-Vorhaben datenschutzrechtlich tragfähig ist – vorausgesetzt, sie betrachtet Trainingsdaten, Modellverhalten und Entscheidungswirkung und nicht nur die Serverstandorte. SecTepe unterstützt bei der Verzahnung von DSFA, Informationssicherheit und den Anforderungen des AI Act.