Algorithmic Bias: Verzerrungen in KI vermeiden

Wie Verzerrungen entstehen

Ein Modell lernt Muster aus Daten. Enthalten die Daten schiefe Muster, übernimmt das Modell sie – oft präziser, als ein Mensch es je tun würde. Typische Quellen sind:

• Historischer Bias: Die Daten spiegeln vergangene Entscheidungen wider. Wurden in einem Unternehmen jahrelang überwiegend Männer in technische Positionen eingestellt, lernt ein Bewerbungsfilter, das als Erfolgsmerkmal zu werten.
• Repräsentations-Bias: Bestimmte Gruppen sind in den Trainingsdaten unter- oder überrepräsentiert, etwa ältere Menschen, Menschen mit dunkler Hautfarbe in Bilddaten oder Nicht-Muttersprachler in Sprachdaten.
• Messungs- und Label-Bias: Die Zielgröße ist nur ein Ersatz für das, was eigentlich gemessen werden soll. „Anzahl Krankmeldungen“ misst nicht Engagement, und Bewertungen durch Vorgesetzte können selbst verzerrt sein.
• Stellvertretermerkmale (Proxies): Auch wenn Geschlecht oder Herkunft nicht als Merkmal verwendet werden, können Postleitzahl, Vorname, Hobbys oder Lücken im Lebenslauf sie indirekt abbilden.
• Einsatz-Bias und Rückkopplung: Ein Modell wird in einem anderen Kontext eingesetzt als trainiert, oder seine Entscheidungen beeinflussen die künftigen Trainingsdaten und verstärken sich so selbst.
• Automation Bias: Menschen übernehmen maschinelle Empfehlungen ungeprüft – auch dann, wenn sie formal die letzte Entscheidung treffen.

Warum das Unternehmen betrifft

Bias ist kein reines Ethikthema. Verzerrte Modelle treffen schlechtere Entscheidungen, übersehen geeignete Bewerbende oder Kunden und schaden dem Ruf. Rechtlich relevant wird es, sobald Menschen betroffen sind: Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Benachteiligungen unter anderem wegen Geschlecht, Alter, ethnischer Herkunft, Religion, Behinderung oder sexueller Identität – unabhängig davon, ob ein Mensch oder eine Software sortiert. Besonders sensibel sind Personalauswahl, Leistungsbewertung, Kreditvergabe, Preisgestaltung und Kundenservice.

Bias kann zudem ein Sicherheitsthema sein: Angreifer können durch Data Poisoning gezielt Verzerrungen einbringen, und ein Erkennungssystem, das für bestimmte Eingaben schlechter funktioniert, bietet eine vorhersehbare Lücke.

Fairness messen

„Fair“ lässt sich unterschiedlich definieren. Gängige Metriken sind:

• Demographic Parity: Alle Gruppen erhalten im gleichen Anteil ein positives Ergebnis.
• Equal Opportunity: Tatsächlich geeignete Personen werden in allen Gruppen gleich häufig erkannt (gleiche Trefferquote).
• Equalized Odds: Trefferquote und Falsch-Positiv-Rate sind über die Gruppen gleich.
• Kalibrierung: Ein Score von 0,8 bedeutet in jeder Gruppe dieselbe tatsächliche Wahrscheinlichkeit.

Diese Kriterien lassen sich in der Regel nicht gleichzeitig erfüllen, wenn die Ausgangsverteilungen der Gruppen verschieden sind. Welche Metrik gilt, ist daher keine rein technische, sondern eine fachliche und rechtliche Entscheidung, die dokumentiert werden sollte.

Bias vorbeugen: Vorgehen in der Praxis

1. Einsatzzweck und Betroffene klären: Wer ist von den Ausgaben betroffen, welche Gruppen könnten benachteiligt werden, und welche Fairness-Definition passt zum Zweck?
2. Daten prüfen: Zusammensetzung, Herkunft, Lücken und Stellvertretermerkmale analysieren und in einem Datenblatt dokumentieren.
3. Gegenmaßnahmen im passenden Schritt wählen: vor dem Training (Neugewichtung, ergänzende Daten), während des Trainings (Fairness-Nebenbedingungen) oder danach (gruppenspezifische Schwellenwerte, soweit rechtlich zulässig).
4. Getrennt nach Gruppen testen: Fehlerraten nicht nur insgesamt, sondern je Gruppe auswerten. Open-Source-Werkzeuge wie Fairlearn oder AI Fairness 360 unterstützen dabei.
5. Menschliche Kontrolle wirksam gestalten: Prüfer brauchen Zeit, Befugnis und Begründungen, um vom Vorschlag abzuweichen; Abweichungen sollten ausgewertet werden.
6. Im Betrieb überwachen: Datenverteilungen und Ergebnisse regelmäßig prüfen, weil sich Bias durch veränderte Nutzung oder Rückkopplung neu entwickeln kann.
7. Beschwerdeweg anbieten: Betroffene müssen Entscheidungen hinterfragen können.

Regulatorischer Rahmen

Der EU AI Act (Verordnung (EU) 2024/1689) verlangt für Hochrisiko-KI-Systeme – dazu zählen etwa Systeme für Personalauswahl und Beschäftigtenbewertung sowie zur Kreditwürdigkeitsprüfung – eine Daten-Governance, die Trainings-, Validierungs- und Testdaten auf mögliche Verzerrungen untersucht (Art. 10). Zur Erkennung und Korrektur von Bias dürfen unter strengen Erforderlichkeitsvoraussetzungen ausnahmsweise besondere Kategorien personenbezogener Daten verarbeitet werden (Art. 10 Abs. 5); seit dem Digital Omnibus (in Kraft seit 27. Juli 2026) gilt diese Rechtsgrundlage für alle KI-Systeme und GPAI-Modelle, nicht nur für Hochrisiko-Systeme. Hinzu kommen menschliche Aufsicht (Art. 14) sowie auf Seiten der DSGVO der Grundsatz der Verarbeitung nach Treu und Glauben (Art. 5) und die Regeln zu automatisierten Entscheidungen (Art. 22). Als Orientierung dienen außerdem ISO/IEC TR 24027 (Bias in KI-Systemen) und ISO/IEC 42001 für ein KI-Managementsystem.

Fazit

Algorithmic Bias lässt sich nicht vollständig beseitigen, aber messen, begründen und begrenzen. Entscheidend ist, Fairness als Anforderung von Anfang an festzulegen und im Betrieb nachzuhalten; SecTepe unterstützt dabei, diese Prüfungen in Ihr KI-Governance- und Risikomanagement einzubetten.

Häufige Fragen

Reicht es, sensible Merkmale wie Geschlecht aus den Daten zu entfernen?

Nein. Andere Merkmale können diese Information indirekt enthalten. Zudem braucht man die sensiblen Merkmale oft gerade, um Benachteiligungen überhaupt messen zu können.

Betrifft Bias auch generative KI?

Ja. Sprach- und Bildmodelle können Stereotype reproduzieren, etwa bei Stellenanzeigen, Zusammenfassungen von Bewerbungen oder generierten Bildern. Auch hier helfen gruppenbezogene Tests und klare Nutzungsregeln.