KI-Bias im Hiring
Auch bekannt als: Algorithmischer Bias, KI-Bias im Recruiting
Woher der Bias kommt
Drei Quellen, ungefähr nach Häufigkeit:
- Trainingsdaten : Das Modell lernt aus historischen Einstellungen. Wurden diese voreingenommen entschieden, behandelt es das als richtig und reproduziert es.
- Feature-Auswahl : Welche Signale das Modell bekommt. „Name” wegzulassen hilft nicht, wenn „Abschlussjahr” ein Alters-Proxy ist oder „Wohnviertel” ein sozioökonomischer.
- Feedback-Schleifen : Ein Modell, trainiert auf Einstellungen, die durch voreingenommene Entscheidungen gefiltert wurden, lernt den Bias als Verbund — jede Nach-Trainings-Runde verbreitert die Lücke.
Der Amazon-Hiring-KI-Fall (2018) ist das Lehrbuchbeispiel: Ein Modell, trainiert auf ein Jahrzehnt überwiegend männlicher Einstellungen, lernte „women’s” zu bestrafen — wie in „women’s chess club captain” — und wurde abgeschaltet.
Was Audits tatsächlich finden
Bias-Audits sind für Hochrisiko-KI unter dem EU AI Act Pflicht. Typisch geprüft:
- Disparate Impact : Schreiten Bewerbungen aus geschützten Gruppen mit derselben Rate voran?
- Equalized Odds : Ist die False-Reject-Rate über Demografien gleich?
- Counterfactual Fairness : Würde dieselbe Bewerbung einen anderen Score bekommen mit anderem Namen oder Foto?
Kein Audit fängt alles. Ehrliche Lesart: Audits reduzieren bekannte Biases; entstehende brauchen laufende Überwachung.
Wirkende Maßnahmen
- Menschliche Sichtung jeder Stufen-Bewegung , besonders um die Schwelle.
- Vielfältige Trainingsdaten , die den gewünschten Bewerbungspool widerspiegeln, nicht nur den vorhandenen.
- Regelmäßige Re-Audits : pro Quartal, nicht einmal zum Launch.
- Anbieter-Transparenz : fragen, welche Daten das Modell trainiert haben, welche Fairness-Metriken geprüft wurden, wann das letzte Audit war.
Wo TalentGleam hineinpasst
TalentGleams KI-Funktionen werden nach EU-AI-Act-Anforderungen auditiert; Bias-Audit-Ergebnisse stehen unter trust.join.com . Mehr auf der Funktionsseite .
Heute starten
