Biais d'IA dans le recrutement
Aussi appelé: biais algorithmique, biais IA recrutement
D’où vient le biais
Trois sources, par fréquence approximative :
- Données d’entraînement : le modèle apprend sur des décisions historiques. Si elles ont favorisé une démographie, il traite ça comme la bonne réponse et reproduit.
- Sélection des features : quels signaux le modèle a. Retirer « nom » n’aide pas si « année de diplôme » est un proxy de l’âge, ou « quartier » un proxy socio-économique.
- Boucles de rétroaction : un modèle entraîné sur des embauches passées, elles-mêmes filtrées par des décisions biaisées, apprend le biais en composé — chaque ré-entraînement élargit l’écart.
Le cas Amazon (2018) est l’exemple manuel : un modèle entraîné sur dix ans d’embauches majoritairement masculines a appris à pénaliser « women’s » — comme dans « women’s chess club captain » — et le modèle a été tué.
Ce que les audits attrapent vraiment
Les audits de biais sont obligatoires pour les IA à haut risque sous l’ AI Act UE. Ils vérifient typiquement :
- Impact disparate : les candidats de groupes protégés avancent-ils au même rythme ?
- Equalized odds : le taux de faux rejet est-il égal entre démographies ?
- Fairness contrefactuelle : le même candidat aurait-il un autre score avec un autre nom ou une autre photo ?
Aucun audit n’attrape tout. Lecture honnête : les audits réduisent les biais connus ; les biais émergents demandent une surveillance continue.
Mitigation qui marche
- Relecture humaine de chaque avance et chaque refus , surtout autour du seuil.
- Données d’entraînement diverses , où le jeu reflète le bassin de candidats voulu, pas celui qu’on a.
- Ré-audits réguliers : par trimestre, pas une fois au lancement.
- Transparence du vendeur : demander quelles données ont entraîné le modèle, quelles métriques de fairness ont été testées, quand l’audit le plus récent a eu lieu.
Où TalentGleam s’inscrit
Les fonctionnalités IA de TalentGleam sont auditées selon l’ AI Act UE ; les résultats d’audit de biais sont résumés publiquement sur trust.join.com . Voir la page Fonctionnalités .
Commencer aujourd'hui
