L'IA dans le recrutement : entre efficacité et biais
Avez-vous déjà pensé qu'un algorithme, contrairement à un humain, ne pouvait pas être sujet aux biais ? Une étude récente de Princeton et de l'Université de Chicago, relayée par MIT Technology Review , démontre le contraire : les biais de l'IA en matière de recrutement pourraient même être plus importants que ceux d'un recruteur humain. Et ce phénomène est de plus en plus préoccupant, car de nombreuses entreprises confient la première lecture des CV de leurs candidats à un algorithme.
La mauvaise nouvelle n'est pas seulement que l'IA « hérite » des stéréotypes des données sur lesquelles elle est entraînée — un fait connu depuis un certain temps. Le plus inquiétant, c'est qu'elle peut inventer ses propres stéréotypes à la volée, même sans raison valable.
Étude Princeton-Chicago sur les biais de l'IA dans le recrutement
Les chercheurs ont testé plusieurs grands modèles de langage, dont ChatGPT, Claude et Gemini, dans un jeu de simulation d'emploi adapté d'une étude classique de psychologie sur la formation des stéréotypes. Chaque modèle incarnait un consultant engagé par le maire d'une ville fictive, chargé de pourvoir 20 postes différents, allant de médecins et avocats à nounous et agents d'entretien.
Les candidats appartenaient à quatre groupes ethniques entièrement fictifs (Tufa, Aima, Reku et Weki), créés spécifiquement pour empêcher les modèles de « tricher » en utilisant des stéréotypes déjà présents dans les données d'entraînement. À chacun des 40 tours, le modèle sélectionnait un candidat, évaluait sa réussite ou son échec, puis passait au suivant. Point important : en réalité, tous les candidats avaient exactement les mêmes chances de succès, quel que soit leur groupe d'appartenance.
Résultat ? Les modèles ont rapidement commencé à classer les candidats selon leur origine ethnique, sur la base de quelques résultats préliminaires seulement. 📊 Par exemple, si un candidat Aima échouait au poste de médecin (un poste qui, en théorie, exige beaucoup de compétences et d’empathie), le modèle évitait d’embaucher d’autres médecins Aima et les réorientait vers des emplois de nettoyage, considérés comme « plus faciles ». Sur une échelle de 0 à 2, les participants humains à l’étude initiale ont obtenu un score de 0,84 ; les modèles d’IA ont obtenu un score supérieur d’environ 65 % en moyenne, et le modèle o3 d’OpenAI a atteint 1,83, proche du maximum possible. Le plus inquiétant ? Ce sont les modèles les plus récents, dotés de capacités de raisonnement plus avancées, qui ont montré les biais les plus marqués, et non les plus faibles.
Pourquoi les algorithmes stéréotypent plus vite que les humains
En résumé, les chercheurs expliquent que les modèles sont entraînés à identifier rapidement des schémas à partir d'un petit nombre d'exemples – une compétence qui les rend performants en mathématiques, en programmation ou en logique. Or, cette même compétence se révèle problématique dans un contexte social : un modèle « précipité » de généraliser à partir d'un seul échec finit par tirer des conclusions hâtives sur un groupe entier, au lieu d'attendre davantage de données avant de prendre une décision.
Ce qui ne fonctionne pas est intéressant. Des chercheurs ont simplement demandé aux mannequins d'être « justes » et « non discriminatoires », mais leur comportement n'a quasiment pas changé. En revanche, lorsqu'une incitation explicite à la diversité lors du recrutement leur a été proposée, les biais ont considérablement diminué. Autre détail pratique pour tout professionnel des RH : lorsque les mannequins disposaient d'informations pertinentes sur les candidats – comme l'âge ou le niveau d'études –, leurs biais diminuaient, car ils avaient d'autres critères que l'origine ethnique pour fonder leur décision. Mais lorsque la seule information supplémentaire était sans rapport avec le poste – comme la couleur des cheveux –, les mannequins retombaient dans leurs travers et choisissaient uniquement en fonction de l'origine ethnique.
Le risque s'accroît à mesure que les chatbots développent des capacités de mémorisation et de personnalisation plus avancées : un modèle qui « se souvient » des interactions précédentes avec un type de candidat risque de reproduire et d'amplifier ces mêmes schémas, au lieu de simplement les reproduire une seule fois. Et ce sujet est d'actualité, car de plus en plus d'entreprises utilisent l'IA non seulement pour le filtrage des CV, mais aussi pour les entretiens automatisés.
Comment prévenir les biais algorithmiques dans votre processus de recrutement
La conclusion pratique n'est pas « n'utilisez pas du tout l'IA dans le recrutement », ni « laissez l'IA décider de manière totalement objective, sans supervision ». Ce sont deux idées reçues. Le fait que l'IA fonctionne avec des données et des calculs, et non avec des impressions, ne la rend pas automatiquement correcte ; tout comme un humain, elle se forge une « opinion » à partir des exemples qu'elle a vus jusqu'à présent, et si ces exemples sont peu nombreux ou inappropriés, ses conclusions peuvent être tout aussi erronées. La différence entre un outil utile et un algorithme qui amplifie la discrimination réside, le plus souvent, dans le degré de contrôle humain maintenu dans le processus. ⚖️
J'ai déjà abordé la question de la prévention des biais dans le processus de sélection , et les principes qui y sont exposés (entretiens structurés, critères d'évaluation clairs, notation numérique) sont d'autant plus pertinents aujourd'hui que les algorithmes doivent également gérer leurs propres biais. En clair, les mêmes règles qui protègent les candidats d'un recruteur fatigué ou pressé les protègent aussi d'un modèle d'IA qui généralise trop vite.
Voici quelques actions concrètes que vous pouvez entreprendre :
Laissez la décision finale entre les mains des humains. L’algorithme peut faire des recommandations, mais il ne doit pas décider à sa place (l’approche connue dans le secteur sous le nom de « contrôle humain ») ;
Normalisez vos critères d'évaluation avant d'introduire des outils automatisés dans le processus. Une IA sans critères clairs a encore plus de liberté pour former ses propres schémas ;
Faites un petit audit de temps en temps : vérifiez si les résultats filtrés par l’algorithme montrent une diversité raisonnable, et pas seulement une vitesse plus élevée ;
Suivre constamment les résultats : non seulement la rapidité du recrutement, mais aussi la diversité des candidats qui atteignent les étapes finales.
Chez Busy Bee 🐝, le processus de recrutement reste sous votre contrôle, et non une boîte noire. Notre plateforme centralise les candidatures afin que la décision finale vous revienne, à vous et à votre équipe.
Un recrutement plus équitable, avec ou sans IA
Personne ne nie que l'IA apporte de réels avantages au recrutement : rapidité, cohérence et réduction du temps consacré aux tâches répétitives. Mais rapidité ne rime pas avec automatisation et exactitude. Sans supervision humaine ni critères clairs, un algorithme peut reproduire, voire amplifier, les schémas mêmes que nous nous efforçons d'éliminer du processus de sélection depuis des années. La bonne nouvelle, c'est que les solutions sont en grande partie les mêmes que pour les biais humains : structure, transparence et surveillance constante. ✅
Si vous connaissez le chaos des CV triés à moitié par un algorithme et à moitié « à l'œil », vous savez qu'il existe une meilleure solution. Busy Bee 🐝 centralise tous vos candidats au même endroit tout en vous permettant de garder le contrôle sur la décision finale.