AI în recrutare: între eficiență și bias
Ai crezut vreodată că un algoritm, spre deosebire de un om, nu poate avea prejudecăți? Un studiu recent de la Princeton și Universitatea din Chicago, relatat de MIT Technology Review, arată exact opusul — biasul AI-ului în recrutare poate fi chiar mai mare decât cel al unui recrutor uman. Și asta contează tot mai mult, pentru că tot mai multe companii lasă un algoritm să fie primul care le citește CV-urile candidaților.
Vestea proastă nu e doar că AI-ul „moștenește" stereotipurile din datele pe care a fost antrenat — lucru știut deja de ceva vreme. Vestea cu adevărat îngrijorătoare e că poate să-și inventeze propriile stereotipuri, din mers, chiar și atunci când nu are niciun motiv real să o facă.
Studiul Princeton–Chicago despre biasul AI-ului în recrutare
Cercetătorii au testat mai multe modele mari de limbaj, printre care ChatGPT, Claude și Gemini, într-un joc de simulare a angajării, adaptat după un studiu clasic de psihologie despre formarea stereotipurilor. Fiecare model a fost pus în rolul unui consultant angajat de primarul unui oraș fictiv, cu sarcina de a ocupa 20 de posturi diferite — de la medici și avocați, până la îngrijitori de copii și personal de curățenie.
Candidații veneau din patru grupuri etnice complet inventate (Tufa, Aima, Reku și Weki) special create ca modelele să nu poată „trișa" folosind stereotipuri deja existente în datele de antrenare. La fiecare dintre cele 40 de runde, modelul alegea un candidat, afla dacă acesta reușise sau nu la job, și trecea mai departe. Important: în realitate, toți candidații aveau exact aceleași șanse de reușită, indiferent de grupul din care făceau parte.
Rezultatul? Modelele au început rapid să îi separe pe candidați în funcție de grupul etnic, bazându-se pe doar câteva rezultate timpurii. 📊 De exemplu, dacă un singur candidat Aima eșua ca medic (o poziție care cere, teoretic, multă competență și căldură) modelul evita să mai angajeze alți Aima ca medici și îi redirecționa spre posturi de curățenie, considerate „mai ușoare". Pe o scală a segregării de la 0 la 2, oamenii din studiul original au obținut un scor de 0,84 — modelele AI au obținut, în medie, cu aproximativ 65% mai mult, iar modelul o3 de la OpenAI a ajuns la 1,83, aproape de maximul posibil. Cel mai îngrijorător aspect? Modelele mai noi, cu capacități de raționament mai avansate, au arătat tendințele cele mai puternice de bias — nu cele mai slabe.
De ce algoritmii stereotipizează mai repede decât oamenii
Explicația cercetătorilor e, pe scurt, că modelele sunt antrenate să găsească tipare rapid din puține exemple — exact abilitatea care le face bune la matematică, codare sau probleme de logică. Doar că aceeași abilitate devine o problemă în context social: un model „grăbit" să generalizeze dintr-un singur eșec ajunge să tragă concluzii pripite despre un întreg grup de oameni, în loc să aștepte mai multe date înainte să decidă.
Interesant e și ce nu funcționează ca soluție. Cercetătorii au încercat pur și simplu să ceară modelelor să fie „corecte" și „nediscriminatorii", dar comportamentele aproape că nu s-au schimbat. În schimb, când modelele au primit un stimulent explicit pentru diversitate în angajări, biasul a scăzut vizibil. Un alt detaliu practic pentru orice HR: atunci când modelele au primit despre candidați informații cu adevărat relevante pentru job — cum ar fi vârsta sau nivelul de educație — au devenit mai puțin părtinitoare, pentru că aveau pe ce să-și bazeze decizia în afară de etnie. Dar când singurele informații suplimentare erau irelevante pentru job — de exemplu culoarea părului — modelele reveneau la vechiul obicei și alegeau tot în funcție de etnie, nu de altceva.
Riscul crește pe măsură ce chatboții capătă memorie și funcții de personalizare tot mai avansate — un model care „ține minte" interacțiunile anterioare cu un tip de candidat riscă să repete și să amplifice exact acele tipare, nu doar să le formeze o singură dată. Iar asta e relevant chiar acum, pentru că tot mai multe companii folosesc AI-ul nu doar pentru filtrarea CV-urilor, ci și pentru interviuri automate.
Cum previi biasul algoritmic în procesul tău de recrutare
Concluzia practică nu e „nu folosi deloc AI în recrutare", dar nici „lasă AI-ul să decidă complet obiectiv, fără supraveghere". Amândouă sunt mituri. Faptul că AI-ul lucrează cu date și calcule, nu cu impresii, nu-l face automat corect — la fel ca un om, își formează „opinia" pe baza exemplelor pe care le-a văzut până acum, iar dacă acele exemple sunt puține sau nepotrivite, concluziile lui pot fi la fel de greșite. Diferența dintre un instrument util și un algoritm care amplifică discriminarea stă, de cele mai multe ori, în cât de mult control uman rămâne în proces. ⚖️
Am scris deja despre cum eviți biasul în procesul de selecție, iar principiile de acolo (interviuri structurate, criterii clare de evaluare, scoring numeric) sunt cu atât mai valabile acum, când și algoritmii au bias-ul lor de gestionat. Practic, aceleași reguli care protejează candidații de un recrutor obosit sau grăbit îi protejează și de un model AI care generalizează prea repede.
Câteva lucruri concrete pe care le poți face:
- Păstrează decizia finală la oameni. Algoritmul poate recomanda, dar nu ar trebui să decidă singur (abordarea cunoscută în industrie drept „human-in-the-loop");
- Standardizează criteriile de evaluare înainte să introduci orice instrument automat în proces. Un AI fără criterii clare are și mai multă libertate să-și formeze propriile tipare;
- Fă din când în când un mic audit: verifică dacă rezultatele filtrate de algoritm arată o diversitate rezonabilă, nu doar o viteză mai mare;
- Urmărește constant rezultatele: nu doar viteza de recrutare, ci și diversitatea candidaților care ajung în etapele finale.
La Busy Bee 🐝, procesul de recrutare rămâne al tău, nu al unui algoritm închis într-o cutie neagră. Platforma noastră centralizează aplicanții într-un singur loc astfel încât decizia finală să rămână acolo unde trebuie: la tine și la echipa ta.
Recrutare mai corectă, cu sau fără AI
Nimeni nu neagă că AI-ul aduce beneficii reale în recrutare — viteză, consistență, mai puțin timp pierdut cu sarcini repetitive. Dar rapid nu înseamnă automat și corect. Fără supraveghere umană și criterii clare, un algoritm poate ajunge să repete, și chiar să amplifice, exact tiparele pe care încercăm de ani de zile să le eliminăm din procesul de selecție. Vestea bună e că soluțiile sunt, în mare parte, aceleași ca și pentru biasul uman — structură, transparență și control constant. ✅
Dacă recunoști haosul din CV-uri filtrate pe jumătate de un algoritm și pe jumătate „pe ochiometru", știi că există o cale mai bună. Busy Bee 🐝 centralizează toți aplicanții tăi într-un singur loc păstrând tot timpul controlul asupra deciziei finale.