Oricine familiarizat cu practicile de resurse umane probabil știe deceniile de studii arătând că CV-ul cu nume de negru și/sau de femeie în partea de sus primește mai puține apeluri și interviuri decât cele cu nume de alb și/sau de bărbați – chiar dacă restul CV-ului este identic. Un nou studiu arată că aceleași tipuri de părtiniri apar și atunci când sunt folosite modele mari de limbaj pentru a evalua CV-urile în locul oamenilor.
În o nouă hârtie publicat în cursul lunii trecute Conferința AAAI/ACM despre IA, etică și societatedoi cercetători de la Universitatea din Washington au rulat sute de CV-uri și descrieri de posturi disponibile public prin trei modele diferite de încorporare a textului masiv (MTE). Aceste modele, bazate pe Mistal-7B LLM, au fost fiecare ajustate cu seturi ușor diferite de date pentru a îmbunătăți abilitățile LLM de bază în „sarcini de reprezentare, inclusiv regăsirea documentelor, clasificarea și gruparea”, potrivit cercetătorilor și a atins „performanță de ultimă generație” în de referință MTEB.
În loc să solicite potriviri precise ale termenilor din fișa postului sau să evalueze printr-un prompt (de exemplu, „acest CV se potrivește cu fișa postului?”), cercetătorii au folosit MTE-urile pentru a genera scoruri de relevanță încorporate pentru fiecare pereche de CV și fișă de post. Pentru a măsura potențialele părtiniri, CV-urile au fost mai întâi parcurse prin MTE-uri fără nici un nume (pentru a verifica fiabilitatea) și apoi au fost rulate din nou cu diverse nume care au obținut scoruri ridicate de „diferențiere” rasială și de gen pe baza utilizării lor reale în grupurile din populația generală. . Primele 10 la sută din CV-urile pe care MTE le-au considerat cele mai asemănătoare pentru fiecare fișă de post au fost apoi analizate pentru a vedea dacă numele pentru orice rasă sau grup de gen au fost alese la rate mai mari sau mai mici decât se aștepta.
Un model consistent
În peste trei milioane de comparații cu CV-urile și fișele postului, au apărut niște părtiniri destul de clare. În toate cele trei modele MTE, numele albe au fost preferate în 85,1% dintre testele efectuate, în comparație cu numele negre fiind preferate în doar 8,6% (restul au arătat diferențe de scor suficient de apropiate de zero pentru a fi considerate nesemnificative). Când a fost vorba de nume de gen, numele masculin a fost preferat în 51,9 la sută din teste, comparativ cu 11,1 la sută, în cazul în care numele feminin a fost preferat. Rezultatele ar putea fi și mai clare în comparațiile „intersecționale” care implică atât rasa, cât și genul; Numele de bărbați negri au fost preferate numelor de bărbați albi în „0% din testele de părtinire”, au scris cercetătorii.
Comentarii recente