Egy kutatócsoport a Stanford HAI, a Chapman University és a Northeastern University együttműködésében közzétette a munkába vételi algoritmusok eddigi legnagyobb auditját, amely 3,37 millió jelöltet és 4,19 millió, Pymetrics által kezelt jelentkezést vizsgált. A Pymetrics egy játék alapú képességfelmérőt kínál, amelyet több Fortune 100 vállalat használ a pályázók szűrésére.
Miről szól a vizsgálat?
A tanulmány kimutatja, hogy mivel nagyon sok munkáltató ugyanarra a szolgáltatóra támaszkodik, az egyszer leadott értékelést nem minden esetben újra felmérik: az eredményt egyszer kiszámolják, majd 330 napig tárolják. Ha egy másik céghez jelentkezik valaki, gyakran nem kérnek új felmérést, hanem az előző, a Pymetricsnél tárolt pontszámot használják fel.
A kutatók egy teljes kereszt-alkalmazási szimulációt futtattak, amely azt mutatta, hogy több mint 40 000 esetben kerültek vesztes helyzetbe jelöltek: előrelépéseket töröltek, mert egy, egy másik szerepre vagy cégre kalibrált algoritmus szűrte ki őket.
Kinek és hogyan árthat ez?
A vizsgálat rámutat arra a fontos problémára, hogy egyetlen, közösen használt algoritmus egy egész munkapiaci szelet kapujává válhat. Ennek következményeként a torzítások nem csupán egyetlen munkáltató gondjai maradnak: a tanulmány szerint a jelöltek nagy aránya került olyan toborzási csatornákba, amelyek hátrányosan különböztették meg őket.
Konkrétan a felmérés szerint 25,87% százaléknyi fekete (Black) és 14,74% százaléknyi ázsiai (Asian) jelölt került olyan útvonalakra, amelyek hátrányos megkülönböztetéshez vezettek.
Jog és szabályozás
Az ügy politikai és jogi következményekkel is bír: az Egyesült Államokban folyamatban van a Mobley v. Workday ügy szövetségi bíróságon, miközben az Európai Unió szabályozási válasza, az EU AI Act, már kiemeli a toborzási célú mesterséges intelligenciát mint "nagy kockázatú" területet augusztus 2-től. Az Egyesült Államokban ezzel párhuzamosan nincs egységes, széles körű szabályozás a toborzási célú AI eszközökre.
Miért számít ez?
A korábbi gyakorlat szerint egy rossz eredmény egy cégnél nem befolyásolta a következő munkaadóhoz való jelentkezést: a jelölt „tiszta lappal” indulhatott. A közös szolgáltató ezt a lehetőséget gyakorlatilag megszünteti, hiszen a 330 napig megőrzött értékelés határozza meg a jelölt esélyét más munkáltatóknál is — akár olyan pozícióknál, amelyre a pontszámot nem is kifejezetten kalibrálták.
A kutatás eredményei rávilágítanak a központilag használt toborzási algoritmusok strukturális hatásaira: hogyan alakítják át a munkaerőpiaci hozzáférést és hogyan növelhetik a rendszerszintű hátrányos megkülönböztetést.
Következtetés
A tanulmány szerint a „tiszta lap” lehetősége, amely korábban a munkakeresők számára adott egy másik munkaadóhoz való jelentkezéskor, most jellemzően 330 napra megszűnik, mivel a közös AI-értékelő egyszeri pontszáma meghatározza további esélyeiket. Ez új kérdéseket vet fel a felelősség, az átláthatóság és a szabályozás kapcsán, különösen ott, ahol több munkáltató osztozik ugyanazon technológián.
