In opdracht van de Gemeente Amsterdam heeft het Responsible AI Lab van het Lectoraat Responsible IT onderzoek naar het gebruik van kunstmatige intelligentie in werving- en selectieprocessen. Daarbij is er specifiek gelet op de kansen en risico’s met betrekking tot het bevorderen van diversiteit en inclusie.
HET GEBRUIK VAN AI IN RECRUITMENT In het werving- en selectieproces proberen organisaties in eerste instantie zoveel mogelijk geschikte kandidaten te laten solliciteren (sourcing) om daaruit dan de meest geschikte kandidaat te kiezen (selectie).
Voor allebei deze fasen van recruitment zijn er kunstmatige intelligentiesystemen op de markt die organisaties kunnen helpen bij het proces. Die technologieën hebben gevolgen voor wie er wel of niet worden geselecteerd en moeten dus uiterst zorgvuldig worden ingezet.
Voordelen In potentie heeft dit soort technologie een aantal voordelen. Het zou bijvoorbeeld kunnen helpen bij het verminderen van bias binnen het proces. Irrelevante persoonskenmerken kunnen automatisch buiten beschouwing worden gelaten en je kunt een stuk makkelijker dan bij een menselijke recruiter meten op wat voor manier het systeem biased is. Ook zou technologie kunnen helpen bij het vinden van nieuwe groepen kandidaten die eerder nog niet in beeld waren.
De voordelen van het gebruik van kunstmatige intelligentie hebben daarnaast vooral te maken met efficiëntie. Delen van het proces kunnen worden geautomatiseerd, en de werkwijze kan meer uniform gemaakt.
Risico’s Er kleven echter ook grote risico’s aan het gebruik van kunstmatige intelligentie binnen werving- en selectieprocessen. Omdat veel van de technologie uitgaat van de huidige (succesvolle) werknemers is er de kans dat je de (weinig diverse) status quo juist handhaaft.
Het is nooit uit te sluiten dat er hele specifieke vormen van bias met betrekking tot bepaalde groepen in het systeem blijven zitten, en dit soort systemen kunnen sowieso slecht omgaan met individuen die op een of andere manier afwijken van de norm. Die bias die – ook na een zorgvuldige implementatie – overblijft is dan wel meteen systematisch en schaalt mee met de inzet van de technologie.
Verder blijft het moeilijk om te valideren of de kunstmatige intelligentie die je inzet wel goed werkt.
Tot slot hebben dit soort systemen veel data nodig. Dit kan op het gebied van privacy en de vereiste dataminimalisatie problemen opleveren.
Het is nu al vaak de machine die kiest Je hoort vaak dat we ons geen zorgen hoeven te maken over de inzet van kunstmatige intelligentie binnen werving- en selectie. Het is immers voorlopig nog steeds de mens die de uiteindelijke beslissing neemt. Dit klopt (vooralsnog) misschien nog wel voor het aannemen van de kandidaat, maar is allang niet meer het geval voor de kandidaten die worden afgewezen. Daar is het vaak al de machine die kiest, zonder enige menselijke tussenkomst.