Workday is door een sollicitant in de Verenigde Staten aangeklaagd wegens discriminatie. De rechtbankdocumenten stellen dat de sollicitant sinds 2018 is afgewezen voor meer dan 80 functies bij bedrijven die Workday gebruiken als screeningtool. In deze serie duiken we in de wondere wereld van AI, rekrutering en regelgeving.  

Regulering van AI

De opkomst van Artificial Intelligence bij werving- en selectiepraktijken heeft geleid tot een influx van nieuwe wetten en regels in de Verenigde Staten en Europa. In april 2021 kwam de Europese Unie met het allereerste Europese wettelijke kader voor AI. “De combinatie van het allereerste regelgevingskader voor AI en een nieuw gecoördineerd plan van de Unie en de lidstaten zal de veiligheid en grondrechten van mensen en bedrijven waarborgen en tegelijkertijd het draagvlak voor AI, investeringen en innovatie in de hele EU versterken.”

“Voor kunstmatige intelligentie is vertrouwen een must, geen luxe.”

Die aanpak wordt aangevuld met nieuwe regels voor machines, die de veiligheidsvoorschriften aanpassen om het vertrouwen van gebruikers in de nieuwe en veelzijdige generatie producten te vergroten. “Voor kunstmatige intelligentie is vertrouwen een must, geen luxe”, stelt Margrethe Vestager, uitvoerend vicevoorzitter voor een Europa dat klaar is voor het digitale tijdperk. “Met deze baanbrekende regels neemt de EU het voortouw bij de ontwikkeling van nieuwe mondiale normen om ervoor te zorgen dat iedereen AI kan vertrouwen.”

Ondertussen lijkt de VS een stap voor te zijn. In 2020 werd Illinois de allereerste staat die het toenemende gebruik van kunstmatige intelligentie in wervingspraktijken reguleert. De Illinois Artificial Intelligence Video Interview Act (AIVI) treed op tegen het gebruik van AI in video-interviews die te bepalen of de sollicitant de kenmerken van ‘succesvolle’ kandidaten vertoont en daarmee aanbevelingen doet die bepalend zijn in de keuze om een sollicitant aan te nemen, of niet.

Patronen van discriminatie?

Wanneer wetten onderwerp van discussie zijn, zijn rechtszaken meestal niet ver weg. In de VS is nu de eerste class-action rechtszaak gestart tegen Workday. Derek Mobley, een man van boven de 40 met een bachelordiploma in financiën en een Associate Degree in netwerksysteembeheer, wil “systematische discriminatie” aanvechten die de tooling van Workday zou bevorderen. Als onderdeel van de rechtszaak, zoals openbaar gemaakt in rechtbankdocumenten, stelt Mobley dat hij heeft gesolliciteerd naar minstens 80 openstaande functies waarvoor Workday werd gebruikt als screeningsinstrument, ‘en hem telkens een baan werd geweigerd’. 

Mobley’s rechtszaak is gebaseerd op drie afzonderlijke aanklachten. Hij stelt dat hij werd gediscrimineerd vanwege zijn ras, wat in strijd zou zijn met de Civil Rights Act van 1964. Hij stelt dat de screeningstechnologie van Workday zouden discrimineren op grond van onbekwaamheid, wat in strijd zou zijn met de ADA Amendments Act van 2008. En tenslotte op basis van leeftijd, wat in strijd zou zijn met de Age Discrimination in Employment Act van 1967. 

Moeilijk te bewijzen

Mobley is niet de eerste — en zal ook niet de laatste zijn — die een dergelijke rechtszaak probeert. Maar wanneer we de jurisprudentie induiken, lijkt de kans van slaging érg klein. In één van de wetten die Mobley aanhaalt, de ADA-wet, werd door research van Psychiatric Services 26 zaken geïdentificeerd waarin de wet werd genoemd in een rechtszaak. Van die 26 zaken werden werkgevers door de lagere rechtbanken 25 keer in het gelijk gesteld. Ook leeftijdsdiscriminatie zal moeilijk te bewijzen zijn, blijkt uit ander onderzoek. 

Van die 26 zaken werden werkgevers door de lagere rechtbanken 25 keer in het gelijk gesteld. De kans van slaging is dus klein.

In de VS werden in 2021 ruwweg 13.000 klachten ingediend op grond van de ADEA, maar juristen zeggen dat het aantal klachten slechts een splinter vertegenwoordigt van de werkelijke incidenten, want ze omvatten niet de zaken die onder de wetten van individuele staten zijn ingediend. Leeftijdsdiscriminatiezaken zijn goed voor ongeveer 21% uit van de claims die elk jaar worden ingediend bij de Equal Employment Opportunity Commission (EEOC), het federale agentschap voor de handhaving van arbeidswetten. Hoewel eventuele Amerikaanse statistieken moeilijk te achterhalen zijn, lag het slagingspercentage van dergelijke zaken in 2021 bij de Engelse en Welshe arbeidsrechtbanken rond de 2%, volgens Bloomberg Law. 

‘AI is uiteindelijk een spiegel’

Het gebruik van Artificial Intelligence bij rekrutering wordt langzaam maar zeker een wereldwijd trending topic. In een video die op YouTube miljoenen keren is bekeken, gaat talkshowhost John Oliver in op het hele spectrum van AI. Maar een groot deel van de aflevering is geweid aan de manier waarop het wordt gebruikt voor rekrutering. “We moeten uiteindelijk het blackbox-pronleem van software aanpakken”, stelde Oliver. “Bedrijven zullen terughoudend zijn, maar misschien moeten we ze ertoe dwingen.”

“Zoals elk glimmend nieuw speeltje is AI uiteindelijk een spiegel. En het zal precies terugkaatsen wie we zijn.”

Oliver wijst op de komende Europese wetgeving, die een stuk strenger zou zijn voor Artificial Intelligence dan alle Amerikaanse wetten tot nu toe zijn geweest. “AI-toepassingen zouden worden onderworpen worden aan strenge regelgeving voordat het op de markt kan worden gebracht. Dat lijkt een goed begin. AI heeft een enorm potentieel en kan geweldige dingen doen. Maar als het lijkt op meeste technologische ontwikkelingen kan het, tenzij we heel voorzichtig zijn, schadelijk zijn voor de minderbedeelden, de machtigen verrijken en de kloof tussen hen vergroten. Zoals elk glimmend nieuw speeltje is AI uiteindelijk een spiegel. En het zal precies terugkaatsen wie we zijn.”

Meer weten over AI in Recruitment?

AI is overal in recruitment, maar hoe wordt het precies gebruikt? In een nieuwe podcastserie ‘AI in Recruitment’ verkennen co-hosts Martijn Hemminga en Jasper Spanjaart de zich snel ontwikkelende wereld van kunstmatige intelligentie (AI) in rekrutering.