ChatGPT heeft het potentieel om het rekruteringsproces te automatiseren én efficiënter te maken. Maar er is ook een risico op discriminatie, concludeert postdoctoraal onderzoeker Louis Lippens aan de Universiteit Gent. Kandidaten met Aziatische, Afrikaanse, Zwart-Amerikaanse, Arabische, Hispanische, Oost-Europese of Turkse namen ontvingen 14% tot 19% minder positieve reacties van ChatGPT dan die met Vlaamse namen.

Discrimineert ChatGPT?

Een onderzoek van postdoctoraal onderzoeker Louis Lippens aan de Universiteit Gent toonde aan dat ChatGPT discrimineert op basis van etnische identiteit bij het beoordelen van cv’s. Het onderzoek keek naar 34.560 cv’s van fictieve kandidaten met verschillende namen die een specifieke etnische identiteit en gender signaleerden. De resultaten laten zien dat kandidaten met typisch Aziatische, Afrikaanse en Zwart-Amerikaanse, Arabische, Hispanische, Oost-Europese of Turkse namen 14% tot 19% minder positieve reacties kregen van ChatGPT dan kandidaten met typisch Vlaamse namen.

Het onderzoek keek naar 34.560 cv’s van fictieve kandidaten met verschillende namen die een specifieke etnische identiteit en gender signaleerden.

Minder discriminatie

De bevindingen van Lippens zijn zorgwekkend, maar ook enigszins hoopgevend. Ten eerste is de mate van discriminatie door ChatGPT beperkter dan wat bij menselijke recruiters wordt waargenomen, constateert Lippens. “Met uitzondering van de Hispanische subgroep lijkt ChatGPT consistent minder te discrimineren dan wat we in praktijktesten wereldwijd observeren, waar het gemiddelde percentage minder positieve responses op sollicitaties voor etnische minderheden gauw 30% bedraagt.”

‘Geen sluitend antwoord’

Het is één van de eerste grootschalige studies naar een potentiële bias van het populaire AI-platform, maar Lippens ziet ook een nuance. “De auditstudie naar discriminatie door ChatGPT illustreert dat de chatbot en het achterliggende taalmodel geen sluitend antwoord biedt op het vraagstuk rond aanwervingsdiscriminatie”, stelt hij.

“De onlangs aangenomen AI Act door het Europees Parlement is een stap in de goede richting wat betreft transparant gebruik van grote taalmodellen.”

“In tegendeel, in sommige gevallen kan ChatGPT-achtige artificiële intelligentie inzetten net bestaande discriminatie versterken. De onlangs aangenomen AI Act door het Europees Parlement is een stap in de goede richting wat betreft transparant gebruik van grote taalmodellen zoals ChatGPT, waarbij er een soort meldingsplicht bestaat wanneer ChatGPT gebruikt wordt in – onder andere – organisatieprocessen.”

Food for thought

De regelgeving legt bovendien bijkomende restricties op voor de toepassing van deze modellen op vlak van tewerkstelling, zoals automatische categorisatie en selectie van mensen. Organisaties die dergelijke AI inzetten, zijn bovenal verantwoordelijk om te waken over de afruil tussen efficiëntiewinsten en mogelijke nadelige gevolgen, bijvoorbeeld op vlak van diversiteit, ziet Lippens. “Het gebruik van ChatGPT en soortgelijke taalmodellen in hun huidige vorm in beslissingsprocessen die een rechtstreekse impact uitoefenen op mensen, waaronder cv-screening, is in elk geval voer voor verdere discussie.”