In een exclusief interview met Brando Benifei, rapporteur voor de eerste Europese AI-wet, duiken we diep in de details én gevolgen voor rekrutering in de EU. ‘De wetgeving is niet bedoeld om het gebruik van AI te beteugelen, maar wel om de toepassing ervan te waarborgen onder strikte richtlijnen waar ze het meest van invloed is op veiligheid en fundamentele rechten’, zo vertelt Benifei vanuit het EU-hoofdkantoor in Brussel.
Europa’s eerste AI-wet
De spanning liep al een tijdje op, maar Europa heeft eindelijk zijn eigen AI-wet: de Verordening Artificiële Intelligentie. Eerst even een korte inleiding: wat is precies het doel van de wet? “Deze verordening moet fundamentele rechten, democratie, de rechtsstaat en milieubescherming behoeden voor risicovolle AI”, zegt de EU, “terwijl ze tegelijk innovatie promoot en bedrijven de ruimte geeft om te groeien en uit te breiden. De regels leggen verplichtingen op aan AI op basis van het potentiële risico en de impact.”
Deze nieuwe regels worden uniform toegepast in alle EU-lidstaten, volgens dezelfde definitie van AI. Ze beschouwen AI eenvoudigweg zo: hoe meer potentiële schade het kan veroorzaken, hoe strenger de regels. Er zijn vier categorieën:minimaal risico, hoog risico, onaanvaardbaar risico en specifiek transparantierisico.
AI-tools voor rekrutering onder ‘hoog risico’
Rekruteringsinstrumenten die gebruikmaken van AI vallen onder de tweede categorie, voor hoog risico. De verordening wijst specifiek op rekruteringssystemen als risicovol vanwege het gebruik van persoonsgegevens. “Sommige systemen bepalen wie toegang krijgt tot scholen of wie aangenomen wordt. Andere worden gebruikt bij wetshandhaving, grenscontrole, gerechtelijke procedures en democratische processen. Biometrische systemen voor identificatie, categorisering en emotieherkenning worden ook als riskant beschouwd.”
Vooroplopen in AI-wetgeving
Brando Benifei stond mee aan het roer van het wetgevingsproces. Hij onderhandelde met EU-regeringen over wat hij omschrijft als ‘de allereerste horizontale wetgeving ter wereld over AI’. Het initiatief begon bijna tien jaar geleden, geworteld in politieke resoluties en hoorzittingen van een speciale commissie voor artificiële intelligentie. Na ongeveer twee jaar van toegewijde inspanningen staat de wetgeving nu op het punt om afdwingbare wet te worden.
De kern van de Europese AI-wet, volgens Benifei, is het verminderen van risico’s door robuuste protocollen voor risicobeperking op te stellen.
De wetgeving is niet bedoeld om het gebruik van AI te beteugelen, maar wel om de toepassing ervan te waarborgen onder strikte richtlijnen waar ze het meest van invloed is op veiligheid en fundamentele rechten. De kern van de Europese AI-wet, volgens Benifei, een van de mede-rapporteurs van de Europese Commissie over de allereerste AI-wet, is het verminderen van risico’s door robuuste protocollen voor risicobeperking op te stellen.
‘Mogelijkheden uitbreiden’
Dit, zo gelooft hij, zal het vertrouwen vergroten en de mogelijkheden uitbreiden, vooral op gevoelige terreinen zoals rekrutering. “De wetgeving is niet bedoeld om het gebruik van AI te beteugelen, maar wel om de toepassing ervan te waarborgen onder strikte richtlijnen waar ze het meest van invloed is op veiligheid en fundamentele rechten.”
Meer of minder vooroordelen dan mensen?
“Een eenvoudig, maar wel diepgaand voorbeeld”, aldus Benifei, “is het gebruik van AI in programma’s voor curriculumselectie die getraind zijn om vrouwen te discrimineren. Deze systemen, getraind met bevooroordeelde data, kunnen soms meer vooroordelen vertonen dan mensen.”
“Dit rigoureuze evaluatieproces is erop gericht te waarborgen dat rekrutering en andere toepassingen van AI met een hoog risico zo neutraal mogelijk zijn.”
Dit rigoureuze evaluatieproces is erop gericht te waarborgen dat rekrutering en andere toepassingen van AI met een hoog risico zo neutraal mogelijk zijn. De nieuwe verordening wil dergelijke vertekeningen corrigeren door conformiteitsbeoordelingen voor AI-systemen te verplichten, met inbegrip van controles op de kwaliteit en geschiktheid van de gegevens die voor training worden gebruikt. “Dit rigoureuze evaluatieproces is erop gericht te waarborgen dat rekrutering en andere toepassingen van AI met een hoog risico zo neutraal mogelijk zijn.”
‘Rekrutering kan veel minder bevooroordeeld met AI’
Benifei blijft optimistisch over het potentieel van AI bij rekrutering. “Ik ben ervan overtuigd dat het veel minder bevooroordeeld kan zijn. Natuurlijk kunnen we deze risico’s niet volledig elimineren. Maar op de manier waarop we onze verordening hebben ontworpen, zullen er controles nodig zijn volgens een norm die nu in ontwikkeling is. Daarom zal het nog ongeveer twee
