A.I. rukt op bij werving: dit zijn de kansen en risico's
Onderzoeksrapport HvA verschijnt in opdracht van gemeente Amsterdam
24 mei 2022 12:30 | Faculteit Digitale Media en Creatieve IndustrieVan online games om de beste kandidaat te selecteren, tot software die sollicitatiebrieven analyseert: A.I. rukt op binnen de werving en selectie van nieuw personeel. Wat zijn de kansen en risico’s van deze ontwikkeling? En hoe kunnen we de risico’s zoveel mogelijk beperken? Dit hebben associate lector Pascal Wiggers en onderzoeker Hans de Zwart van de Hogeschool van Amsterdam onderzocht in opdracht van gemeente Amsterdam. Hun onderzoeksrapport ‘Als de machine kiest’ verschijnt deze week.
A.I. wordt toenemend ingezet bij werving en selectie van nieuw personeel. Algoritmes bepalen wie een vacature ziet, of welke kandidaat het beste uit een online assessment komt. Maar leidt het tot eerlijkere kansen als de machine kiest in plaats van een recruiter? In sommige gevallen kan A.I. daarbij helpen, maar dat brengt ook risico's met zich mee, zo beschrijven associate lector Applied A.I. Pascal Wiggers en onderzoeker Hans van de Zwart (HvA). In hun rapport Als de machine kiest: diversiteit en inclusie beschrijven zij de kansen en risico's van deze ontwikkeling.
De onderzoekers interviewden ruim 20 leveranciers van wervings- en selectie-software, recruitmentspecialisten en organisaties die dit soort software gebruiken. Daarnaast deden zij literatuuronderzoek.
Bedrijfsleven ondersteunen
Met dit rapport hoopt de gemeente Amsterdam het gesprek op gang te brengen rond de opmars en toepassing van A.I. bij werving en selectie, en de ethische vraagstukken daarbij. Doel is om vooral het lokale bedrijfsleven hierbij te ondersteunen, en bedrijven in de toekomst te helpen om de technologie op een verantwoorde manier toe te passen.
Vragen die de gemeente hierbij voor ogen houdt, zijn: hoe benutten we ook de kansen die kunstmatige intelligentie biedt? En hoe zorgen we ervoor dat belangrijke ethische en juridische waarden gewaarborgd blijven bij A.I.-toepassingen?
De onderzoekers ontwikkelden daarom de A.I. Recruitment Tool (AIR), die organisaties kan helpen om de ethische kant te bevragen, en na te gaan of zij diversiteit en inclusie kunnen helpen bevorderen.
Welke kansen biedt A.I.?
Als A.I. als aanvullend adviessysteem wordt ingezet, kan het een aantal voordelen bieden. De onderzoekers beschrijven in het rapport de volgende kansen:
A.I. wordt momenteel al ingezet vanaf de eerste fase, bij het uitzetten van de vacature. Zo is er software die vacatureteksten screent op inclusief taalgebruik. Dat is van belang, omdat vacatureteksten al ‘bias’, oftewel onbewuste voorkeuren, in zich dragen. Zo is bekend dat op bepaalde gevraagde vaardigheden, zoals ‘stressbestendig’ of ‘commercieel’ vooral mannen reageren. De software reikt synoniemen aan waar vrouwen zich ook in herkennen.
Voor de selectiefase zijn er AI-tools die cv’s doorlopen en persoonlijkheidskenmerken verwijderen, zoals naam en gender, zodat hier niet op gelet wordt. Er is ook software die niet zozeer kijkt naar arbeidsverleden of opleiding, maar vooral analyseert wie bepaalde vaardigheden heeft.
Bepaalde software maakt het daarnaast mogelijk om bij outsourcing gerichter en in een groter aantal databases te zoeken, om zo kandidaten of groepen te vinden die eerder niet in beeld waren. Zo kunnen organisaties een diverser en groter bestand aan kandidaten doorzoeken dankzij A.I.
Het resultaat van AI-systemen is in sommige gevallen beter zichtbaar en meetbaar dan de uitkomsten en de selectie van recruiters, die onafhankelijk van elkaar bepaalde keuzes maken. Een menselijke bias is in die zin moeilijker te meten. Wanneer een uitkomst via A.I. te denken geeft – zoals bij het bekende Amazon-experiment- en een algoritme bias blijkt te bevatten, kan een organisatie het algoritme bijstellen.
Tot slot biedt A.I. voordelen qua efficiëntie. Met name grote organisaties kunnen hiermee delen van het wervings- en selectieproces automatiseren. Zo hoeft een leidinggevende of HR-medewerker niet zelf honderden brieven te lezen.
Welke risico’s brengt AI met zich mee?
De onderzoekers benoemen daarnaast de risico’s van de toenemende inzet van A.I. bij werving en selectie:
Het eerste reële risico van A.I. is dat dit een ‘bias’ verder versterkt. Zo wordt momenteel al software ingezet, die bij een vacature automatisch een profiel opstelt van de ideale kandidaat. De software stelt dit samen uit kwaliteiten van de best presterende medewerkers van een organisatie; de huidige medewerkers dus.
Stel het grootste deel van het huidige personeel is man en onder de 40, dan worden deze kenmerken meegenomen, en is de kans groot dat een A.I.-systeem dit aan succes linkt.
Dat legt meteen het volgende probleem bloot: alleen met grote hoeveelheden betrouwbare data kan een A.I.-systeem tot betrouwbare conclusies komen.
Bedrijven moeten zelf over deze data beschikken, wat vaak veel kosten en arbeidsuren met zich meebrengt. Veel (kleinere) bedrijven hebben deze middelen niet tot hun beschikking.
Omdat A.I. systemen gebaseerd zijn op statistiek, kunnen zij slecht omgaan met individuen die op een of andere manier afwijken van de norm. Zelfs als je maatregelen treft om de uitkomsten voor bepaalde groepen eerlijker te maken, dan nog kun je specifieke individuen niet beschermen. Een sterk afwijkend cv is voor kunstmatige intelligentie dan ook moeilijk te plaatsen.
Data zorgvuldig selecteren, en eisen stellen aan uitkomsten, helpen om bias van een AI-systeem tegen te gaan. Toch biedt dit geen garantie dat een systeem niet discrimineert. De technologie is dusdanig complex, dat vormen van bias alsnog aan de aandacht kunnen ontsnappen.
Zo kan het bijvoorbeeld dat een systeem niet discrimineert op geslacht of leeftijd, maar wel op een bepaalde combinatie, of een nieuwe vorm van bias introduceert. Het risico bestaat dat zo’n bias structureel wordt, wanneer de technologie opschaalt.
Zeker niet feilloos
De conclusie, aldus de onderzoekers: kunstmatige intelligentie is zeker niet feilloos. Geen enkele tool is 100 procent betrouwbaar, en op zichzelf staand toereikend. En hoewel AI mogelijk voordelen biedt voor het vergroten van inclusie en diversiteit, biedt het ook zeker zoveel nadelen.
Alle ontwikkelaars en leveranciers van kunstmatige intelligentie die de onderzoekers spraken, benadrukten ook dat het om adviessystemen gaat; de technologie kan géén sollicitatiegesprekken vervangen, maar wel een aanvulling bieden.
Kies je er toch voor om A.I.-systemen binnen werving- en selectieprocessen te implementeren, dan moet je dat op een heel intentionele manier doen. En met een scherpe blik op de achterliggende waarden, aldus de onderzoekers. “Blijf A.I. vooral toetsen, richt je processen zo in dat A.I. inderdaad een adviesrol heeft en geen beslissingen neemt. En koppel resultaten terug aan de kandidaat. Want A.I is nooit af.”
Met de huidige krapte op de arbeidsmarkt, zouden de rollen bestwel eens omgedraaid kunnen worden, schetsen de onderzoekers. Een kandidaat kan straks zelf software of tools gaan inzetten om potentiële werkgevers te werven en selecteren.
En als je cv of brief toch wordt geanalyseerd op taalgebruik, waarom zou je als kandidaat dan niet hetzelfde doen, en je brief vooraf door zo’n programma halen? “Een toekomst waarin de A.I. van de kandidaat probeert om de werkgever te slim af te zijn, is niet onwaarschijnlijk”, aldus de onderzoekers.
'Onschuldige' spelletjes
Er zijn een aantal leveranciers die kandidaten online een aantal simpel ogende spelletjes laten spelen. De spelletjes vergen een basale vorm van intelligentie, strategisch denken, ruimtelijk inzicht, reactiesnelheid, planning, besluitvaardigheid in situaties met beperkte informatie, etc. Na het spelen wordt er een uitgebreid profiel gemaakt. (Zie bijvoorbeeld: Pymetrics en Brainsfirst).
Taalanalyse
Taalstructuur. Gebruik van bepaalde woorden en zinsneden. Soms laten ze kandidaten op vragen antwoorden. Assessment door middel van taalanalyse gaat uit van de hypothese dat taalgebruik een weerspiegeling is van karakter.
Audio en video
Bij assessments doormiddel van video- en audioanalyse wordt er gekeken naar de toon waarop iemand praat of naar de micro expressies in het gezicht. Deze worden geanalyseerd om zo de emotie van een kandidaat in verschillende gespreksituaties te bepalen.