Zoekalgoritmes van vacaturesites zijn soms vooringenomen

“Computers zijn niet immuun voor genderongelijkheid”, legt voorzitter Adriana van Dooijeweert uit. “Als vrouwen minder of minder geschikte vacatures zien dan mannen, hebben zij minder kansen op de arbeidsmarkt. Het is een onbedoeld effect van de werking van de algoritmes die deze websites gebruiken. Wij vinden het daarom  belangrijk dat bij vacaturesites te gebruiken algoritmes goed onder de loep worden genomen.” 

Geen aanwijzingen voor discriminatie op profielkenmerken

De Utrecht Data School onderzocht eerst of er aanwijzingen waren van discriminatie bij het koppelen van kandidaten aan beschikbare vacatures op online vacatureplatformen. Hiervoor maakten de onderzoekers op vier grote Nederlandse vacaturesites nepprofielen aan van kandidaten die varieerden in geslacht, etniciteit en leeftijd. Per profiel zochten de onderzoekers naar verschillende functietitels en vergeleken de zoekresultaten tussen de profielen. Bij deze verkenning vond de UDS geen aanwijzingen voor mogelijke risico’s op discriminatie op basis van de onderzochte profielkenmerken.

Gendergekleurde zoektermen struikelblok

Een zoekopdracht kan echter wel nadelig uitpakken als een werkzoekende zoektermen gebruikt die niet genderneutraal zijn, zoals ‘lerares’ of ‘timmerman’. Bepaalde beroepen kunnen vanwege heersende genderstereotypen als typisch mannelijk of vrouwelijk worden gezien, zowel door werkgevers, softwareontwikkelaars als werkzoekenden. Deze maatschappelijke vooringenomenheid kan van invloed zijn bij het gebruik van algoritmische zoekfuncties op vacaturesites. 

Een (vrouwelijke) werkzoekende die bijvoorbeeld op ‘lerares’ zoekt, zou idealiter dezelfde vacatures te zien moeten krijgen als iemand die zoekt op ‘leraar’ of ‘docent’. De UDS-onderzoekers ontdekten dat dit niet voor alle vacaturesites altijd het geval is. Zo leverde een zoekopdracht met ‘lerares’ als functietitel op een van de sites beduidend minder vacatures op dan de mannelijke (‘leraar’) of neutrale variant (‘docent’). Terwijl op de andere vacaturesites deze zoektermen juist wel leidden tot vergelijkbare zoekresultaten. 

Vooringenomenheid gereproduceerd of soms zelfs versterkt

De zoektermen ‘secretaresse’ (hoewel dit tegenwoordig niet uitsluitend vrouwen aanduidt), ‘schoonmaakster’ en ‘verpleegster’ worden op alle onderzochte vacaturesites weinig “geneutraliseerd”. Ze laten hierdoor alleen vacatures zien met exact deze functietitels. Zo wordt maatschappelijke vooringenomenheid gereproduceerd in het zoekalgoritme. 

Het viel de onderzoekers ook op dat het taalgebruik in sommige vacatures nadrukkelijk is gericht op één geslacht, bijvoorbeeld vacatures voor secretaresses die gericht zijn op vrouwen. Opvallend was ook dat soms bij gebruik van een “typisch vrouwelijke” functietitel als zoekterm, de sites lager betaalde functies toonden. Zo zochten de onderzoekers op één site met de zoekterm ‘lerares’ en liet de website vervolgens een functie voor ‘onderwijsassistent’ zien, terwijl die vacature na het invoeren van de zoekterm ‘leraar’ niet naar boven kwam.

Goed ontworpen algoritmes kunnen vooringenomenheid corrigeren

Het onderzoek van UDS laat zien dat algoritmes dergelijke maatschappelijke vooringenomenheid ten aanzien van genderstereotiepe beroepen kunnen tegengaan, maar dus ook kunnen reproduceren of soms zelfs versterken. Een achterliggende verklaring lijkt volgens de UDS te liggen in hoe simpel of complex de algoritmes achter de zoekfuncties zijn.

Een simpel zoekalgoritme dat alleen letterlijk de ingevoerde zoekterm overneemt, is niet in staat om vooringenomenheid tegen te gaan, maar zal die reproduceren. Een zoekalgoritme dat complexere methoden gebruikt, kan ook vooringenomenheid  reproduceren of zelfs versterken, maar in potentie ook corrigeren. 

Vacaturesites wordt daarom aanbevolen om te werken met meer complexe algoritmes die vooringenomenheid kunnen tegengaan. Het College heeft de beheerders van de  onderzochte websites geïnformeerd over de onderzoeksuitkomsten en uitgenodigd om deze nader te bespreken. 

Andere risico’s op discriminatie

Discriminatie op vacaturesites kan op verschillende manieren voorkomen. Zo toonde recent onderzoek in opdracht van de Inspectie SZW aan hoe makkelijk discriminerende vacatureteksten op vacaturesites geplaatst kunnen worden en dat sommige vacaturesites de mogelijkheid bieden om kandidaten te filteren op basis van geslacht, nationaliteit, leeftijd of maximale werkervaring. 

Programma Digitalisering en Mensenrechten

Digitalisering verandert onze samenleving in hoog tempo. Dit raakt onze mensenrechten op allerlei manieren. Digitalisering biedt kansen, maar kent ook risico’s. Het programma Digitalisering & Mensenrechten zet zich in voor een samenleving waarin iedereen kan meedoen en eerlijke kansen heeft in een steeds verder digitaliserende wereld.