Werkgever zelf verantwoordelijk als algoritmes bij sollicitaties discrimineren

8 december 2021 - Laatste update 8 december 2021

De algoritmes die werkgevers inzetten om mensen te werven en te selecteren kunnen discriminatie veroorzaken. Als dit het geval is, overtreden werkgevers de wet. Ze kunnen de verantwoordelijkheid hiervoor niet afschuiven op het algoritme of de softwareleverancier. Dit blijkt uit een nieuwe publicatie van het College voor de Rechten van de Mens over het gebruik van algoritmes bij werving en selectie in relatie tot de gelijkebehandelingswetgeving.

Het onderzoek ‘Recruiter of computer?’ is een vervolg op een literatuurstudie uit 2020, toen deed het College onderzoek naar de risico’s op discriminatie bij algoritmes die worden ingezet bij sollicitaties. Het nieuwe onderzoek concentreert zich op vier dingen waar werkgevers zich van bewust moeten zijn als zij voor werving en selectie gebruik willen maken van algoritmes (tips voor werkgevers bij de inzet van algoritmes bij werving en selectie). Jacobine Geel, voorzitter van het College, licht toe: “Algoritmes kunnen zowel direct als indirect verboden onderscheid maken. Als ze selecteren op grond van leeftijd, geslacht of ras is dat een direct verboden onderscheid. Maar algoritmes kunnen ook indirect discrimineren. Een voorbeeld: een uitzendbureau dat alleen maar studenten werft, maakt geen direct onderscheid op leeftijd, maar indirect wel, aangezien de meeste studenten jong zijn.”

Werkgevers zijn verantwoordelijk…

In het gelijkebehandelingsrecht telt het discriminerende effect. “Dat wil zeggen dat het niet uitmaakt of de werkgever opzettelijk discrimineert of niet. Als het algoritme discrimineert, dan is de werkgever verantwoordelijk.” legt Geel uit. “Dat is zelfs het geval als een zelflerend algoritme aanvankelijk niet discrimineerde, maar in de loop van de tijd wel verboden onderscheid is gaan maken, zonder dat werkgever of algoritmebouwer zich hiervan bewust zijn. Het gaat om het effect in de praktijk. Of een sollicitant nu door een mens of computer wordt gediscrimineerd, de uitkomst is hetzelfde. Juist omdat het bij een algoritme vaak lastig is om te achterhalen of er sprake was van discriminatie is het van belang dat werkgevers zich bewust zijn van hun verantwoordelijkheid.

… maar arbeidsbemiddelaars ook

Arbeidsbemiddelaars zoals uitzendbureaus, maar ook vacaturesites, moeten er eveneens voor zorgen dat de algoritmes die ze inzetten mensen gelijk behandelen. Ze kunnen de verantwoordelijkheid hiervoor niet afschuiven op de opdrachtgever.  

Niet-transparante algoritmes maken het de werkgever moeilijk

Algoritmes kunnen erg complex worden. Daardoor is het lastig vast te stellen waarom bepaalde kandidaten zijn afgewezen en ook lastiger voor werkgevers om verboden onderscheid te ontdekken of te vermijden. Het kan voor werkgevers een flinke klus zijn om zich voor een algoritme te verantwoorden.

En het wordt nog ingewikkelder omdat in hele specifieke situaties indirect onderscheid wel is toegestaan. Dit vereist wel een objectieve rechtvaardiging. Het uitsluiten van kandidaten die geen goed Nederlands spreken is in bepaalde gevallen uitlegbaar, bijvoorbeeld als de functie vraagt dat de kandidaat veel contact onderhoudt met Nederlandse klanten.

Inzichtelijk, controleerbaar en systematisch

Om ervoor te zorgen dat algoritmes uitlegbaar zijn is een inzichtelijke, controleerbare en systematische selectieprocedure een voorwaarde.  Dit betekent onder andere dat sollicitanten van te voren weten hoe de procedure verloopt, wat de selectiecriteria zijn, waarom sommige mensen worden afgewezen en dat de procedure voor alle kandidaten in principe hetzelfde verloopt. Dat is iets waar het College in zijn oordelen over offline sollicitaties ook altijd naar kijkt. Als een procedure of selectie niet inzichtelijk, controleerbaar en systematisch uitgevoerd wordt, dan draagt dit bij aan het vermoeden van discriminatie.

Wat kan het College voor u doen?

Het College is hét mensenrechteninstituut van Nederland. Het College oordeelt over discriminatie van individuen op het werk, in het onderwijs of als consument. Sollicitanten die denken gediscrimineerd te zijn door het gebruik van een algoritme, kunnen contact opnemen met het College om hun ervaring te delen. U kunt een melding doen, vragen stellen en advies vragen tijdens het juridisch spreekuur of een verzoek om een oordeel indienen.

Ook werkgevers kunnen bij het College terecht. Bijvoorbeeld om hun eigen handelswijze of beleid door het College te laten toetsen aan de gelijkebehandelingswetgeving. Ook biedt het College de training Selecteren Zonder Voordelen aan voor werkgevers.

Meer informatie

Lees het onderzoek  ‘Computer of recruiter’ (2021)

Lees de tips voor werkgevers bij de inzet van algoritmes bij werving en selectie

Lees het onderzoek ‘Als een computer mijn cv beoordeelt, wie beoordeelt dan de computer?’ (2020)

Luister de podcast over risico's en kansen van algoritmes bij werving en selectie

Bekijk de animatie over risico’s van HR-algoritmes (1min12)

Lees meer over digitalisering en mensenrechten