De wereld digitaliseert meer en meer: Netflix bedenkt voor jou welke series je kunt kijken, in het ziekenhuis kunnen artsen met technologie nog beter je gezondheid vaststellen en een postpakketje kun je tot op de minuut volgen tot aan je voordeur. Bedrijven en overheden gebruiken steeds meer data en algoritmes om beleid en werkprocessen te verbeteren. Het maakt ons leven en dat van professionals makkelijker. Maar er kleven ook risico's aan. Dat mensen buiten de boot vallen, of juist onder een vergrootglas komen en er niet meer onder vandaan komen.
Actualiteit
In een steeds verder digitaliserende samenleving moet iedereen mee kunnen blijven doen. Mensenrechten gelden immers ook in een gedigitaliseerde wereld. Dus ook mensen die niet zo digitaal vaardig zijn omdat ze niet goed kunnen lezen of niet snel hun weg vinden online, of omdat ze bijvoorbeeld een beperking hebben, moeten van dezelfde diensten gebruik kunnen blijven maken. Iedereen moet kunnen weten wanneer zijn of haar rechten in de knel kunnen komen en daarvoor op kunnen komen.
Case story Richard, een twintiger met dyslexie, denkt dat hij bijna een nieuwe baan als winkelmedewerker bij zijn favoriete winkelketen heeft. Hij is al door de eerste CV-selectie heen en het gesprek ging goed, nu alleen nog een game. Maar dan gaat het fout. De tekst gaat te snel en Richard kan het niet bijbenen. Hij loopt de baan mis.
Dit is een illustratie van hoe algoritmes invloed kunnen hebben op het dagelijks leven van mensen. Het kan zijn dat de werkgever helemaal niet de intentie had om mensen zoals Richard uit te sluiten. Maar onbedoeld gebeurde dit toch. Door het automatiseren van het werving- en selectieproces kan discriminatie en uitsluiting grotendeels buiten beeld ontstaan én heeft het effect op de levens van enorm veel werkzoekenden, maar ook op die van de werkgever zelf: die loopt mogelijk talent mis.
Mensenrechten in de praktijk
Digitalisering kan verschillende mensenrechten raken. Denk bijvoorbeeld aan:
Verbod op discriminatie
Iedereen heeft recht op gelijke behandeling. Digitale middelen hebben zelf geen vooroordelen, waardoor ze objectief kunnen zijn. Maar als ze gevoed worden met informatie waar vooroordelen inzitten, of bewust of onbewust geprogrammeerd worden om bepaalde discriminerende kenmerken mee te wegen, kan het juist tot discriminatie leiden.
Vrijheid van meningsuiting
Iedereen moet zijn mening kunnen geven, maar er zijn grenzen. Haatzaaien is bijvoorbeeld verboden. Of groepen mensen tegen elkaar opzetten of informatie delen die niet waar is. Grote techplatformen zoals Facebook en Twitter bepalen waar de grenzen liggen en halen berichten die niet voldoen aan hun regels weer van het internet af. Maar moeten zij wel degenen zijn die, die grenzen bepalen?
Je recht kunnen halen
Iedereen moet toegang hebben tot een manier om zijn of haar juridische gelijk te halen. Als een beslissing op een automatisch proces is gebaseerd, moet je eerst weten hoe dat werkt om je ertegen te kunnen verzetten. Ook de rechtspraak kan gebruik maken van digitale middelen om efficiënter te werken, waardoor mensen sneller hun recht kunnen halen. Ook dan is het belangrijk dat de rechtspraak daarover open is zodat het duidelijk is voor de rechtzoekende.
Mensen met een beperking
Iedereen moet kunnen meedoen in de maatschappij. Digitalisering kan inclusie vergroten, bijvoorbeeld als mensen met een fysieke beperking gemakkelijker online zaken regelen met de gemeente. Tegelijkertijd kan digitalisering ook drempelverhogend werken en zo inclusie verminderen, bijvoorbeeld als websitebeheerders hun communicatie niet toegankelijk maken voor slechtzienden of slechthorenden.
Privacy en gegevensbescherming
Iedereen heeft recht op privacy, om zichzelf te kunnen zijn, en op het beschermen van persoonsgegevens. Bedrijven en overheden verzamelen en verwerken gegevens van consumenten en burgers digitaal en weten op die manier steeds meer over ons. Het recht op privacy betekent dat de overheid onder andere grenzen moet stellen aan die informatieverzameling en –verwerking.
Verplichtingen van de overheid
De overheid moet ervoor zorgen dat beleid gelijke behandeling bevordert. Bijvoorbeeld dat er duidelijke regels zijn over hoe bedrijven mensen online mogen werven en selecteren. Ze moeten bedrijven daar ook bij helpen, door bijvoorbeeld tools te maken die bedrijven kunnen gebruiken.
Maar de overheid moet ook goed kijken naar hoe alle overheidsorganisaties zelf werken: welke data organisaties gebruiken en hoe ze die gebruiken. En ambtenaren moeten altijd aan burgers kunnen uitleggen welke algoritmes ze gebruiken, met welke data en hoe die algoritmes werken. Ze moeten zorgen dat burgers weten dat bepaalde beslissingen op computerberekeningen berusten en vooral ook kunnen uitleggen hoe die berekeningen invloed hadden op de beslissing die er over hen is genomen. Alleen dan kunnen burgers hun recht halen.
Activiteiten van het College
Werving en selectie
Het College doet onderzoek naar algoritmes die organisaties gebruiken om nieuwe medewerkers te werven en te selecteren. We leggen uit hoe dit mogelijk kan leiden tot discriminatie en uitsluiting. We geven voorlichting aan werkgevers, bemiddelaars (zoals uitzendbureaus, recruitmentbureaus, vacaturewebsites) en aan werkzoekenden. Afgewezen sollicitanten kunnen bij het College aankloppen als ze vermoeden dat ze gediscrimineerd zijn door een algoritme.
Lees meer over digitalisering en werving & selectie
Algoritmische besluitvorming door de overheid
Het College bekijkt en laat zien hoe de overheid algoritmes inzet en wat de gevolgen daarvan kunnen zijn voor burgers. We lichten overheidsinstanties voor over kansen en risico's, om ervoor te zorgen dat burgers hun recht kunnen halen.
Wat kan jij doen?
Je kunt als HR-professional, ambtenaar, sollicitant of als burger leren hoe bedrijven en de overheid algoritmes gebruiken. Je kunt daarvoor onze onderzoeken lezen of de website www.solliciterenbijderobot.nl doorlopen. Als je twijfelt of de algoritmes die je wilt inzetten wel in lijn zijn met mensenrechten of als je denkt dat een algoritme jou benadeeld heeft, neem dan contact op met het College.
Je kunt de Nationale AI-cursus over ethiek volgen. Het is gratis, online en kost je drie uur. Daarna begrijp je hoe kunstmatige intelligentie impact heeft op de maatschappij. Het College werkte mee aan de cursus en zorgde voor informatie over werving en selectie.
Interviewserie 'Aan het woord'
We hebben meerdere professionals geinterviewd over hun werk met digitalisering en mensenrechten. Ze staan buiten onze eigen organisatie en laten vanuit hun perspectief als ondernemer, wetenschapper of ambtenaar zien hoe zij proberen via digitalisering mensenrechten juist te versterken. Bekijk de serie.
Als computers je cv beoordelen, wie beoordeelt dan de computers?
In deze video van één minuut leggen we met een praktijkvoorbeeld uit hoe het gebruik van algoritmes bij sollicitaties kan leiden tot discriminatie en hoe werkgevers dit kunnen voorkomen.
