Toegelicht

VN-rapporteur: Rechten van mensen met een beperking moeten centraal staan bij AI

5 april 2022 - Laatste update 5 april 2022

De speciaal rapporteur van de Verenigde Naties voor mensen met een beperking, Gerard Quinn, heeft onlangs zijn rapport gepresenteerd over kunstmatige intelligentie (AI) en de rechten van personen met een beperking. Een heel belangrijk rapport, want de hindernissen die deze personen ervaren en hun recht op redelijke aanpassingen is nauwelijks bekend bij softwareontwikkelaars en data-analisten, zo vertelde de rapporteur op 14 maart in de VN-mensenrechtenraad. Daardoor dreigen mensen met een beperking gediscrimineerd te worden door AI. Het rapport bevat verschillende aanbevelingen voor overheden en bedrijven om de rechten van mensen met een beperking te garanderen bij AI. Bijvoorbeeld door mensen met een beperking actief te betrekken bij de ontwikkeling van AI.

Persoon met een VR-bril op

Kansen en risico’s van kunstmatige intelligentie (AI)

Het rapport signaleert dat AI zowel kansen als risico’s met zich meebrengen voor mensen met een beperking. Denk aan technologie die de omgeving van een visueel beperkt persoon kan scannen tijdens het lopen, een beetje zoals parkeersensoren dat in de auto doen. Ook liggen er kansen om informatie, onderwijs en communicatie toegankelijker te maken, door bijvoorbeeld spraak-naar-tekst software voor mensen met een auditieve beperking. De opkomst van onlineonderwijs zorgde daarnaast tijdens de pandemie voor meer toegankelijk onderwijs, zo gaven ook sommige studenten met een beperking uit Nederland aan. Het College schreef in een eerdere publicatie al dat de toegankelijkheid van het onderwijs voor studenten met een beperking of chronische ziekte gewaarborgd moet worden.

Anderzijds zijn er ook risico’s, voornamelijk rondom discriminatie. Het rapport benadrukt dat deze risico’s niet alleen gelden voor mensen met een beperking, maar deze groep loopt in het bijzonder risico vanwege hun specifieke behoeftes en leefomstandigheden. Mensen met een beperking worden bijvoorbeeld te weinig vertegenwoordigd in data die gebruikt worden om kunstmatige intelligentie te trainen. Zo kan een computer die de cv’s van potentiële werknemers onderzoekt de cv’s van mensen met een beperking al snel een ‘te lage score’ geven, want deze lijken niet op de data van de voorbeelden die de computer heeft geanalyseerd (zie ook ons onderzoek ‘Als computers je cv beoordelen, wie beoordeelt dan de computers’ voor meer informatie over algoritmes bij werving en selectie). Ook kunnen niet-representatieve data zorgen dat gezichts- en spraakherkenningssoftware minder goed werken voor mensen met een beperking, bijvoorbeeld bij een afwijkende vorm in het gezicht of een spraakbeperking. 

Een ander voorbeeld in het VN-rapport is het gebruik van automatische systemen die banken gebruiken voor de aanvraag van leningen. Bij taalfouten in de aanvraag geven deze systemen je minder kans op een lening. Maar deze systemen houden geen rekening met mensen met een beperking als dyslexie, wat verder weinig te maken heeft met hun kredietwaardigheid.

Wat zeggen de mensenrechten?

Mensenrechten zijn duidelijk over discriminatie, ook bij AI: dit is verboden. Het VN-verdrag inzake de rechten van personen met een handicap (VN-verdrag handicap) is sinds 2016 in werking in Nederland. Om volwaardig mee kunnen doen bepaalt het verdrag dat mensen met een beperking recht hebben op redelijke aanpassing, tenzij dit een onevenredige belasting vormt. Voorbeelden zijn een aangepaste werkplek voor iemand in rolstoel of toegankelijke software voor slechtzienden. Met dit recht moet ook rekening gehouden worden bij de inzet van kunstmatige intelligentie, benadrukt de speciaal rapporteur. Zo moet een computerassessment voor een sollicitatie ook door mensen met een beperking gebruikt kunnen worden, of moet er een waardig alternatief zijn.

Ook bepaalt het VN-verdrag handicap dat mensen met een beperking het recht hebben om zelf of via belangenorganisaties betrokken te zijn bij ontwikkelingen en beleid die hen aangaan. Hieronder valt ook kunstmatige intelligentie. Daarom beveelt de speciaal rapporteur niet alleen aan dat bouwers van deze systemen en organisaties die deze inzetten rekening houden met specifieke behoeftes van mensen met een beperking, maar ook actief deze groep hierbij betrekken (zie ook over participatie: het betrekken van mensen met een beperking bij beleid en wetgeving). Dit kan bijvoorbeeld door mensen met een beperking  mee te laten helpen bij de ontwikkeling van algoritmes. 

Aanbevelingen voor overheden en bedrijven

Om de risico’s op discriminatie of andere mensenrechtenproblemen zo veel mogelijk te beperken doet de speciaal rapporteur verschillende aanbevelingen aan overheden en bedrijven. Hij beveelt onder andere aan dat overheden het recht op een redelijke aanpassing bij de inzet van kunstmatige intelligentie moeten garanderen, voorlichting moeten geven over de risico’s, en beleid moeten maken dat specifiek ziet op de impact van kunstmatige intelligentie op mensen met een beperking. 

Bedrijven worden aanbevolen om transparanter te zijn over hoe hun systemen werken en hier uitleg over te geven. Zo kan gekeken worden of deze systemen niet ten nadele werken van mensen met een beperking. Ook moeten bedrijven ervoor zorgen dat mensen met een beperking actief worden betrokken in de data die gebruikt worden voor het trainen van kunstmatige intelligentie, zoals het toevoegen van data van cv’s van goede kandidaten met een beperking.

Wat doet het College?

De speciaal rapporteur heeft ook aanbevelingen voor nationale mensenrechteninstituten zoals het College. Deze worden aangemoedigd om het debat over kunstmatige intelligentie en mensenrechten, en in het bijzonder de rechten van mensen met een beperking, verder aan te wakkeren en de impact op mensen met een beperking te onderzoeken. 

Het College houdt zich actief bezig met deze thema’s. Zo is het College aangewezen als nationale toezichthouder op het VN-verdrag handicap in Nederland. Dat betekent dat het College kijkt of wetten en beleid voldoen aan de normen van het VN-verdrag, en jaarlijks rapporteert over de voortgang die wordt gemaakt bij de implementatie van het VN-verdrag handicap (zie ook de rol van het College bij het VN-verdrag handicap). 

Daarnaast is Digitalisering en Mensenrechten een strategisch programma van het College. Hierbij wordt ook specifiek gekeken naar mensen met een beperking. Zo heeft het College de overheid aangejaagd om Coronamelder-app toegankelijk te maken voor mensen met een beperking. In 2020 publiceerde het College de handreiking Digitale toegankelijkheid. Verder benadrukt het College dat bijvoorbeeld (algoritmische) besluiten van de overheid ook aangevochten moeten kunnen worden door mensen die een digitale kloof ervaren, waaronder mensen met een bepaalde beperking. Voor meer informatie, zie de pagina Digitalisering en Mensenrechten.

Wat kun je zelf doen?

Als jij of iemand die je kent met een beperking nadelen ervaart als gevolg van discriminerende kunstmatige intelligentie, kun je meer lezen over wat het College voor jou kan doen.

Meer informatie