Digitalisering

Big data, algoritmen en kunstmatige intelligentie spelen hierin een steeds grotere factor. Big data zijn grote verzamelingen van gegevens. Een algoritme is een geprogrammeerde reeks bewerkingsregels. Deze regels zorgen dat we bijvoorbeeld uit big data uitkomsten kunnen halen. Bij kunstmatige intelligentie gaat het om systemen die zelfstandig taken kunnen uitvoeren in complexe omgevingen en eigen prestaties verbeteren door te leren van ervaringen. Bedrijven en overheden vinden digitalisering steeds interessanter en belangrijker. Ze steken dan ook steeds meer geld in de ontwikkeling daarvan.

Wat doet het College?

In Nederland bespreken overheden, bedrijven en media regelmatig ethische vraagstukken rondom digitalisering, maar deze discussies zijn veelal algemeen en vrijblijvend. Mensenrechten, daarentegen, zijn bindende normen. Als het over mensenrechten gaat is meestal aandacht voor het recht op privacy, maar de aandacht voor andere mensenrechten , zoals het recht op gelijke behandeling en rechtsbescherming, is beperkt. Het College streeft ernaar dat organisaties alleen nog digitale middelen inzetten als die in overeenstemming zijn met alle mensenrechten.

Het College zal de komende jaren in zijn werk bijzondere aandacht geven aan:

• Digitalisering en Gelijke behandeling: hoe zet je als werkgever digitale middelen in zonder te discrimineren?
  
  Lees ons onderzoek 'Als computers je CV beoordelen, wie beoordeelt dan de computers?' over de kansen en risico's van algoritmes bij werving en selectie met diverse praktijkvoorbeelden.
  
  In deze video van één minuut leggen we uit hoe het gebruik van algoritmes bij werving en selectie kan leiden tot discriminatie en hoe werkgevers dit kunnen voorkomen.
  
  
  
   
• Digitalisering en Rechtsbescherming: hoe haal je als burger je recht als de overheid steeds meer digitale middelen inzet?

Kansen en risico’s

Digitalisering biedt kansen voor de bescherming van mensenrechten. Zo kun je informatie soms juist beter vinden omdat een algoritme je helpt zoeken, waardoor je sneller toegang hebt tot meer en relevantere informatie. Digitalisering kan ook betekenen dat professionals, zoals artsen en rechters efficiente ondersteuning krijgen om hun werk goed uit te voeren. Dat kan leiden tot betere zorg en rechtsbescherming.

Digitalisering brengt ook risico's op het schenden van mensenrechten mee. Zo kunnen werkgevers onbedoeld discrimineren, hebben mensen minder toegang tot informatie en is het moeilijker om je recht te halen. In het algemeen zijn de risico’s het grootst als bedrijven en overheden beslissingen nemen op basis van geautomatiseerde besluitvorming, waar geen menselijk oog meer aan te pas komt.

Welke mensenrechten spelen een rol? 

Digitalisering kan verschillende mensenrechten raken. Denk bijvoorbeeld aan:

Verbod op discriminatie

Iedereen heeft recht op gelijke behandeling. Digitale middelen hebben zelf geen vooroordelen, waardoor ze objectief kunnen zijn. Maar als ze gevoed worden met informatie waar vooroordelen inzitten, of bewust of onbewust geprogrammeerd worden om bepaalde discriminerende kenmerken mee te wegen, kan het juist tot discriminatie leiden.

Informatie en vrijheid van meningsuiting 

Iedereen heeft het recht om informatie tot zich te nemen en te delen met anderen. Steeds meer informatie is digitaal beschikbaar, waardoor die sneller en breder te delen is met anderen. Tegelijkertijd zijn er beperkingen door algoritmes die informatie (automatisch) verwijderen of die bepalen welke informatie iemand wel of niet aangeboden wordt. 

Rechtsbescherming 

Iedereen moet toegang hebben tot een manier om zijn of haar juridische gelijk te halen. Als een beslissing op een automatisch proces is gebaseerd, moet je eerst weten hoe dat werkt om je ertegen te kunnen verzetten. Ook de rechtspraak kan gebruik maken van digitale middelen om efficiënter te werken, waardoor mensen sneller hun recht kunnen halen. Ook daar is het belangrijk dat de rechtspraak daarover open is zodat het duidelijk is voor de rechtzoekende.

Inclusie 

Iedereen moet kunnen meedoen in de maatschappij. Digitalisering kan inclusie vergroten, bijvoorbeeld als mensen met een fysieke beperking gemakkelijker online zaken regelen met de gemeente. Tegelijkertijd kan digitalisering ook drempelverhogend werken en zo inclusie verminderen, bijvoorbeeld als websitebeheerders hun content niet toegankelijk maken voor slechtzienden of slechthorenden.

Privacy en gegevensbescherming 

Iedereen heeft recht op privacy, om zichzelf te kunnen zijn, en op het beschermen van persoonsgegevens. Bedrijven en overheden verzamelen en verwerken gegevens van consumenten en burgers digitaal en weten op die manier steeds meer over ons. Het recht op privacy betekent dat de overheid onder andere grenzen moet stellen aan die informatieverzameling en –verwerking.

 

 

 

 

 

Meer informatie

• Vermoed je dat je gediscrimineerd bent of heb je een vraag? Leg je vraag voor aan het College
• Digitalisering is één van de twee strategische programma's van het College: lees meer in het strategisch plan 2020-2023