Digitalisering

Digitalisering verandert onze samenleving in hoog tempo. Big data, algoritmen en kunstmatige intelligentie spelen hierin een belangrijke rol. Big data zijn grote verzamelingen van gegevens. Een algoritme is een geprogrammeerde reeks bewerkingsregels. Deze regels zorgen dat we bijvoorbeeld uit big data uitkomsten kunnen halen. Bij kunstmatige intelligentie gaat het om systemen die zelfstandig taken kunnen uitvoeren in complexe omgevingen en eigen prestaties verbeteren door te leren van ervaringen. Bedrijven en overheden investeren steeds meer in de ontwikkeling van digitalisering om problemen op te lossen, vragen te beantwoorden of voorspellingen te doen.

Wat doet het College?

Digitalisering raakt onze mensenrechten op tal van aspecten en biedt zowel kansen als risico’s. Het College streeft ernaar dat organisaties alleen nog digitale middelen inzetten als die in overeenstemming zijn met alle mensenrechten. Het programma Digitalisering en Mensenrechten zet zich in voor een samenleving waarin iedereen mee kan blijven doen en mee blijft tellen in een steeds verder digitaliserende wereld.

In Nederland bespreken overheden, bedrijven en media regelmatig ethische vraagstukken rondom digitalisering, maar deze discussies zijn veelal algemeen en vrijblijvend. Mensenrechten, daarentegen, zijn bindende normen. Als het over mensenrechten gaat is meestal aandacht voor het recht op privacy, maar de focus op andere mensenrechten, zoals het recht op gelijke behandeling en rechtsbescherming, is beperkt. Het College richt zich daarom de komende jaren op het recht op gelijke behandeling en rechtsbescherming. Lees meer over het programma in het strategisch plan 2020-2023.

Digitalisering en Mensenrechten

• Digitalisering en Gelijke behandeling: Hoe zet je als werkgever digitale middelen in zonder te discrimineren?
  
  Het doel is om werkgevers en bemiddelaars die gebruikmaken van digitale middelen bij werving en selectie bewust te maken van de risico’s op discriminatie en kansen om discriminatie te voorkomen. Lees het onderzoek 'Als computers je CV beoordelen, wie beoordeelt dan de computers?' over de kansen en risico's van algoritmes bij werving en selectie met diverse praktijkvoorbeelden.
  
  In deze video van één minuut leggen we uit hoe het gebruik van algoritmes bij werving en selectie kan leiden tot discriminatie en hoe werkgevers dit kunnen voorkomen.
  
  
  
  In aflevering #1 van onze podcast Het Vraagstuk onderzoekt David Achter de Molen of computers, beter gezegd data en algoritmes, kunnen discrimineren bij sollicitaties. Hij spreekt hierover met ondervoorzitter Quirine Eijkman, Bram den Hartog van Inspectie SZW en Vincent Slot van Textkernel.
  
  
  
  Bekijk het transcript van deze aflevering voor mensen met een auditieve beperking.
   
• Digitalisering en Rechtsbescherming: Hoe haal je als burger je recht als de overheid steeds meer digitale middelen inzet?
  
  Het doel is om de (lokale) overheid en uitvoeringsinstanties die gebruikmaken van digitale middelen bewust te maken van de risico’s van (semi-)geautomatiseerde besluitvorming op de schending van mensenrechten en kansen voor het bieden van rechtsbescherming (in het bijzonder procedurele rechten als een eerlijk proces en effectief rechtsmiddel). Lees de drie uitgangspunten voor ambtenaren voor een verantwoorde ontwikkeling en toepassing van (semi-)geautomatiseerde besluitvorming.

Risico’s en kansen

Digitalisering biedt kansen voor de bescherming van mensenrechten. Zo kun je informatie soms juist beter vinden omdat een algoritme je helpt zoeken, waardoor je sneller toegang hebt tot meer en relevantere informatie. Digitalisering kan ook betekenen dat professionals, zoals artsen en rechters efficiente ondersteuning krijgen om hun werk goed uit te voeren. Dat kan leiden tot betere zorg en rechtsbescherming.

Digitalisering brengt ook risico's op het schenden van mensenrechten mee. Zo kunnen werkgevers onbedoeld discrimineren, hebben mensen minder toegang tot informatie en is het moeilijker om je recht te halen. De risico’s zijn het grootst als bedrijven en overheden beslissingen nemen op basis van geautomatiseerde besluitvorming en de menselijke maat verliezen.

Welke mensenrechten spelen een rol? 

Digitalisering kan verschillende mensenrechten raken. Denk bijvoorbeeld aan:

Verbod op discriminatie

Iedereen heeft recht op gelijke behandeling. Digitale middelen hebben zelf geen vooroordelen, waardoor ze objectief kunnen zijn. Maar als ze gevoed worden met informatie waar vooroordelen inzitten, of bewust of onbewust geprogrammeerd worden om bepaalde discriminerende kenmerken mee te wegen, kan het juist tot discriminatie leiden.

Informatie en vrijheid van meningsuiting 

Iedereen heeft het recht om informatie tot zich te nemen en te delen met anderen. Steeds meer informatie is digitaal beschikbaar, waardoor die sneller en breder te delen is met anderen. Tegelijkertijd zijn er beperkingen door algoritmes die informatie (automatisch) verwijderen of die bepalen welke informatie iemand wel of niet aangeboden wordt. 

Rechtsbescherming 

Iedereen moet toegang hebben tot een manier om zijn of haar juridische gelijk te halen. Als een beslissing op een automatisch proces is gebaseerd, moet je eerst weten hoe dat werkt om je ertegen te kunnen verzetten. Ook de rechtspraak kan gebruik maken van digitale middelen om efficiënter te werken, waardoor mensen sneller hun recht kunnen halen. Ook daar is het belangrijk dat de rechtspraak daarover open is zodat het duidelijk is voor de rechtzoekende.

Inclusie 

Iedereen moet kunnen meedoen in de maatschappij. Digitalisering kan inclusie vergroten, bijvoorbeeld als mensen met een fysieke beperking gemakkelijker online zaken regelen met de gemeente. Tegelijkertijd kan digitalisering ook drempelverhogend werken en zo inclusie verminderen, bijvoorbeeld als websitebeheerders hun content niet toegankelijk maken voor slechtzienden of slechthorenden.

Privacy en gegevensbescherming 

Iedereen heeft recht op privacy, om zichzelf te kunnen zijn, en op het beschermen van persoonsgegevens. Bedrijven en overheden verzamelen en verwerken gegevens van consumenten en burgers digitaal en weten op die manier steeds meer over ons. Het recht op privacy betekent dat de overheid onder andere grenzen moet stellen aan die informatieverzameling en –verwerking.

Meer informatie

Vermoed je dat je gediscrimineerd bent of heb je een vraag? Leg je vraag voor aan het College