Interview: ‘Het is allesbehalve vanzelfsprekend dat mensenrechten goed in de nieuwe AI-wet beschermd worden.’
Verdieping
Stel je bent jong en je woont in een grote stad waar veel criminaliteit is. Ineens begint de politie zich met je leven te bemoeien. Je begrijpt niet goed waarom. Hoe kom je in hun systeem en waarom specifiek jij? Uiteindelijk blijkt dat je op een lijst staat van de politie, omdat zij voorspellen dat jij in de toekomst de criminaliteit in zou kunnen gaan. Dat ben je helemaal niet van plan, maar toch sta je wel zo in het systeem van de politie.
Dit soort misstanden probeert Nadia Benaissa als juridisch beleidsadviseur bij Bits of Freedom te voorkomen. In deze Nederlandse burgerrechtenorganisatie, die zich inzet voor een open en vrije samenleving in het digitale tijdperk, specialiseert zij zich in alles wat te maken heeft met privacy, de AVG en kunstmatige intelligentie.
Momenteel heeft zij een flinke kluif aan de AI-verordening. Dat is een Europese wet in de maak, die de ontwikkeling en het gebruik van kunstmatige intelligentie moet gaan reguleren. In dit interview vertelt ze hoe deze wet tot stand komt en hoe zij er met haar collega’s alles aan doet om ervoor te zorgen dat de mensenrechten hierin goed worden beschermd. Want hoewel Bits of Freedom slechts uit dertien mensen bestaat, weet de organisatie de betrokken Europese instanties in Brussel op allerlei manieren te bereiken.
Impact van kunstmatige intelligentie op mensenlevens wordt zwaar onderschat
‘De Europese Commissie werkt al jaren aan de AI-verordening,’ vertelt Benaissa, ‘en wij met Bits of Freedom dus ook. Want hoewel je zou denken dat de mensenrechten in zo’n wet wel goed beschermd worden, is dat allesbehalve vanzelfsprekend. Er zijn overheden en private partijen, die kunstmatige intelligentie willen gebruiken voor hun eigen belang en daarbij de impact op mensenlevens zwaar onderschatten. Net als wij oefenen zij invloed uit op de beleidsmakers in Europa en dat zien we terug in de concept wetteksten die voorbijkomen.’
Onlangs sloegen Benaissa en haar collega’s steil achterover toen zij merkten dat het artikel over hoog risico, één van de belangrijkste artikelen in de AI-verordening, was aangepast in een nieuwe versie van het voorstel. ‘In dit artikel wordt bepaald dat een groot deel van de AI-verordening alleen geldt als er sprake is van een hoog risico,’ legt Benaissa uit. Nu was dit wetsartikel zo aangepast, dat de ontwikkelaars zelf veel ruimte krijgen om te bepalen of er sprake was van een hoog risico. Dat is natuurlijk helemaal niet logisch, een slager die zijn eigen vlees keurt.’
Bits of Freedom stuurde hierop een brief naar Europarlementariërs, waarin zij aangaven wat er beter moest om mensenrechten effectief te beschermen. Ook voerden ze stevige gesprekken op nationaal en Europees niveau. Of deze inspanningen ook echt leiden tot aanpassingen in het wetsvoorstel, moet gaan blijken uit de onderhandelingen die hierover momenteel plaatsvinden.
Amendementen als hulpmiddel voor bewustwording
Het sturen van amendementen, dat zijn wijzigingsvoorstellen voor wetteksten met een uitleg van de noodzaak erbij, is een zeer effectieve methode om de bewustwording rondom een onderwerp als mensenrechten en AI te vergroten, heeft Benaissa gemerkt. ‘Vaak ontbreekt de kennis en ervaring, maar ook de tijd om hier een goede inschatting van te maken. Voorstellen voor alternatieve wetteksten zijn enorm behulpzaam en dus ook welkom. We zien regelmatig dat artikelen op basis hiervan worden aangepast.’
Maar er zijn ook andere manieren om de besluitvorming te beïnvloeden en die moet je allemaal gebruiken. Denk aan het schrijven van brieven en e-mails, het houden van presentaties en het voeren van één-op-één gesprekken. ‘Als we zien dat iets heel erg mis is, dan kijken we of we samen met andere belangenorganisaties een rechtszaak kunnen voeren of onderzoek kunnen doen,’ aldus Benaissa.
‘Zo lazen we vorig jaar mee in het onderzoek naar de Top 400 van de gemeente Amsterdam, onder leiding van Stichting PILP. Het is heel belangrijk dat dit soort onderzoek wordt gedaan, want de voorbeelden van mensenrechtenschendingen die alleen al in Nederland naar buiten komen zijn slechts het topje van de ijsberg.'
Complex speelveld in binnen- en buitenland
Bij de totstandkoming van de AI-verordening, die in 2021 begon en volgens de planning eind 2023 af zou moeten zijn, is een complex speelveld van partijen betrokken, die allemaal invloed uitoefenen op elkaar en op de uiteindelijke wettekst. De Europese Commissie doet het eerste voorstel voor nieuwe Europese wetgeving en vervolgens kunnen het Europees Parlement en de Raad van de Europese Unie hun input leveren op het wetsvoorstel. Zij worden op hun beurt weer gevoed vanuit commissies binnen het Europese parlement en de verschillende lidstaten.
In Nederland zijn de ministeries van Justitie en Veiligheid, Economische Zaken en Klimaat en Binnenlandse Zaken en Koninkrijksrelaties hierbij betrokken. Daarom heeft Bits of Freedom veel contact met partijen die dicht bij het vuur zitten. Zo is er een goede connectie met de staatssecretaris voor Digitalisering en haar ambtelijke organisatie en ook met de minister voor Rechtsbescherming zijn gesprekken gevoerd.
‘We spreken veel met Europarlementariërs, Eerste en Tweede Kamerleden, academici en andere maatschappelijke organisaties, die op hun beurt weer de Europese instellingen proberen te beïnvloeden,’ beschrijft Benaissa. ‘Wij bespreken dan de risico’s en impact voor mensenrechten en hoe dit zijn weerslag krijgt in de AI-Verordening. Vaak is dit een gelijkwaardig gesprek, waarin beide partijen actief bijdragen, maar soms worden we alleen aangehoord en zijn we dus vooral aan het zenden.’
Benaissa merkt dat de meeste betrokkenen in Nederland en Europa wel openstaan voor de dialoog, hetzij omdat ze mensenrechten belangrijk vinden, hetzij omdat ze het onderwerp van alle kanten willen bekijken.
‘We worden, zeker in Nederland, regelmatig uitgenodigd om presentaties te houden en ook met Europarlementariërs hebben we een goed contact. Maar ja, uiteraard zitten er ook partijen tussen die pas over een half jaar tijd hebben en dan nog op het laatste moment afzeggen. Dan plannen we gewoon weer een nieuwe afspraak in, want de aanhouder wint.
Vasthoudendheid vanuit activisme
Deze vasthoudendheid is kenmerkend voor het hele team van Bits of Freedom. ‘We zijn maatschappelijk betrokken mensen en halen daar ook onze motivatie vandaan,’ lacht Benaissa. ‘We streven allemaal naar een betere wereld en voor de invulling daarvan baseren we ons op signalen uit de maatschappij. Want hoewel we te klein zijn om voor individuen op te komen, vinden we het belangrijk om goed in contact te staan met de mensen voor wie we willen opkomen. Onze achterban en andere organisaties die zich maatschappelijk inzetten helpen ons hierbij. Ook hebben we een bestuur en een Raad van Advies die met ons meedenken.’
Deze ambitie en een brede achterban zijn belangrijk voor het functioneren van Bits of Freedom, want met een team van dertien mensen ligt er altijd meer werk dan ze kunnen doen. ‘Helaas moeten we keuzes maken,’ constateert Benaissa dan ook. ‘Dat betekent niet dat we het andere niet belangrijk vinden, maar dat we realistisch moeten zijn.’
Krachten bundelen in binnen- en buitenland
Om de krachten te bundelen, heeft Bits of Freedom veel contact met andere Nederlandse organisaties die zich bezighouden met mensenrechten. Denk aan Controle Alt Delete, Amnesty, PILP, Waag, Open State Foundation en Platform Burgerrechten. ‘Hoewel we dezelfde dromen hebben, specialiseren we ons op specifieke gebieden, zodat we met onze relatief kleine organisaties toch veel voor elkaar kunnen krijgen,’ vertelt Benaissa.
Zo richt Bits of Freedom zich als het gaat om de AI-verordening op transparantie en controleerbaarheid, effectieve rechtsbescherming voor de burger en sterke verboden op AI-toepassingen met een te hoog risico. ‘Dat zijn voor ons grote speerpunten,’ legt Benaissa uit, ‘omdat we vinden dat altijd duidelijk en uitlegbaar moet zijn hoe een beslissing tot stand is gekomen. Of het nu gaat om een toeslag, een verwijzing naar Bureau Jeugdzorg of een visumaanvraag: als je snapt hoe jouw naam uit een algoritme is komen rollen, kun je nagaan of die beslissing rechtmatig is genomen en zo nodig bezwaar maken. Oftewel: begrijpelijk inzicht in een beslissing is de basis voor rechtsbescherming.’
Om zichzelf scherp te houden, overleggen ze bij Bits of Freedom ook regelmatig met academici, zoals technologie en recht-experts Frederik Zuiderveen Borgesius en Tijmen Wisman. Benaissa: ‘Als je met Den Haag of met Europa om tafel zit, dan wil je goed geïnformeerd zijn over hoe kunstmatige intelligentie precies werkt, wat er speelt en bij wie.’
Op Europees niveau is Bits of Freedom nauw verbonden met het netwerk European Digital Rights (EDRi). Dat komt op voor de online rechten en vrijheden en heeft leden bij meer dan 50 niet-gouvernementele organisaties. ‘Met hen overleggen we wekelijks waar we staan met de AI-verordening en welke acties we moeten ondernemen,’ licht Benaissa toe.
‘Dat kan gaan om het ondertekenen van elkaars brieven, maar ook om gezamenlijk gesprekken voeren met Europarlementariërs of het insturen van amendementen. Samen kijken we heel strategisch hoe we dingen bij Europese politici kunnen krijgen. Soms moeten we op het ene punt water bij de wijn doen om op een ander punt onderhandelingsruimte te creëren. Dat kan best wel even stoeien zijn, maar omdat we hetzelfde doel voor ogen hebben, komen we daar altijd uit.’
Hoe staat het nu met de Europese AI-verordening?
Nadat de Europese Commissie in 2020 het voornemen bekendmaakte om een wetsvoorstel een wetsvoorstel te ontwikkelen op kunstmatige intelligentie (dit gebeurde in het zogenaamde Witboek over Kunstmatige Intelligentie), kwam er in 2021 een eerste wetsvoorstel. Inmiddels zijn er verschillende stemrondes in het Europese Parlement geweest en zit de AI-verordening in de zogenaamde ’trilogen-fase’. Dat betekent dat de drie organen (het Europees Parlement, de Europese Commissie en de Raad van de Europese Unie) met elkaar in onderhandeling zijn over hoe de wettekst er uiteindelijk uit komt te zien.
Dit gebeurt min of meer achter gesloten deuren, wat lastig is voor een organisatie als Bits of Freedom, die graag een vinger aan de pols houdt. ‘Gelukkig hebben we veel contacten in Brussel en weten we vaak wel wat er op de agenda staat,’ vertelt Benaissa. ‘Zo wisten we bijvoorbeeld dat er op 2 oktober belangrijke onderhandelingen aan kwamen en hebben we er alles aan gedaan om ervoor te zorgen dat ook in deze besprekingen de mensenrechten goed werden meegenomen.’
De drie betrokken Nederlandse ministeries doen een voorzet voor de Nederlandse positie en dat heeft weer invloed op de positie van de Raad. Om de onderhandelaars goed voor te bereiden, werkt Benaissa aan een brief naar de ministeries, de staatssecretaris voor Digitalisering en een aantal Tweede Kamerleden die actief zijn op de AI-verordening. ‘Daarin belichten we de belangrijkste punten. Denk aan de paragrafen over hoge risico’s, transparantie en de mensenrechtentoets. Het is heel belangrijk dat de mensenrechten hierin standhouden, of zelfs beter worden.’
De Europese Commissie heeft de ambitie om de definitieve wettekst in 2023 af te ronden. Daarbij speelt mee dat er volgend jaar verkiezingen voor het Europees Parlement komen, waardoor alles weer kan gaan schuiven. Zolang er nog onderhandelingen plaatsvinden, blijven Benaissa en haar collega’s in binnen- en buitenland op alle mogelijke manieren aan bewustwording rondom mensenrechten werken.
Nadat de AI-verordening eenmaal in werking is getreden, verschuift de invloed van Bits of Freedom naar het eigen land, waar op sommige gebieden nog ruimte zal zijn voor een eigen implementatie van de wet. Daarna zal er ook een moment van inspraak komen als de wet geëvalueerd wordt, waarbij Bits of Freedom ongetwijfeld haar stem zal laten horen.
Impact maken is het mooiste wat er is
Het mooiste aan dit werk? Dat is het zien dat de amendementen, gesprekken en campagnes hun weg hebben gevonden in nieuwe versies van de wetstekst, besluit Benaissa. ‘Dit is mijn eerste Europese wetgevingstraject. Je gaat er van het begin af aan vol in, maar je hebt geen idee of het uiteindelijk gaat bewegen of niet. Als je dan ziet dat er dingen worden overgenomen, dat je echt impact kunt maken richting een wereld waarin mensen op een gelijkwaardige en eerlijke manier worden behandeld, dat is waar het uiteindelijk allemaal om gaat.’
Lees meer over Bits of Freedom en de AI-verordening
Interviewer: Rianne Croes