Algoritmetoezicht AP maakt handhaven echt niet slagvaardig
Met uitgekiende media-aandacht gaven op 16 januari 2023 minister Franc Weerwind (Rechtsbescherming), staatssecretaris Alexandra van Huffelen (Digitalisering) en Aleid Wolfsen (voorzitter Autoriteit Persoonsgegevens) het startsein voor de nieuwe activiteiten van de AP. Het betreft het toezicht op algoritmes. Overheden, instituties en bedrijven gebruiken die. In essentie is een algoritme niets anders dan een eindige set instructies voor het bereiken van een doel. In de praktijk gaat het om software waarmee computersystemen zelfstandig beslissingen mogen nemen namens degenen die ze inzetten. Op de bijeenkomst van 16 januari klonk veel ferme juich-taal en mooi-praat over de toekomst van het toezicht dat de AP toegewezen kreeg op de algoritmes. Maar stelt dat allemaal wat voor? Gaat dat toezicht echt strenger worden? Kan de AP binnen de constellatie die bedacht is voor dit algoritmetoezicht echt wel slagvaardig opereren?
Dat ziet er niet naar uit.
Constructie
Voor het werk als algoritmetoezichthouder heeft het kabinet een constructie bedacht die op voorhand dit werk niet slagvaardig maakt. Er komt bij de AP een aparte Directie Coördinatie Algoritmes met een eigen directeur die zitting heeft in de AP-leiding. In de taakomschrijving van die directie staat dat de AP een coördinerende rol moet gaan spelen ten aanzien van de activiteiten van andere al bestaande toezichthouders op algoritme-gebied. De AP moet de bestaande samenwerking tussen de toezichthouders bevorderen. De AP moet die gaan optimaliseren. In feite gaat het om een faciliterende rol en niet een doorslaggevende. Als centrale toezichthouder gaat de AP zich in het nieuwe jaar primair richten op gevaarlijke effecten van artificiële intelligentie (ai)-systemen die een sector overschrijden. De AP moet, zoals ze stelt, die maatschappelijke risico’s snel signaleren, analyseren en agenderen. Daarbij valt de nadruk op het voorkomen van discriminatie en uitsluiting alsmede het bevorderen van transparantie.
Relatie met ministeries
De Autoriteit Persoonsgegevens (AP) is een zelfstandig bestuursorgaan en kent haar financiering vanuit het ministerie van Justitie en Veiligheid. Die financiering is al jaren zeer krap, waardoor de AP aan een aanzienlijk deel van haar taken bij het privacy-toezicht nu al niet toekomt. En daardoor altijd keuzes moet maken waar men wel of niet achteraan gaat of op handhaaft. Vanwege de coördinerende rol op het digitaliseringsdomein stuurt het ministerie van Binnenlandse Zaken en Koninkrijksrelaties de beleidsmatige inrichting van de algoritmetoezichthouder aan.
Dat betekent dat de AP als zelfstandige toezichthouder vanaf heden onder twee ministeries valt en daar verantwoording aan aflegt. Dat maakt het handelen van de AP zeker niet slagvaardiger. Bij de AP werken nu ongeveer 200 mensen. De Directie Coördinatie Algoritmes gaat 15 personen omvatten. Alleen al dat aantal geeft aan dat daar geen ijzers met handen zal gaan breken.
Welke andere toezichthouders?
De toezichthouders waarmee de AP in zee moet om de algoritme-activiteiten te coördineren zijn bijvoorbeeld de Algemene Rekenkamer, de Autoriteit Consument en Markt, de Autoriteit Financiële Markten of het College voor de rechten van de mens. Die beoordelen nu algoritmes die soms wel en soms niet persoonsgegevens bevatten. De AP zal zich focussen op algoritmes die persoonsgegevens bevatten. De andere toezichthouders hebben allemaal al hun eigen koninkrijkje. Dus je kunt er nu al op rekenen dat de coördinerende rol van de AP garant zal staan voor veel vergader- en zoals dat ambtelijk heet: afstemwerk.
Stroperig
Wat we hier zien gebeuren is dat de regering in naam het werk van de privacy-toezichthouder uitbreidt met het toezicht op de algoritmes. Maar tegelijkertijd bindt men de toezichthouder de handen op de rug en zadelt men de toezichthouder op met een overlegconstructie die garant staat voor enorme stroperigheid. Slagvaardig handelen door de AP op het gebied van algoritmes is vooralsnog niet te verwachten. De eerste tijd zal daar ook niet veel van komen omdat de 15 koppige Directie Coördinatie algoritmes eerst nog een zogeheten normenkader, waaraan algoritmes dienen te voldoen, moet gaan bedenken en op papier zetten. Daarmee moet men dan de boer op richting de eerder genoemde andere toezichthouders, om zo tot een gezamenlijke uitleg van die normen te komen. Voor het schrijven van alleen al dat normenkader heeft men een vol jaar uitgetrokken.
Schijnheilig
Het op deze wijze door het kabinet inrichten van het toezicht op algoritmes komt erg schijnheilig over. Men voert argumenten aan als het willen beschermen van burgers tegen de kwade aspecten van algoritmes. En dat terwijl diezelfde overheid op forse schaal het gebruik van algoritmes in het publieke domein invoerde/invoert en bevorderde/bevordert. De wet SyRI met data-delende overheidsdiensten met discriminerende algoritmes moest bij de rechter een halt toegeroepen worden. Terwijl staatssecretaris digitalisering van Huffelen tezamen met minister Franc Weerwind voor Rechtsbescherming het coördinerende algoritmetoezicht bij de AP neerlegt, ligt er in de Eerste Kamer het Wetsontwerp Wet Gegevensverwerking door Samenwerkingsverbanden. Die wet moet het delen van persoonsgegevens tussen publieke en private partijen mogelijk maken, waarbij toepassing van algoritmes plaats vindt. Als je dan ook de uitvoering van het algoritmetoezicht door de AP heel stroperig maakt dan ben je als overheid niet geloofwaardig bezig.
W.J. Jongejan, 18 januari 2023
Afbeelding van Mohamed Hassan via Pixabay
Recente reacties