Betekenisvolle waarschuwing AP voor discriminerende werking algoritmes

Op 12 december 2021 plaatste de voorzitter van de Autoriteit Persoonsgegevens(AP), Aleid Wolfsen, een privacyblog op de website van de AP. De titel luidde “Als algoritmes discrimineren…”. Hij gaat in dat artikel in op de gevaren en de discriminerende werking die uitgaat van het gebruik van algoritmen en kunstmatige intelligentie, vooral als dat gebeurt door de overheid/overheden. Het artikel sluit nauw aan bij de oplegging van de boete van 2,75 miljoen euro die de AP de Belastingdienst op 7 december 2021 oplegde. Dat was vanwege de wijze waarop de Belastingdienst bij aanvragers van kinderopvangtoeslag op onrechtmatige, discriminerende en daarmee onbehoorlijke wijze gegevens heeft verwerkt. Het artikel van Aleid Wolfsen is betekenisvol omdat hij eigenlijk over de toeslagenaffaire heen een indringende waarschuwing aan de overheid geeft over het gebruik van algoritmen in het kader van fraudebestrijding. Hij neemt hier eigenlijk het woord richting minister Grapperhaus van Justitie en Veiligheid.

WGS(1)

De oplegging van de boete aan de Belastingdienst publiceerde de AP dus al met een apart artikel. De blog van Wolfsen kan uitsluitend geduid worden als een extra waarschuwing richting minister Grapperhaus. Waarom en waarom nu, hoor ik u zeggen. De timing is vrij saillant. De Wet Gegevensverwerking door SamenwerkingsVerbanden(WGS) ligt nu ter behandeling bij de Eerste Kamer. Deze Kamer was in tegenstelling tot de Tweede Kamer op voorhand zeer kritisch over het wetsontwerp. De WGS is een soort super-SyRI-wet, waarbij de overheid data-uitwisseling tussen publieke en private met profilering wil legaliseren. Belangrijk is daarbij dat de rechtbank een negatief oordeel velde over de eerdere wet SyRI, waarna de overheid die wet introk. Reeds op de hoede vroeg de Eerste Kamer extra advies aan van de AP, het College van de rechten van de Mens en de Raad van State.

WGS(2)

Deze adviezen, waarvan die van de AP het meest negatieve was, zijn inmiddels uitgebracht. De Eerste Kamer heeft daarna op 7 december een brief aan minister Grapperhaus gestuurd met het verzoek een inhoudelijke reactie te geven op genoemde adviezen. Ze verwachten voor het kerstreces een antwoord van de bewindsman. In het advies van de AP aan de Eerste Kamer klinkt heel duidelijk het geluid: “Doe dit niet. Ga hier niet mee akkoord”.

Het huidige privacyblog van Aleid Wolfsen sluit aan bij de toeslagenaffaire, maar Wolfsen trekt het duidelijk breder. Hij spreekt daarin over de toeslagenaffaire heen minister Grapperhaus aan over de WGS, die bol staat van voornemens van dataverwerking met profilering.

Niet mis te verstane taal

De woorden die Wolfsen gebruikt zijn een niet mis te verstaan.

“ Als noch de slachtoffers zelf, noch de rechters weten dat selectie heeft plaatsgevonden, op welke manier dat is gebeurd en hoe dat heeft doorgewerkt in de besluitvorming erna – en ook niemand daarnaar vraagt – kunnen de slachtoffers zich daar niet tegen verweren. Dan is er een gat in de rechtsbescherming. En is bij digitale selectie bescherming tegen discriminatie feitelijk een illusie. Zelfs vermoedens van discriminerend gebruik van persoonsgegevens bij een selectie moeten subiet worden ontzenuwd.”

Waarschuwing voor risico’s AI & algoritmes

Hij besluit:

“Als samenleving zullen we steeds vaker worden geconfronteerd met zaken waarin burgers met algoritmes en AI zijn geselecteerd. Dan moet steeds buiten iedere twijfel zijn dat dat eerlijk en rechtmatig heeft plaatsgevonden. Dus moet dat bekend zijn en toetsbaar. Voor alle criteria en selectieregels moet een objectieve rechtvaardiging zijn. Daarom deze waarschuwing voor de (potentiële) gevaren van het gebruik van algoritmen en de mogelijke discriminerende werking ervan. Die waarschuwing geldt voor ons allemaal. Zo houden we elkaar scherp, wordt er eerlijk en rechtmatig geselecteerd en kunnen rechters mensen adequaat beschermen tegen onrechtmatige inbreuken op grondrechten, waaronder het grondrecht op non-discriminatie. Daarmee houden we samen de rechtsstaat en de bescherming van grondrechten hoog.”

Principiële opstelling

Het is te prijzen dat de voorzitter van de AP zijn nek duidelijk uitsteekt om te wijzen op de gevaren van profilering. Een overheid zou een zelflerend vermogen moeten hebben. Helaas laat de indiening van de WGS, na het debacle van de Wet SyRI, duidelijk zien dat het kabinet hardnekkig vasthoudt aan een koers die de burgers steeds verder vervreemdt van de overheid. Niet alleen vervreemdt maar ook een zeer negatieve invloed heeft op de burger en diens rechten.

W.J. Jongejan, 15 december 2021

Afbeelding van Gerd Altmann via Pixabay