Big Data, WRR, kabinet, onschuldpresumptie en de zorg

In april 2016 presenteerde de Wetenschappelijk Raard voor het Regeringsbeleid(WRR) een interessant rapport, genaamd “Big Data in een vrije en veilige samenleving” . Het 172 pagina’s tellende rapport kent ook een zeer leesbare samenvatting van 14 pagina’s.  De WRR constateert terecht dat Big Data-analyse naast kansen ook forse risico’s kent. Eén van de grootste zorgen is de inmenging in de persoonlijke levenssfeer. Het kabinetsantwoord volgde op 11 november 2016, waarin eerst de conclusies van de WRR beaamd worden, maar in de loop van het stuk steeds meer slagen om de arm genomen worden en ontkrachtende opmerkingen worden gemaakt over diezelfde standpunten met name als het gaat om transparantie. Eén van de zaken waarover de WRR en het kabinet fors van mening verschillen is de onschuldpresumptie (Latijn: praesumptio innocentiae). Dat  is een grondbeginsel van het strafrecht, dat bepaalt dat een ieder voor onschuldig dient te worden gehouden tot het tegendeel is bewezen. De onschuldpresumptie wordt ook uitdrukkelijk vermeld in artikel 6, lid 2 van het Europees Verdrag voor de Rechten van de Mens: Het begrip “onschuldpresumtie “ is ook vertaalbaar naar de zorg. Op dat onderwerp ga ik hieronder verder in.

Zorgen

De WRR maakt zich zorgen over de grootschalige verzameling, opslag en analyse van data door overheden. Die kan ertoe leiden dat burgers het gevoel hebben dat hun privacy en vrije meningsuiting in gevaar is, waardoor ze hun gedrag daarop aanpassen. Daarbij stelt de WRR vast dat de profielen, algoritmen en methoden die de overheden gebruiken nauwelijks transparant voor de burgers zijn. Big Data-toepassingen kunnen leiden tot een toename van sociale stratificatie. Makkelijk kan een cumulatief nadeel (discriminatie en oneerlijke behandeling) ontstaan voor bepaalde groepen uit de maatschappij. Expliciet waarschuwt de WRR voor function-creep bij Big Data-analyse.

Adviezen

De WRR stelt een aantal zaken voor:

• De gegevensverwerkende partijen moeten desgevraagd altijd duidelijk kunnen maken hoe zij tot bepaalde uitkomsten komen.
• Big Data-toepassingen in het veiligheidsdomein moeten onderwerp zijn van een externe review door de toezichthouder.
• Vanwege de potentieel impact van data-gedreven toepassingen in het veiligheidsdomein moet men vooraf een evaluatiemoment inplannen. Grote Big-Data-projecten van politie, veiligheidsdienste tot en met de Belastingdienst moeten een horizon van drie tot vijf jaar krijgen.
• Het profileren( met Big Data) dient strakker gereguleerd te worden door nadere regels aan toelaatbare foutmarges, het verbod op automatische besluitvorming door computers strikter handhaven(Dit gebeurt dus blijkbaar nu al te vaak) en alert zijn op semiautomatische besluitvorming.

Men stelt een versteviging van het onafhankelijke toezicht voor met het toekennen van meer financiële middelen, bevoegdheden en capaciteiten aan bestaande toezichthouders, zoals de Autoriteit Persoonsgegevens en de Commissie voor de Inlichtingen en Veiligheidsdiensten. Tot slot stelt de WRR voor de positie van NGO’s en burgerrechtenorganisaties in juridische procedures te versterken om zodoende de opbouw van jurisprudentie te bevorderen.

Kabinet

In de eerste drie hoofdstukken van haar antwoord beaamt het kabinet de uitgangspunten en conclusie van de WRR grotendeels, maar in hoofdstuk vier(beleidsuitgangspunten en actiepunten) begint men gas terug te nemen en beperkingen aan te geven. Het duidelijkst is dat bij het punt “Menselijke tussenkomst” en “Transparantie”. Bij het eerste laat men het menselijk ingrijpen afhangen van de impact van het vervolg van de automatische besluitvorming voor de burger en het acute karakter of de ernst van de situatie waarop de analyse betrekking heeft. De transparantie dient volgens het kabinet beperkt te blijven, voor zover zij de effectiviteit van de het gebruik van de uitkomsten van dergelijke analyse nadelig zou beïnvloeden. Men geeft herhaaldelijk aan met de burger in dialoog te willen blijven, maar ondertussen het eigen beleid wel gewoon willen uitvoeren ( en uitbreiden).

Onschuldpresumptie WRR

De WRR beschouwt(hoofdstuk 5.4.1 en 5.5.3 van het volledige rapport) de ongerichte verzameling van grote hoeveelheden data een probleem. Dat betekent dat in het domein van veiligheid steeds vaker de gegevens van zeer grote groepen mensen zonder concrete verdenking(‘niet verdachten’) verzameld en verwerkt worden in onderzoeken, controle, toezicht en recherchewerk, hetgeen op gespannen voet staat met de onschuldpresumptie (Hildebrandt 2016).  Men wordt al tot verdachte gebombardeerd nog voor de verdenking geverifieerd is met andere methoden. De WRR zegt dat omdat er alleen sprake is van een correlatie en niet van causaliteit immers nog geen sprake kan zijn van een formele verdenking. Big-Data-analyse kan immers alleen correlaties aanreiken en de causaliteit dien met aanvullende onderzoeken aangetoond te worden.

Onschuldpresumptie kabinet

Het kabinet stelt zich daarentegen nogal formalistisch op. Het stelt dat de selectie die de Big-Data-analyse aanreikt helemaal geen aantasting is van de onschuldpresumptie en stelt dat er met de uitkomsten van dat type onderzoeken geen sprake is van een formele verdenking. Het stelt dat de onschuldpresumptie een strafvorderlijk beginsel is dat personen, zolang het tegendeel niet is bewezen, voor onschuldig houdt, maar geen beginsel is dat aan het recht op bescherming van persoonsgegevens ten grondslag ligt. Daarvoor gelden volgens het kabinet andere waarborgen, zoals de grondslagen voor rechtmatige gegevensverwerking. Wat maatschappelijk ervaren wordt en de WRR ongerust signaleert, legt de overheid naast zich neer. Terecht stelt de WRR vast dat overheidsdiensten zoals bijvoorbeeld de belastingdienst die rechtstreeks toegang heeft tot het systeem van automatische nummerplaat herkenning  boven rijkswegen,  grote hoeveelheden data vergaren ZONDER dat er sprake is van enige verdenking EN sancties oplegt op basis daarvan.

Zorg

Veel onderwerpen die de WRR in haar rapport signaleert gelden ook voor Big Data-analysen in de zorg. Het duidelijk maken hoe men tot bepaalde uitkomsten gekomen is, hoe algoritmen opgebouwd zijn, het voorkomen van automatische besluitvorming op basis van verkregen uitkomsten plus evaluatie achteraf zijn zaken die vanzelfsprekend moeten zijn bij dit type analysen. Op dit moment propageert men naar mijn gevoel ongenuanceerd de voordelen van deze analysen in de zorg zonder goed naar de nadelen te kijken.

Gezondheidspresumptie

Analoog aan het begrip onschuldpresumptie zou men in de zorg het principe van de gezondheidspresumptie kunnen hanteren. Dit houdt  in dat een ieder als gezond moet worden beschouwd tot het tegendeel bewezen is.  Het is zeer makkelijk om iemand door profiling op basis van Big Data-analyse tot een bepaalde ziektecategorie te rekenen. Men moet zich altijd bedenken dat alleen een correlatie aantoont met deze analysemethoden, maar dat een causaliteit nog altijd op andere wijze aangetoond moet worden.

Schade

Het op te lichte gronden, alleen op basis van Big Data-analyses, aangeven dat er sprake is van ziekte, (sociaal) afwijkend gedrag etc kan grote schade berokkenen. Niet in de laatste plaats vanwege de grote kans op fout-positieve uitkomsten zonder duidelijk inzicht in de selectiecriteria die in de algoritmen zijn ingebouwd. In de zorg is door bevolkings-onderzoeken al lang duidelijk dat onvermijdelijke fout-positieve uitkomsten patiënten langdurig ongerust kunnen maken.

Het is dus van groot belang dat diegenen die zich in de zorg met Big Data-analyses willen gaan bezighouden zich terdege bewust zijn van de zeer negatieve consequenties die lichtzinnig gebruik van deze methoden met zich meebrengen. Meer dan in het verleden zal de controlerende taak van de Autoriteit Persoonsgegevens(AP) en van de Inspectie voor de GezondheidsZorg(IGZ) nodig zijn.

W.J. Jongejan

Hildebrandt, M. (2016) ‘Data gestuurde intelligentie in het strafrecht’, blz. 137-240 in E.M.L. Moerel, J.E.J. Prins, M. Hildebrandt, T.F.E Tjong Tjin Tai, G-J. Zwenne en A.H.J. Schmidt, Homo Digitalis, Handelingen Nederlandse Juristen-Vereniging 146e jaargang/2016-I, Wolters Kluwer,