AI-voorspelling wie straks jeugdzorg behoeft is immorele profilering
Jeugdzorg staat de laatste jaren fors in de belangstelling. Na de overheveling ervan naar de gemeenten in 2015 gaat er eigenlijk geen dag voorbij waarop er geen nieuws is over de deze tak van zorg. Heel vaak gaat het daarbij om de financiële kanten ervan. Continu spelen er bekostigingsproblemen, waarbij duidelijk is dat het veel kost en er constant gemeenschapsgeld bij moet. Daarom willen gemeenten graag hun uitgaven aan de jeugdzorg voor komende jaren kunnen voorspellen. ICT-bedrijven hebben hun weg hierin weten te vinden. Ze maken software die als doel heeft het toekomstig gebruik en de kosten daarvan te voorspellen. Daarbij maakt men gebruik van data die de gemeenten over die zorg opslaan. Men wil dan trends in het jeugdzorggebruik opsporen, geen voorspellingen op individueel niveau. Toch bestaan er bedrijven die ICT-applicaties aanbieden waarbij men expliciet stelt met Artificial Intelligence(AI) op individueel niveau toekomstig jeugdzorggebruik te kunnen voorspellen.
AI-labs
Soms doen gemeenten zelfstandig data-onderzoek over de jeugdzorg. Zoals bijv. de gemeente Den Haag in 2022. Die deed dat op basis van CBS-gegevens met de CBS Remote Access Microdata-faciliteit. Ze besteden het ook vaak uit.
Rondkijkend op het internet naar items over data-gedreven jeugdzorg kwam ik het bedrijf AI-Labs tegen. Dit bedrijf afficheert zich daar met onder andere een webpagina over een project om de kosten van de jeugdzorg van een gemeente te voorspellen. Eén van de stappen is:
“ Stap 3. Ontwikkel een model die voorspelt of een jongere in de jeugdzorg terecht komt met behulp van data uit het GBA (gezinssituatie), sociaal domein (ouders in de bijstand, broer of zus ook in hulpverlening, etc), leerplicht (spijbelen, opleidingsniveau), schuldproblematiek, GGD-gegevens, consultatiebureau, etc”
Laat het bovenstaande even op u indringen. Hier staat namelijk dat de bedenker van de software op basis van profilering denkt te voorspellen wie in de toekomst op individueel niveau jeugdzorg nodig gaat hebben. Terwijl dat helemaal niet zo hoeft te zijn.
Omgekeerde bewijslast
Het “systeem” zou dan dus gaan aanwijzen wie jeugdhulp nodig heeft. Toch kan het zeer wel zo zijn dat de door het systeem aangeduide persoon helemaal geen jeugdhulp nodig heeft en goed functioneert. Ook al komt hij/zij uit een achterstandswijk, uit een één-ouder gezin met een moeder of vader met dubbele nationaliteit, die ook nog bijstandontvanger is. Je krijgt dan het omkeren van de bewijslast. Namelijk dat de betrokkene en zijn/haar ouder(s) moeten bewijzen dat geen jeugdhulp nodig is. Wat dan op zich weer uitgelegd kan worden als zorgweigering.
Het is een zieke en volledig onethische gedachte om dat op individueel niveau te (willen) voorspellen.
Data-gedreven jeugdzorg
De gedachte dat je, als je maar over veel data beschikt het zorgvolume en de daarbij horende uitgaven kunt voorspellen is wijdverbreid. En neemt nog steeds toe. Het gebruik van veel data uit het sociale domein is zeer privacygevoelig. In januari 2020 publiceerde FollowTheMoney een artikel genaamd “Alle kinderen nauwgezet in beeld met big data”. Ze beschrijft hoe gegevens van kinderen grootschalig gecombineerd worden met gegevens over ouders. Ongezien kan men dan zo ouders en kinderen volgen. Om problemen op te sporen of voor te zijn maakt men risicoprofielen die moeten voorspellen waar en bij wie die problemen zich voordoen. Algoritmen maken die risicoprofielen met behulp van vastgelegde data over kinderen en ouders.
Gebruik van CBS-datalek
De gemeente Den Haag, maar ongetwijfeld ook andere gemeenten, maakten bij het voorspelmodel gebruik van koppeling van gemeentelijke data met die van het Centraal Bureau van de Statistiek. Dat deden ze door het gebruik maken van Remote Access Microdata. Ik beschreef in 2020 in een viertal artikelen( A ,B ,C ,D . ) hoe die Remote Microdata Access eigenlijk één groot, georganiseerd datalek is bij het CBS. Deze regeling maakte het derden mogelijk gebruik te maken van zogenaamde microdata-analyse van gegevens van bij het CBS. Die regeling blijkt hogelijk problematisch. Aan de ene kant omdat hij marktverstorend werkt ten aanzien van commerciële partijen. Aan de andere kant is het gebruik van die microdata-analyse zeer problematisch omdat tot op persoonsniveau data benaderd en getoond worden aan de aanvrager, die niet tot het CBS behoort.
Pseudonimiseren
Het moge duidelijk zijn dat er bij het op individueel niveau willen voorspellen van toekomstig jeugdzorggebruik er eigenlijk nooit sprake kan zijn van gebruik van geanonimiseerde data. Dat kan alleen als men de data pseudonimiseert, d.w.z. dat men identificerende persoonsgegevens van een pseudoniem voorziet. Gepseudonimiseerde gegevens zijn door de aard van de gebruikte techniek door koppeling van databases altijd tot een persoon te herleiden. Om te doen voorkomen dat herleiding tot een persoon niet goed mogelijk is wordt heel vaak het woord geanonimiseerd gebruikt terwijl er toch alleen sprake is van pseudonimisatie. Zo ook de man achter AI-Labs, die in een webinar van het IT-bedrijf Centric, ook werkzaam in de data-gedreven jeugdzorg, het heeft over anonieme data terwijl het om gepseudonimiseerde data gaat. (zie 16 min 45 sec. tot 27 min 30 sec)
Heilige graal
Net als de Nederlandse Zorgautoriteit die op dit moment bezig is met het omstreden verzamelen van data van GGZ-patiënten om tot een nieuwe bekostigingsmodel te komen zijn de pogingen om de toekomstige kosten van de jeugdzorg te voorspellen een vergeefse zoektocht naar een heilige graal. Net als in de GGZ is een groot deel van de kosten voorspelbaar maar een zeer aanzienlijk restrisico niet. En dat restrisico dat gaat over de personen met de meest complexe afwijkingen die de meest complexe zorg behoeven is door het niet uniform zijn van problemen en zorg totaal onvoorspelbaar. Zelfs als men van 90 of 95 procent van de betrokken personen de kosten kan inschatten zal dat restrisico onvoorspelbaar blijven
Verantwoordelijkheid van gemeenten
Gedreven door de wens de uitgaven t.b.v. de jeugdzorg in de hand te willen houden gaan gemeenten ver, te ver, in data-gedreven beleid. Om met de verkregen data driftig aan het profileren te gaan met externe partners. Dan zijn bijvoorbeeld bedrijven als Centric en AI-Labs. AI-labs zegt actief te zijn bij de gemeenten Altena en Haarlem. Centric is bij veel gemeenten actief, naar verluid ook in het Rijnmond gebied. Ik beschreef op 23 augustus 2022 hoe in de MVS-gemeenten (Maassluis / Vlaardingen / Schiedam) men op flinke schaal profileert in de jeugdzorg met een zeer sterke GIRFEC-smaak. GIRFEC(Getting IT Right For Every Child) kwam uit Schotland overwaaien, maar wordt daar in de boogde vorm niet meer voortgezet. Hier probeert men het wel doorgang te laten vinden, maar telkens onder een andere vlag.
Wat gemeenten hierbij doen, vaak met externe partners, is een onverantwoorde inbreuk op de rechten van burgers.
W.J. Jongejan, 17 maart 2023
Recente reacties