Modieus koketteren met Artificial Intelligence in de psychiatrie
Afgelopen week zag ik een stukje in het blad De Psychiater, het verenigingsblad van de Nederlandse Vereniging voor Psychiatrie(NVvP), dat mijn aandacht trok. Het stukje in het nummer dat week 30 verscheen heeft de kop “AI in de psychiatrie: vloek of zegen?” Niels Mulder, schreef het. Hij is hoogleraar Openbare Geestelijke Gezondheidszorg bij het Erasmus MC en als psychiater, opleider en onderzoeker werkzaam bij de Parnassia Groep. Daarnaast is Mulder voorzitter van de NVvP. In het artikel beschrijft hij hoe één van de onderzoekers die hij begeleidt bezig is met het ontwikkelen van algoritmes voor het voorspellen van agressie-incidenten op de acute opnameafdeling in de GGZ. Zo’n aankondiging ziet er reuze modern en hip uit. Niets is minder waar. Het is in feite een exacte herhaling van onderzoek dat men in 2016 deed aan in het Universitair Medisch Centrum Utrecht.
Wat schrijft Niels Mulder?
“Het uiteindelijke doel is om te kijken of we hiermee agressie-incidenten kunnen voorkomen. Deze incidenten kunnen een forse impact hebben op zowel (mede-) patiënten als ook op medewerkers. Wat levert dit op? Wanneer verpleegkundigen op een acute opnameafdeling ’s ochtends het EPD openen, krijgen ze een lijstje te zien van patiënten met een verhoogde kans op agressie. Dit lijstje is gebaseerd op tekstanalyses van rapportages in het EPD van de afgelopen 24 uur. Het kost dus geen extra tijd of administratie. Vervolgens kunnen zij samen met de patiënt bekijken of er iets nodig is, bijvoorbeeld even samen wandelen of medicatie. In principe zijn dit soort toepassingsmogelijkheden van AI in de psychiatrie eindeloos. Naast het voorspellen van incidenten kunnen we allerlei andere gebeurtenissen voorspellen, denk aan verplichte zorg, of tentamen suïcides. Maar AI kan ook gebruikt worden om eventueel gemiste diagnoses uit tekstvelden te halen, zoals ADHD of PTSS.”
Onderzoek in 2016
Toen verscheen op 16 juli een artikel in het Financieel Dagblad “Gedwongen opname? Op dag vijf zal de patiënt agressief zijn”.(1) Het gaat over de experimenten met big-data-analyse onder leiding van Floortje Scheepers, destijds afdelingshoofd psychiatrie, thans hoogleraar psychiatrie op de leerstoel innovatie in de psychiatrie in het Universitair Medisch Centrum Utrecht(UMCU). Ze voerde dat uit begin 2015 met geanonimiseerde patiëntengegevens op groepsniveau die men koppelde met andere databases(zonder persoonsgegevens). Het betrof data uit 8000 patiëntendossiers. Op 4 september 2016 publiceerde ik het artikel “Psychiatrie-afdeling UMCU balanceert op randje met big-data-analyse”. Daarin ging ik uitgebreid in op de gevaren van het koppelen van databases met name die met persoonsgegevens en het maken van patiëntprofielen. Destijds stelde de Autoriteit Persoonsgegevens dat zoiets het risico had dat een patiënt zo anders behandeld kan worden op basis van iets wat je niet zelf bepaald hebt en kunt controleren.
Herhaling van zetten
Eigenlijk zowat het enige wat Floortje Scheepers als resultaat van de big-data-analyse acht jaar terug meldde was dat er op dag vijf van een geplande opname een piek in agressie-incidenten te zien was. Niet bij wie, op welk specifiek moment of bij welke diagnose. Ik vond dat toen een zeer mager resultaat.
Nadien is er eigenlijk weinig meer over die big-data-analyses uit het UMCU verschenen in de media. Wat Niels Mulder wil laten onderzoeken is eigenlijk precies hetzelfde als wat Floortjes Scheepers deed met geplande opnames. Met acute opnames zal het resultaat naar mijn mening nog magerder zijn dan dat in het onderzoek uit 2016. Bij acute opnames is er veelal niet direct alle informatie beschikbaar die bij geplande opnames veelal al achter de hand is.
Enige reserve
In het artikel schrijft Niels Mulder tenslotte nog:
“Er is nog niet onderzocht of deze toepassing van AI ook daadwerkelijk leidt tot minder incidenten en betere zorg. Wat mij betreft is dit een cruciale vraag voordat we een goed oordeel kunnen vormen over de toegevoegde waarde van AI in de psychiatrie.”
Daarmee nuanceert hij het eerder geschrevene enigszins. Het is echter de vraag of hij zich alle ethische bezwaren die vastzitten aan het gebruik van AI in de psychiatrie realiseert. Ik vraag me ook af of een ethische commissie van het UMC Rotterdam of Parnassia naar het geïnitieerde onderzoek heeft gekeken.
Nog zoiets modieus
Daarnaast kwam ik in De Psychiater een artikel uit 2023 tegen, genaamd “Kunstmatige intelligentie in de psychiatrie:cocreatie van mens en ChatGPT”. Edwin van Dellen, psychiater, universitair hoofddocent, UMC Utrecht. Het artikel is blijkens de verantwoording bij Methoden geheel gemaakt door de AI-tekstrobot ChatGTP. Ik neem aan dat Van Dellen aan CHATGTP de opdracht gaf een artikel te schrijven over datgene wat nu de kop van het artikel is.
Het vermelden van Edwin van Dellen bij dit artikel lijkt me dan ook een volkomen onterechte zaak.
De conclusie van het artikel luidt:
“ Als we de risico’s en ethische implicaties van het gebruik van AI in de psychiatrie kritisch bekijken en cocreatie tussen mensen en machines bevorderen, kan AI bijdragen aan een verbeterde zorg voor patiënten in de toekomst.”
Vreemd
Wetende dat het artikel m.b.v. door ChatGTP gegenereerd is, stelt hier dus een machine, daartoe expliciet gevraagd door een mens, dat AI door cocreatie tussen mens en machine kan bijdragen aan het verbeteren van de zorg. Dat komt mij voor als een zeer eenzijdige machine gegenereerde conclusie in een vakgebied dat als essentie juist de interactie tussen cliënt en therapeut kent. Die interactie levert juist de belangrijkste cocreatie op, namelijk inzicht in het ziek zijn en de gezamenlijke tocht richting herstel.
Heel vreemd
Tenslotte is het eind van het artikel nog curieuzer. Daar staan vier referenties met daarbij de opmerking van Van Dellen dat de ze gegenereerd zijn door CHATGTP en niet als artikel blijken te bestaan. Ze bleken door het algoritme gegenereerd als voorbeeld van een passend referentieformat. De “auteur” besloot die referenties maar te handhaven. Deze referenties moet je echter als non-referenties beschouwen. Ik begrijp dan ook niet goed dat de redactie van De Psychiater dit artikel mede in het licht van mijn eerdere opmerking gepubliceerd heeft in haar vakblad.
W.J. Jongejan, 29 juli 2024
Afbeelding van Gerd Altmann via Pixabay
(1) Het artikel uit het Financieel Dagblad staat achter een betaalmuur, maar met een gratis registratie kunt u 5 artikelen per maand van het Financieel Dagblad gratis online inzien