Toxic mix and mess: Babylon AI app, NHS, political interference and conflict of interest

Steeds meer zaken rond het zogenaamde “disruptieve” gebruik van de app Babylon roepen vragen op. Deze chatbot-app is als triage-instrument in gebruik bij de GP at Hand praktijken in Londen. Vragen over de betrouwbaarheid van de met artificial intelligence(AI) tot stand gekomen diagnose. Vragen over de ontluisterende financiële chaos die rondom GP at Hand in Greater London  ontstaan zijn. Vragen over politieke bemoeienis bij de start van het gebruik en vragen over de zeer discutabele belangenverstrengeling van de spin-doctor van de Conservatieven Partij, Dominic Cummings. Over GP at Hand en de Babylon-app publiceerde ik de afgelopen 2 jaar meerdere keren. 20-11-2017, 24-01-2018, 07-05-2019 en 25-09-2019. De laatste paar dagen nam het aantal publicaties over de Babylon-app op Twitter grote proporties aan. Eén ding daarbij is heel duidelijk. Het gaat niet zozeer meer over gezondheidszaken, maar vooral over financieel gewin en financiële belangen.  

Vragen over betrouwbaarheid

Twee jaar terug waren er al vragen over het al dan niet correct zijn van een waarschijnlijkheidsdiagnose die uit de Babylon- app rolt na invoeren van klachten. Dezer dagen circuleert in de pers in het Verenigd Koninkrijk(VK) het bericht dat bij klachten van pijn op de borst Babylon bij mannen en vrouwen totaal andere antwoorden geeft.  Bij een man is het een hartaanval volgens Babylon de meest waarschijnlijke diagnose. Bij een vrouw geeft Babylon aan dat het waarschijnlijk om een paniekaanval gaat.  Toch wel wezenlijke verschillen. De presentatie van een hartaanval kan bij een vrouw anders zijn dan bij een man maar bij pijn op de borst moet ook bij een vrouw wel degelijk aan een hartaanval gedacht worden.

Vragen over de financiën

Door het tot stand komen van de GP at Hand praktijken in Londen met gebruik van de Babylon-triage en diagnose-app is het hele financiële landschap in de NHS-organisaties in Greater London enorm onder druk komen staan. Ik schreef daar op 25 september 2019 over. De proporties van die financiële ontregeling zijn zeer groot binnen een NHS die al chronisch geld tekort komt.

Vragen over politieke bemoeienis

Vanaf het begin van het GP at Hand-initiatief met de Babylon-app is er sprake van openlijke politieke steun van de minister van volksgezondheid Matt Hancock. Hij is een groot voorstander van het gebruik van digitale technieken in de zorg. Hij pushte dit initiatief met gebruik van de Babylon-app actief.  Hij beloofde zelfs de regels te veranderen om GP at Hand met Babylon-app een kans te geven. Zozeer dat de Labour-partij eind 2018 een onderzoek eiste. Men beschuldigde hem de ministeriële gedragscode geschonden te hebben door een private gezondheidszorg-onderneming te promoten in een gesponsord kranten-supplement. Bovendien is Hancock thans bezig een fonds voor gebruik van Artificial Intelligence in de zorg ter grootte van 250 miljoen pond Sterling in te richten. De grootste kanshebber voor een grote bijdrage uit dit fonds is, u kunt het al raden, Babylon Health, de maker van de Babylon-app.

Vragen over belangenverstrengeling

Dominic Cummings, de spin-doctor van de Conservatieve Partij en belangrijkste vertrouwenspersoon van premier Boris Johnson, blijkt betaald adviseur  en senior personeelsrecruiter te zijn geweest voor Babylon Health, de ontwikkelaar van de Babylon-app te zijn geweest. Hij adviseerde Babylon Health precies in de maanden voor Matt Hancock openlijk GP at Hand met Babylon openlijk steunde. Een onderzoek van de krant The Guardian bracht zijn adviseurschap aan het licht. Daarna stopte hij in oktober 2018 met het advieswerk. Die maand riep hij bij een bezoek aan Babylon Health tegen de staf ervan nog dat hij wilde dat de NHS de expansie van Babylon zou moeten ondersteunen. Hij lijkt ook op de achtergrond betrokken bij het eerder genoemde AI-stimuleringsfonds. De schaduw-minister van volksgezondheid Jonathan Ashword vindt dat er een vreemde lucht zit aan de relaties tussen Dominic Cummings tussen Downingstreet 10, het ministerie van volksgezondheid en de AI-firma Babylon Health

Geld, veel geld

De zaken rond Babylon gaan om geld, heel veel geld. Recent bleek dat in een investeringsronde Babylon Health een bedrag van 550 miljoen dollar ophaalde bij diverse financiers. Naar eigen zeggen zou men het verse kapitaal in gaan zetten om uit te breiden in de Verenigde Staten en Azië. Het heeft dus maar ten dele iets te maken met zorg ,maar meer met een nieuwe vorm van het grootschalig uit nutten van patiëntendata.

Zoals wijlen mijn moeder, die het woord seks nooit in de mond wilde nemen altijd placht te zeggen: “Het gaat in het leven uitsluitend om de fluit en de duit”.  Daarmee doelend op: seks en geld.

W.J. Jongejan, 18 oktober 2019

Afbeelding van Clker-Free-Vector-Images via Pixabay