Failliet met zorg-AI en weer nieuwe zorg-AI aankondigen met disclaimer

Onder leiding van CEO Ali Parsa maakte het bedrijf Babylon Health een duizelingwekkende groei EN neergang door. Daarbij ging 4 miljard dollar in rook op. Het begon in 2017 toen in het Verenigd Koninkrijk de app Babylon geïntroduceerd werd bij zestal huisartspraktijken, genoemd GP At Hand. De app zou een door AI aangestuurde arts in de broekzak moeten zijn, klaar om te diagnosticeren, adviseren en zelfs kosten te besparen voor zorgsystemen. Ook kon er met de app videocommunicatie met de huisarts plaatsvinden, consulten, visites en medicatie aangevraagd worden. Het was allemaal te mooi om waar te zijn. In 2023 viel het doek met het waardeloos worden van aandelen in de Staten en een faillissement in het Verenigd Koninkrijk. Eind 2024 kondigde Ali Parsa een nieuwe zorg-AI initiatief aan, genaamd Qu, dat ontwikkeld wordt door een onderneming genoemd Quadrivia. Er zijn nu video’s over de werking. Met een opvallende disclaimer.

Theranos-achtige proporties

Met kennis van zorgICT en (huisarts)geneeskunde kon je op mijlen afstand al zien dat het voor een groot deel gebakken lucht. Was. Ik schrijf op deze website over Babylon Health al vanaf 2017. Ronduit schokkend was het dat de app die diagnoses zou moeten kunnen stellen bij testen door externe artsen zwaar door de mand viel met een toxische reactie door Babylon Health daarop. In een artikel van 12 mei 2023 maak ik melding van het bankroet gaan van het bedrijf. Ik noemde het toen een drama met Theranos-achtige proporties. Onder leiding van Elisabeth Holmes viel het eveneens ooit disruptief genoemde bedrijf om na ook miljarden in rook te hebben doen opgaan.

Nieuw initiatief

Niet gehinderd door gêne kondigde ex-topman Ali Parsa eind 2024 de komst aan van een nieuw zorg-AI initiatief, genaamd Qu. Daartoe had hij weer een bedrijf opgericht, genaamd Quadrivia, dat gevestigd is aan de Thames-oever in Londen, schuin tegenover de Tower. Op 13 november 2023 verschijnen her in der in online-techmagazines artikelen over het nieuwe initiatief van Ali Parsa. Hij laat weten:

“Quadrivia has assembled a global team of AI scientists, technologists, and prominent clinical leaders to develop a comprehensive clinical assistant that is both trainable and customizable for clinicians everywhere. Our goal is to support healthcare professionals in provider and payer organizations with a wide range of tasks, including clinical and administrative work, patient interactions, decision-making, chronic and postoperative care management, and continuous monitoring and support.”

Het is echter absoluut onduidelijk wie die topmensen uit dat team zijnen of welke bedrijven Qu tot nu toe ontwikkeld hebben. De mensen die op de website opgevoerd worden zijn duidelijk promotors van Qu en consultants.

Qu lijkt op Babylon

Jon Hoeksma, schrijver van een artikel op het online magazine Digital Health op 13 november 2024 over dit initiatief van Parsa dat de focus wel heel erg lijkt op de Babylon-app van Babylon Health, opgericht in 2014, dat gebruikmaakte van pregeneratieve AI om chatbot-gestuurde virtuele diagnose- en triagediensten te leveren.

Investering

Toch blijkt een Zweeds investeringsbedrijf VC Norrsken eind 2024 638.000 aandelen gekocht te hebben van Quadrivia. Het bedrag per aandeel, dus ook de totale investering is onbekend. Dat kan tussen iets tussen de 6 en 60 miljoen euro/pond sterling bedragen, vermoed ik.

Disclaimer

Op de website www.quadrivia.ai is te vinden wat Qu zou moeten presteren. Op die website staan een aantal “use cases” in video-vorm waarin de discussie tussen Qu en een patiënt getoond wordt, uitgesproken en in tekst. Je ziet dan de discussie van de patiënt met medische chatbot Qu over klachten en checkups. Dat gaat bijv. over een diabetes type 2 controle of longkanker-sceening. In totaal 22. Bij een aantal, dus niet bij alle, van die “use cases’’(met fictieve patiënten), komt 3 seconden de volgende tekst in nogal kleine letters in beeld:

“This demo of a beta-version of Qu has been edited for demonstration purposes. Qu’s responses are slower in reality though we are actively improving Qu’s latency”

Een video waarin dat u dat kunt zien is die over longkanker-screening

Fake prestaties

De prestaties worden dus veel mooier voorgesteld dan ze in werkelijkheid zijn. In nog kleinere en nogal vage letters onderin de video’s staat de tekst.

“This beta-version of Qu is for evaluation only, not for clinical use. By using it you accept Our terms of Service.”

Het betekent dat gewoon dat er iets getoond wordt waarvan je de echte werking in de verste verte niet van kunt aflezen.

Fake it until you make it

Met Babylon Health heft Ali Parsa luid aan de weg getimmerd. Zo luid dat zelfs de toenmalige bewindsman voor volksgezondheid, Matt Hancock, Babylon Health openlijk promootte. De klinische validiteit van de app was nooit deugdelijk aangetoond. De Babylon app presteerde lang zo goed niet als beweerd, maakte opzichte fouten bij diagnose, en werden eigenschappen toegedicht die niet waargemaakt konden worden. Dat laatste ging bijv. om de gemoedstoestand te kunnen herkennen aan de hand van stemanalyse.

Ali Parsa had er ook een handje van te schermen met namen van grote bedrijven(Samsung, Tencent, Amazon) waarmee hij zou samenwerken, maar wat achteraf gebakken lucht bleek te zijn.  Het ziet er alleszins naar uit dat het nieuwe project van Ali Parsa dezelfde kant op gaat. Te voorspellen valt helaas dat er weer veel ophef zal komen en veel geld er doorheen gejaagd.

W.J. Jongejan, 11 oktober 2025

Afbeelding van Tung Nguyen via Pixabay