Dataopslag achilleshiel bij gebruik digi-mens(digital human) als chat-avatar in de zorg
Afgelopen 7 november 2021 zond de VPRO de documentaire ‘De digi-mens’ uit van Shuchen Tan. Het onderwerp ging over de inzet van digitale assistenten om te communiceren met patiënten in de zorg. Daarbij stelde zij de vraag of deze ‘slimme ondersteuners’ als digitale mensen ons kunnen helpen bij het oplossen van structurele problemen zoals personeelstekorten in de zorg. Digitale assistenten zijn in opkomst. Deze “slimme“ ondersteuners hebben nu kunstmatige kenmerken die voorheen enkel aan mensen voorbehouden waren: empathie en emotie. In de documentaire was veel aandacht voor recente ontwikkelingen waarbij programmeurs steeds meer bedreven raken in het tonen van deze menselijke trekken bij chatbots. Het gaat dan om chatbots die als pratende ‘mens’ met een patiënt/cliënt communiceren. Men kan zo’n chatbot of digi-mens ook in hedendaagse tech-taal een chat-avatar noemen. Slechts beperkt belichtte men de achilleshiel van deze toepassing: de data-opslag van de input van de patiënt.
Philadelphia: robot Pepper en chatbot Sophie
In de documentaire komt de organisatie Philadelphia vrij nadrukkelijk in beeld met haar ‘innovatie-managers’. Philadelphia ondersteunt door heel Nederland mensen met een beperking. De mensen die in de woningen van de organisatie verblijven krijgen intensieve zorg of ambulante begeleiding. Eén van de manieren waarop men de mensen begeleidt is met de zorgrobot Pepper. Je ziet iemand met een beperking ’s-morgens in haar huiskamer met Pepper communiceren en vragen beantwoorden. Philadelphia heeft zeven van die Peppers die maar een beperkte tijd bij een cliënt staan omdat men ze laat rouleren onder haar cliënten. Even voor de goede orde: één Pepper kost minimaal 20.000 euro maar dat is exclusief software, training, service en onderhoud. In de documentaire laat een innovatiemanager van Philadelphia een cliënt op een laptop communiceren met digi-human Sophie. Dat is de chat-avatar waar de cliënten tegenaan kunnen praten.
Dataopslag
Belangrijk bij inzetten van een zorgrobot of chat-avatar is dat de cliënt constant in de vorm van gesproken woord data aanlevert waarop de applicatie reageert. Die data slaat men op. In de uitzending kwam heel beperkt aan de orde wat er met die data gebeurt. Bijvoorbeeld: waarvoor gebruikt men die data? Waar slaat men die op? Wie of welke organisaties of bedrijven hebben nog meer toegang tot die data
Je hoort een Zweedse onderzoekster die werkt aan een chat-avatar Betsy voor hulp aan mensen met psychische problemen zeggen dat die data ook nodig zijn voor de verdere ontwikkeling van chat-avatar. Ze heeft zelf wel door dat het een delicate balans is tussen de verdere ontwikkeling en integriteit. Want met de data bewaar je gedachten en gevoelens van cliënten. Dat is super gevoelige informatie.
Geen app maar grotere onderliggende systemen
De rekenkracht die nodig is om een chat-avatar met empathie en emotie te laten draaien is niet iets voor een systeem van een zorgverlener. Er is veel meer dataopslag en rekencapaciteit voor nodig om zoiets te realiseren. Daarom zullen partijen die er gebruik van maken grote tech-partijen inschakelen
Deloitte / UNEEQ / Google cloud AI
In de uitzending wordt duidelijk dat consultancybedrijf Deloitte de ontwikkeling van dit soort medische chat-avatars als een nieuwe ‘opportunity’ ziet. Op de website van Deloitte kan je dat duidelijk zien. Men werkt samen met het Amerikaanse Artificial Intelligence bedrijf UNEEQ en gebruikt de mogelijkheden van de Google Cloud. Vol verve zie je een Deloitte-consultant de zorginnovatie-managers meenemen in het digi-human verhaal. Deloitte werkt met een globaal opererende Artifial Intelligence(AI) firma, UNEEQ samen en maakt gebruik van Google Cloud AI. Het is dus overduidelijk dat globaal opererende firma’s ook een graantje meepikken van de data die men met zorgchat-avatars verkrijgt. Er bestaat dus veel interesse voor de data die door instellingen die chat-avatars gebruiken bij gebruikers binnenharken. Het is ronduit zorgelijk dat bij de discussie die men in de documentaire voerde deze kant van het gebruik van de chat-avatars maar beperkt belichtte Hier zit de achilleshiel van de digi-mens.
Tech-filosoof
Bijzonder aardig is de bijdrage van Vincent Müller, tech-filosoof, verbonden als hoogleraar aan de Technische Universiteit Eindhoven. Hij is kort te zien vanaf minuut 32 in de documentaire. Hij stelt zeer terecht dat empathie, het gevoel door een mens begrepen te worden, bij uitstek iets is dat verbonden is aan de interactie tussen mensen onderling. Hij stelt dan ook dat hoe empathisch of emotioneel het contact met een chat-avatar lijkt, het toch een fake-empathie is. Je praat immers niet met een mens maar met een systeem. Argumenten als geen personeel en niet voldoende geld veegt hij terecht resoluut van tafel. Dat zijn in zijn oordeel politieke keuzes. Mensen zijn er genoeg als je tenminste bereid bent ook buiten het eigen land te kijken en geld is een kwestie van een politieke keuze waar je het geld aan wilt uitgeven.
W.J. Jongejan, 12 november 2021
Afbeelding van 🌞 Myriam 🌞 Dreamer via Pixabay
Recente reacties