Zorgrobot Pepper, op proef in Franciscus Gasthuis, is zo lek als een vergiet

Een onderzoeksgroep bestaande uit medewerkers van de universiteit van Örebro in Zweden en van de technische universiteit van Denemarken heeft deze maand een artikel gepubliceerd over de robot Pepper, onder de titel “Adding salt to Pepper”. Grote delen van de softwarematige kant van de robot blijken zo lek als een vergiet te zijn.  De website The Register maakte er op 29 mei 2018 melding van. Deze door het Japanse Softbank Robotics gemaakte “humanoïde” robot is in 2016 voor het eerst in onze contreien opgedoken. Dat was als “zorgrobot” in een ziekenhuis in het Belgische Ostende. Dat was een alleszins sneue vertoning met een robot, die de weg moest wijzen bij de receptie van het ziekenhuis. Met veel verve maakte het Franciscus Gasthuis & Vlietlandziekenhuis op 12 april 2018 bekend dat zij Pepper op proef gingen inzetten op de afdeling interne geneeskunde. Het is een project in samenwerking met de TU Delft en de Erasmus Universiteit Rotterdam. Het artikel van de zojuist genoemde onderzoeksgroep laat zien dat het gebruik van de robot Pepper in een zorgomgeving zeer grote risico’s met zich meebrengt.

Onderzoek

In mijn artikel op 16 juni 2016 waarschuwde ik al voor de implicaties van het gebruik van deze robot voor de ICT-systemen in het ziekenhuis, met name ten aanzien van veiligheid(gebruik wifi-netwerk)  en privacy(het maken van audio- en video-opnamen). De Scandinavische onderzoekers laten zien dat er veel, heel veel mis is met de software. De beheers-website voor de robot is gebaseerd op onversleuteld dataverkeer via HTTP i.p.v. via HTTPS. Hierdoor kan makkelijk inlognaam en wachtwoord achterhaald worden. Er is geen beveiliging tegen zogenaamde “brute force” aanvallen waardoor eindeloos inlogpogingen met telkens andere wachtwoordcombinaties uitgevoerd kunnen worden. Het root-wachtwoord kan niet makkelijk veranderd worden waardoor die meestal op de fabrieksinstelling blijft staan. Ongeautoriseerde toegang op afstand is mogelijk waardoor de robot ongewenste acties kan ondernemen. Dat kan ongeautoriseerd contact zijn met andere computers, maar ook ongewenste verplaatsing. Daarnaast ook ongewenst gebruik van de robotarmen en het ongeautoriseerd maken van audio-of video-opnamen. Last, but not least, bleken meerdere softwareprogramma’s  in de robot verouderd te zijn en niet geüpdatet. Ze dateerden deels uit 2014!!!

Ziekenhuis

In het Franciscus Gasthuis & Vlietland zet men de robot Pepper in als “zorgrobot” op de afdeling interne geneeskunde. Bij het zien van diverse video’s blijkt het te gaan om een robot, waarbij de robot een aantal dingen uitvraagt bij de patiënt. Dit om verpleegkundigen te ontlasten. Dat is tenminste de opzet. Uit een still van een video op de website www.ad.nl blijkt dat de robot acht onderwerpen moet kunnen uitvragen: algemene anamnese, slaap, bewegen, vallen, pijn, voeding, ontlasting en geheugen.

Deze informatie zal zowel opgeslagen worden in het geheugen van Pepper en draadloos gecommuniceerd moeten worden met het Ziekenhuis Informatie Systeem(ZIS). Het is gevoelige informatie die anders de verpleegkundige rechtstreeks in het ZIS invoert. Los van dit uitvragen maakt de robot eigenlijk continu audio- en video-opnamen van zijn omgeving. Dan zijn de patiënten, maar ook de familie, verpleegkundigen, artsen, ander personeel, passanten etc. Het is de vraag of die -op een correcte manier- zijn voorgelicht over de privacyaspecten bij het gebruik van een dergelijke robot.

Aardig is het om op één van de video-fragmenten te zien dat de autonome voortstuwing van Pepper blijkbaar uitgezet is, want hij wordt door de verpleegkundige naar het bed van de patiënt toe geduwd.

Universiteiten

Naar verluidt vindt de proef plaats met medewerking van de Technische Universiteit Delft en de Erasmus Universiteit Rotterdam. Ik vraag me serieus af of betrokken medewerkers van deze universiteiten op de hoogte waren van de kwetsbaarheden van deze robot dan wel deze vermoedt hebben. Ik denk van niet. Als men per se gebruik wil maken van deze robot zullen eerst de gevonden kwetsbaarheden opgelost moeten worden vooraleer men verder kan gaan met het gebruik in een ziekenhuisomgeving.

Fundamenteel verkeerde keuze

Men doet de proef om de verpleegkundigen te ontlasten, zegt men. Het trieste is dat men het stellen van de vragen over de onderwerpen die hierboven genoemd zijn terugbrengt tot een zuiver administratief iets. Het stellen van vragen over de pijn, slaap, geheugen etc. aan een patiënt is meer dan dat. De beantwoording ervan kent bij elke patiënt nuances en geeft vaak non-verbale informatie. Het inschakelen van een robot voor dit soort zaken reduceert de patiënt tot nummer. De gedachte om een robot voor dit soort bevraging in te zetten is een fundamenteel verkeerde keuze.

Opmerkelijke opmerkingen

Vermeldenswaard zijn tenslotte de opmerkingen die her en der in het wetenschappelijke artikel vermeld staan. De eerste is dat verbazend makkelijk was om de besturing van de robot op afstand over te nemen en om te zetten in zowel een cyber- als een fysiek wapen. De onderzoekers verbaasden zich zeer over de mogelijkheden om ongeautoriseerde toegang te verkrijgen tot alle sensors, camera’s, microfoons en de bewegende delen. De gebreken tonen volgens de onderzoekers aan dat de fabrikant in hoge mate het inschatten van veiligheidsrisico’s achterwege heeft gelaten. Zij stellen ook dat fabrikanten producten met dergelijke gebreken niet op de markt zouden moeten en mogen brengen.

Als u nog niet genoeg hebt van Pepper dan kunt u hier zien hoe die als surrogaat Boeddhistische priester een begrafenisritueel begeleidt.   Het kan niet gekker.

W.J. Jongejan, 4 juni 2018