Regeringschatbot(Singapore) adviseert condoom te gebruiken bij positieve COVID-19 test
Tussen alle narigheid rond besmettingen met het corona-virus verschijnen er ook wel eens berichten die een lach veroorzaken. Het blijkt bijvoorbeeld dat een chatbot, in Singapore, ingezet door het Ministry of Health, heel erg vreemde adviezen geeft over COVID-19. Zo meldt het tech-magazine The Register, op 6 oktober 2021, dat de chatbot Ask Jamie in Singapore bij de melding van een positieve COVID-19-test bij een vrouw als advies geeft om de partner condooms te laten gebruiken tijdens de gehele zwangerschap. Of gedurende die tijd af te zien van seksueel verkeer. Ook kregen mensen bij de vraag waar ze een antigeen sneltest voor COID-19 konden ondergaan het antwoord dat het poliovaccin beschikbaar was in particuliere klinieken en reizigers-klinieken. Het klinkt natuurlijk allemaal vermakelijk, maar dit soort uitglijers kan een overheid die een chatbot voor dit doel inzet zich natuurlijk niet permitteren. De chatbot heeft men “tijdelijk” geïnactiveerd.
Chatbot Ask Jamie
Deze chatbot bedacht men in 2014 en heeft men sindsdien bij ongeveer zeventig overheidsinstellingen in Singapore geïmplementeerd. Het Government Technology Agency (GovTech) draagt er de verantwoordelijkheid voor. Dat agentschap zorgde ervoor dat elke overheidsinstelling een passende versie voor het desbetreffende aandachtsveld kreeg. De chatbot is gebaseerd op Natural Language Processing en fungeert als een “virtual assistant”. Hij maakt gebruik van kunstmatige intelligentie(AI) en machine-learning.
GovTech geeft op haar website hoog op over de kwaliteiten van de chatbot. Zo zou de onderliggende software in staat zijn over de grens van een agentschap waar het voor geïnstalleerd is informatie en advies dat van een ander agentschap afkomstig is te kunnen oproepen en tonen. Men meldt ook vier vormen: Ask Jamie Email, Ask Jamie Voice(dat spraakherkenning erbij gebruikt), Ask Jamie Live Chat(ook met spraakherkenning) en de Ask Jamie Bot voor integratie met Facebook Messenger.
Ask Emma
Het lijkt erop dat men af zal gaan stappen van deze chatbot omdat de overheid van Singapore de opvolgster Ask Emma al aan het promoten is. Die zou voorzien zijn van Next-Generation Natural Language Processing. GovTech noemt het de VICA (Virtual Intelligent Chat Assistant).
Why chatbots fail
Even op het internet zoeken laat al gauw zien waarom chatbots nog al eens de mist in gaan. Naast het niet begrijpen van de vraagsteller kan de chatbot maatschappelijk onacceptabele antwoorden genereren. Zo was er in 2017 ooit een chatbot van de Russiche multinational Yandex die adviseerde om vrouwen te slaan, kindermishandeling te bedrijven en suïcide aanmoedigde. Chatbots worden handmatig geprogrammeerd en volgen meestal een beslisboom. De makers brengen expliciet acties in kaart die de chatbot moet ondernemen op basis de input van de gebruiker. Chatbots mislukken dan omdat het vrijwel onmogelijk is om een chatbot vooraf te trainen om perfect te werken in elke situatie. Communicatie is een complex iets. Denk aan jargon, spelfouten, intonatie, humor en syntaxis. Een groot probleem is ook vaak dat men niet op tijd aandacht besteed aan veranderende omstandigheden/onderwerpen. Voor een nieuw onderwerp zal de bestaande software geüpdatet moeten worden met verse informatie.
Verantwoordelijkheid
Het voorval in Singapore is natuurlijk ronduit vermakelijk als het gaat om het condoom-advies. Een tikje gevaarlijker is als de chatbot een geheel off-topic advies geeft om maar naar de beschikbaarheid van poliovaccin te gaan vragen bij een positieve COVID-19 antigeen sneltest.
De vraag is dan ook meteen wie verantwoordelijk is voor de mogelijke gezondheidsschade bij dit soort “vergissingen”. Is dat het agentschap dat het gebruikt, de overheid of het bedrijf dat de chatbot maakte.
Gelukkig heeft ministerie van VWS geen COVID-19-chatbot gemaakt.
W.J. Jongejan, 7 oktober 2021
Afbeelding van Jeyaratnam Caniceus via Pixabay
Recente reacties