Kan du spørge en chatbot om sundhed og sygdom?

- Kunstig intelligens er alle steder omkring os - også der, hvor vi slet ikke tænker over det.

Sådan lyder det fra Andreas Pihl, der er læge, medicinsk chef i Roche Diagnostics, forfatter og ekspert i kunstig intelligens i sundhedsvæsenet.

Vi har længe kendt til værktøjer baseret på kunstig intelligens eller AI (artificial intelligence), som det også kaldes. Vi har for eksempel set det i husholdningsapparater, i selvkørende biler og i de algoritmer, der bestemmer, hvilken information vi får frem, når vi søger efter ny viden på nettet.

Så jeg bruger en del tid på at sætte scenen og give den noget kontekst, for så får man altså et bedre svar.

Men de seneste par år har AI-bølgen for alvor taget fart. Det er især sket efter, at den amerikanske tech-virksomhed OpenAI lancerede chatbotten ChatGPT i november 2022. Lige pludselig kunne man på få sekunder forfatte et digt eller lave en madplan for hele ugen med tilhørende indkøbsliste. Siden er andre tech-giganter såsom Google og Meta kommet på banen med lignende værktøjer.

Et af de steder, hvor de generative AI-værktøjer virkelig kan gøre en forskel, er i sundhedsvæsenet, mener Andreas Pihl. Han forudser, at det kan blive en gevinst for både sundhedspersonale og for patienter og borgere.

Uudforsket potentiale

Andreas Pihl ser enormt meget potentiale i de nye chatbots for patienter og almindeligt sundhedsinteresserede, men fordi vi stadig er så tidligt i udviklingen, er der meget, der stadig er uudforsket.

- Jeg plejer at bruge den her analogi med, at vi har fået en hammer, og så går vi lidt rundt og prøver at finde ud af, hvad der er søm, hvad vi kan slå på og hvordan det virker, forklarer han.

Kan især bruges til forberedelse og research

Han har allerede selv prøvet at teste chatbotter på forskellige områder, og derfor har han flere konkrete bud på, hvad man som patient kan bruge de nye værktøjer til. Han understreger, at chatbotterne ikke er trænet eller godkendt til sundhed, og derfor bør man ikke erstatte en rigtig lægekonsultation med en chatbot-dialog. Ifølge Andreas Pihl er chatbotterne dog et rigtig godt værktøj til at forberede sig, inden man skal ned til sin læge.

- De her værktøjer er rigtig gode til at løfte kompetenceniveauet for ikke-eksperter. Det vil sige, at hvis en ekspert i et givent sygdomsområde bruger en chatbot til at undersøge noget, så bliver de måske skuffede, men til almindelige patienter, der ikke er eksperter, der kan det give et kæmpe kompetenceløft, som vi kan bruge til rigtig meget, siger han.

Du kan for eksempel skrive dine symptomer og din relevante sygdomshistorik til chatbotten, inden du går til lægen og bede den om at komme med nogle forslag til en mulig diagnose. Han fortæller, at det er værdifuldt for ham som læge at få at vide, hvad chatbotten har fortalt, for det kan hjælpe ham til hurtigere at spore sig ind på en diagnose.

De her værktøjer er rigtig gode til at løfte kompetenceniveauet for ikke-eksperter.

En anden ting, som de nye chat-værktøjer er gode til, er at gøre informationssøgning meget nemmere, og det kan være særligt brugbart, hvis man for eksempel er i medicinsk behandling for en eller flere sygdomme.

- Hvis nu man får fem forskellige præparater, og man er lidt i tvivl om et nyt præparat kan give nogle bivirkninger, eller om der kan være nogle interaktioner, eller hvorfor man i det hele taget får noget medicin, så kan man putte sin medicinliste ind og stille spørgsmål ud fra det, forklarer Andreas Pihl.

Jo bedre spørgsmål, des bedre svar

Ifølge Andreas Pihl er det godt at vide lidt om, hvordan man skal spørge chatbotten, inden man kaster sig ud i det. Hvordan man stiller sit spørgsmål, eller ‘prompt’ som det hedder, har nemlig stor betydning for, hvilket svar man får.

- Det er virkelig vigtigt, at man stiller spørgsmålet rigtigt og gerne med en del tekst. Hvis man bare spørger “Hvad er det her?” og tager et billede af et hududslæt, så får man ikke nødvendigvis et godt svar, siger han og fortsætter:

- Det er vigtigt, at man sætter scenen. Jeg plejer altid at tiltale den som du, så jeg siger; “Du er ekspert i hudsygdomme, og vi er i Danmark, og du skal svare ud fra danske retningslinjer.”. Så jeg bruger en del tid på at sætte scenen og give den noget kontekst, for så får man altså et bedre svar.

Kan du stole på chatbotten?

En af de ting, man skal være opmærksom på, når man bruger en chatbot, er, at det kan være svært at gennemskue, hvor chatbotten henter informationerne fra. Typisk vil der nemlig ikke være kildehenvisninger i det svar, chatbotten giver. Nogle chatbotter vil dog henvise til andre steder, hvor man kan hente mere information om emnet.

Jeg oplever, at jo dybere man går i et eller andet emne, og jo mere nørdet det bliver, jo større er risikoen for, at den finder på noget.

Det kan være en god idé at være kildekritisk og dobbelttjekke de ting, som chatbotten fortæller. Særligt fordi den indimellem godt kan hallucinere og finde på ting, der ikke er rigtige.

- De kan jo hallucinere eller vrøvle og opdigte ting, og det er specielt, når man kommer lidt langt ned ad en chat-tråd. Derfor har nogle af de her chatbots faktisk en begrænsning, så man kun kan stille et vist antal spørgsmål, og så lukker den tråden, fordi den har erfaring med, at den nemt kan komme ud af et eller andet vildspor.

- De bedste modeller hallucinerer cirka 2-3 procent, og det vil sige, at 2-3 procent af det, de siger, er forkert. Min erfaring er, at det tit er, når man kommer meget dybt ned i et eller andet emne, men det er ikke kun sådan. Jeg oplever, at jo dybere man går i et eller andet emne, og jo mere nørdet det bliver, jo større er risikoen for, at den finder på noget, forklarer Andreas Pihl.

Hvis man gerne vil tjekke om chatbotten hallucinerer , anbefaler han, at man åbner et nyt chatvindue og spørger den igen . Hvis den svarer det samme, kan man godt regne med, at der ikke er tale om hallucination. Det er vigtigt, at man tjekker det i et nyt chatvindue, så chatbotten ikke husker historikken fra den chattråd, man allerede har lavet.

Man kan også efterprøve udsagnet ved at søge andre steder, for eksempel andre chatbots eller søgemaskiner. Man kan også altid efterprøve udsagnet fra chatbotten ved at spørge sin læge, hvis man alligevel skal forbi til en konsultation. Husk, at chatbotten ikke kan erstatte et lægebesøg, og at du skal kontakte lægen i tilfælde af sygdom eller ved spørgsmål om dit helbred.