60-årig fik sjælden sygdom efter sundhedsråd fra ChatGPT

Introduktion til risikoen ved AI-sundhedsrådgivning

Kunstig intelligens, som ChatGPT, bliver stadig mere brugt til at søge svar på sundhedsspørgsmål. Selvom AI kan tilbyde hurtige svar og hjælpe med information, er der også eksempler, hvor det kan føre til alvorlige konsekvenser. En nylig sag fra USA illustrerer, hvordan et uheldigt råd fra ChatGPT førte til en 60-årig mands udvikling af en sjælden og farlig sygdom.

Hvordan blev bromisme en konsekvens af ChatGPT-råd?

Manden havde læst om farerne ved natriumklorid, også kaldet almindeligt salt, og ønskede at finde et alternativ til klorid. Han spurgte ChatGPT til råds, der foreslog at erstatte klorid med bromid. Problemet var, at ChatGPT formentlig misforstod konteksten og troede, det handlede om rengøringsråd, hvor bromid kan være et alternativ til klorid, ikke kostmæssigt.

Manden fulgte derfor rådet og indtog bromid, hvilket førte til bromisme, eller bromforgiftning. Denne tilstand, som tidligere var almindelig i begyndelsen af 1900-tallet, kan give alvorlige fysiologiske og neuropsykiatriske symptomer, herunder paranoia og hallucinationer, som manden oplevede, hvilket resulterede i psykiatrisk indlæggelse.

Eksperters advarsler om AI og sundhed

Sagen, der er dokumenteret i det videnskabelige tidsskrift Annals of Internal Medicine, fremhæver, hvordan AI kan generere unøjagtigheder og bidrage til misinformation. Professor Søren Brunak fra Københavns Universitet understreger, at man bør være kritisk over for de svar, man får fra AI-værktøjer.

Han anbefaler, at man altid betragter svar fra ChatGPT med samme skepsis som en mistænkelig spam-mail. Selvom AI kan analysere mange flere data end en enkelt læge, mangler den det personlige og komplette billede af patienten, hvilket gør den sårbar over for fejl.

Vigtigheden af kritisk vurdering

Brunak fremhæver, at patienter ofte søger hurtige svar og derfor kan blive blændet af AI’s autoritet. Derfor er det vigtigt at være "kronisk kritisk" og aldrig erstatte professionel lægehjælp med AI-råd. Dette gælder især, fordi både læger og AI kan tage fejl.

Positive eksempler på brug af ChatGPT i sundhed

Der findes også eksempler, hvor ChatGPT har ramt plet. En ung mand ved navn Rasmus Ove oplevede symptomer efter en aften i byen, som en læge overså, men som ChatGPT advarede var livstruende. Rasmus søgte igen læge og fik diagnosen en punkteret lunge, som krævede øjeblikkelig behandling.

Dette illustrerer potentialet i AI som supplement til sundhedsvæsenet, men understreger samtidig, at det aldrig må stå alene som beslutningsgrundlag.

Fremtidens AI i sundhedsvæsenet

Morten Freil, direktør i Danske Patienter, ser et stort potentiale i AI-teknologi til at forbedre diagnostikens hastighed og præcision. Han understreger dog, at AI kun bør bruges som et supplement, ikke en erstatning for lægelig vurdering.

For at sikre bedst mulig anvendelse kræver det klare retningslinjer og oplysning til brugere om både muligheder og begrænsninger ved AI-rådgivning.

Hvordan kan du trygt bruge AI til sundhedsinformation?

• Vær kritisk: Se AI-råd som et udgangspunkt, ikke en endelig diagnose.
• Tal med din læge: Brug AI til at forberede spørgsmål til sundhedsvæsenet, ikke til selvbehandling.
• Søg flere kilder: Sammenlign AI-svar med troværdige medicinske kilder og eksperter.
• Undgå selvmedicinering: Følg ikke kost- eller medicinske råd uden professionel vurdering.

Vil du vide mere om teknologiens rolle i samfundet? Læs også om Kim Jong Uns datter sætter gang i spekulationer om Nordkoreas fremtid og de politiske konsekvenser.

Og for praktiske tips til at spare penge i hverdagen, kan du se vores artikel om regeringen sænker elafgiften sådan sparer du penge.

Konklusion

Historien om den 60-årige mand, der blev syg efter at følge ChatGPTs råd, er en vigtig påmindelse om både AI’s styrker og svagheder i sundhedssammenhæng. Kunstig intelligens kan være en værdifuld ressource, men den skal bruges med omtanke og aldrig som erstatning for professionel lægehjælp.

Ved at være kritisk, søge flere kilder og altid konsultere fagfolk kan man minimere risikoen for misforståelser og farlige fejltagelser. Fremtidens sundhedsvæsen vil med stor sandsynlighed inkludere AI, men det kræver ansvarlighed og oplysning for at sikre patienternes sikkerhed og velbefindende.