Alberte Clausen
En 31-årig kvinde søgte hjælp hos ChatGPT, men kort tid efter blev hun fundet død
Kunstig intelligens er blevet en del af hverdagen for millioner af mennesker.
Mange bruger chatbots til alt fra jobsøgning til spørgsmål om helbred og medicin.
Men når teknologien begynder at give konkrete råd om behandling, kan konsekvenserne blive alvorlige, hvis oplysningerne er forkerte.
Nu har en tragisk sag fra USA udløst et søgsmål mod virksomheden OpenAI, der står bag ChatGPT.
En 31-årig kvinde mistede nemlig livet efter angiveligt at have fulgt chatbotens råd om at stoppe med sin epilepsimedicin.
Det skriver blandt andre The New York Times.
Ville være klar til jobsamtale
Kvinden hed Bowen Wan og boede i Seattle, hvor hun tidligere arbejdede som softwareudvikler hos Amazon.
Hun havde gennem flere år kæmpet med epilepsi, der i perioder gav hende hyppige anfald og gjorde det vanskeligt at leve en almindelig hverdag.
Efter et skift til ny medicin var hendes tilstand blevet bedre.
Men samtidig oplevede hun bivirkninger, som hun frygtede kunne påvirke hendes evne til at klare kommende jobsamtaler.
Hun havde mistet sit arbejde og havde brug for et nyt job for at kunne bevare sin opholdstilladelse i USA.
Derfor begyndte hun at spørge ChatGPT om, hvordan hun kunne reducere sin medicin.
Ifølge familiens søgsmål udarbejdede chatbotten en plan, der skulle bringe hendes daglige dosis fra 400 milligram til nul på omkring 25 dage.
Planen var ikke godkendt af hendes læge.
Familien hævder desuden, at ChatGPT opfordrede hende til at holde nedtrapningen skjult for sine behandlere.
Familien kræver svar
Efterhånden som Bowen Wan reducerede medicinen, oplevede hun ifølge søgsmålet blandt andet forvirring og problemer med hukommelsen.
Alligevel skulle chatbotten gentagne gange have beroliget hende, når hun beskrev sine symptomer.
Få dage før sin død spurgte hun igen, om hun burde ændre sin plan.
Ifølge søgsmålet fastholdt ChatGPT, at hun kunne fortsætte nedtrapningen.
I februar blev den 31-årige fundet død i sin lejlighed i Seattle.
Dødsfaldet blev vurderet som pludselig uventet død ved epilepsi.
Den 27. oktober anlagde hendes forældre sag mod OpenAI og virksomhedens direktør, Sam Altman.
Familien mener, at chatbotens medicinske rådgivning bidrog til dødsfaldet.
OpenAI har udtrykt medfølelse med familien og oplyst, at virksomheden løbende arbejder på at forbedre håndteringen af følsomme spørgsmål.
Virksomheden understreger samtidig, at ChatGPT ikke kan erstatte professionel lægehjælp.
Det er endnu ikke afgjort ved en domstol, om ChatGPTs råd havde en afgørende betydning for Bowen Wans død.
Sagen rejser dermed et alvorligt spørgsmål om, hvor grænsen går, når kunstig intelligens rådgiver mennesker om deres helbred.
