En 60-årig mand endte med alvorlig forgiftning og tre ugers indlæggelse, efter at han fulgte et råd fra ChatGPT om at skifte bordsalt ud med et helt andet stof.
Historien, der stammer fra et medicinsk casestudie i American College of Physicians Journals, beskriver, hvordan manden ønskede at reducere sit indtag af natriumklorid for at forbedre sit helbred.
I stedet begyndte han – efter at have læst, at det kunne erstatte klorid – at indtage natiumbromid, et kemikalie, der i dag primært bruges til rengøring.
Natriumbromid var tidligere brugt i håndkøbsmedicin mod søvnløshed og angst, men blev udfaset i 1990’erne på grund af sammenhæng med alvorlige neurologiske og hudrelaterede sygdomme.
Langvarigt indtag kan føre til bromisme, en forgiftningstilstand med symptomer som paranoia, hallucinationer, hududslæt og kognitive forstyrrelser.
Ifølge rapporten udviklede manden både paranoia og syns- og hørehallucinationer.
"Han var meget tørstig, men paranoid over for vandet, han blev tilbudt," fremgår det ifølge mediet Mirror.
Da han blev indlagt, havde han brugt stoffet dagligt i tre måneder.
Han forklarede, at beslutningen var inspireret af hans tidligere studier i ernæring, og at han ønskede at lave et personligt eksperiment uden klorid i kosten.
Lægerne behandlede ham med vand og elektrolytter, hvorefter hans tilstand gradvist forbedredes.
Rapportens forfattere advarer om, at AI-systemer som ChatGPT kan komme med videnskabelige unøjagtigheder og ikke kan diskutere resultater kritisk.
OpenAI understreger selv i sine brugervilkår, at tjenesten ikke må bruges som erstatning for professionel rådgivning, og at svarene "ikke altid er nøjagtige".
