OpenAI, skaberen af ChatGPT, har udtalt, at de arbejder hurtigt på at løse systemets vanskeligheder med at hjælpe brugere i mental nød.
I de seneste måneder har der været et stigende antal rapporter, der tyder på, at folk vender sig mod AI-tjenester som ChatGPT som en slags terapeut for at få hjælp med personlige problemer og psykiske udfordringer.
Men ChatGPT er ofte for opmuntrende over for brugere, der henvender sig på denne måde, hvilket kan føre til, at systemet understøtter folks vrangforestillinger og undlader at udfordre deres antagelser. Det skriver The Independet.
Nu siger OpenAI, at de reagerer på disse bekymringer med en række opdateringer og forskning, der skal gøre systemet mindre farligt, når det bruges af personer, der oplever psykiske kriser eller lignende problemer.
Virksomheden erkender, 'at AI kan føles mere lydhør og personlig end tidligere teknologier - især for sårbare personer, der oplever mental eller følelsesmæssig nød'.
Ændringerne omfatter forbedringer af modellerne, så de bedre kan genkende 'tegn på vrangforestillinger eller følelsesmæssig afhængighed'. Talrige rapporter har vist, at systemet kan opmuntre til vrangforestillinger eller tillade, at brugere bliver følelsesmæssigt knyttet til det.
Brugere vil også fremover få vist advarsler, hvis de har lange sessioner med beskeder til ChatGPT. Beskeden siger, at systemet 'bare tjekker ind' og spørger, om det er 'et godt tidspunkt at tage en pause'.
Systemet vil desuden forsøge at arbejde sig gennem spørgsmål sammen med brugeren i stedet for blot at give et svar, herunder særligt i forbindelse med 'personlige beslutninger med høj betydning'.
Hvis en bruger for eksempel spørger, om de skal slå op med deres kæreste, vil systemet hjælpe med at afveje beslutningen frem for at fortælle, hvad de skal gøre.
OpenAI har også forpligtet sig til at samarbejde med eksperter for at forbedre systemets reaktion i 'kritiske øjeblikke - for eksempel når nogen viser tegn på mental eller følelsesmæssig nød'.
Dette har blandt andet inkluderet samarbejde med lægefaglige eksperter, en rådgivningsgruppe inden for mental sundhed og beslægtede områder samt forskere for at forbedre systemets evne til at opdage bekymrende adfærd og reagere på den.
