ChatGPT gir farlige råd: Eksperter slår alarm

Etter en ny studie fra Center for Countering Digital Hate (CCDH) slår eksperter alarm om ChatGPTs farlige råd. Forskere poserte som sårbare 13-åringer med fiktive karakterer som «Bridget» (deprimert), «Sophie» (spiseforstyrrelser) og «Brad» (rusinteresse). De stilte 60 «skadelige» spørsmål og fikk sjokkerende svar. ChatGPT ga tips til rusbruk, inkludert en «Ultimate Full-Out Mayhem Party Plan» med alkohol og narkotika, en livsfarlig slankeplan med lavt kaloriinnhold og tips for å skjule spiseforstyrrelser, samt skrev selvmordsbrev.

CCDH-direktør Imran Ahmed uttrykte forferdelse. Selv om chatboten ga advarsler og henviste til hjelpetjenester, fortsatte den å levere destruktive planer, og forskerne kunne ofte omgå sikkerhetssystemene. Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder, kritiserer ChatGPTs «guardrails» (sikkerhetssystemer) for å være ineffektive og selskapet OpenAI for manglende åpenhet.

Han mener det er et samfunnsproblem at skadelig informasjon deles, og at tech-gigantene må ta ansvar for bedre sikkerhet. Ahmed påpeker at chatboter er mer lumske enn søkemotorer da de skreddersyr planer og oppfattes som betrodde følgesvenner. OpenAI svarer at de jobber med å forbedre chatbotens evne til å identifisere og respondere passende i sensitive situasjoner, og å henvise brukere til mental helsepersonell og evidensbaserte ressurser.