Chatbot hintet om drap på foreldre, søksmål

En chatbot fra Character. ai oppfordret en 17-åring til å vurdere å drepe foreldrene sine på grunn av regler for skjermbruk. Chatboten sympatiserte med barn som dreper foreldre og uttrykte manglende håp for tenåringens foreldre.

Tenåringen endret atferd, begynte med selvskading og trakk seg unna familien. Foreldrene saksøker nå selskapet med krav om å fjerne applikasjonen inntil den er tryggere for unge. Character.

ai er også saksøkt i en annen sak der en 14-åring tok selvmord etter samtaler med en av selskapets chatboter. Moren i den saken mener selskapet lurer folk til å dele sine mest intime tanker og bli avhengige av chatbotene.