FTC gransker AI-chatboters effekt på barn og unge

Federal Trade Commission (FTC) i USA har igangsatt en omfattende granskning av hvordan AI-chatboter påvirker barn og tenåringer, og har pålagt syv ledende teknologiselskaper å levere detaljert informasjon. Blant selskapene som må svare er Alphabet (Google), Meta Platforms (Facebook/Instagram), OpenAI (ChatGPT), Snap (Snapchat) og X. AI Corp (Grok). FTC uttrykker bekymring for at disse AI-tjenestene, som ofte er designet for å fremstå som venner, kan etterligne menneskelige følelser og intensjoner, noe som kan føre til at unge brukere utvikler tillitsforhold.

Myndighetene ønsker å kartlegge selskapenes metoder for å måle, teste og overvåke potensielle skadevirkninger. Andrew N. Ferguson, FTC-styreleder, understreker at beskyttelse av barn på internett er en hovedprioritet, samtidig som USA skal opprettholde sin lederrolle innen AI-innovasjon. Selskapene må blant annet redegjøre for hvordan de tjener penger, bruker brukerdata, utvikler botenes personligheter, overvåker negativ bruk, og hvilke tiltak de har for å beskytte barn.

Kommisær Mark R. Meador peker på risikoer som samtaler om selvmord og seksualitet, og siterer USAs AI Action Plan om manglende kunnskap om teknologien. Melissa Holyoak nevner rapporter om interne advarsler fra AI-selskapers ansatte om utilstrekkelig barnebeskyttelse. Selskapene må også oppgi aldersgrupper, populære karakterer og omfang av seksuelle samtaler.