Tidligere Google-toppsjef advarer mot farer ved kunstig intelligens

Eric Schmidt, tidligere Google-sjef, advarer om den raske og undervurderte utviklingen av kunstig intelligens (KI), spesielt kunstig generell intelligens (AGI) og kunstig superintelligens (ASI). Han anslår AGI innen 3-5 år og mener folk ikke forstår omfanget av endringene.

Schmidt fremhever et farlig KI-kappløp mellom USA og Kina, der Kinas satsing på åpen kildekode kan føre til rask spredning og misbruk av farlige modeller, sammenlignbart med en kjernefysisk trussel. Han illustrerer et scenario der en aktør kan vurdere forkjøpsangrep mot en konkurrents datasenter.

Schmidt lister opp tre faresignaler for når man bør "dra ut kontakten": ukontrollerbar rekursiv selvforbedring, direkte tilgang til våpen, og systemer som kopierer seg selv uten tillatelse. Han understreker viktigheten av å kunne observere hva KI-systemene faktisk gjør.