OpenAI-rettssak: Ekspert advarer mot AGI-kappløp
Publisert
Kilde: TechCrunch
Frykter AGI-kappløp: Kjente AI-forskere sår tvil om fremtidig utvikling
Ingress: Elon Musks søksmål mot OpenAI har brakt frem en sentral vitneforklaring fra Stuart Russell, en respektert forsker innen kunstig intelligens. Russell advarer mot et ukontrollert våpenkappløp mot kunstig generell intelligens (AGI) dersom ikke storskala AI-laboratorier reguleres strengere.
Bakgrunn Stuart Russell er professor i datavitenskap ved University of California, Berkeley, og en fremtredende skikkelse innen AI-forskning. Han har lenge vært en stemme for forsiktighet i utviklingen av avansert kunstig intelligens. Spesifikt i forbindelse med rettssaken anlagt av Elon Musk mot OpenAI, har Russell vitnet om sin bekymring for en potensiell eskalering av AGI-utviklingen.
Hans argumentasjon fokuserer på faren for et globalt «kappløp» mellom nasjoner og selskaper for å oppnå AGI først. Et slikt kappløp kan, ifølge ham, føre til at sikkerhetshensyn blir nedprioritert til fordel for hastighet. Han sammenligner situasjonen med atomvåpenkappløpet, hvor spredning av teknologi og mangel på ekstern kontroll økte den globale risikoen betydelig.
Russell mener at dagens utviklingstakt i «frontier AI labs», som OpenAI, krever en form for ekstern overvåking og styring. Han peker på at disse laboratoriene opererer med en betydelig grad av autonomi, og at konsekvensene av deres arbeid er av en slik natur at de krever et bredere samfunnsmessig rammeverk.
Hans vitnesbyrd understreker et synspunkt som også deles av andre i forskningsmiljøet: at utviklingen av AGI ikke utelukkende bør styres av kommersielle eller nasjonale interesser, men også av hensyn til global sikkerhet og stabilitet.