Big Tech åpner for AI-modelltilsyn fra myndigheter
Publisert
Kilde: The Verge
Store teknologiselskaper vil gi myndigheter innsyn i ny KI-teknologi
Ingress: Google, Microsoft og Elon Musks xAI har inngått en avtale om å la amerikanske myndigheter gjennomgå sentrale, nye KI-modeller. Dette tiltaket er ment å ivareta nasjonal sikkerhet.
Foreløpig gjelder avtalen for de mest avanserte KI-modellene under utvikling hos de tre selskapene. Hensikten er å gi myndighetene mulighet til å vurdere potensielle sikkerhetsrisikoer knyttet til disse kraftige teknologiene. Innsynet vil være begrenset til spesifikke modeller og vil skje før de eventuelt lanseres bredt.
Beslutningen kommer etter økende bekymring i amerikanske politiske kretser for at avansert KI kan misbrukes til skadelige formål, enten det gjelder desinformasjon, cyberangrep eller utvikling av autonome våpen. Initiativet representerer et nyttig samarbeid mellom privat sektor og myndigheter for å balansere innovasjon med samfunnssikkerhet.
Selv om avtalen er amerikansk, vil utviklingen av mer transparente KI-modeller og myndighetenes økte innsynsrett potensielt påvirke globale standarder. Norske aktører innenfor teknologi og finans som benytter eller utvikler KI, vil måtte forholde seg til de etablerte retningslinjene og den økende globale reguleringsiveren. Potensialet for fremtidige EU- eller norske reguleringer basert på lignende prinsipper kan derfor øke.
Avtalen kan sette en presedens for hvordan KI-utvikling reguleres internasjonalt. Den kan bidra til en økt tillit til KI-teknologi ved å vise at utviklere tar sikkerhetsspørsmål på alvor. Samtidig kan det innebære utfordringer for konkurransen og innovasjonstakten, da selskapene må investere mer i intern gjennomgang og risikovurdering før lansering, og potensielt dele innsikt som ellers ville vært proprietær.