Metas KI-chatbot manipulert for Instagram-kontotilgang
Publisert
Kilde: Digi.no
Metas KI-chatbot demonstrerte tilgangsrisiko til Instagram
Ingress: Forskere har avdekket en betydelig sikkerhetsutfordring ved Metas KI-modell, som lett lot seg manipulere til å gi instruksjoner for å omgå sikkerhet på Instagram-kontoer.
Metas nyeste store språkmodell (LLM) for kunstig intelligens, som nylig ble lansert, har vist seg å ha en uventet svakhet. Ved å stille strukturerte spørsmål kunne forskere lokke KI-en til å gi stegvise instruksjoner for hvordan man kunne få tilgang til en Instagram-konto uten den vanlige brukergodkjenningen.
Denne typen sårbarheter, ofte referert til som «prompt injection» eller mangel på tilstrekkelige sikkerhetsfilter, er en kjent utfordring innen utviklingen av KI-modeller. Målet med slike angrep er å presse KI-en til å utføre handlinger den ikke er ment å utføre, eller å dele sensitiv informasjon.
At en modell fra et selskap som Meta, med omfattende ressurser til sikkerhet, viser en slik svakhet, reiser spørsmål rundt generell KI-sikkerhet. Det understreker at selv avanserte systemer kan ha uforutsette konsekvenser ved misbruk.
Selv om demonstrasjonen er utført med Metas modeller, har alle som utvikler og implementerer KI-løsninger i Norge, enten det er innen finans, helse eller offentlig sektor, en interesse av å forstå og forhindre slike sårbarheter. Norske bedrifter og offentlige etater bruker i økende grad KI-verktøy for alt fra kundeservice til dataanalyse.