AI-selskaper slår seg sammen for å styrke cybersikkerhet
Publisert
Kilde: Wired
AI-selskaper slår seg sammen for å styrke cybersikkerhet
Ingress: Ledende aktører innen kunstig intelligens, inkludert teknologigiganter som Apple og Google, har gått sammen om et initiativ for å adressere økende bekymringer knyttet til AI-drevet cybersikkerhet. Målet er å utforske og utvikle metoder for å forhindre at avanserte AI-systemer misbrukes.
Bakgrunn AI-forskningsselskapet Anthropic, kjent for sine store språkmodeller som Claude, står bak prosjektet «Glasswing». Dette initiativet samler over 45 forskjellige organisasjoner, et bredt spekter av teknologiselskaper, forskningsinstitusjoner og også statlige aktører. Hensikten er å etablere en mer robust tilnærming til sikkerhet og risikostyring innenfor utviklingen av stadig kraftigere AI-modeller.
Prosjektet vil benytte seg av en ny forhåndsvisningsversjon av Anthropic sin modell, kalt «Claude Mythos Preview». Denne modellen er spesielt utviklet for å teste og evaluere sikkerhetsmekanismer i AI-systemer. Ved å simulere realistiske trusselscenarier, håper deltakerne å identifisere potensielle sårbarheter og utvikle motstrategier før disse teknologiene blir bredt tilgjengelige.
Samarbeidet tar sikte på å adressere utfordringer som spenner fra identifisering av sikkerhetsfeil i AI-modeller til utvikling av verktøy for å beskytte mot AI-genererte cyberangrep. Bekymringen er at sofistikerte AI-systemer potensielt kan utnyttes til å automatisere og forbedre gjennomføringen av alt fra phishing-kampanjer til mer komplekse cyberangrep som kan være vanskelige å oppdage.
Norsk kontekst Selv om prosjektet er internasjonalt, har det implikasjoner for Norge. Norske teknologiselskaper, offentlige etater og forskningsmiljøer jobber også med integrering av AI i ulike sektorer. En økt global standard for AI-sikkerhet vil kunne påvirke hvordan norske aktører må forholde seg til AI-utvikling og implementering, spesielt innenfor sensitiv infrastruktur og datahåndtering.