Anthropic lanserer AI-sikkerhetssystem med store teknologiselskaper
Publisert
Kilde: Digi.no
Anthropic lanserer AI-sikkerhetssystem med store teknologiselskaper
Ingress: KI-utvikleren Anthropic lanserer nå «Project Glasswing», et initiativ for å styrke sikkerheten rundt kunstig intelligens og forhindre misbruk. Store aktører i teknologibransjen har allerede sluttet seg til prosjektet.
Bakgrunn Anthropic har utviklet «Project Glasswing» som et rammeverk for å adressere bekymringer knyttet til sikker og ansvarlig bruk av kunstig intelligens. Initiativet fokuserer på metoder for å identifisere og redusere risikoen for at KI-systemer kan anvendes til skadelige formål, slik som spredning av feilinformasjon eller utvikling av cyberangrep.
Flere av verdens ledende teknologiselskaper er blant de første til å støtte initiativet. Dette tyder på en økende anerkjennelse innen bransjen for behovet for felles sikkerhetsstandarder og samarbeid for å håndtere de potensielle utfordringene som avansert KI medfører.
Norsk kontekst Selv om «Project Glasswing» er et internasjonalt initiativ, vil et økt fokus på AI-sikkerhet på globalt nivå sannsynligvis også påvirke norske teknologiselskaper og regulatoriske myndigheter. Norske bedrifter som utvikler eller tar i bruk KI, må forholde seg til lignende sikkerhetsstandarder for å sikre tillit og overholde fremtidige regelverk.
Den norske teknologinæringen og offentlig sektor vil kunne dra nytte av felles rammeverk som dette ved å få tilgang til beste praksis og verktøy for risikostyring. Det kan også legge føringer for diskusjoner rundt nasjonale strategier for ansvarlig KI-utvikling.