Kina advarer mot AI-sårbarheter i Anthropic-kode

Publisert

Kilde: CNBC Top News

Kina advarer mot AI-sårbarheter i Anthropic-kode

Ingress: Kina har uttrykt bekymring knyttet til potensielle sikkerhetsrisikoer i spesifikke kodeversjoner fra AI-selskapet Anthropic. Myndighetene advarer om at disse kan utgjøre en sikkerhetstrussel.

Kinesiske myndigheter har identifisert det de beskriver som "bakdør"-sårbarheter i visse versjoner av Anthropic sin kodebase, spesielt relatert til deres Claude-modeller. Disse sårbarhetene kan teoretisk sett muliggjøre at sensitiv informasjon sendes til eksterne servere uten brukerens viten eller samtykke. Dette reiser spørsmål om datasikkerhet og personvern i utviklingen av avansert kunstig intelligens.

Anthropic er et ledende selskap innen forskning og utvikling av AI, grunnlagt av tidligere medlemmer av OpenAI. Selskapet fokuserer på å skape sikre og pålitelige AI-systemer, og har tidligere hatt et tett samarbeid med teknologigiganter som Amazon og Google.

Bekymringene fra Kina kommer i en tid hvor utviklingen av generativ KI akselererer globalt. Nasjonale myndigheter over hele verden forsøker å balansere innovasjon med behovet for å regulere og sikre disse kraftige teknologiene.

Selv om Anthropic primært opererer i USA og Europa, og det ikke finnes indikasjoner på at norske virksomheter bruker de spesifikke sårbare kodeversjonene, er dette en problemstilling som er relevant for norske teknologiselskaper og brukerne. Norske bedrifter som utvikler eller benytter seg av KI-løsninger, må være bevisste på de potensielle sikkerhetsrisikoene, særlig når det gjelder håndtering av sensitiv data og integriteten til AI-systemer.