Anthropic opplever ubehagelig måned
Publisert
Kilde: TechCrunch
Ingress: AI-selskapet Anthropic har rapportert om uventede tekniske feil ved to anledninger denne uken. Hendelsene har ført til midlertidige driftsavbrudd og påfølgende undersøkelser.
Anthropic, en ledende aktør innen utvikling av avanserte AI-modeller, har hatt en turbulent start på måneden. Selskapet bekreftet tirsdag at en utilsiktet handling fra en ansatt førte til at en feilaktig respons ble generert av deres AI-system. Dette skjedde bare dager etter en lignende hendelse.
Den første hendelsen involverte angivelig en feilkonfigurert oppdatering som påvirket tilgangen til modellen og forårsaket uventet oppførsel. Den andre hendelsen, som fant sted senere i uken, beskrives som en menneskelig feil som førte til en feilaktig respons fra AI-en. Detaljene rundt den nøyaktige årsaken til den siste feilen er foreløpig sparsomme.
Disse hendelsene understreker de operative utfordringene som følger med utvikling og drift av komplekse AI-systemer, og nødvendigheten av robuste sikkerhetsrutiner.
Selv om Anthropic opererer internasjonalt, har utviklingen av pålitelig og sikker kunstig intelligens betydning også for Norge. Norske virksomheter utforsker stadig mulighetene med AI i alt fra kundebehandling til forskning og utvikling. Slike hendelser minner om viktigheten av grundige tester, sikkerhetsprotokoller og menneskelig overvåking, også når AI-teknologi implementeres i norsk næringsliv.
Anthropic har uttalt at de gjennomgår sine interne prosesser for å forhindre gjentakelse av slike feil. Selskapet vil sannsynligvis styrke sine sikkerhetstiltak og overvåkingsprosedyrer for å sikre stabiliteten og påliteligheten til sine AI-modeller. Utfordringene kan potensielt påvirke tilliten til selskapets produkter og dets evne til å tiltrekke seg nye kunder og partnere i det konkurranseutsatte AI-markedet.