Nytt selskap vil sikre AI mot egne feil
Publisert
Kilde: TechCrunch
ZeroDrift sikrer AI-modeller med ny teknologi
Ingress: Startupen ZeroDrift har hentet inn 10 millioner dollar for å utvikle teknologi som skal forhindre at kunstig intelligens (AI) genererer feilaktig eller potensielt skadelig innhold. Løsningen plasserer seg mellom AI-modellen og sluttbrukeren for å kontrollere og korrigere utdata.
Utviklingen av stadig mer avanserte AI-modeller, spesielt innen språkmodeller som ChatGPT, medfører nye utfordringer knyttet til pålitelighet og etterlevelse av regelverk. Disse modellene kan uforvarende generere informasjon som er feil, partisk eller bryter med eksisterende lover og retningslinjer. ZeroDrift adresserer dette ved å bygge et mellomlag som filtrerer og «rydder opp» i AI-genererte svar før de presenteres for brukeren.
Målet er å skape en tryggere ramme for bruk av AI, særlig i regulerte bransjer hvor konsekvensene av feilinformasjon kan være betydelige. Selskapet fokuserer på å bygge tillit til AI-teknologi ved å minimere risikoen for at modellen «snakker med seg selv» eller produserer uønskede resultater som kan føre til juridiske eller omdømmemessige problemer.
Finansieringsrunden, som er ledet av Sequoia Capital, indikerer en sterk tro på potensialet i løsningen. Midlene skal brukes til produktutvikling, teamutvidelse og markedsintroduksjon av selskapets teknologi.
I Norge ser vi en økende interesse for AI innen både privat og offentlig sektor. Selskaper som banker og forsikringsselskaper utforsker muligheter for å integrere AI i kundeservice og interne prosesser. Samtidig øker også kravene til dataintegritet og regulatorisk etterlevelse, spesielt med nye EU-reguleringer som AI Act som nærmer seg full implementering. ZeroDrifts tilnærming kan derfor bli relevant for norske aktører som ønsker å anvende AI på en sikker og ansvarlig måte, uten å kompromittere med gjeldende lovverk.