Googles AI gransker og avdekker Deepfake-bilder
Publisert
Kilde: TechCrunch
Googles AI-verktøy avslører manipulerte bilder
Ingress: Et forskningsprosjekt fra Google har utviklet en ny AI-modell som med høy presisjon kan identifisere deepfake-bilder. Dette markerer et viktig skritt i kampen mot digital desinformasjon.
Teknologiselskapet Google har avduket et nytt system for å oppdage deepfake-bilder, som er bilder eller videoer manipulert ved hjelp av kunstig intelligens. Systemet ble nylig brukt til å avsløre et falskt bilde av den amerikanske senatoren Mitch McConnell, som angivelig ble funnet i en prekær tilstand på sykehus. Bildet ble raskt identifisert som en AI-generert forfalskning.
Utviklingen skjer i en tid hvor generative AI-modeller blir stadig mer sofistikerte og tilgjengelige. Dette øker potensialet for misbruk, der manipulerte medier kan brukes til å spre falske nyheter, påvirke opinionen eller skade enkeltpersoners omdømme. Googles forskning fokuserer på å analysere subtile spor i bildematerialet som et menneske ikke lett kan oppfatte.
Modellen fra Google er trent opp på et stort datasett av både ekte og manipulerte bilder. Ved å studere mønstre og uregelmessigheter som AI-generering ofte etterlater seg, kan systemet kategorisere nye bilder som enten autentiske eller sannsynligvis manipulerte.
Disse fremskrittene innen AI-deteksjon får relevans også for Norge. Som et samfunn med høy digitalisering og et aktivt mediebruk, er vi potensielt sårbare for spredning av deepfake-innhold. Dette kan påvirke alt fra politiske valgkamper til tilliten til journalistikk og offentlig debatt.