AI-deepfakes: Kvinner ofre for salg av falsk porno
Publisert
Kilde: MIT Technology Review
AI-deepfakes: Kvinner ofre for salg av falsk porno på teknologiplattform
Ingress: En fersk studie avdekker at plattformen Civitai, som finansieres av giganten Andreessen Horowitz, har muliggjort salg av spesialiserte AI-verktøy for å skape pornografiske deepfakes av kvinner. Dette reiser alvorlige spørsmål rundt etikk og personvern, og setter press på teknologiselskaper til å ta større ansvar.
Bakgrunn Forskere fra Stanford og Indiana University har analysert «bounties» – forespørsler om innhold – på Civitai mellom midten av 2023 og slutten av 2024. De fant at en betydelig andel av disse forespørslene handlet om deepfakes av ekte personer, hvorav hele 90% var rettet mot kvinner.
Civitai er en markedsplass hvor brukere kan kjøpe og selge AI-generert innhold. Plattformen tillater salg av såkalte LoRAs, instruksjonsfiler som kan lære AI-modeller som Stable Diffusion å generere innhold de ikke er trent for, ofte av grov og seksuell natur. Over 86% av deepfake-forespørslene gjaldt slike LoRAs.
Forespørslene omfattet kjente offentlige personer som influenceren Charli D'Amelio og sangeren Gracie Abrams, med tilhørende lenker til sosiale medier for bildereferanser. Noen forespørsler spesifiserte detaljer som kroppstype, tatoveringer eller hårfarge, og i ett tilfelle ble det bedt om en deepfake av brukerens egen kone.
Norsk kontekst Problemstillingen med deepfakes og misbruk av personbilder er svært relevant også i Norge. Ifølge Datatilsynet er det ulovlig å manipulere bilder eller videoer av personer for å fremstille dem i en seksuelt krenkende kontekst uten deres samtykke. Økende tilgang på AI-verktøy gjør at dette krever ytterligere oppmerksomhet fra tilsynsmyndigheter og norske teknologiselskaper. Flere norske plattformer jobber aktivt for å forhindre spredning av slik ulovlig innhold, og denne internasjonale utviklingen vil sannsynligvis føre til strengere regler også i Norge, slik eksempelvis BankID krever streng innloggingsautentisering for å hindre ID-tyveri.