Meta bruker AI for bildeanalyse av unge brukere
Publisert
Kilde: The Verge
Meta utforsker AI for bildeanalyse av unge brukere
Ingress: Sosiale medier-giganten Meta vurderer nye metoder for å beskytte mindreårige på sine plattformer, Facebook og Instagram. Selskapet tester kunstig intelligens (AI) for å analysere bildegeometri og identifisere bilder knyttet til barn.
Ifølge rapporter har Meta utviklet teknologi som bruker AI til å analysere ansiktsstrukturer på bilder. Målet er å kunne identifisere innhold der barn er gjenstand for uønsket oppmerksomhet eller utnyttelse. Teknologien fokuserer på ansiktets konturer og proporsjoner, snarere enn å gjenkjenne personen direkte. Dette kan potensielt gjøre det mulig å oppdage grooming-forsøk eller deling av ulovlig materiale uten å lagre identifiserende biometriske data.
Tilnærmingen skal være designet for å omgå personvernbekymringer knyttet til ansiktsgjenkjenning. Ved å analysere selve geometrien i bildet, mener Meta at de kan oppnå en viss grad av identifikasjon av upassende innhold relatert til barn, uten å kreve en database med spesifikke individers ansikter. Dette har vært et hett tema i diskusjoner rundt barns sikkerhet på nett, spesielt etter tidligere teknologiske tilnærminger som møtte betydelig motstand.
Selv om dette er en global utvikling fra Meta, har teknologien implikasjoner også for norske brukere. Diskusjoner om barns sikkerhet på sosiale medier er høyaktuelle i Norge. Det norske Datatilsynet følger tett med på hvordan teknologiselskaper samler inn og bruker personopplysninger, spesielt når det gjelder barn. En slik teknologi kan komme til å bli relevant for debatten om hvordan digitale plattformer kan og bør reguleres for å beskytte sårbare grupper.
Norske foreldre og barn som bruker Facebook og Instagram vil potensielt dra nytte av forbedret sikkerhet dersom teknologien implementeres. Det er likevel sannsynlig at norske myndigheter vil kreve klarhet i hvordan dataene behandles og hvilke personvernhensyn som tas, i tråd med GDPR og norsk lovgivning.