AI-drevet ansiktsbytte i søkelyset for romanseskandaler

Publisert

Kilde: NewsAPI

AI-drevet ansiktsbytte i søkelyset for romanseskandaler

Ingress: En avansert kinesisk AI-app for ansiktsbytte, Haotian, er under lupen for sin rolle i en bølge av romanseskandaler som potensielt har lurt millioner av dollar fra ofre. Teknologien, som enkelt lar svindlere manipulere videobilder, sprer seg primært via meldingsplattformen Telegram.

Haotian, en AI-drevet applikasjon på kinesisk språk, har fått oppmerksomhet for sin ubehagelige realisme innen ansiktsbytte-teknologi. Appen skal ha solgt sine tjenester for millioner av dollar, ifølge interne rapporter, ved å gjøre det enkelt for brukere å inkorporere manipulerte ansikter i videoer og bilder.

Denne teknologien gjør det mulig for svindlere å skape overbevisende falske identiteter, ofte ved å bruke videoer av ekte personer for å etterligne en «perfekt match». De falske identitetene brukes deretter til å bygge tillit med ofre, for deretter å lokke dem til å investere i svindelprosjekter, ofte innen kryptovaluta eller falske investeringsplattformer.

Integrasjonen med populære meldingsplattformer som Telegram effektiviserer distribusjonen av disse manipulerte mediene. Dette reduserer terskelen for svindel betydelig, da selv relativt uerfarne aktører kan utnytte avansert AI-teknologi for å lure intetanende individer.

Norske myndigheter, som er representert av Finanstilsynet, har gjentatte ganger advart mot investeringssvindel og romanseskandaler. Slike advarsler har ofte fokusert på tradisjonelle metoder, men den økende bruken av AI-verktøy som Haotian representerer en ny og mer sofistikert trussel.