Facebooks inntog i AI-drevet innholdsmoderering
Publisert
Kilde: TechCrunch
AI-styrt innholdsmoderering: Moonbounce sikrer finansiering for neste generasjon
Ingress: Teknologiselskapet Moonbounce, grunnlagt av tidligere ansatte fra Facebook, har hentet 12 millioner dollar for å utvikle sin plattform for AI-drevet innholdsmoderering. Målet er å omsette komplekse retningslinjer til forutsigbar AI-atferd.
I takt med den økende digitale kommunikasjonen, har behovet for effektiv og skalerbar innholdsmoderering eksplodert. Store sosiale medieplattformer og andre digitale tjenester står overfor utfordringen med å identifisere og håndtere uønsket innhold i sanntid, fra hatytringer til desinformasjon. Dette har ført til en økende avhengighet av kunstig intelligens (AI) for å automatisere deler av prosessen.
Moonbounce tar dette et skritt videre ved å utvikle et "kontrollmotor" for AI. Denne teknologien skal gjøre det mulig å oversette organisasjoners etablerte retningslinjer for innholdsmoderering til konkrete, maskinlesbare instruksjoner. Hensikten er å sikre at AI-systemene som brukes til å vurdere innhold, opererer konsekvent og forutsigbart i henhold til disse retningslinjene.
Finansieringsrunden på 12 millioner dollar ledes av investorer som anerkjenner potensialet i denne tilnærmingen. Selskapet begrunner behovet med at tradisjonell moderering knapt holder tritt med veksten i digitalt innhold og den økende kompleksiteten i onlinetrusler.
Selv om Moonbounce opererer internasjonalt, er problemstillingen høyst relevant for Norge. Norske mediehus, nettplattformer og offentlige etater som håndterer digitale kanaler, står overfor lignende utfordringer knyttet til moderering av brukergenerert innhold. Debatten om ytringsfrihet versus behovet for å fjerne skadelig innhold er pågående også her til lands.