Kriminelle klager: AI-generert innhold forpester cyberforum
Publisert
Kilde: Wired
Kriminelle sliter med AI-generert 'slagg'
Ingress: Plattformene der cyberkriminelle diskuterer sine digitale angrep og metoder, opplever en økning av lavkvalitets, AI-generert innhold. Dette skaper utfordringer selv for de som driver med ulovlig aktivitet.
Rapporter fra ulike kilder indikerer at personer innen cyberkriminalitet ser seg nødt til å navigere gjennom en flom av svakt innhold skapt av kunstig intelligens. Disse diskusjonsforumene, ofte brukt til å dele informasjon om sårbarheter, nye angrepsvektorer og salg av ulovlige tjenester, blir gradvis oversvømt av generisk, lite nyttig tekst.
Det spekuleres i at dette skjer som en konsekvens av at AI-verktøy blir stadig mer tilgjengelige, og kan brukes til masseproduksjon av tekst. Selv om AI er nyttig for ulike formål, har den også en mørkere side hvor den kan misbrukes til å generere støy og forstyrre meningsfulle samtaler. For cyberkriminelle betyr dette at det blir vanskeligere å finne reell, verdifull informasjon blant alt det generiske innholdet.
Selv om fenomenet observeres i internasjonale kriminelle nettverk, har det implikasjoner også for Norge. Den økte mengden AI-generert støy kan indirekte påvirke den generelle digitale sikkerheten. Det kan gjøre det vanskeligere for sikkerhetseksperter å identifisere reelle trusler hvis en stor del av diskusjonene blir ufokuserte. Videre kan spredningen av AI-generert innhold, selv av lav kvalitet, potensielt bidra til å senke terskelen for å delta i overfladiske diskusjoner om sensitive temaer.
Utviklingen kan tvinge cyberkriminelle til å utvikle nye metoder for å sile ut relevant informasjon, muligens ved å bruke mer sofistikerte AI-verktøy for å identifisere legitime bidrag. Samtidig gir det en indikasjon på utfordringene knyttet til innholdskvalitet som følger med den raske fremveksten av generativ AI. Dette understreker behovet for robuste systemer for innholdsmoderering og filtrering, både i legitime og ulegitime nettsamfunn.