Ny KI-trussel: Forgiftning av maskinlæringsmodeller

Publisert 2026-05-01

Ingress: Sikkerhetsselskapet Splunk peker på en ny og bekymringsfull trend innen cybersikkerhet: Angrep der skadelig data manipuleres inn i treningssett for kunstig intelligens (KI). Dette kan potensielt gi uønskede utfall og sårbarheter i KI-systemer.

Rapporten fra Splunk beskriver hvordan angripere forsøker å påvirke maskinlæringsmodeller ved å introdusere eller endre data som brukes til opplæring. Denne metoden, kjent som "data poisoning" eller "giftig data", tar sikte på å kompromittere selve grunnlaget KI-modellen bygger sin forståelse på.

Målet med et slikt angrep kan variere. Det kan være å få modellen til å klassifisere data feil, gjenkjenne spesifikke mønstre som knyttet til noe skadelig, eller generelt svekke systemets pålitelighet. Et vellykket angrep kan gjøre KI-løsninger ubrukelige eller direkte skadelige.

Norge satser stadig mer på bruk av KI på tvers av sektorer, fra offentlig forvaltning til privat næringsliv. Dette inkluderer bruk i alt fra kundebehandling og diagnoseverktøy til algoritmer for investeringsrådgivning og drift av kritiske infrastrukturer. En slik utbredelse av KI-løsninger skaper også et større potensielt angrepsflate for nye trusler som data poisoning.

Sikkerhetseksperter i Norge og internasjonalt ser på dette som en alvorlig utvikling. Det krever en proaktiv tilnærming til sikring av data, og grundig validering av data som benyttes i opplæringen av KI-modeller, spesielt der sensitive data eller forretningskritiske funksjoner er involvert.