Menneskelig kontroll av KI: Er prinsippet en sovepute?

Publisert 2026-04-06

Ingress: Norsk politikk for kunstig intelligens har et sterkt fokus på prinsippet om menneskelig kontroll. Ny forskning indikerer imidlertid at denne kontrollen i praksis kan være mer formell enn reell, og at norske erfaringer kan berikes ved å se til utlandet.

Det fremherskende prinsippet i utviklingen og implementeringen av kunstig intelligens (KI) i mange land, inkludert Norge, er at mennesker til enhver tid skal ha en form for overordnet kontroll over systemene. Dette skal sikre at KI brukes etisk, sikkert og i tråd med samfunnets verdier. Tanken er at mennesker skal kunne gripe inn, korrigere eller stoppe KI-systemer ved behov.

Forskning publisert i vitenskapelige tidsskrifter utfordrer imidlertid ideen om at deklarert menneskelig kontroll automatisk fører til faktisk kontroll i komplekse og dynamiske KI-miljøer. Studier antyder at operatører kan bli for avhengige av systemets anbefalinger, utvikle «operatørblindhet» eller rett og slett mangle den tekniske innsikten til å effektivt vurdere og overstyre KIens handlinger.

Situasjoner der et KI-system opererer raskt, eller der beslutningsprosessene er ugjennomsiktige («black box»), forsterker disse utfordringene. Dette skaper en potensiell fare for at prinsippet om menneskelig kontroll blir en «sovepute», der man tror kontrollen er ivaretatt uten at den reelt sett er det.

Norge, som har ambisjoner om å være ledende innen ansvarlig bruk av teknologi, bygger sin nasjonale KI-strategi og regulatoriske rammeverk på nettopp dette prinsippet om menneskelig kontroll. Virksomheter som utvikler eller tar i bruk KI, inkludert offentlig sektor, forventes å designe systemer med innebygde mekanismer for menneskelig overvåkning og intervensjon.