Illusjonen av kontroll: KI-risiko i norske virksomheter
Publisert
Kilde: Digi.no
Illusjonen av kontroll: KI-risiko i norske virksomheter
Ingress: Norske virksomheter står overfor en betydelig risiko knyttet til kunstig intelligens, ikke primært fra teknologien selv, men fra en falsk trygghetsfølelse rundt kontroll.
Utenlandsk forskning indikerer at mange organisasjoner tror de har god styring på sine KI-systemer. Virkeligheten er ofte at komplekse algoritmer og datastrømmer opererer uten full åpenhet, noe som skaper skjulte sårbarheter.
Dette gjelder spesielt for systemer som er utviklet utenfor organisasjonens egne rekker, eller som har utviklet seg organisk over tid. Manglende innsikt i hvordan data pre-prosessering, modellvalg og parametere påvirker resultatet, er en kritisk utfordring.
Risikoen for bias, uønskede utfall eller manglende etterlevelse av regelverk øker når kontrollen er illusorisk. Det handler om systemer som fatter beslutninger eller påvirker prosesser uten at menneskelige tilsyn og validering er tilstrekkelig garantert.
I Norge ser man en lignende trend. Bedrifter tar i bruk KI-løsninger for effektivisering og innovasjon, men dybdeforståelsen av teknologien og dens underliggende prosesser er ikke alltid til stede. Dette gjelder særlig for små og mellomstore bedrifter som kanskje mangler dedikerte ressurser til dyptgående teknisk analyse av tredjepartsløsninger.