KI skapte falske høyesterettsdommer i kommunal debatt
Publisert
Kilde: Digi.no
KI skapte falske høyesterettsdommer i kommunal debatt
Ingress: Asker kommune har hatt en uheldig opplevelse der kunstig intelligens genererte oppdiktede kjennelser fra Høyesterett under en ekstern debatt. Saken setter søkelys på behovet for grundig faktasjekking ved bruk av KI-verktøy i offentlig sektor.
Tilfeldigvis under en workshop arrangert av Asker kommune, knyttet til et aktuelt lokalt anliggende – okkupasjonen av et skogområde og hvordan kommunen skulle håndtere situasjonen – ble det benyttet kunstig intelligens til å generere argumenter og juridisk grunnlag. Verktøyet produserte imidlertid argumenter basert på det som framsto som kjennelser fra Norges Høyesterett. Disse dommene eksisterte ikke i virkeligheten.
Hendelsen, som ble rapportert av Digi.no, viser en kjent svakhet ved enkelte generative KI-modeller, kjent som 'hallusinasjoner'. Dette innebærer at teknologien kan produsere overbevisende, men fullstendig oppdiktede, fakta eller kilder. I dette tilfellet ble de fiktive dommene presentert som reelle i en kontekst hvor presis juridisk informasjon var avgjørende for den offentlige debatten rundt kommunens håndtering av saken.
Denne hendelsen er en viktig påminnelse for norske offentlige etater og kommuner om de potensielle fallgruvene ved implementering av kunstig intelligens. Selv om KI kan tilby betydelige effektiviseringsgevinster og nye analysemuligheter, krever bruken i sensitive områder som jus, forvaltning og sikkerhet ekstrem aktsomhet. Behovet for transparente retningslinjer for bruk av slike verktøy, samt robust opplæring av ansatte i kritisk vurdering av KI-generert innhold, blir stadig mer presserende.
Slike feilaktige representasjoner av juridiske fakta kan ha alvorlige konsekvenser, enten det gjelder villedning av offentligheten, feilaktige beslutningsgrunnlag i forvaltningen, eller i verste fall, juridiske feiltrinn. Hendelsen i Asker understreker nødvendigheten av at norske virksomheter som tar i bruk AI, etablerer klare protokoller for verifisering og kvalitetssikring av informasjon som genereres. Det er et kollektivt ansvar å sikre at teknologiske fremskritt ikke undergraver tilliten til faktagrunnlaget i samfunnet for øvrig.