KI-modeller svekkes i lange samtaler
Publisert
Kilde: Digi.no
Ingress: Forskning fra Microsoft antyder at store språkmodeller, som ligger til grunn for mange nye KI-tjenester, kan bli mindre nøyaktige og konsistente etter hvert som samtaler med dem forlenges. Dette kan påvirke brukeropplevelsen og påliteligheten av KI-generert informasjon.
En ny studie gjennomført av Microsoft, publisert på deres forskningsforum, har avdekket et interessant fenomen knyttet til ytelsen til store språkmodeller (LLM). Studiens funn tyder på at etter en viss lengde på samtalen, begynner modellene å produsere svakere response. Dette gjelder potensielt flere av de ledende KI-modellene som anvendes i dag.
Fenomenet, som forskerne kaller 'degradation', innebærer at KI-en kan bli mindre presis, miste fokus, og gi informasjon som er mindre relevant eller nøyaktig over tid. Dette reiser spørsmål ved effektiviteten av KI-drevet kundeservice, komplekse analyseoppgaver eller kreative prosesser som krever langvarig dialog.
Studiens funn peker mot at det kan være strategisk smartere for brukere å starte nye samtaler med KI-tjenester regelmessig, fremfor å forvente optimal ytelse i en uavbrutt lang korrespondanse. Dette kan hjelpe med å 'nullstille' modellen og sikre en mer pålitelig og konsistent interaksjon.
I Norge ser vi en økende adopsjon av KI-verktøy innenfor en rekke sektorer, fra offentlig forvaltning til privat næringsliv. Selskaper tilbyr KI-drevne chatboter for kundeservice, verktøy for innholdsproduksjon og analyseprogramvare. Funnene fra Microsoft-studien er derfor relevante for norske utviklere, bedrifter og offentlige institusjoner som implementerer slike løsninger.
For norske brukere kan dette bety at dersom man benytter en KI-assistent til å utarbeide en lang rapport eller analysere komplekse datasett over tid, bør man være bevisst på potensialet for svekket kvalitet i senere deler av samtalen. Det kan være nødvendig å jevnlig gjennomgå og validere informasjonen som genereres.