OpenAI reduserer hallusinasjoner i ny ChatGPT-modell
Publisert
Kilde: The Verge
Ingress: OpenAI hevder at deres seneste standardmodell for ChatGPT viser betydelig færre feilaktige eller oppdiktede svar, kjent som 'hallusinasjoner'. Denne forbedringen kan styrke tilliten til AI-verktøyets anvendelighet i faglige sammenhenger.
'Hallusinasjoner' er et iboende trekk ved store språkmodeller (Large Language Models, LLMs), hvor modellen genererer informasjon som fremstår overbevisende, men som ikke er basert på faktisk data eller er direkte feilaktig. Dette har vært en av de primære utfordringene for bred og pålitelig bruk av teknologier som ChatGPT.
OpenAI har arbeidet med å redusere denne effekten ved å forbedre treningsdata, modellarkitektur og ved å implementere nye metoder for faktasjekking og 'guardrails' under genereringsprosessen. Selskapet har indikert at den nye modellen representerer et fremskritt i denne retningen, og at den gir mer nøyaktige og relevante svar.
For norske virksomheter og offentlige institusjoner, som i økende grad utforsker muligheter med generativ AI, er pålitelighet en kritisk faktor. Et system som produserer færre feilaktige opplysninger, kan åpne for mer utstrakt bruk innen kundeservice, innholdsgenerering, research og intern kunnskapsdeling. Norske aktører vil kunne stole mer på svarene fra ChatGPT i operasjonelle og strategiske prosesser.
Foreløpig er det ingen spesifikke norske partnerskap eller integrasjoner som er annonsert knyttet til denne nye modellen, men teknologiske fremskritt hos globale leverandører som OpenAI vil naturligvis finne veien til det norske markedet gjennom ulike applikasjoner og tjenester.
Reduksjonen av hallusinasjoner kan gjøre generative AI-modeller til mer verdifulle verktøy for profesjonell bruk, og potensielt senke terskelen for adopsjon i regulerte bransjer. Samtidig er det viktig at brukere opprettholder et kritisk blikk. Selv med forbedringer, er det fortsatt avgjørende med menneskelig overvåking og faktasjekking for å sikre nøyaktighet.