OpenAI innfører sikkerhetsrolle for ChatGPT
Publisert
Kilde: TechCrunch
OpenAI introduserer sikkerhetsfunksjon for ChatGPT
Ingress: OpenAI, selskapet bak den anerkjente språkmodellen ChatGPT, utvider sine tiltak for å ivareta brukere ved samtaler som berører temaer knyttet til selvskading. En ny funksjon kalt "Trusted Contact" skal fungere som en ekstra beskyttelse.
Bakgrunn Ideen bak "Trusted Contact" er å gi ChatGPT mulighet til å identifisere når en samtale potensielt kan lede til skade på brukeren selv. Dersom systemet oppdager slike tegn, kan det, med brukerens forhåndsgodkjenning, varsle en forhåndsdefinert kontaktperson.
Ordningen er utviklet for å tilby en form for støtte i kritiske situasjoner. OpenAI samarbeider med organisasjoner som jobber med mental helse for å sikre at funksjonen er implementert på en etisk og hensiktsmessig måte. Målet er å øke brukerens sikkerhet ved å koble dem til umiddelbar hjelp eller støtte.
Norsk kontekst Selv om funksjonen lanseres globalt, er det foreløpig uklart nøyaktig når og hvordan den vil bli tilgjengelig for norske brukere. Implementeringen vil også kreve at brukerne aktivt velger å benytte seg av funksjonen og velger hvem som skal fungere som deres "Trusted Contact".
Det er en pågående diskusjon i Norge om personvern og ansvar knyttet til bruk av kunstig intelligens, spesielt når det gjelder sensitive temaer. Slike nye funksjoner fra internasjonale aktører vil bidra til å forme debatten om regulering og beste praksis også her til lands.