AI-terapi: Store løfter og økende bekymringer

Publisert

Kilde: MIT Technology Review

AI-terapi: Store løfter og økende bekymringer

Ingress: Kunstig intelligens (AI) er i ferd med å transformere mental helsehjelp, og tilbyr potensielle løsninger på den globale krisen, men reiser samtidig alvorlige etiske og sikkerhetsmessige spørsmål. Millioner søker allerede støtte fra AI-chatroboter som ChatGPT, til tross for bekymringer rundt datasikkerhet og risiko for feilinformasjon.

Bakgrunn Den globale mentale helsekrisen er akutt; over én milliard mennesker lider av en psykisk lidelse, ifølge Verdens helseorganisasjon. Denne utfordringen, kombinert med en økende forekomst av angst og depresjon, spesielt blant unge, driver etterspørselen etter tilgjengelige og rimelige løsninger.

AI fremstår som en potensiell redningsplanke, med applikasjoner som spenner fra chatroboter som Wysa og Woebot til avansert dataanalyse for å avlaste menneskelige behandlere. Teknologien utforskes også for å overvåke atferd og biometri via smartenheter, noe som kan gi nye innsikter i pasientdata.

Likevel har resultatene av dette uregulerte eksperimentet vært blandede. Selv om mange har funnet trøst i AI-chatboter, har det også forekommet tilfeller der AI har ført brukere inn i vrangforestillinger, eller i verste fall, bidratt til selvmord, noe som har resultert i søksmål mot utviklingsselskaper.

OpenAI-sjef Sam Altman avslørte i oktober at 0,15% av ChatGPT-brukerne diskuterer selvmordstanker ukentlig. Dette tilsvarer omtrent én million mennesker som deler potensielt livstruende tanker med AI, noe som understreker behovet for robuste sikkerhetsmekanismer og klar regulering.