Litar du inte på AI inom terapi? Bra.
Inte vi heller, när den låtsas vara säker.
Det finns en mening som återkommer i samtal med terapeuter varje gång ämnet artificiell intelligens i konsultationsrummet kommer upp: “Jag litar inte på något jag inte förstår.”
Detta är ingen teknikrädsla. Det är en sund klinisk instinkt. En terapeut är ansvarig för varje hypotes hen bildar om en patient - och har därför rätten, ja faktiskt plikten, att veta varifrån den hypotesen kommer.
Ändå beter sig de flesta AI-verktyg som en svart låda: man matar in data, ett färdigt resultat kommer ut, och vägen från det ena till det andra förblir dold - begravd i miljontals parametrar som ingen kan granska. I en väderapp är det inget problem. I arbetet med en annan människa är det det.
Det finns också en andra, farligare fälla. En språkmodell som stöter på en lucka i data har en stark tendens att fylla i den - att lägga till det som passar, det som är sannolikt, det som ser ut som läroboksbilden. Det är exakt vad en hallucination är. Och i ett kliniskt sammanhang är det farligare än tystnad, eftersom det låter trovärdigt.
Utgångspunkten är därför enkel: ett AI-verktyg inom terapi förtjänar inte förtroende för att det är säkert på sin sak. Det förtjänar det när det är ärligt - det visar källan, visar resonemanget och erkänner vad det inte vet.
Detta syns tydligast i ett konkret fall. Kartan som inleder denna artikel är ett fragment som systemet genererade från ett sessionsutskrift - låt oss gå igenom dess olika delar.
Systemet hittar inte på patientens tankar - det citerar dem
I avsnittet om automatiska tankar finns ingenstans en “tolkning från AI”. Det som visas är patientens ordagranna uttalanden från utskriften: “Jag skulle gå dit och inte skriva något”, “Jag skulle inte klara mig”, “Jag är ett misslyckande”. Under det, i fältet AI Rationale, förklarar systemet varför det placerade dessa tankar i en viss kategori och vilka kognitiva förvrängningar som kan ligga bakom dem.
Detta är motsatsen till en svart låda. Istället för en dom från ingenstans får terapeuten ett meddelande: här är var jag fick detta ifrån - kontrollera själv. Verifieringen tar sekunder, eftersom källan finns direkt inom räckhåll.
Det är ingen dom - det är en hypotes
Bredvid varje avsnitt finns ett litet men avgörande ord: (hypotes). Systemet meddelar inte: “detta är utlösaren”. Det säger: detta är förmodligen utlösaren - verifiera det.
Samma ton återkommer i motiveringarna: “verkar”, “kan tyda på”, “kräver ytterligare klinisk verifiering”. Detta är inte språklig försiktighet som klistrats på i efterhand. Det är en inbyggd hållning - epistemisk ödmjukhet inskriven direkt i det sätt på vilket systemet formulerar sina slutsatser. Beslutet ligger alltid kvar hos terapeuten. Människan faller aldrig ur loopen, inte ens för ett ögonblick.
Och nu det viktigaste: vad systemet gör när det inte vet något
Låt oss titta på avsnittet om fysiologi och somatiska reaktioner.
Alla som arbetar med ångest känner till den typiska bilden: muskelspänning, hjärtklappning, svettning, ytlig andning. En språkmodell skulle helt enkelt kunna lägga till det - det skulle passa perfekt, låta trovärdigt, ingen skulle märka något.
Systemet gör inte det. Det skriver: “Ingen data i utskriften”.
Och sedan tar det ett steg som förändrar allt. I motiveringen konstaterar det inte bara luckan, utan förvandlar den till en klinisk ledtråd: det noterar att patienten beskrev “stress” men inte gav några specifika kroppsliga reaktioner, och föreslår att en fullständigare ABC skulle kräva att man frågar vad som hände i kroppen i det ögonblick hen gick in i och stod bredvid samtalet.
Det är exakt i detta ögonblick som en vanlig modell skulle hallucinera. ATS säger istället “jag vet inte” - och visar terapeuten var utskriften slutar och hens eget arbete börjar.
Samma precision syns i avsnittet om känslor: där patienten angav ett tal (“stress 90/100”), registrerar systemet det. Där hon inte gjorde det - vid sorg och förlust - anger det tydligt: “intensitet: ej angiven”. Det skiljer mellan vad som mätts och vad som inte mätts. Det låtsas inte vara fullständigt.
En hållning, inte tre funktioner
Källa. Hypotes. Gräns.
Detta är inte tre separata funktioner fastskruvade på produkten. Det är ett enda konsekvent sätt som systemet från början förhåller sig till kliniskt material på: det visar var det vet vad det vet, det behandlar sina slutsatser som hypoteser att verifiera, och det flaggar öppet för de platser där data saknades.
En svart låda fungerar tvärtom - den döljer vägen och fyller i luckorna för att framstå som säker på sin sak. I konsultationsrummet finns inget samtycke till det.
Skepsis mot AI inom terapi är befogad. Poängen är därför inte att övertala dig att lita på AI - det är att verktyget själv ska bevisa att det kan kontrolleras. Förtroende kommer inte från säkerhet. Det kommer från ärlighet.
Therapy Support-teamet