Du stoler ikke på AI i terapi? Godt.
Det gør vi heller ikke, når det foregiver at være sikkert.
Der er én sætning, der dukker op i samtaler med terapeuter, hver gang emnet kunstig intelligens i konsultationslokalet kommer på tale: “Jeg stoler ikke på noget, jeg ikke forstår.”
Det er ikke teknofobi. Det er en sund klinisk instinkt. En terapeut er ansvarlig for hver eneste hypotese, de danner om en patient - så de har ret til, ja ligefrem pligt til, at vide hvor den hypotese kommer fra.
Alligevel opfører de fleste AI-redskaber sig som en sort boks: du fodrer det med data, et færdigt resultat kommer ud, og vejen fra det ene til det andet forbliver skjult - begravet i millioner af parametre, som ingen kan efterse. I en vejr-app er det ikke noget problem. I arbejdet med et andet menneske er det.
Der er også en anden, mere farlig fælde. En sprogmodel, der støder på et hul i dataene, har en stærk tendens til at udfylde det - til at tilføje det, der passer, det der er sandsynligt, det der ligner lærebogsbilledet. Det er præcis, hvad en hallucination er. Og i en klinisk kontekst er det farligere end tavshed, fordi det lyder troværdigt.
Så udgangspunktet er enkelt: et AI-redskab i terapi fortjener ikke tillid, fordi det er selvsikkert. Det fortjener den, når det er ærligt - det viser kilden, viser ræsonnementet, og indrømmer, hvad det ikke ved.
Det er lettest at se i et konkret tilfælde. Kortet, der indleder denne artikel, er et uddrag, systemet genererede fra en sessionstransskription - lad os gennemgå dets afsnit.
Systemet opfinder ikke patientens tanker - det citerer dem
I afsnittet om automatiske tanker findes der ingen “fortolkning fra AI’en” noget sted. Det, der vises, er patientens ordrette udtalelser fra transskriptionen: “Jeg ville gå derhen og ikke skrive noget”, “Jeg ville ikke bestå”, “Jeg er en fiasko”. Nedenunder, i feltet AI-begrundelse, forklarer systemet, hvorfor det tildelte de tanker til en given kategori, og hvilke kognitive forvrængninger der kan ligge bag dem.
Det er det modsatte af en sort boks. I stedet for en dom ud af ingenting får terapeuten en besked: her er hvor jeg fik det fra - tjek det selv. Verifikationen tager få sekunder, fordi kilden er lige der inden for rækkevidde.
Det er ikke en dom - det er en hypotese
Ved siden af hvert afsnit sidder ét lille, men afgørende ord: (hypotese). Systemet erklærer ikke: “dette er udløseren”. Det siger: dette er sandsynligvis udløseren - verificer det.
Den samme tone går igen i begrundelserne: “synes at”, “kan tyde på”, “kræver yderligere klinisk verifikation”. Det er ikke sproglig forsigtighed hæftet på til sidst. Det er en indbygget holdning - epistemisk ydmyghed skrevet ind i selve den måde, systemet formulerer sine konklusioner på. Beslutningen forbliver altid hos terapeuten. Mennesket falder aldrig ud af løkken, ikke et øjeblik.
Og nu til det vigtigste: hvad systemet gør, når det ikke ved noget
Lad os se på afsnittet om fysiologi og somatiske reaktioner.
Alle, der arbejder med angst, kender det typiske billede: muskelspændinger, hjertebanken, sveden, overfladisk vejrtrækning. En sprogmodel kunne bare tilføje det - det ville passe perfekt, det ville lyde troværdigt, ingen ville lægge mærke til det.
Systemet gør ikke det. Det skriver: “Ingen data i transskriptionen”.
Og så tager det et skridt, der ændrer alt. I begrundelsen erkender det ikke bare hullet, det gør det til et klinisk pejlemærke: det bemærker, at patienten beskrev “stress”, men ikke gav nogen specifikke kropslige reaktioner, og foreslår, at en mere fuldstændig ABC ville kræve at spørge, hvad der skete i kroppen i det øjeblik, hun trådte ind og mens hun stod ved siden af samtalen.
Det er præcis det øjeblik, hvor en almindelig model ville hallucinere. ATS siger i stedet “jeg ved det ikke” - og viser terapeuten, hvor transskriptionen ender, og deres eget arbejde begynder.
Den samme præcision viser sig i afsnittet om følelser: hvor patienten opgav et tal (“stress 90/100”), registrerer systemet det. Hvor hun ikke gjorde - med sorg og tab - hedder det ligeud: “intensitet: ikke angivet”. Det skelner mellem det, der blev målt, og det, der ikke blev. Det foregiver ikke fuldstændighed.
Én holdning, ikke tre funktioner
Kilde. Hypotese. Grænse.
Det er ikke tre separate knapper, der er skruet på produktet. Det er én konsekvent måde, systemet i det hele taget nærmer sig klinisk materiale på: det viser, hvor det ved, hvad det ved, det behandler sine konklusioner som hypoteser, der skal verificeres, og det flager åbent de steder, hvor data manglede.
En sort boks fungerer den anden vej rundt - den skjuler vejen og udfylder hullerne for at fremstå sikker. I konsultationslokalet er der ikke samtykke til det.
Skepsis over for AI i terapi er berettiget. Så pointen er ikke at overtale dig til at stole på AI - det er at redskabet selv beviser, at det kan efterprøves. Tillid kommer ikke af selvsikkerhed. Den kommer af ærlighed.
Therapy Support-teamet