Ne vjerujete umjetnoj inteligenciji u terapiji? Dobro.

Ni mi ne vjerujemo, kada se pretvara da je sigurna.

Postoji jedna rečenica koja se pojavljuje u razgovorima s terapeutima svaki put kad se pokrene tema umjetne inteligencije u ordinaciji: “Neću vjerovati nečemu što ne razumijem.”

Ovo nije tehnofobija. To je zdrav klinički instinkt. Terapeut je odgovoran za svaku hipotezu koju formira o pacijentu - stoga ima pravo, i uistinu dužnost, znati odakle ta hipoteza dolazi.

Ipak, većina AI alata ponaša se kao crna kutija: unosite podatke, izlazi gotov rezultat, a put od jednog do drugog ostaje skriven - zakopan u milijunima parametara koje nitko ne može ispitati. U aplikaciji za vremensku prognozu, to nije problem. U radu s drugim čovjekom, jest.

Postoji i druga, opasnija zamka. Jezični model koji naiđe na prazninu u podacima ima snažnu tendenciju da je popuni - da doda ono što odgovara, što je vjerojatno, što izgleda kao udžbenička slika. Upravo to je halucinacija. A u kliničkom kontekstu opasnija je od šutnje, jer zvuči uvjerljivo.

Stoga je polazna točka jednostavna: AI alat u terapiji ne zaslužuje povjerenje jer je siguran u sebe. Zaslužuje ga kad je pošten - pokazuje izvor, pokazuje rasuđivanje i priznaje što ne zna.

Ovo je najlakše vidjeti na konkretnom primjeru. Mapa koja otvara ovaj članak fragment je koji je sustav generirao iz transkripta sesije - prijeđimo kroz njezine dijelove.

Sustav ne izmišlja pacijentove misli - citira ih

U odjeljku automatskih misli nigdje nema “interpretacije umjetne inteligencije”. Ono što se pojavljuje jesu doslovne izjave pacijenta iz transkripta: “Otišao bih tamo i ništa ne bih napisao”, “Ne bih prošao”, “Ja sam promašaj”. Ispod, u polju AI obrazloženje (AI Rationale), sustav objašnjava zašto je te misli pridružio određenoj kategoriji i koje bi kognitivne distorzije mogle stajati iza njih.

Ovo je suprotno od crne kutije. Umjesto presude niotkuda, terapeut dobiva poruku: evo odakle sam ovo dobio - provjerite sami. Provjera traje sekunde, jer je izvor odmah nadohvat ruke.

Nije presuda - to je hipoteza

Uz svaki odjeljak stoji jedna mala, ali ključna riječ: (hipoteza). Sustav ne najavljuje: “ovo je okidač”. Kaže: ovo je vjerojatno okidač - provjerite.

Isti ton vraća se u obrazloženjima: “čini se da”, “moglo bi ukazivati na”, “zahtijeva daljnju kliničku provjeru”. Ovo nije jezična oprezna formulacija dodana na kraju. To je ugrađen stav - epistemička skromnost upisana u sam način na koji sustav uokviruje svoje zaključke. Odluka uvijek ostaje na strani terapeuta. Čovjek ni na trenutak ne ispada iz petlje.

A sada najvažniji dio: što sustav radi kad nešto ne zna

Pogledajmo odjeljak fiziologije i somatskih reakcija.

Svatko tko radi s anksioznošću zna tipičnu sliku: napetost mišića, ubrzano lupanje srca, znojenje, plitko disanje. Jezični model to bi jednostavno mogao dodati - savršeno bi se uklopilo, zvučalo bi uvjerljivo, nitko ne bi primijetio.

Sustav to ne radi. Piše: “Nema podataka u transkriptu”.

I tada čini korak koji sve mijenja. U obrazloženju ne samo da priznaje prazninu, već je pretvara u klinički poticaj: primjećuje da je pacijentica opisala “stres”, ali nije navela konkretne tjelesne reakcije, i predlaže da bi potpuniji ABC zahtijevao pitanje o tome što se događalo u tijelu u trenutku ulaska i dok je stajala pored razgovora.

Ovo je upravo trenutak u kojem bi običan model halucinirao. ATS umjesto toga kaže “ne znam” - i pokazuje terapeutu gdje transkript prestaje, a gdje počinje njegov vlastiti posao.

Ista preciznost pojavljuje se u odjeljku emocija: gdje je pacijentica dala broj (“stres 90/100”), sustav ga bilježi. Gdje nije - kod tuge i žalosti - jasno navodi: “intenzitet: nije naveden”. Razlikuje ono što je izmjereno od onoga što nije. Ne glumi potpunost.

Jedan stav, a ne tri značajke

Izvor. Hipoteza. Granica.

Ovo nisu tri odvojena gumba nalijepljena na proizvod. To je jedan dosljedan način na koji sustav uopće pristupa kliničkom materijalu: pokazuje gdje zna ono što zna, tretira svoje zaključke kao hipoteze koje treba provjeriti i otvoreno označava mjesta gdje su podaci nedostajali.

Crna kutija radi obrnuto - skriva put i popunjava praznine kako bi izgledala sigurna. U ordinaciji za to nema pristanka.

Skepticizam prema umjetnoj inteligenciji u terapiji je opravdan. Stoga poanta nije nagovoriti vas da vjerujete umjetnoj inteligenciji - poanta je da alat sam dokaže da se može provjeriti. Povjerenje ne dolazi od sigurnosti u sebe. Dolazi od poštenja.

Tim Therapy Support