Nem bízik az AI-ban a terápiában? Jó.

Mi sem, amikor biztosnak tetteti magát.

Van egy mondat, amely minden alkalommal felmerül a terapeutákkal folytatott beszélgetésekben, amikor szóba kerül a mesterséges intelligencia témája a rendelőben: „Nem fogok megbízni valamiben, amit nem értek.”

Ez nem technofóbia. Ez egy egészséges klinikai ösztön. Egy terapeuta felelősséggel tartozik minden hipotéziséért, amelyet egy páciensről alkot - így joga van, sőt kötelessége is tudni, honnan származik az adott hipotézis.

Ennek ellenére a legtöbb AI-eszköz úgy viselkedik, mint egy fekete doboz: betáplálja az adatokat, kijön egy kész eredmény, és az egyiktől a másikig vezető út rejtve marad - eltemetve millió paraméterbe, amelyeket senki sem tud megvizsgálni. Egy időjárás-alkalmazásban ez nem probléma. Egy másik emberrel végzett munkában viszont igen.

Van egy második, veszélyesebb csapda is. Egy nyelvi modell, amely egy hiányba ütközik az adatokban, erős hajlamot mutat annak kitöltésére - hozzáadja azt, ami illeszkedik, ami valószínűnek tűnik, ami a tankönyvi képre hasonlít. Pontosan ez a hallucináció. És klinikai kontextusban ez veszélyesebb, mint a csend, mert hitelesen hangzik.

Tehát a kiindulópont egyszerű: egy terápiás AI-eszköz nem azért nyeri el a bizalmat, mert magabiztos. Akkor nyeri el, ha őszinte - megmutatja a forrást, megmutatja az érvelést, és beismeri, amit nem tud.

Ezt egy konkrét eset alapján a legkönnyebb megérteni. A cikket nyitó térkép egy részlet, amelyet a rendszer egy munkamenet átiratából generált - vegyük sorra a szakaszait.

A rendszer nem találja ki a páciens gondolatait - idézi őket

Az automatikus gondolatok szakaszában sehol sincs „AI-értelmezés”. Ami megjelenik, az a páciens szó szerinti kijelentései az átiratból: „Odamentem volna és nem írtam volna semmit”, „Nem sikerülne”, „Kudarc vagyok”. Alatta, az AI Rationale mezőben a rendszer elmagyarázza, miért sorolta be ezeket a gondolatokat egy adott kategóriába, és milyen kognitív torzítások állhatnak mögöttük.

Ez a fekete doboz ellentéte. Ahelyett, hogy egy verdiktet kapna a semmiből, a terapeuta egy üzenetet kap: íme, honnan szereztem ezt - ellenőrizze Ön maga. Az ellenőrzés másodpercekig tart, mert a forrás pontosan ott van, közvetlen elérhetőségben.

Ez nem verdikt - ez hipotézis

Minden szakasz mellett ott áll egy apró, de kulcsfontosságú szó: (hipotézis). A rendszer nem jelenti be: „ez a kiváltó ok”. Azt mondja: ez valószínűleg a kiváltó ok - ellenőrizze.

Ugyanez a hangnem tér vissza az indoklásokban is: „úgy tűnik”, „utalhat rá”, „további klinikai ellenőrzést igényel”. Ez nem a végén hozzáadott nyelvi óvatosság. Ez egy beépített hozzáállás - episztemikus alázat, amely a rendszer következtetéseinek megfogalmazási módjába van kódolva. A döntés mindig a terapeuta oldalán marad. Az ember soha, egy pillanatra sem esik ki a hurokból.

És most a legfontosabb rész: mit tesz a rendszer, amikor nem tud valamit

Nézzük meg a fiziológiai és szomatikus reakciók szakaszt.

Aki szorongással dolgozik, ismeri a tipikus képet: izomfeszülés, gyorsuló szívverés, izzadás, felszínes légzés. Egy nyelvi modell egyszerűen hozzáadhatná ezt - tökéletesen illeszkedne, hitelesen hangzana, senki sem venné észre.

A rendszer nem teszi ezt. Azt írja: „Nincs adat az átiratban”.

És ezután megtesz egy lépést, amely mindent megváltoztat. Az indoklásban nem csupán elismeri a hiányt, hanem klinikai jelzéssé alakítja azt: megjegyzi, hogy a páciens „stresszt” írt le, de nem adott meg konkrét testi reakciókat, és javasolja, hogy egy teljesebb ABC megkövetelné annak megkérdezését, mi történt a testében a belépés pillanatában, és amíg a beszélgetés mellett állt.

Ez pontosan az a pillanat, amikor egy hétköznapi modell hallucinálna. Az ATS ehelyett azt mondja: „nem tudom” - és megmutatja a terapeutának, hol ér véget az átirat, és hol kezdődik a saját munkája.

Ugyanez a pontosság jelenik meg az érzelmek szakaszban is: ahol a páciens megadott egy számot („stressz 90/100”), a rendszer rögzíti azt. Ahol nem tette - a szomorúság és a gyász esetében - egyértelműen kijelenti: „intenzitás: nincs megadva”. Megkülönbözteti, hogy mit mértek, és mit nem. Nem tettet teljességet.

Egy hozzáállás, nem három funkció

Forrás. Hipotézis. Korlát.

Ezek nem három külön, a termékre ragasztott gomb. Ez egy következetes mód, ahogyan a rendszer a klinikai anyaghoz eleve közelít: megmutatja, hol tudja, amit tud, hipotézisként kezeli a következtetéseit, amelyeket ellenőrizni kell, és nyíltan jelöli azokat a helyeket, ahol adatok hiányoztak.

Egy fekete doboz fordítva működik - elrejti az utat, és kitölti a hiányokat, hogy biztosnak tűnjön. A rendelőben erre nincs beleegyezés.

Az AI-val szembeni szkepticizmus a terápiában indokolt. Tehát a lényeg nem az, hogy meggyőzzük Önt arról, hogy bízzon meg az AI-ban - hanem az, hogy az eszköz maga bizonyítsa, hogy ellenőrizhető. A bizalom nem a magabiztosságból fakad. Az őszinteségből fakad.

A Therapy Support csapata