Sa ei usalda AI-d teraapias? Hea.

Meiegi mitte, kui see teeskleb kindlust.

On üks lause, mis tuleb terapeutidega vesteldes esile iga kord, kui jutuks tuleb tehisintellekt vastuvõturuumis: „Ma ei usalda midagi, mida ma ei mõista.”

See ei ole tehnofoobia. See on terve kliiniline instinkt. Terapeut vastutab iga hüpoteesi eest, mille ta patsiendi kohta sõnastab — seega on tal õigus, ja tegelikult ka kohustus, teada, kust see hüpotees pärineb.

Ent enamik AI-tööriistu käitub nagu must kast: sisestad andmed, väljub valmis tulemus ja tee ühest teiseni jääb varjatuks — maetuna miljonitesse parameetritesse, mida keegi ei suuda kontrollida. Ilmarakenduses ei ole see probleem. Töös teise inimesega on.

On ka teine, ohtlikum lõks. Keelemudel, mis satub andmelünka, kaldub seda tugevalt täitma — lisama seda, mis sobib, mis on usutav, mis näeb välja nagu õpikupilt. Täpselt see ongi hallutsinatsioon. Ja kliinilises kontekstis on see ohtlikum kui vaikimine, sest see kõlab usutavalt.

Seega on lähtepunkt lihtne: AI-tööriist teraapias ei teeni usaldust seetõttu, et ta on kindel. See teenib selle, kui ta on aus — näitab allikat, näitab arutluskäiku ja tunnistab, mida ta ei tea.

Seda on kõige lihtsam näha konkreetse juhtumi puhul. Kaart, millega see artikkel algab, on katkend, mille süsteem genereeris seansi transkriptsioonist — käime läbi selle jaotised.

Süsteem ei mõtle patsiendi mõtteid välja — ta tsiteerib neid

Automaatsete mõtete jaotises pole kusagil „AI tõlgendust”. Mis ilmub, on patsiendi sõnasõnalised laused transkriptsioonist: „Ma läheksin sinna ja ei kirjutaks midagi”, „Ma ei läbiks”, „Ma olen läbikukkuja”. Alla, AI Rationale väljal, selgitab süsteem, miks ta need mõtted vastavasse kategooriasse liigitas ja millised kognitiivsed moonutused nende taga võivad peituda.

See on musta kasti vastand. Selle asemel, et anda otsus eikuskilt, saab terapeut sõnumi: siit ma selle sain — kontrolli ise. Kontrollimine võtab sekundeid, sest allikas on käeulatuses.

See ei ole otsus — see on hüpotees

Iga jaotise kõrval seisab üks väike, kuid otsustava tähtsusega sõna: (hüpotees). Süsteem ei kuuluta: „see on käivitaja”. See ütleb: see on tõenäoliselt käivitaja — kontrolli seda.

Sama toon kordub põhjendustes: „näib olevat”, „võib viidata”, „vajab täiendavat kliinilist kontrolli”. See ei ole lõppu lisatud keeleline ettevaatlikkus. See on sisseehitatud hoiak — epistemoloogiline tagasihoidlikkus, mis on kirjutatud otse sellesse, kuidas süsteem oma järeldusi raamistab. Otsus jääb alati terapeudi poolele. Inimene ei lahku ahelast, mitte hetkekski.

Ja nüüd kõige olulisem: mida süsteem teeb, kui ta midagi ei tea

Vaatame füsioloogia ja somaatiliste reaktsioonide jaotist.

Igaüks, kes töötab ärevusega, tunneb tüüpilist pilti: lihaspinge, kiirenenud südametegevus, higistamine, pinnapealne hingamine. Keelemudel võiks selle lihtsalt lisada — see sobiks täiuslikult, kõlaks usutavalt, keegi ei märkaks midagi.

Süsteem seda ei tee. See kirjutab: „Transkriptsioonis puuduvad andmed.”

Ja siis astub ta sammu, mis muudab kõik. Põhjenduses ei tunnista ta ainult lünka, vaid muudab selle kliiniliseks vihjeks: ta märgib, et patsient kirjeldas „stressi”, kuid ei andnud konkreetseid kehalisi reaktsioone, ning soovitab, et täielikum ABC eeldaks küsimist, mis toimus kehas vestlusesse sisenemise hetkel ja selle ajal.

See on täpselt hetk, mil tavaline mudel hallutsineeriks. Selle asemel ütleb ATS „ma ei tea” — ja näitab terapeudile, kus transkriptsioon lõpeb ja algab tema enda töö.

Sama täpsus ilmneb emotsioonide jaotises: kus patsient andis numbri („stress 90/100”), salvestab süsteem selle. Kus ta seda ei teinud — kurbuse ja leina puhul —, ütleb see selgelt: „intensiivsus: pole antud”. See eristab seda, mida mõõdeti, sellest, mida ei mõõdetud. See ei teeskle täielikkust.

Üks hoiak, mitte kolm funktsiooni

Allikas. Hüpotees. Piir.

Need ei ole kolm eraldi tootele kruvitud nuppu. Need on üks järjekindel viis, kuidas süsteem ülepea kliinilisele materjalile läheneb: see näitab, kust ta teab, mida ta teab, kohtleb oma järeldusi kontrollimist ootavate hüpoteesidena ja märgib avameelselt kohad, kus andmed puudusid.

Must kast toimib vastupidi — see peidab tee ja täidab lüngad, et näida kindel. Vastuvõturuumis ei ole selleks nõusolekut.

Skepsis AI suhtes teraapias on põhjendatud. Seega ei ole mõte veenda sind AI-d usaldama — mõte on selles, et tööriist tõestaks ise, et seda saab kontrollida. Usaldus ei tule kindlusest. See tuleb ausameelsusest.

Therapy Supporti meeskond