Nuk i besoni AI-së në terapi? Mirë.

As ne, kur pretendon të jetë i sigurt.

Ka një fjali që del në bisedat me terapistët çdo herë që përmendet tema e inteligjencës artificiale në dhomën e konsultimit: “Nuk do t’i besoj diçkaje që nuk e kuptoj.”

Kjo nuk është teknofobi. Është një instinkt i shëndetshëm klinik. Një terapist është llogaridhënës për çdo hipotezë që formon rreth një pacienti — prandaj ka të drejtën, dhe në fakt detyrën, të dijë nga vjen ajo hipotezë.

Megjithatë, shumica e mjeteve të AI-së sillen si një kuti e zezë: futni të dhëna, del një rezultat i përfunduar, dhe rruga nga njëra te tjetra mbetet e fshehur — e varrosur në miliona parametra që askush nuk mund t’i inspektojë. Në një aplikacion moti, kjo nuk është problem. Në punën me një qenie tjetër njerëzore, është.

Ka edhe një kurth të dytë, më të rrezikshëm. Një model gjuhësor që has një boshllëk në të dhëna ka një tendencë të fortë ta mbushë atë — të shtojë atë që përshtatet, atë që është e besueshme, atë që duket si pamja e librit shkollor. Kjo është pikërisht një halucinacion. Dhe në një kontekst klinik është më e rrezikshme se heshtja, sepse tingëllon e besueshme.

Pra pika e nisjes është e thjeshtë: një mjet AI në terapi nuk fiton besim sepse është i sigurt. E fiton kur është i ndershëm — tregon burimin, tregon arsyetimin dhe pranon çfarë nuk di.

Kjo shihet më lehtë në një rast konkret. Harta që hap këtë artikull është një fragment që sistemi gjeneroi nga transkripti i një seance — le t’i kalojmë seksionet e saj.

Sistemi nuk shpik mendimet e pacientit — i citon ato

Në seksionin e mendimeve automatike nuk ka askund “interpretim nga AI”. Ajo që shfaqet janë deklaratat fjalë për fjalë të pacientit nga transkripti: “Do të shkoja atje dhe nuk do të shkruaja asgjë”, “Nuk do të kaloja”, “Jam një dështak”. Poshtë, në fushën AI Rationale, sistemi shpjegon pse i caktoi ato mendime një kategorie të caktuar dhe cilat shtrembërime njohëse mund të fshihen pas tyre.

Kjo është e kundërta e një kutie të zezë. Në vend të një verdikti nga hiçi, terapisti merr një mesazh: ja ku e mora këtë — verifikoje vetë. Verifikimi zgjat sekonda, sepse burimi është pikërisht aty, në dorë.

Nuk është verdikt — është hipotezë

Krahas çdo seksioni qëndron një fjalë e vogël, por vendimtare: (hipotezë). Sistemi nuk deklaron: “ky është shkaktari”. Thotë: ky ndoshta është shkaktari — verifikoje.

I njëjti ton kthehet në arsyetimet: “duket se”, “mund të sugjerojë”, “kërkon verifikim të mëtejshëm klinik”. Kjo nuk është kujdes gjuhësor i ngjitur në fund. Është një qëndrim i integruar — një modesti epistemike e shkruar në vetë mënyrën si sistemi formulon përfundimet e tij. Vendimi mbetet gjithmonë në anën e terapistit. Njeriu nuk del kurrë nga cikli, as për një çast.

Dhe tani pjesa më e rëndësishme: çfarë bën sistemi kur nuk di diçka

Le të shohim seksionin e fiziologjisë dhe reagimeve somatike.

Kushdo që punon me ankthin e njeh pamjen tipike: tension muskulor, rrahje zemre të shpejta, djersitje, frymëmarrje e cekët. Një model gjuhësor thjesht mund ta shtonte këtë — do të përshtatej në mënyrë të përsosur, do të tingëllonte e besueshme, askush nuk do ta vinte re.

Sistemi nuk e bën këtë. Shkruan: “Nuk ka të dhëna në transkript”.

Dhe pastaj bën një hap që ndryshon gjithçka. Në arsyetim, nuk pranon thjesht boshllëkun, por e kthen atë në një sinjal klinik: vëren që pacientja përshkroi “stres” por nuk dha reagime specifike trupore, dhe sugjeron që një ABC më i plotë do të kërkonte të pyeteshit çfarë po ndodhte në trup në momentin e hyrjes dhe gjatë qëndrimit pranë bisedës.

Ky është pikërisht momenti ku një model i zakonshëm do të halucinonte. Në vend të kësaj, ATS thotë “nuk e di” — dhe i tregon terapistit ku përfundon transkripti dhe ku fillon puna e tij vetë.

E njëjta saktësi shfaqet në seksionin e emocioneve: aty ku pacientja dha një numër (“stres 90/100”), sistemi e regjistron. Aty ku nuk e bëri — me trishtimin dhe pikëllimin — thotë thjesht: “intensiteti: nuk u dha”. Dallon çfarë u mat nga çfarë nuk u mat. Nuk shtiret plotësi.

Një qëndrim, jo tre veçori

Burimi. Hipoteza. Kufiri.

Këto nuk janë tre butona të veçantë të ngjitur në produkt. Janë një mënyrë e vetme, e qëndrueshme se si sistemi i qaset materialit klinik që në fillim: tregon ku e di çfarë di, i trajton përfundimet e tij si hipoteza për t’u verifikuar, dhe shënon hapur vendet ku mungonin të dhënat.

Një kuti e zezë funksionon në mënyrë të kundërt — fsheh rrugën dhe mbush boshllëqet për të dukur e sigurt. Në dhomën e konsultimit, për këtë nuk ka pëlqim.

Skepticizmi ndaj AI-së në terapi është i justifikuar. Pra qëllimi nuk është t’ju bindim të besoni AI-në — është që vetë mjeti të provojë se mund të verifikohet. Besimi nuk vjen nga siguria. Vjen nga ndershmëria.

Ekipi i Therapy Support