Neuzticaties AI terapijā? Labi.
Mēs arī ne, kad tas izliekas esam pārliecināts.
Ir viens teikums, kas parādās sarunās ar terapeitiem katru reizi, kad tiek pieminēta mākslīgā intelekta tēma konsultāciju telpā: “Es neuzticēšos kaut kam, ko nesaprotu.”
Tā nav tehnofobija. Tas ir vesels klīnisks instinkts. Terapeits ir atbildīgs par katru hipotēzi, ko viņš veido par pacientu — tāpēc viņam ir tiesības, un patiesībā arī pienākums, zināt, no kurienes šī hipotēze nāk.
Tomēr lielākā daļa AI rīku uzvedas kā melnā kaste: jūs ievadāt datus, iznāk gatavs rezultāts, un ceļš no viena uz otru paliek slēpts — apglabāts miljonos parametru, ko neviens nevar pārbaudīt. Laika ziņu lietotnē tā nav problēma. Darbā ar citu cilvēku — ir.
Ir arī otrs, bīstamāks slazds. Valodas modelim, kas sastopas ar robu datos, ir spēcīga tendence to aizpildīt — pievienot to, kas iederas, kas ir ticams, kas izskatās pēc mācību grāmatas ainas. Tieši tas ir halucinācija. Un klīniskā kontekstā tas ir bīstamāk nekā klusēšana, jo tas izklausās ticami.
Tātad izejas punkts ir vienkāršs: AI rīks terapijā negūst uzticību tāpēc, ka tas ir pārliecināts. Tas to iegūst, kad tas ir godīgs — parāda avotu, parāda argumentāciju un atzīst, ko tas nezina.
To vislabāk var redzēt konkrētā gadījumā. Karte, ar ko sākas šis raksts, ir sistēmas ģenerēts fragments no sesijas transkripta — apskatīsim tās sadaļas.
Sistēma neizdomā pacienta domas — tā tās citē
Automātisko domu sadaļā nekur nav “AI interpretācijas”. Tas, kas parādās, ir pacienta burtiski izteikumi no transkripta: “Es aizietu turp un neko nesarakstītu”, “Es nenokārtotu”, “Es esmu neveiksminieks”. Zemāk, AI Rationale laukā, sistēma paskaidro, kāpēc tā šīs domas piešķīra noteiktai kategorijai un kādi kognitīvie izkropļojumi varētu tām būt aiz muguras.
Tas ir pretējs melnajai kastei. Tā vietā, lai izdotu spriedumu no nekurienes, terapeits saņem vēstījumu: lūk, no kurienes es to ņēmu — pārbaudi pats. Pārbaude aizņem sekundes, jo avots ir turpat pieejams.
Tas nav spriedums — tā ir hipotēze
Blakus katrai sadaļai atrodas viens mazs, taču izšķirošs vārds: (hipotēze). Sistēma nepasludina: “šis ir izraisītājs”. Tā saka: šis, iespējams, ir izraisītājs — pārbaudi to.
Tas pats tonis atgriežas argumentācijās: “šķiet, ka”, “var liecināt”, “nepieciešama tālāka klīniska pārbaude”. Tā nav valodas piesardzība, kas pievienota beigās. Tā ir iebūvēta nostāja — epistēmiska pazemība, kas ierakstīta pašā veidā, kā sistēma formulē savus secinājumus. Lēmums vienmēr paliek terapeita pusē. Cilvēks nekad neizkrīt no cikla, ne uz mirkli.
Un tagad vissvarīgākā daļa: ko sistēma dara, kad tā kaut ko nezina
Apskatīsim fizioloģijas un somatisko reakciju sadaļu.
Ikviens, kurš strādā ar trauksmi, zina tipisko ainu: muskuļu sasprindzinājums, straujš sirdspuksts, svīšana, sekla elpošana. Valodas modelis to varētu vienkārši pievienot — tas iederētos ideāli, izklausītos ticami, neviens to nepamanītu.
Sistēma to nedara. Tā raksta: “Nav datu transkriptā”.
Un tad tā sper soli, kas maina visu. Argumentācijā tā ne tikai atzīst robu, bet pārvērš to par klīnisku norādi: tā atzīmē, ka pacients aprakstīja “stresu”, bet nenorādīja konkrētas ķermeņa reakcijas, un iesaka, ka pilnīgākai ABC būtu jājautā, kas notika ķermenī brīdī, kad viņa ienāca telpā un sarunas laikā.
Tas ir tieši brīdis, kurā parasts modelis halucinētu. ATS tā vietā saka “es nezinu” — un parāda terapeitam, kur beidzas transkripts un sākas viņa paša darbs.
Tā pati precizitāte parādās emociju sadaļā: kur pacients norādīja skaitli (“stress 90/100”), sistēma to reģistrē. Kur viņa to nedarīja — ar skumjām un bēdām — tā vienkārši nosaka: “intensitāte: nav norādīta”. Tā nošķir to, kas tika mērīts, no tā, kas netika. Tā neizliekas par pilnīgu.
Viena nostāja, nevis trīs funkcijas
Avots. Hipotēze. Robeža.
Tās nav trīs atsevišķas pogas, kas piestiprinātas produktam. Tas ir viens konsekvents veids, kā sistēma vispār pieiet klīniskajam materiālam: tā parāda, kur tā zina to, ko zina, tā uzskata savus secinājumus par hipotēzēm, kas jāpārbauda, un tā atklāti atzīmē vietas, kur trūka datu.
Melnā kaste darbojas pretēji — tā slēpj ceļu un aizpilda robus, lai izskatītos pārliecinoša. Konsultāciju telpā tam nav piekrišanas.
Skepse pret AI terapijā ir pamatota. Tāpēc mērķis nav jūs pierunāt uzticēties AI — mērķis ir, lai rīks pats pierādītu, ka to var pārbaudīt. Uzticēšanās nerodas no pārliecības. Tā rodas no godīguma.
Therapy Support komanda