Nedůvěřujete AI v terapii? Dobře.
My taky ne, když předstírá jistotu.
Existuje jedna věta, která se objevuje v rozhovorech s terapeuty pokaždé, když padne téma umělé inteligence v konzultační místnosti: „Nebudu důvěřovat něčemu, čemu nerozumím.”
Není to technofobie. Je to zdravý klinický instinkt. Terapeut je odpovědný za každou hypotézu, kterou o pacientovi vytvoří - má tedy právo, ba přímo povinnost, vědět, odkud tato hypotéza pochází.
Přesto se většina nástrojů AI chová jako černá skříňka: vložíte data, vyjde hotový výsledek, a cesta od jednoho k druhému zůstává skrytá - pohřbená v milionech parametrů, které nikdo nedokáže prozkoumat. V aplikaci na počasí to není problém. V práci s druhým člověkem ano.
Existuje i druhá, nebezpečnější past. Jazykový model, který narazí na mezeru v datech, má silnou tendenci ji zaplnit - přidat to, co se hodí, co je pravděpodobné, co vypadá jako učebnicový obraz. Přesně to je halucinace. A v klinickém kontextu je nebezpečnější než mlčení, protože zní věrohodně.
Výchozí bod je proto jednoduchý: nástroj AI v terapii si nezíská důvěru tím, že je sebejistý. Získá si ji, když je upřímný - ukazuje zdroj, ukazuje uvažování a přiznává, co neví.
Nejlépe je to vidět na konkrétním případu. Mapa otevírající tento článek je fragment, který systém vygeneroval z přepisu sezení - projděme si její jednotlivé části.
Systém nevymýšlí myšlenky pacienta - cituje je
V sekci automatických myšlenek nikde nenajdete „interpretaci od AI”. Objevují se doslovná vyjádření pacienta z přepisu: „Šel bych tam a nic bych nenapsal”, „Neprošel bych”, „Jsem selhání”. Pod tím, v poli AI Rationale (Zdůvodnění AI), systém vysvětluje, proč zařadil tyto myšlenky do dané kategorie a jaká kognitivní zkreslení za nimi mohou stát.
To je opak černé skříňky. Místo verdiktu odnikud dostává terapeut zprávu: tady jsem to vzal - ověř si to sám. Ověření trvá vteřiny, protože zdroj je hned po ruce.
Není to verdikt - je to hypotéza
Vedle každé sekce stojí jedno malé, ale zásadní slovo: (hypotéza). Systém neoznamuje: „toto je spouštěč”. Říká: toto je pravděpodobně spouštěč - ověř si to.
Stejný tón se vrací i ve zdůvodněních: „zdá se, že”, „může naznačovat”, „vyžaduje další klinické ověření”. Není to jazyková opatrnost přilepená nakonec. Je to vestavěný postoj - epistemická pokora zapsaná přímo do způsobu, jakým systém formuluje své závěry. Rozhodnutí vždy zůstává na straně terapeuta. Člověk ze smyčky nikdy ani na okamžik nevypadne.
A teď to nejdůležitější: co systém dělá, když něco neví
Podívejme se na sekci fyziologie a somatických reakcí.
Každý, kdo pracuje s úzkostí, zná typický obraz: svalové napětí, bušení srdce, pocení, mělké dýchání. Jazykový model by to mohl jednoduše doplnit - dokonale by to zapadlo, znělo by to věrohodně, nikdo by si toho nevšiml.
Systém to nedělá. Píše: „V přepisu nejsou žádná data”.
A pak udělá krok, který mění vše. Ve zdůvodnění mezeru nejen konstatuje, ale promění ji v klinický podnět: poznamenává, že pacient popsal „stres”, ale neuvedl žádné konkrétní tělesné reakce, a navrhuje, že úplnější ABC by vyžadovalo zeptat se, co se dělo v těle ve chvíli vstupu a při stání vedle rozhovoru.
Přesně v tomto okamžiku by běžný model halucinoval. ATS místo toho říká „nevím” - a ukazuje terapeutovi, kde končí přepis a kde začíná jeho vlastní práce.
Stejná přesnost se objevuje v sekci emocí: tam, kde pacientka uvedla číslo („stres 90/100”), systém ho zaznamená. Tam, kde ho neuvedla - u smutku a zármutku - jasně uvádí: „intenzita: neuvedena”. Rozlišuje, co bylo změřeno, od toho, co změřeno nebylo. Nepředstírá úplnost.
Jeden postoj, ne tři funkce
Zdroj. Hypotéza. Hranice.
Nejsou to tři oddělené funkce přišroubované k produktu. Je to jeden konzistentní způsob, jakým systém k klinickému materiálu přistupuje od samého začátku: ukazuje, kde ví, co ví, zachází se svými závěry jako s hypotézami k ověření a otevřeně upozorňuje na místa, kde chyběla data.
Černá skříňka funguje opačně - skrývá cestu a vyplňuje mezery, aby vypadala jistě. V konzultační místnosti k tomu není souhlas.
Skepse vůči AI v terapii je oprávněná. Nejde tedy o to přesvědčit vás, abyste AI důvěřovali - jde o to, aby nástroj sám prokázal, že ho lze prověřit. Důvěra nepramení ze sebejistoty. Pramení z upřímnosti.
Tým Therapy Support