Nie ufasz AI w terapii? Dobrze.
My też nie ufamy takiemu, które udaje pewność.
Jest takie zdanie, które wraca w rozmowach z terapeutami za każdym razem, gdy pojawia się temat sztucznej inteligencji w gabinecie: „Nie zaufam czemuś, czego nie rozumiem”.
To nie jest technofobia. To zdrowy odruch kliniczny. Terapeuta odpowiada za każdą hipotezę, którą stawia o pacjencie - więc ma prawo, a wręcz obowiązek, wiedzieć, skąd ta hipoteza pochodzi.
Tymczasem większość narzędzi AI działa jak czarna skrzynka: wrzucasz dane, wychodzi gotowy wynik, a droga od jednego do drugiego pozostaje ukryta - schowana w milionach parametrów, do których nikt nie ma wglądu. W aplikacji pogodowej to nie problem. W pracy z drugim człowiekiem - jest.
Jest też druga, groźniejsza pułapka. Model językowy, który natrafia na lukę w danych, ma silną skłonność, żeby ją wypełnić - dopisać to, co pasuje, co prawdopodobne, co wygląda jak podręcznikowy obraz. To właśnie halucynacja. I w kontekście klinicznym jest niebezpieczniejsza niż milczenie, bo brzmi wiarygodnie.
Dlatego punkt wyjścia jest prosty: narzędzie AI w terapii nie zasługuje na zaufanie dlatego, że jest pewne siebie. Zasługuje na nie wtedy, gdy jest uczciwe - pokazuje źródło, pokazuje drogę i przyznaje, czego nie wie.
Najlepiej widać to na konkrecie. Mapa otwierająca ten tekst to fragment, który system wygenerował z transkrypcji sesji - przyjrzyjmy się jej sekcjom.
System nie wymyśla myśli pacjentki - cytuje ją
W sekcji myśli automatycznych nie pojawia się żadna „interpretacja od AI”. Pojawiają się dosłowne wypowiedzi pacjentki z transkrypcji: „Czuję że tu nie pasuję”, „To się źle skończy. Odrzucą mnie”, „Jakiś niewypał”. Pod spodem, w polu Uzasadnienie AI, system tłumaczy, dlaczego przypisał te myśli do danej kategorii i jakie zniekształcenia poznawcze mogą za nimi stać.
To jest odwrotność czarnej skrzynki. Zamiast werdyktu z nikąd terapeuta dostaje komunikat: oto skąd to mam - sprawdź sam. Weryfikacja zajmuje sekundy, bo źródło jest na wyciągnięcie ręki.
To nie wyrok - to hipoteza
Przy każdej sekcji widnieje jedno małe, ale kluczowe słowo: (hipoteza). System nie ogłasza: „to jest wyzwalacz”. Mówi: to prawdopodobnie wyzwalacz - zweryfikuj.
Ten sam ton wraca w uzasadnieniach: „wydaje się”, „może sugerować”, „wymaga dalszej weryfikacji klinicznej”. To nie jest językowa ostrożność doklejona na końcu. To wbudowana postawa - pokora epistemiczna wpisana w sam sposób, w jaki system formułuje wnioski. Decyzja zawsze zostaje po stronie terapeuty. Człowiek nie wypada z pętli ani na moment.
A teraz najważniejsze: co system robi, gdy czegoś nie wie
Spójrzmy na sekcję fizjologii i reakcji somatycznych.
Każdy, kto pracuje z lękiem, zna typowy obraz: napięcie mięśni, kołatanie serca, pocenie, płytki oddech. Model językowy mógłby to dopisać - pasowałoby idealnie, brzmiałoby wiarygodnie, nikt by się nie zorientował.
System tego nie robi. Pisze: „Brak danych w transkrypcji”.
A potem robi krok, który zmienia wszystko. W uzasadnieniu nie tylko przyznaje lukę, ale zamienia ją w wskazówkę kliniczną: zauważa, że pacjentka opisała „stres”, lecz nie podała konkretnych reakcji ciała, i sugeruje, że do pełniejszego ABC potrzebne byłoby dopytanie, co działo się w ciele w momencie wejścia i podczas stania obok rozmowy.
To jest dokładnie ten moment, w którym zwykły model by zhalucynował. ATS zamiast tego mówi „nie wiem” - i wskazuje terapeucie, gdzie kończy się transkrypcja, a zaczyna jego praca.
Tę samą precyzję widać w sekcji emocji: tam, gdzie pacjentka podała liczbę („stres 90/100”), system ją zapisuje. Tam, gdzie nie podała - przy smutku i żalu - pisze wprost: „intensywność: nie podana”. Rozróżnia to, co zmierzone, od tego, czego nie zmierzono. Nie udaje kompletności.
Jedna postawa, nie trzy funkcje
Źródło. Hipoteza. Granica.
To nie są trzy osobne przyciski dorzucone do produktu. To jeden, spójny sposób, w jaki system w ogóle podchodzi do materiału klinicznego: pokazuje, skąd wie to, co wie, traktuje swoje wnioski jako hipotezy do weryfikacji, i otwarcie oznacza miejsca, w których danych zabrakło.
Czarna skrzynka działa odwrotnie - ukrywa drogę i wypełnia luki, żeby wyglądać na pewną. W gabinecie nie ma na to zgody.
Sceptycyzm wobec AI w terapii jest słuszny. Dlatego nie chodzi o to, żeby Cię do AI przekonać - chodzi o to, żeby narzędzie samo udowodniło, że można je sprawdzić. Zaufanie nie bierze się z pewności siebie. Bierze się z uczciwości.
Zespół Therapy Support