Не се доверявате на AI в терапията? Добре.

Нито ние, когато той се преструва на сигурен.

Има едно изречение, което се появява в разговорите с терапевти всеки път, когато се засегне темата за изкуствения интелект в консултативния кабинет: „Няма да се доверя на нещо, което не разбирам.”

Това не е технофобия. Това е здрав клиничен инстинкт. Терапевтът носи отговорност за всяка хипотеза, която формира за пациента — затова има правото, и всъщност задължението, да знае откъде идва тази хипотеза.

И все пак повечето AI инструменти се държат като черна кутия: подавате данните, излиза готов резултат, а пътят между двете остава скрит — заровен в милиони параметри, които никой не може да провери. В приложение за времето това не е проблем. В работата с друг човек — е.

Има и втори, по-опасен капан. Езиков модел, който попадне на празнина в данните, има силна тенденция да я запълва — да добавя това, което пасва, което е правдоподобно, което изглежда като учебникарска картина. Точно това е халюцинация. А в клиничен контекст тя е по-опасна от мълчанието, защото звучи достоверно.

Затова отправната точка е проста: AI инструмент в терапията не печели доверие, защото е уверен. Той го печели, когато е честен — показва източника, показва разсъждението и признава какво не знае.

Това се вижда най-лесно в конкретен случай. Картата, откриваща тази статия, е фрагмент, генериран от системата от транскрипт на сесия — нека разгледаме секциите ѝ.

Системата не измисля мислите на пациента — тя ги цитира

В секцията за автоматични мисли никъде няма „интерпретация от AI”. Това, което се появява, са дословните изказвания на пациента от транскрипта: „Щях да отида там и да не напиша нищо”, „Нямаше да мина”, „Аз съм провал”. Отдолу, в полето AI Rationale (обосновка на AI), системата обяснява защо е причислила тези мисли към дадена категория и какви когнитивни изкривявания може да стоят зад тях.

Това е обратното на черна кутия. Вместо присъда от нищото, терапевтът получава послание: ето откъде взех това — проверете сами. Проверката отнема секунди, защото източникът е точно там, на разстояние една ръка.

Не е присъда — а хипотеза

До всяка секция стои една малка, но решаваща дума: (хипотеза). Системата не обявява: „това е спусъкът”. Тя казва: това вероятно е спусъкът — проверете го.

Същият тон се връща и в обосновките: „изглежда, че”, „може да подсказва”, „изисква допълнителна клинична проверка”. Това не е езикова предпазливост, добавена в края. Това е вградена позиция — епистемична скромност, вписана в самия начин, по който системата формулира изводите си. Решението винаги остава на страната на терапевта. Човекът никога не отпада от процеса, дори за момент.

А сега най-важната част: какво прави системата, когато не знае нещо

Нека погледнем секцията за физиология и соматични реакции.

Всеки, който работи с тревожност, познава типичната картина: мускулно напрежение, ускорен пулс, изпотяване, повърхностно дишане. Езиков модел би могъл просто да го добави — щеше да пасне идеално, щеше да звучи достоверно, никой нямаше да забележи.

Системата не прави това. Тя пише: „Няма данни в транскрипта”.

И след това прави крачка, която променя всичко. В обосновката не просто признава пропуска, а го превръща в клинична подсказка: отбелязва, че пациентката е описала „стрес”, но не е посочила конкретни телесни реакции, и предлага, че по-пълно ABC би изисквало да се попита какво се е случвало в тялото в момента на влизането и докато е стояла до разговора.

Точно в този момент обикновен модел би халюцинирал. ATS вместо това казва „не знам” — и показва на терапевта къде свършва транскриптът и къде започва собствената му работа.

Същата прецизност се среща и в секцията за емоциите: там, където пациентката е дала число („стрес 90/100”), системата го записва. Там, където не е — при тъгата и скръбта — тя заявява ясно: „интензитет: не е посочен”. Тя разграничава това, което е измерено, от това, което не е. Не симулира пълнота.

Една позиция, а не три функции

Източник. Хипотеза. Граница.

Това не са три отделни бутона, прикачени към продукта. Те са един последователен начин, по който системата изобщо подхожда към клиничния материал: показва къде знае това, което знае, третира изводите си като хипотези за проверка и открито отбелязва местата, където данните са липсвали.

Черната кутия работи по обратния начин — скрива пътя и запълва празнините, за да изглежда сигурна. В консултативния кабинет за това няма съгласие.

Скептицизмът към AI в терапията е оправдан. Затова целта не е да ви убедим да се доверите на AI — а инструментът сам да докаже, че може да бъде проверен. Доверието не идва от увереност. То идва от честност.

Екипът на Therapy Support