Не верујете AI у терапији? Добро.

Ни ми не верујемо, када се претвара да је сигурна.

Постоји једна реченица која се појављује у разговорима са терапеутима сваки пут када се отвори тема вештачке интелигенције у ординацији: „Нећу веровати нечему што не разумем.”

Ово није технофобија. То је здрав клинички инстинкт. Терапеут је одговоран за сваку хипотезу коју формира о пацијенту - па има право, и заправо дужност, да зна одакле та хипотеза долази.

Ипак, већина AI алата понаша се као црна кутија: унесете податке, изађе готов резултат, а пут од једног до другог остаје скривен - закопан у милионима параметара које нико не може да прегледа. У апликацији за време, то није проблем. У раду са другим људским бићем, јесте.

Постоји и друга, опаснија замка. Језички модел који наиђе на празнину у подацима има јаку склоност да је попуни - да дода оно што се уклапа, што је вероватно, што личи на слику из уџбеника. То је тачно оно што је халуцинација. А у клиничком контексту је опаснија од ћутања, јер звучи уверљиво.

Зато је полазна тачка једноставна: AI алат у терапији не заслужује поверење зато што је сигуран у себе. Заслужује га када је поштен - кад покаже извор, покаже резоновање и призна шта не зна.

Ово је најлакше видети на конкретном случају. Мапа која отвара овај текст је фрагмент који је систем генерисао из транскрипта сеансе - прођимо кроз њене делове.

Систем не измишља мисли пацијента - он их цитира

У одељку аутоматских мисли нигде нема „интерпретације од стране AI-а”. Оно што се појављује јесу дословне изјаве пацијента из транскрипта: „Отишла бих тамо и не написала ништа”, „Не бих положила”, „Ја сам промашај”. Испод, у пољу AI Rationale (образложење AI-а), систем објашњава зашто је те мисли сврстао у дату категорију и које когнитивне дисторзије могу стајати иза њих.

Ово је супротно од црне кутије. Уместо пресуде ниоткуда, терапеут добија поруку: ево одакле сам ово узео - проверите сами. Провера траје секунду, јер је извор надохват руке.

Није пресуда - то је хипотеза

Поред сваког одељка стоји једна мала, али кључна реч: (хипотеза). Систем не најављује: „ово је окидач”. Каже: ово је вероватно окидач - проверите.

Исти тон се враћа у образложењима: „чини се да”, „може указивати на”, „захтева даљу клиничку проверу”. Ово није језичка опрезност додата на крају. То је уграђен став - епистемичка скромност уписана у сам начин на који систем формулише своје закључке. Одлука увек остаје на страни терапеута. Човек ниједног тренутка не испада из петље.

А сада најважнији део: шта систем ради када нешто не зна

Погледајмо одељак физиологије и соматских реакција.

Свако ко ради са анксиозношћу зна типичну слику: напетост мишића, убрзан рад срца, знојење, плитко дисање. Језички модел би то једноставно могао да дода - савршено би се уклопило, звучало би уверљиво, нико то не би приметио.

Систем то не ради. Пише: „Нема података у транскрипту”.

А онда чини корак који мења све. У образложењу не само да признаје празнину, већ је претвара у клинички сигнал: примећује да је пацијенткиња описала „стрес”, али није навела конкретне телесне реакције, и предлаже да би потпунија ABC анализа захтевала питање шта се дешавало у телу у тренутку уласка и док је стајала поред разговора.

Ово је тачно тренутак у ком би обичан модел халуцинирао. ATS уместо тога каже „не знам” - и показује терапеуту где се транскрипт завршава, а почиње његов сопствени рад.

Иста прецизност се јавља у одељку емоција: тамо где је пацијенткиња дала број („стрес 90/100”), систем га бележи. Тамо где није - код туге и жалости - јасно наводи: „интензитет: није наведен”. Разликује оно што је измерено од онога што није. Не глуми потпуност.

Један став, а не три функције

Извор. Хипотеза. Граница.

Ово нису три одвојена дугмета прилепљена на производ. То је један доследан начин на који систем уопште приступа клиничком материјалу: показује одакле зна оно што зна, третира своје закључке као хипотезе које треба проверити и отворено означава места где су подаци недостајали.

Црна кутија ради обрнуто - скрива пут и попуњава празнине како би деловала сигурно. У ординацији за то нема сагласности.

Скептицизам према AI у терапији је оправдан. Зато поента није да вас наговоримо да верујете AI-у - поента је да алат сам докаже да се може проверити. Поверење не долази из сигурности. Долази из поштења.

Тим Therapy Support