Não confia na IA na terapia? Ainda bem.

Nós também não, quando finge ter a certeza.

Há uma frase que surge nas conversas com terapeutas sempre que o tema da inteligência artificial no consultório aparece: “Não vou confiar em algo que não compreendo.”

Isto não é tecnofobia. É um instinto clínico saudável. Um terapeuta é responsável por cada hipótese que forma sobre um paciente - por isso tem o direito, e na verdade o dever, de saber de onde vem essa hipótese.

No entanto, a maioria das ferramentas de IA comporta-se como uma caixa negra: introduz-se os dados, sai um resultado acabado, e o caminho de um ao outro permanece escondido - enterrado em milhões de parâmetros que ninguém consegue inspecionar. Numa aplicação do tempo, isso não é problema. No trabalho com outro ser humano, é.

Há também uma segunda armadilha, mais perigosa. Um modelo de linguagem que encontra uma lacuna nos dados tem uma forte tendência para a preencher - para acrescentar o que encaixa, o que é plausível, o que se parece com o quadro clássico dos manuais. É exatamente isso que é uma alucinação. E, num contexto clínico, é mais perigoso do que o silêncio, porque soa credível.

Por isso, o ponto de partida é simples: uma ferramenta de IA na terapia não ganha confiança por ser segura de si. Ganha-a quando é honesta - mostra a fonte, mostra o raciocínio, e admite o que não sabe.

Isto é mais fácil de ver num caso concreto. O mapa que abre este artigo é um fragmento que o sistema gerou a partir da transcrição de uma sessão - vamos percorrer as suas secções.

O sistema não inventa os pensamentos do paciente - cita-os

Na secção dos pensamentos automáticos não existe em lado nenhum uma “interpretação da IA”. O que aparece são as declarações literais do paciente extraídas da transcrição: “Eu iria lá e não escreveria nada”, “Não passaria”, “Sou um falhado”. Por baixo, no campo AI Rationale, o sistema explica por que atribuiu esses pensamentos a uma determinada categoria e quais distorções cognitivas poderão estar por trás deles.

Isto é o oposto de uma caixa negra. Em vez de um veredicto vindo do nada, o terapeuta recebe uma mensagem: foi aqui que obtive isto - verifique você mesmo. A verificação demora segundos, porque a fonte está mesmo ali, ao alcance.

Não é um veredicto - é uma hipótese

Junto a cada secção há uma palavra pequena mas crucial: (hipótese). O sistema não anuncia: “este é o gatilho”. Diz: isto é provavelmente o gatilho - verifique.

O mesmo tom regressa nos raciocínios: “parece”, “pode sugerir”, “requer verificação clínica adicional”. Isto não é cautela linguística acrescentada no final. É uma postura incorporada - humildade epistémica escrita na própria forma como o sistema enquadra as suas conclusões. A decisão fica sempre do lado do terapeuta. O ser humano nunca sai do ciclo, nem por um momento.

E agora a parte mais importante: o que faz o sistema quando não sabe algo

Vejamos a secção da fisiologia e das reações somáticas.

Quem trabalha com ansiedade conhece o quadro típico: tensão muscular, coração acelerado, transpiração, respiração superficial. Um modelo de linguagem poderia simplesmente acrescentar isso - encaixaria na perfeição, soaria credível, ninguém notaria.

O sistema não faz isso. Escreve: “Sem dados na transcrição”.

E depois dá um passo que muda tudo. No raciocínio, não se limita a reconhecer a lacuna - transforma-a numa pista clínica: nota que o paciente descreveu “stress” mas não deu reações corporais específicas, e sugere que um ABC mais completo exigiria perguntar o que estava a acontecer no corpo no momento de entrar e enquanto estava ao lado da conversa.

Este é exatamente o momento em que um modelo comum alucinaria. O ATS diz, em vez disso, “não sei” - e mostra ao terapeuta onde termina a transcrição e onde começa o seu próprio trabalho.

A mesma precisão aparece na secção das emoções: onde o paciente deu um número (“stress 90/100”), o sistema regista-o. Onde não o fez - com a tristeza e o luto - afirma claramente: “intensidade: não fornecida”. Distingue o que foi medido do que não foi. Não finge completude.

Uma postura, não três funcionalidades

Fonte. Hipótese. Limite.

Estes não são três botões separados aparafusados ao produto. São uma única forma consistente de o sistema abordar, desde logo, o material clínico: mostra onde sabe o que sabe, trata as suas conclusões como hipóteses a verificar, e assinala abertamente os lugares onde faltaram dados.

Uma caixa negra funciona ao contrário - esconde o caminho e preenche as lacunas para parecer segura de si. No consultório, não há consentimento para isso.

O ceticismo em relação à IA na terapia é justificado. Por isso, o objetivo não é convencê-lo a confiar na IA - é a ferramenta provar, por si mesma, que pode ser verificada. A confiança não vem da segurança em si próprio. Vem da honestidade.

A Equipa da Therapy Support