Estudo mais recente Modelos de linguagem sabem para que lado os transtornos mentais se inclinam por sexo — e exageram essa diferença
Pedimos a 54 modelos de linguagem, em quatro idiomas, que inventassem uma pessoa com um transtorno mental 118.800 vezes. Eles acertam a direção das diferenças por sexo e exageram sua magnitude: PD borderline resulta em uma mulher em 99% das vezes. Conjunto de dados aberto.
Como trabalhamos
Mostramos-lhe como trabalhamos.
Estudamos o enviesamento e os limites dos modelos de linguagem em contextos clínicos, medimos a qualidade da conceptualização de casos de TCC apoiada por IA, verificamos a segurança dos dados dos pacientes e aperfeiçoamos as notas de sessão e a automatização da documentação terapêutica.
Documentamos abertamente cada passo — metodologia, dados brutos, código e conclusões são publicados na íntegra. Terapeutas, investigadores e clínicos podem espreitar a nossa oficina e ver em que baseamos as decisões sobre o produto.
Quer trabalhar connosco? Fale connosco.
Publicações
Todos os estudos
Relatórios, experiências, notas técnicas — tudo publicado abertamente.
Modelos de linguagem sabem para que lado os transtornos mentais se inclinam por sexo — e exageram essa diferença
Pedimos a 54 modelos de linguagem, em quatro idiomas, que inventassem uma pessoa com um transtorno mental 118.800 vezes. Eles acertam a direção das diferenças por sexo e exageram sua magnitude: PD borderline resulta em uma mulher em 99% das vezes. Conjunto de dados aberto.
Modelo pequeno, pipeline cuidadoso: reduzindo a distância em relação aos LLMs de ponta
Um ciclo de pesquisa automatizado e avaliado por modelos aproximou um modelo de linguagem de baixo custo de uma referência de ponta na sumarização longa de múltiplos documentos. Observado em resumos pré-sessão elaborados a partir das transcrições de dois pacientes sintéticos; apenas avaliação baseada em modelos.
Como veem os LLM um paciente polaco?
Uma análise experimental do enviesamento em seis modelos de linguagem na geração de pacientes fictícios com quatro perturbações mentais. 240 consultas · 6 modelos · 4 perturbações.
A Anna Graniczna tem 31 anos, medo do abandono e não existe
Como construímos pacientes sintéticos para investigação e testes sem arriscar a privacidade de pessoas reais. 20 sessões de terapia de esquemas, uma ficha de paciente aberta e a anatomia de um bom input para um LLM.