← Tillbaka till Forskning
Research · LLM bias · 2026

Rätt riktning, överdriven storlek

En granskning av kön hos personer som språkmodeller hittar på för tio psykiska störningar, med 54 modeller på fyra språk. 118 800 svar, alla offentliga.

Publicerad27 oktober 2026
FörfattareB. Głowacki, J. Głowacka, E. Cylwik, B. Głowacki
StatusFörhandsversion · öppna datauppsättningar
LicensCC BY 4.0
Ladda ner artikeln (PDF) arXiv: kommer snart

En referenskvot på 7:3 blir 99:1 i utdata

Språkmodeller skriver nu kliniska fallbeskrivningar, spelar patienter och skapar övningsfall. Varje person som hittas på får ett kön som författaren aldrig har valt. Vi mätte vilket kön modellerna väljer för tio psykiska störningar och hur långt det ligger från epidemiologin.

118,800
svar från 54 modeller på 4 språk
2.4×
medianförstärkning av könskvoter (log-odds)
99% vs 70%
kvinnor vid borderline-PD: modeller vs referens
54 / 54
modeller mer polariserade än referensen

Modellerna återger väl riktningen på kända könsskillnader (medianrangkorrelation med referenskvoterna 0,79), men överdriver deras storlek. Borderline-personlighetssyndrom beskrivs som en kvinna 99 % av gångerna (referensvärde cirka 70 %), antisocialt personlighetssyndrom som en man 95 % av gångerna (cirka 75 %). Även en neutral uppmaning, om en person som påbörjar psykoterapi, ger 86 % kvinnor jämfört med cirka 65 %. I 54 % av modell–språk–tillstånd-cellerna har minst 95 % av 50 genereringar samma kön.

I vårt urval låg nyare modeller inte närmare referensen. Spanska uppmaningar förskjuter svaren mot kvinnor och kinesiska uppmaningar mot män. Detta är den andra, betydligt större upplagan av vår tidigare studie av polska patienter.

Innehåll


Så frågade vi

En avsiktligt enkel granskning: samma korta begäran, många gånger, till många modeller.

Studiedesign: en nollskottsuppmaning per tillstånd och språk, 50 gånger per modell; en flerspråkig parser läser av könsfältet; andelarna kvinnor jämförs med referensvärden.
Studiedesign: en nollskottsuppmaning per tillstånd och språk, 50 gånger per modell; en flerspråkig parser läser av könsfältet; andelarna kvinnor jämförs med referensvärden.

Varje uppmaning bad modellen att skapa en fiktiv person med [störning] och svara på en rad: namn, kön, ålder (18–55) och yrke. Ingen systemuppmaning, inget kliniskt sammanhang. Kontrolluppmaningen bad om en fiktiv person som påbörjar psykoterapi.

  • 11 tillstånd: depression, generaliserat ångestsyndrom, social ångest, OCD, PTSD, borderline-, narcissistiskt och antisocialt personlighetssyndrom (PD), ADHD, autism och kontrollen.
  • 4 språk: engelska, polska, spanska och kinesiska.
  • 54 modeller utgivna 2023–2026: 34 från amerikanska utvecklare, 15 från kinesiska och 5 från europeiska, däribland polska Bielik och PLLuM. 47 anropades via ett API, 7 öppna viktmodeller kördes lokalt på vår egen maskinvara.
  • 50 genereringar per cell vid temperatur 0.9: 118 800 svar. 98.9 % kunde tolkas, 1.0 % var avböjanden eller kunde inte tolkas, 0.1 % var fel. Total API-kostnad: USD 60.
  • Referensvärden: ungefärlig andel kvinnor bland personer med respektive störning, från DSM-5-TR och epidemiologiska översikter. De anger storleksordningar, inte facit; slutsatserna beror endast på riktningen och den ungefärliga storleken.

Rätt riktning, överdriven storlek

Modellerna vet vilka störningar som oftare diagnostiseras hos kvinnor och vilka hos män. Sedan förstärker de de flesta snedfördelningarna ytterligare.

(a) Genomsnittlig andel genererade kvinnor (blått, 95 % KI över modeller) jämfört med referensandelen; grå punkter är enskilda modeller; streckad linje visar perfekt kalibrering. (b) Varje modell i varje tillstånd, referensen i orange.
(a) Genomsnittlig andel genererade kvinnor (blått, 95 % KI över modeller) jämfört med referensandelen; grå punkter är enskilda modeller; streckad linje visar perfekt kalibrering. (b) Varje modell i varje tillstånd, referensen i orange.

På log-oddsskalan förstärker medianmodellen referenskvoten 2,4 gånger (IQR 2,1–3,0); lutningen är över 1 för samtliga 54 modeller. Alla 54 är mer polariserade än referensen (genomsnittligt avstånd från jämn könsfördelning 0,33 jämfört med 0,16).

Två tillstånd bryter mönstret. PTSD är det enda tillstånd med övervikt för kvinnor som inte förskjuts ytterligare mot kvinnor (62 % jämfört med 68 %), och modellerna skiljer sig kraftigt åt (1–96 %). ADHD och autism, som diagnostiseras oftare hos män, förskjuts mot jämn könsfördelning (50 % respektive 45 % kvinnor jämfört med 38 % respektive 25 %).

TillståndReferensModellerIntervall> ref.p
Påbörjar psykoterapi (kontroll)658634–10050/54<0,001
Borderline-PD709984–10054/54<0,001
Generaliserat ångestsyndrom679366–10053/54<0,001
Depression677912–10044/54<0,001
Social ångest58806–10051/54<0,001
PTSD68621–9628/540,50
OCD52692–9845/54<0,001
ADHD38500–9136/540,003
Narcissistisk PD32210–7813/54<0,001
Autism25450–8642/54<0,001
Antisocial PD2550–494/54<0,001

Andel kvinnor (%). Modeller: medelvärde över 54 modeller (var och en är medelvärdet av 4 språk × 50 genereringar). > ref.: modeller över referensvärdet. p: Wilcoxons teckenrangtest mot referensvärdet.


Minskad variation

Snedvridningen handlar inte bara om ett förskjutet genomsnitt. Svaren varierar knappt inom en och samma modell.

I 54 % av de 2 360 modell–språk–tillstånd-cellerna har minst 95 % av de 50 genereringarna samma kön, och i 40 % har alla samma kön, även vid temperatur 0.9.

Namnen blir lika ensartade. Maya står för 34 % av alla engelskspråkiga kvinnor och Marcus för 28 % av engelskspråkiga män; Anna står för 37 % av polska kvinnor och Marek för 38 % av polska män; Lucía står för 37 % av spanska kvinnor. Yrkesvalen följer stereotyper: en kvinnlig grafisk formgivare vid borderline-PD, depression och ångest, en manlig företagsjurist vid narcissistisk PD, en begagnatbilsförsäljare vid antisocial PD och en manlig mjukvaruutvecklare vid autism.


Nyare är inte bättre

Valet av modell ändrar den genomsnittliga avvikelsen från 12 till 37 procentenheter, men inget enkelt förutsäger den.

Avvikelsen från referensen minskar inte för nyare modeller; den ökar något (Spearmans ρ = 0,36, p = 0,013, 47 API-modeller). Modellerna som låg närmast var Qwen 2.5 72B, GPT-5.4 och GPT-4o mini; de som låg längst ifrån var Gemini 3.1 Pro, GPT-6 Sol och GPT-6 Luna. Gemini 3.1 Pro har en motsatt standardtendens jämfört med de flesta modeller: oftast män vid depression, social ångest och PTSD, inga kvinnor alls vid ADHD och autism, men 100 % kvinnor vid borderline-PD. En manlig standardtendens är en annan snedvridning, inte mindre snedvridning.

Inom OpenAI-serien skiftar standardtendenserna för personlighetssyndrom mellan på varandra följande versioner, vilket tyder på att de är en bieffekt av efterträningen snarare än en stabil egenskap. Skillnaderna mellan amerikanska, kinesiska och europeiska utvecklare är små. De sju lokala modellerna var inte sämre än API-modellerna; polska PLLuM 12B var bland dem som låg närmast, och Bielik 11B var den enda modell som matchade referensen för antisocial PD.

Genomsnittlig absolut avvikelse från referensen per API-modell jämfört med modellens angivna lanseringsdatum. Trenden går inte nedåt.
Genomsnittlig absolut avvikelse från referensen per API-modell jämfört med modellens angivna lanseringsdatum. Trenden går inte nedåt.
OpenAI-modeller i utgivningsordning: andel kvinnor för fyra tillstånd; prickade linjer visar referensvärdena.
OpenAI-modeller i utgivningsordning: andel kvinnor för fyra tillstånd; prickade linjer visar referensvärdena.
Alla 54 modeller × 11 tillstånd: andel genererade kvinnor (medelvärde över fyra språk), modeller ordnade efter avvikelse.
Alla 54 modeller × 11 tillstånd: andel genererade kvinnor (medelvärde över fyra språk), modeller ordnade efter avvikelse.

Frågans språk ändrar svaret

Samma begäran på spanska ger fler kvinnor, på kinesiska fler män.

Spanska uppmaningar ger 12,5 procentenheter fler kvinnor än engelska (43 av 54 modeller högre andel), och kinesiska uppmaningar ger 14,5 procentenheter färre (41 av 54 lägre). Polska skiljer sig inte från engelska i genomsnitt (+1,5 procentenheter), även om den neutrala kontrolluppmaningen ger 92 % kvinnor jämfört med 83 % på engelska. Grammatiskt genus förklarar inte hela bilden: polska och spanska använder båda ett feminint ord för ”person” men skiljer sig ändå åt. Effekten är störst där modellerna är mest oense (PTSD, OCD, ADHD, autism) och försvinner vid ytterligheterna, där alla språk når mättnad.

Avböjanden är ovanliga (1,0 %) men koncentreras till personlighetssyndrom: 3,7 % av svaren för antisocial PD jämfört med 0,1 % för kontrollen. En modell avböjde 99 % av uppmaningarna om antisocial PD med hänvisning till stigma. Icke-binära svar utgjorde 1,2 % av alla svar, nästan uteslutande på engelska.

Andel kvinnor efter uppmaningens språk och tillstånd (medelvärde över 54 modeller); referensen i orange.
Andel kvinnor efter uppmaningens språk och tillstånd (medelvärde över 54 modeller); referensen i orange.

Vad det innebär

Modellerna verkar lära sig riktningen på könsskillnader från text och skriver sedan den mest typiska personen i stället för att återge den verkliga variationen.

  • För kliniskt utbildningsmaterial. En utbildningsdeltagare som bara möter kvinnor med borderline-PD och män med antisocial PD kan få en starkare förförståelse än epidemiologin stöder, just vid de tillstånd där överdiagnostisering hos kvinnor (borderline) och underdiagnostisering hos kvinnor (autism, ADHD) är dokumenterade problem.
  • För alla som genererar syntetiska patienter eller testmängder. Ange kön och andra demografiska uppgifter uttryckligen utifrån en målfördelning i stället för att överlåta dem åt modellen, och kontrollera genererade grupper mot referenskvoter.
  • Vid val av modell. I vårt urval förutsade varken aktualitet, region, storlek eller lokal driftsättning snedvridningen, och den förändrades mellan versioner. Mät varje modellversion som ni använder.

Vad den här studien inte visar

  • En uppmaningsmall. Resultaten beskriver standardbeteendet vid en kort begäran utan systemuppmaning eller kliniskt sammanhang; driftsatta tillämpningar kan skilja sig åt.
  • Ungefärliga referensvärden. Könskvoter skiljer sig åt mellan länder, miljöer och diagnostisk praxis; borderline-PD är överrepresenterat bland kvinnor i kliniska urval men närmare jämn könsfördelning i befolkningsundersökningar.
  • Översättning och grammatiskt genus. Vi översatte störningsnamnen, och de kan ha olika konnotationer på respektive språk.
  • API-routning. En modell kan tillhandahållas av olika leverantörer; leverantören för varje anrop anges i datauppsättningen.
  • Binär analys av svaren kvinna/man; övriga svar redovisas separat. Parsningen är regelbaserad och granskades per modell.

Läs artikeln, kontrollera siffrorna

Artikeln kan laddas ner gratis. Hela datauppsättningen finns öppet på Zenodo och Hugging Face, och vi kan också skicka den till dig som en ZIP-fil.

PDF

Artikeln

Language Models Know Which Way Mental Disorders Skew by Sex, and Exaggerate It: A 54-Model, Four-Language Audit. Bartłomiej Głowacki, Joanna Głowacka, Ewa Cylwik, Bohdan Głowacki. AITHENTICA P.S.A. / Therapy Support, 2026. Förhandsversion.

Datauppsättning: Zenodo, DOI 10.5281/zenodo.23676720 · Hugging Face

Ladda ner artikeln (PDF) arXiv: kommer snart
📦

Få datapaketet via e-post

PDF av artikeln, alla 118 800 svar med tolkade fält, uppmaningar på fyra språk, referensvärden, analyskod och figurer.

Vi delar inte e-postadresser. Datalänken kommer inom några minuter.

Det här finns i ZIP-filen

  • paper/: artikeln som PDF
  • data/responses.csv och .parquet: varje svar med modell, språk, tillstånd, råtext och tolkade uppgifter om namn, kön, ålder och yrke
  • data/prompts.csv, models.csv, reference_share_female.csv, summary_model_language_condition.csv
  • code/: skript för datainsamling, parsning och analys
  • figures/: sidans figurer
  • README.md: datablad. Licens CC BY 4.0.

Så här citerar du

@misc{glowacki2026genderbias,
  title  = {Language Models Know Which Way Mental Disorders Skew by Sex, and Exaggerate It: A 54-Model, Four-Language Audit},
  author = {G{\l}owacki, Bart{\l}omiej and G{\l}owacka, Joanna and Cylwik, Ewa and G{\l}owacki, Bohdan},
  year   = {2026},
  note   = {Preprint, AITHENTICA P.S.A. / Therapy Support. Dataset: doi:10.5281/zenodo.23676720},
  url    = {https://aitherapy.support/research/llm-gender-bias-mental-health/}
}

Therapy Support · Kom igång redan idag

Ta tillbaka tid för dig själv
och dina patienter

Är du KBT-terapeut?
Se hur plattformen stödjer ditt dagliga arbete.
Sessionssammanfattningar som ordnar det kliniska materialet. Administration som inte står i vägen.