← Terug naar Onderzoek
Onderzoek · bias in LLM's · 2026

De juiste richting, een overdreven omvang

Een audit van gender in door taalmodellen verzonnen personen met tien psychische stoornissen, met 54 modellen in vier talen. 118.800 antwoorden, allemaal openbaar.

Gepubliceerd27 oktober 2026
AuteursB. Głowacki, J. Głowacka, E. Cylwik, B. Głowacki
StatusPreprint · open dataset
LicentieCC BY 4.0
Download het artikel (PDF) arXiv: binnenkort

Een referentieverhouding van 7:3 wordt in de output 99:1

Taalmodellen schrijven inmiddels klinische casusbeschrijvingen, spelen patiënten na en maken trainingscasussen. Elke verzonnen persoon heeft een gender dat de auteur niet heeft gekozen. We hebben gemeten welk gender modellen kiezen voor tien psychische stoornissen en hoe ver dit afwijkt van de epidemiologie.

118.800
antwoorden van 54 modellen in 4 talen
2,4×
mediane versterking van sekseverhoudingen (log-odds)
99% vs 70%
vrouwen bij borderline-PD: modellen vs referentie
54 / 54
modellen sterker gepolariseerd dan de referentie

Modellen geven de richting van bekende sekseverschillen goed weer (mediane rangcorrelatie met referentieverhoudingen 0,79), maar overdrijven de omvang ervan. Borderlinepersoonlijkheidsstoornis wordt in 99% van de gevallen als een vrouw beschreven (referentie ongeveer 70%); antisociale persoonlijkheidsstoornis als een man in 95% van de gevallen (ongeveer 75%). Zelfs een neutrale prompt, een persoon die met psychotherapie begint, levert 86% vrouwen op tegenover ongeveer 65%. In 54% van de model-taal-aandoeningscombinaties heeft minstens 95% van de 50 steekproeven hetzelfde gender.

In onze steekproef kwamen nieuwere modellen niet dichter bij de referentie. Spaanstalige prompts verschuiven antwoorden richting vrouwen en Chinese prompts richting mannen. Dit is de tweede, veel grotere editie van ons eerdere onderzoek naar Poolse patiënten.

Inhoud


Onze vraagstelling

Een bewust eenvoudige audit: dezelfde korte vraag, vaak herhaald, aan veel modellen.

Onderzoeksopzet: één zero-shotprompt per aandoening en taal, 50 keer per model; een meertalige parser leest het gender-veld; het aandeel vrouwen wordt vergeleken met referentiewaarden.
Onderzoeksopzet: één zero-shotprompt per aandoening en taal, 50 keer per model; een meertalige parser leest het gender-veld; het aandeel vrouwen wordt vergeleken met referentiewaarden.

Elke prompt vroeg het model om een fictief persoon met [stoornis] te genereren en in één regel te antwoorden met naam, gender, leeftijd (18–55) en beroep. Geen systeemprompt, geen klinische context. De controleprompt vroeg om een fictief persoon die met psychotherapie begint.

  • 11 aandoeningen: depressie, gegeneraliseerde angststoornis, sociale angst, OCD, PTSD, borderline-, narcistische en antisociale persoonlijkheidsstoornis (PD), ADHD, autisme en de controle.
  • 4 talen: Engels, Pools, Spaans en Chinees.
  • 54 modellen uitgebracht in 2023–2026: 34 van Amerikaanse ontwikkelaars, 15 van Chinese en 5 van Europese ontwikkelaars, waaronder de Poolse Bielik en PLLuM. 47 aangeroepen via een API, 7 open-weightmodellen lokaal uitgevoerd op onze eigen hardware.
  • 50 steekproeven per cel bij een temperatuur van 0,9: 118.800 antwoorden. 98,9% verwerkt, 1,0% weigeringen of niet-verwerkte antwoorden, 0,1% fouten. Totale API-kosten: USD 60.
  • Referentiewaarden: geschat aandeel vrouwen onder mensen met elke stoornis, op basis van DSM-5-TR en epidemiologische overzichtsstudies. Het zijn ordegroottebenaderingen, geen gouden standaard; de conclusies zijn alleen afhankelijk van de richting en globale omvang ervan.

De juiste richting, een overdreven omvang

Modellen weten bij welke stoornissen vaker een diagnose wordt gesteld bij vrouwen en bij welke bij mannen. Vervolgens vergroten ze de meeste scheefheden.

(a) Gemiddeld aandeel gegenereerde vrouwen (blauw, 95%-BI over modellen) tegenover het referentieaandeel; grijze punten zijn afzonderlijke modellen; de stippellijn geeft perfecte kalibratie aan. (b) Elk model bij elke aandoening, met de referentie in oranje.
(a) Gemiddeld aandeel gegenereerde vrouwen (blauw, 95%-BI over modellen) tegenover het referentieaandeel; grijze punten zijn afzonderlijke modellen; de stippellijn geeft perfecte kalibratie aan. (b) Elk model bij elke aandoening, met de referentie in oranje.

Op de log-odds-schaal versterkt het mediane model de referentieverhouding 2,4 keer (IQR 2,1–3,0); de helling is voor alle 54 modellen groter dan 1. Alle 54 zijn sterker gepolariseerd dan de referentie (gemiddelde afstand tot gelijke verdeling 0,33 versus 0,16).

Twee aandoeningen doorbreken dit patroon. PTSD is de enige aandoening met een vrouwelijk overwicht die niet verder richting vrouwen wordt verschoven (62% versus 68%); de modellen lopen sterk uiteen (1–96%). ADHD en autisme, die vaker bij mannen worden vastgesteld, worden richting een gelijke verdeling verschoven (50% en 45% vrouwen versus 38% en 25%).

AandoeningReferentieModellenBereik> ref.p
Starten met psychotherapie (controle)658634–10050/54<0.001
Borderline-PD709984–10054/54<0.001
Gegeneraliseerde angststoornis679366–10053/54<0.001
Depressie677912–10044/54<0.001
Sociale angst58806–10051/54<0.001
PTSD68621–9628/540.50
OCD52692–9845/54<0.001
ADHD38500–9136/540.003
Narcistische PD32210–7813/54<0.001
Autisme25450–8642/54<0.001
Antisociale PD2550–494/54<0.001

Aandeel vrouwen (%). Modellen: gemiddelde over 54 modellen (elk het gemiddelde van 4 talen × 50 steekproeven). > ref.: modellen boven de referentie. p: Wilcoxon-toets voor gepaarde waarnemingen ten opzichte van de referentie.


Verlies van variatie

De bias bestaat niet alleen uit een verschoven gemiddelde. Binnen één model variëren de antwoorden nauwelijks.

In 54% van de 2.360 model-taal-aandoeningscellen heeft minstens 95% van de 50 steekproeven hetzelfde gender; in 40% hebben ze dat allemaal, zelfs bij een temperatuur van 0,9.

Namen vertonen hetzelfde patroon. Maya komt voor bij 34% van alle Engelstalige vrouwen en Marcus bij 28% van de Engelstalige mannen; Anna bij 37% van de Poolstalige vrouwen en Marek bij 38% van de Poolstalige mannen; Lucía bij 37% van de Spaanstalige vrouwen. Beroepen volgen stereotypen: een vrouwelijke grafisch ontwerper bij borderline-PD, depressie en angst; een mannelijke bedrijfsjurist bij narcistische PD; een autoverkoper bij antisociale PD; een mannelijke softwareontwikkelaar bij autisme.


Nieuwer is niet beter

De modelkeuze verschuift de gemiddelde afwijking van 12 naar 37 procentpunten, maar niets eenvoudigs voorspelt deze afwijking.

De afwijking van de referentie neemt niet af bij nieuwere modellen; ze neemt licht toe (Spearman ρ = 0,36, p = 0,013, 47 API-modellen). De modellen die het dichtst bij de referentie lagen, waren Qwen 2.5 72B, GPT-5.4 en GPT-4o mini; het verst ervan af stonden Gemini 3.1 Pro, GPT-6 Sol en GPT-6 Luna. Gemini 3.1 Pro heeft een andere standaardneiging dan de meeste modellen: vooral mannen bij depressie, sociale angst en PTSD, helemaal geen vrouwen bij ADHD en autisme, maar 100% vrouwen bij borderline-PD. Een mannelijke standaardneiging is een andere bias, niet minder bias.

Binnen de OpenAI-reeks wisselen de standaardneigingen voor persoonlijkheidsstoornissen tussen opeenvolgende versies, wat erop wijst dat ze een bijproduct zijn van post-training en geen stabiele eigenschap. De verschillen tussen Amerikaanse, Chinese en Europese ontwikkelaars zijn klein. De zeven lokale modellen presteerden niet slechter dan API-modellen; de Poolse PLLuM 12B behoorde tot de modellen die het dichtst bij de referentie lagen, en Bielik 11B was het enige model dat overeenkwam met de referentie voor antisociale PD.

Gemiddelde absolute afwijking van de referentie per API-model, afgezet tegen de vermeldingsdatum. De trend daalt niet.
Gemiddelde absolute afwijking van de referentie per API-model, afgezet tegen de vermeldingsdatum. De trend daalt niet.
OpenAI-modellen in volgorde van uitgave: aandeel vrouwen voor vier aandoeningen; stippellijnen geven de referenties aan.
OpenAI-modellen in volgorde van uitgave: aandeel vrouwen voor vier aandoeningen; stippellijnen geven de referenties aan.
Alle 54 modellen × 11 aandoeningen: aandeel gegenereerde vrouwen (gemiddelde over vier talen), modellen gerangschikt naar afwijking.
Alle 54 modellen × 11 aandoeningen: aandeel gegenereerde vrouwen (gemiddelde over vier talen), modellen gerangschikt naar afwijking.

De taal van de vraag verandert het antwoord

Dezelfde vraag levert in het Spaans meer vrouwen op en in het Chinees meer mannen.

Spaanstalige prompts leveren 12,5 procentpunt meer vrouwen op dan Engelstalige (43 van de 54 modellen hoger) en Chinese prompts 14,5 procentpunt minder (41 van de 54 lager). Pools verschilt gemiddeld niet van Engels (+1,5 procentpunt), al levert de neutrale controleprompt 92% vrouwen op tegenover 83% in het Engels. Grammaticaal gender verklaart niet het hele verhaal: in het Pools en Spaans is het woord voor ‘persoon’ vrouwelijk, maar de resultaten verschillen desondanks. Het effect is het grootst waar modellen het sterkst van mening verschillen (PTSD, OCD, ADHD, autisme) en verdwijnt aan de uitersten, waar alle talen verzadigd raken.

Weigeringen zijn zeldzaam (1,0%), maar komen vaker voor bij persoonlijkheidsstoornissen: 3,7% van de antwoorden bij antisociale PD tegenover 0,1% bij de controle. Eén model weigerde 99% van de prompts over antisociale PD, met verwijzing naar stigma. Niet-binaire antwoorden vormden 1,2% van alle antwoorden en kwamen vrijwel alleen in het Engels voor.

Aandeel vrouwen per prompttaal en aandoening (gemiddelde over 54 modellen); referentie in oranje.
Aandeel vrouwen per prompttaal en aandoening (gemiddelde over 54 modellen); referentie in oranje.

Wat dit betekent

Modellen lijken de richting van sekseverschillen uit teksten te leren en vervolgens de meest typische persoon te beschrijven in plaats van uit de werkelijke verdeling te steekproeven.

  • Voor klinisch lesmateriaal. Een trainee die alleen vrouwen met borderline-PD en mannen met antisociale PD ontmoet, kan een sterkere voorafgaande verwachting ontwikkelen dan de epidemiologie rechtvaardigt, juist bij aandoeningen waarvoor overdiagnose bij vrouwen (borderline) en onderdiagnose bij vrouwen (autisme, ADHD) als problemen zijn gedocumenteerd.
  • Voor iedereen die synthetische patiënten of testsets genereert. Stel gender en andere demografische kenmerken expliciet in op basis van een doelverdeling, in plaats van deze aan het model over te laten, en controleer gegenereerde cohorten aan de hand van referentieverhoudingen.
  • Bij de modelkeuze. In onze steekproef voorspelde noch recentheid, regio, omvang noch lokale implementatie de bias, en deze veranderde tussen versies. Meet elke modelversie die u inzet.

Wat dit onderzoek niet aantoont

  • Eén promptsjabloon. De resultaten beschrijven het standaardgedrag bij een kort verzoek zonder systeemprompt of klinische context; toepassingen in de praktijk kunnen hiervan verschillen.
  • Benaderende referenties. Sekseverhoudingen verschillen per land, setting en diagnostische praktijk; borderline-PD vertoont een vrouwelijk overwicht in klinische steekproeven, maar ligt dichter bij een gelijke verdeling in bevolkingsonderzoeken.
  • Vertaling en grammaticaal gender. Wij hebben de namen van de stoornissen vertaald; deze kunnen in elke taal andere connotaties hebben.
  • API-routering. Een model kan via verschillende aanbieders worden aangeboden; de aanbieder van elke aanroep staat in de dataset vermeld.
  • Binaire analyse van antwoorden met vrouw/man; andere antwoorden worden afzonderlijk gerapporteerd. De verwerking is regelgebaseerd en voor elk model gecontroleerd.

Lees het artikel, controleer de cijfers

Het artikel is gratis te downloaden. De volledige dataset is openbaar beschikbaar op Zenodo en Hugging Face; we kunnen deze ook als ZIP naar u toesturen.

PDF

Het artikel

Language Models Know Which Way Mental Disorders Skew by Sex, and Exaggerate It: A 54-Model, Four-Language Audit. Bartłomiej Głowacki, Joanna Głowacka, Ewa Cylwik, Bohdan Głowacki. AITHENTICA P.S.A. / Therapy Support, 2026. Preprint.

Dataset: Zenodo, DOI 10.5281/zenodo.23676720 · Hugging Face

Download het artikel (PDF) arXiv: binnenkort
📦

Ontvang het datapakket per e-mail

PDF van het artikel, alle 118.800 antwoorden met verwerkte velden, prompts in vier talen, referentiewaarden, de analysec code en figuren.

We delen geen e-mailadressen. De datalink wordt binnen enkele minuten verstuurd.

Inhoud van de ZIP

  • paper/: het artikel als PDF
  • data/responses.csv en .parquet: elk antwoord met model, taal, aandoening, ruwe tekst en verwerkte naam, gender, leeftijd en beroep
  • data/prompts.csv, models.csv, reference_share_female.csv, summary_model_language_condition.csv
  • code/: scripts voor gegevensverzameling, verwerking en analyse
  • figures/: de figuren van deze pagina
  • README.md: datasetkaart. Licentie CC BY 4.0.

Citeerinstructies

@misc{glowacki2026genderbias,
  title  = {Language Models Know Which Way Mental Disorders Skew by Sex, and Exaggerate It: A 54-Model, Four-Language Audit},
  author = {G{\l}owacki, Bart{\l}omiej and G{\l}owacka, Joanna and Cylwik, Ewa and G{\l}owacki, Bohdan},
  year   = {2026},
  note   = {Preprint, AITHENTICA P.S.A. / Therapy Support. Dataset: doi:10.5281/zenodo.23676720},
  url    = {https://aitherapy.support/research/llm-gender-bias-mental-health/}
}

Therapy Support · Begin vandaag nog

Win tijd terug voor uzelf
en voor uw Cliënten

Bent u CGT-therapeut?
Ontdek hoe het platform uw dagelijkse werk ondersteunt.
Sessiesamenvattingen die het klinische materiaal ordenen. Administratie die niet in de weg zit.