Sie vertrauen KI in der Therapie nicht? Gut.

Wir auch nicht, wenn es vorgibt, sich sicher zu sein.

Es gibt einen Satz, der in Gesprächen mit Therapeuten jedes Mal fällt, wenn das Thema künstliche Intelligenz im Behandlungszimmer aufkommt: „Ich vertraue nichts, was ich nicht verstehe.”

Das ist keine Technikfeindlichkeit. Das ist ein gesunder klinischer Instinkt. Ein Therapeut ist für jede Hypothese, die er über einen Patienten bildet, rechenschaftspflichtig – er hat also das Recht, ja sogar die Pflicht, zu wissen, woher diese Hypothese kommt.

Doch die meisten KI-Werkzeuge verhalten sich wie eine Black Box: Man füttert sie mit Daten, ein fertiges Ergebnis kommt heraus, und der Weg von einem zum anderen bleibt verborgen – vergraben in Millionen von Parametern, die niemand einsehen kann. Bei einer Wetter-App ist das kein Problem. In der Arbeit mit einem anderen Menschen schon.

Es gibt noch eine zweite, gefährlichere Falle. Ein Sprachmodell, das auf eine Datenlücke stößt, hat eine starke Tendenz, sie zu füllen – das hinzuzufügen, was passt, was plausibel ist, was wie das Lehrbuchbild aussieht. Genau das ist eine Halluzination. Und im klinischen Kontext ist sie gefährlicher als Schweigen, weil sie glaubwürdig klingt.

Der Ausgangspunkt ist also einfach: Ein KI-Werkzeug in der Therapie gewinnt Vertrauen nicht dadurch, dass es sich sicher ist. Es gewinnt es dadurch, dass es ehrlich ist – es zeigt die Quelle, zeigt die Begründung und gibt zu, was es nicht weiß.

Am leichtesten lässt sich das an einem konkreten Fall zeigen. Die Karte, die diesen Artikel eröffnet, ist ein Ausschnitt, den das System aus einem Sitzungstranskript generiert hat – gehen wir seine Abschnitte durch.

Das System erfindet die Gedanken des Patienten nicht - es zitiert sie

Im Abschnitt zu automatischen Gedanken gibt es nirgendwo eine „Interpretation der KI”. Was erscheint, sind wörtliche Aussagen des Patienten aus dem Transkript: „Ich würde dorthin gehen und nichts schreiben”, „Ich würde nicht bestehen”, „Ich bin ein Versager”. Darunter erklärt das System im Feld AI Rationale, warum es diese Gedanken einer bestimmten Kategorie zugeordnet hat und welche kognitiven Verzerrungen dahinterstehen könnten.

Das ist das Gegenteil einer Black Box. Statt eines Urteils aus dem Nichts erhält der Therapeut eine Botschaft: Hier habe ich das her – prüfen Sie es selbst. Die Verifizierung dauert Sekunden, weil die Quelle direkt griffbereit ist.

Es ist kein Urteil - es ist eine Hypothese

Neben jedem Abschnitt steht ein kleines, aber entscheidendes Wort: (Hypothese). Das System verkündet nicht: „Das ist der Auslöser.” Es sagt: Das ist wahrscheinlich der Auslöser – prüfen Sie es.

Derselbe Ton kehrt in den Begründungen wieder: „scheint”, „könnte darauf hindeuten”, „bedarf weiterer klinischer Verifizierung”. Das ist keine sprachliche Vorsicht, die nachträglich angeklebt wurde. Es ist eine eingebaute Haltung – epistemische Bescheidenheit, die in die Art und Weise geschrieben ist, wie das System seine Schlussfolgerungen formuliert. Die Entscheidung bleibt stets beim Therapeuten. Der Mensch fällt keinen Moment aus der Schleife.

Und jetzt der wichtigste Teil: was das System tut, wenn es etwas nicht weiß

Schauen wir uns den Abschnitt zu Physiologie und somatischen Reaktionen an.

Jeder, der mit Angst arbeitet, kennt das typische Bild: Muskelverspannung, Herzrasen, Schwitzen, flache Atmung. Ein Sprachmodell könnte das einfach hinzufügen – es würde perfekt passen, glaubwürdig klingen, niemand würde es bemerken.

Das System tut das nicht. Es schreibt: „Keine Daten im Transkript.”

Und dann macht es einen Schritt, der alles verändert. In der Begründung erkennt es die Lücke nicht nur an, sondern verwandelt sie in einen klinischen Hinweis: Es merkt an, dass der Patient „Stress” beschrieben, aber keine konkreten körperlichen Reaktionen genannt hat, und schlägt vor, dass ein vollständigeres ABC danach fragen sollte, was im Körper im Moment des Betretens und während des Stehens neben dem Gespräch geschah.

Genau das ist der Moment, in dem ein gewöhnliches Modell halluzinieren würde. ATS sagt stattdessen „Ich weiß es nicht” – und zeigt dem Therapeuten, wo das Transkript endet und die eigene Arbeit beginnt.

Dieselbe Präzision zeigt sich im Abschnitt Emotionen: Wo die Patientin eine Zahl angegeben hat („Stress 90/100”), erfasst das System sie. Wo sie es nicht getan hat – bei Traurigkeit und Trauer – heißt es unumwunden: „Intensität: nicht angegeben.” Es unterscheidet, was gemessen wurde, von dem, was nicht gemessen wurde. Es täuscht keine Vollständigkeit vor.

Eine Haltung, nicht drei Funktionen

Quelle. Hypothese. Grenze.

Das sind keine drei separaten Schaltflächen, die nachträglich an das Produkt angeschraubt wurden. Es ist eine einzige, konsistente Art und Weise, wie das System klinisches Material von vornherein angeht: Es zeigt, wo es weiß, was es weiß, es behandelt seine Schlussfolgerungen als zu verifizierende Hypothesen, und es markiert offen die Stellen, an denen Daten fehlten.

Eine Black Box funktioniert umgekehrt – sie verbirgt den Weg und füllt die Lücken, um sicher zu wirken. Im Behandlungszimmer gibt es dafür keine Zustimmung.

Skepsis gegenüber KI in der Therapie ist berechtigt. Es geht also nicht darum, Sie zum Vertrauen in KI zu überreden – es geht darum, dass das Werkzeug selbst beweist, dass es überprüft werden kann. Vertrauen entsteht nicht aus Sicherheit. Es entsteht aus Ehrlichkeit.

Das Therapy-Support-Team