Terapide AI'ya güvenmiyor musunuz? İyi.

Biz de güvenmiyoruz, emin gibi davrandığında.

Danışma odasında yapay zeka konusu her gündeme geldiğinde terapistlerle yapılan konuşmalarda ortaya çıkan bir cümle var: “Anlamadığım bir şeye güvenmeyeceğim.”

Bu teknofobi değil. Sağlıklı bir klinik içgüdü. Bir terapist, bir hasta hakkında oluşturduğu her hipotezden sorumludur — bu yüzden o hipotezin nereden geldiğini bilme hakkına, hatta görevine sahiptir.

Yine de çoğu AI aracı bir kara kutu gibi davranır: verileri girersiniz, bitmiş bir sonuç çıkar ve birinden diğerine giden yol gizli kalır — kimsenin inceleyemediği milyonlarca parametrenin içine gömülmüş. Bir hava durumu uygulamasında bu sorun değil. Başka bir insanla yapılan çalışmada, öyle.

Bir de ikinci, daha tehlikeli bir tuzak var. Verilerde bir boşlukla karşılaşan bir dil modeli, bu boşluğu doldurmaya güçlü bir eğilim gösterir — uygun olanı, makul görüneni, ders kitabı görüntüsüne benzeyeni ekler. Bir halüsinasyon tam olarak budur. Ve klinik bağlamda bu, sessizlikten daha tehlikelidir, çünkü inandırıcı geliyor.

Dolayısıyla başlangıç noktası basit: terapide bir AI aracı, kendinden emin olduğu için güven kazanmaz. Dürüst olduğunda kazanır — kaynağı gösterir, akıl yürütmeyi gösterir ve neyi bilmediğini kabul eder.

Bunu somut bir vakada görmek en kolayı. Bu makaleyi açan harita, sistemin bir seans transkriptinden ürettiği bir parça — bölümlerini birlikte inceleyelim.

Sistem hastanın düşüncelerini icat etmez — onları alıntılar

Otomatik düşünceler bölümünde hiçbir yerde “AI’dan yorum” yoktur. Görünen şey, hastanın transkriptteki birebir ifadeleridir: “Oraya gider ve hiçbir şey yazmazdım”, “Geçemezdim”, “Ben bir başarısızım”. Altında, AI Gerekçesi alanında, sistem bu düşünceleri belirli bir kategoriye neden atadığını ve arkasında hangi bilişsel çarpıtmaların yatabileceğini açıklar.

Bu, bir kara kutunun tam tersi. Hiçbir yerden gelen bir hükmün yerine, terapist şu mesajı alır: bunu nereden aldığım burada — kendiniz kontrol edin. Doğrulama saniyeler sürer, çünkü kaynak elinizin altındadır.

Bu bir hüküm değil — bir hipotez

Her bölümün yanında küçük ama çok önemli bir kelime var: (hipotez). Sistem “bu tetikleyicidir” diye duyurmaz. Şunu söyler: bu muhtemelen tetikleyicidir — doğrulayın.

Aynı ton gerekçelerde de karşımıza çıkar: “gibi görünüyor”, “işaret edebilir”, “daha fazla klinik doğrulama gerektirir”. Bu, sona eklenmiş dilsel bir tedbir değil. Bu, yerleşik bir duruş — sistemin sonuçlarını çerçevelediği biçime yazılmış epistemik alçakgönüllülük. Karar her zaman terapistin tarafında kalır. İnsan döngüden bir an bile çıkmaz.

Ve şimdi en önemli kısım: sistem bir şeyi bilmediğinde ne yapar

Fizyoloji ve somatik tepkiler bölümüne bakalım.

Kaygıyla çalışan herkes tipik tabloyu bilir: kas gerginliği, hızlı kalp atışı, terleme, sığ nefes alma. Bir dil modeli bunu basitçe ekleyebilirdi — mükemmel uyardı, inandırıcı görünürdü, kimse fark etmezdi.

Sistem bunu yapmaz. Şöyle yazar: “Transkriptte veri yok.”

Ve sonra her şeyi değiştiren bir adım atar. Gerekçede sadece boşluğu kabul etmekle kalmaz, onu klinik bir ipucuna dönüştürür: hastanın “stres” tanımladığını ama belirli bedensel tepkiler vermediğini not eder ve daha eksiksiz bir ABC için görüşmeye girerken ve konuşma sırasında bedende neler olduğunun sorulması gerektiğini önerir.

Bu, sıradan bir modelin halüsinasyon göreceği tam da o an. ATS bunun yerine “bilmiyorum” der — ve terapiste transkriptin nerede bittiğini ve kendi çalışmasının nerede başladığını gösterir.

Aynı hassasiyet duygular bölümünde de kendini gösterir: hastanın bir sayı verdiği yerde (“stres 90/100”), sistem bunu kaydeder. Vermediği yerde — üzüntü ve keder ile — açıkça belirtir: “yoğunluk: belirtilmedi”. Ölçülenle ölçülmeyeni birbirinden ayırır. Eksiksizlik taklidi yapmaz.

Üç özellik değil, tek bir duruş

Kaynak. Hipotez. Sınır.

Bunlar ürüne cıvatalanmış üç ayrı düğme değil. Sistemin klinik materyale en baştan yaklaşma biçiminde tutarlı, tek bir yol: neyi bildiğini nereden bildiğini gösterir, sonuçlarını doğrulanması gereken hipotezler olarak ele alır ve verinin eksik olduğu yerleri açıkça işaretler.

Bir kara kutu bunun tersi şekilde çalışır — yolu gizler ve emin görünmek için boşlukları doldurur. Danışma odasında buna rıza yoktur.

Terapide AI’ya karşı şüphecilik haklıdır. Bu yüzden mesele sizi AI’ya güvenmeye ikna etmek değil — aracın kendi kendine, kontrol edilebilir olduğunu kanıtlaması. Güven, kendinden eminlikten gelmez. Dürüstlükten gelir.

Therapy Support Ekibi