არ ენდობით AI-ს თერაპიაში? კარგია.
არც ჩვენ ვენდობით, როცა ის დარწმუნებულობას თამაშობს.
არსებობს ერთი წინადადება, რომელიც ყოველთვის ჩნდება თერაპევტებთან საუბრებში, როცა ხელოვნური ინტელექტის თემა საკონსულტაციო ოთახში ჩნდება: „არ ვენდობი იმას, რაც არ მესმის”.
ეს არ არის ტექნოფობია. ეს არის ჯანსაღი კლინიკური ინსტინქტი. თერაპევტი პასუხისმგებელია ყოველ ჰიპოთეზაზე, რომელსაც პაციენტის შესახებ აყალიბებს — ამიტომ მას აქვს უფლება, და ფაქტობრივად, მოვალეობა, იცოდეს, საიდან მოდის ეს ჰიპოთეზა.
მაგრამ AI ინსტრუმენტების უმეტესობა იქცევა როგორც შავი ყუთი: შეყავთ მონაცემები, გამოდის მზა შედეგი, ხოლო გზა ერთიდან მეორემდე დარჩება დაფარული — დამარხული მილიონობით პარამეტრში, რომელთა შემოწმებაც არავის შეუძლია. ამინდის აპლიკაციაში ეს პრობლემა არ არის. მუშაობაში სხვა ადამიანთან — არის.
არსებობს მეორე, უფრო საშიში ხაფანგიც. ენობრივ მოდელს, რომელიც მონაცემებში ხარვეზს აწყდება, აქვს ძლიერი ტენდენცია, შეავსოს ის — დაამატოს ის, რაც ჯდება, რაც სავარაუდოა, რაც ჰგავს სახელმძღვანელოს სურათს. ეს ზუსტად არის ის, რაც არის ჰალუცინაცია. და კლინიკურ კონტექსტში ეს უფრო საშიშია, ვიდრე დუმილი, რადგან სარწმუნოდ ჟღერს.
ასე რომ, საწყისი წერტილი მარტივია: AI ინსტრუმენტი თერაპიაში ნდობას არ იმსახურებს იმიტომ, რომ თავდაჯერებულია. ის ნდობას იმსახურებს მაშინ, როცა პატიოსანია — აჩვენებს წყაროს, აჩვენებს მსჯელობას და აღიარებს, რისი არცოდნაც.
ამის დანახვა ყველაზე ადვილია კონკრეტულ შემთხვევაში. რუკა, რომელიც ამ სტატიას ხსნის, არის ფრაგმენტი, რომელიც სისტემამ სესიის ტრანსკრიფციიდან შექმნა — მოდით, გავიაროთ მისი სექციები.
სისტემა არ იგონებს პაციენტის აზრებს — ის ციტირებს მათ
ავტომატური აზრების სექციაში არსად არ ჩანს „AI-ის ინტერპრეტაცია”. ის, რაც ჩნდება, არის პაციენტის სიტყვასიტყვითი განცხადებები ტრანსკრიფციიდან: „წავიდოდი იქ და არაფერს დავწერდი”, „ვერ ჩავაბარებდი”, „მარცხისკენ განწირული ვარ”. ქვემოთ, AI Rationale ველში, სისტემა განმარტავს, რატომ მიაკუთვნა ეს აზრები მოცემულ კატეგორიას და რომელი კოგნიტური დამახინჯებები შეიძლება იმალებოდეს მათ უკან.
ეს არის შავი ყუთის საწინააღმდეგო. განაჩენის ნაცვლად, საიდანღაც გამოტანილის, თერაპევტი იღებს შეტყობინებას: აი, საიდან მოვიდა ეს — თავად შეამოწმეთ. გადამოწმებას წამები სჭირდება, რადგან წყარო ხელისგზაშია.
ეს არ არის განაჩენი — ეს არის ჰიპოთეზა
ყოველი სექციის გვერდით დგას ერთი პატარა, მაგრამ გადამწყვეტი სიტყვა: (ჰიპოთეზა). სისტემა არ აცხადებს: „ეს არის ტრიგერი”. ის ამბობს: ეს, სავარაუდოდ, არის ტრიგერი — გადაამოწმეთ.
იგივე ტონი ბრუნდება დასაბუთებებშიც: „ჩანს, რომ”, „შეიძლება ვარაუდობდეს”, „საჭიროებს შემდგომ კლინიკურ გადამოწმებას”. ეს არ არის ენობრივი სიფრთხილე, ბოლოს მიმაგრებული. ეს არის ჩაშენებული პოზიცია — ეპისტემური თავმდაბლობა, ჩაწერილი პირდაპირ იმ წესში, რომლითაც სისტემა თავის დასკვნებს აყალიბებს. გადაწყვეტილება ყოველთვის თერაპევტის მხარეს რჩება. ადამიანი ციკლიდან არასოდეს გამოვარდება, არც ერთი წამით.
და ახლა ყველაზე მნიშვნელოვანი ნაწილი: რას აკეთებს სისტემა, როცა რაღაც არ იცის
მოდით, დავაკვირდეთ ფიზიოლოგიისა და სომატური რეაქციების სექციას.
ყველამ, ვინც შფოთვასთან მუშაობს, იცის ტიპური სურათი: კუნთოვანი დაძაბულობა, გულისცემის აჩქარება, ოფლიანობა, ზედაპირული სუნთქვა. ენობრივ მოდელს უბრალოდ შეეძლო ეს დაემატებინა — სრულყოფილად მოერგებოდა, სარწმუნოდ ჟღერდა, არავინ შეამჩნევდა.
სისტემა ამას არ აკეთებს. ის წერს: „ტრანსკრიფციაში მონაცემები არ არის”.
და შემდეგ დგამს ნაბიჯს, რომელიც ყველაფერს ცვლის. დასაბუთებაში ის არა მხოლოდ აღიარებს ხარვეზს, არამედ გარდაქმნის მას კლინიკურ მინიშნებად: აღნიშნავს, რომ პაციენტმა აღწერა „სტრესი”, მაგრამ არ მიუთითა კონკრეტული სხეულებრივი რეაქციები, და გვთავაზობს, რომ სრულყოფილი ABC მოითხოვდა კითხვას იმის შესახებ, რა ხდებოდა სხეულში საუბარში შესვლის მომენტში და საუბრის განმავლობაში.
ეს ზუსტად ის მომენტია, სადაც ჩვეულებრივი მოდელი ჰალუცინირებდა. ATS ამის ნაცვლად ამბობს „არ ვიცი” — და უჩვენებს თერაპევტს, სად მთავრდება ტრანსკრიფცია და სად იწყება საკუთარი მუშაობა.
იგივე სიზუსტე ჩანს ემოციების სექციაშიც: სადაც პაციენტმა რიცხვი მისცა („სტრესი 90/100”), სისტემა აღრიცხავს მას. სადაც არ მისცა — მწუხარებისა და გლოვის შემთხვევაში — ის უბრალოდ აცხადებს: „ინტენსივობა: არ არის მითითებული”. ის განასხვავებს გაზომილს გაუზომავისგან. ის არ ზვიადობს სისრულეს.
ერთი პოზიცია, არა სამი ფუნქცია
წყარო. ჰიპოთეზა. ზღვარი.
ეს არ არის სამი ცალკეული ღილაკი, პროდუქტზე მიმაგრებული. ეს არის ერთი თანმიმდევრული გზა, რომლითაც სისტემა თავიდანვე მიუდგება კლინიკურ მასალას: ის აჩვენებს, სად იცის ის, რაც იცის, საკუთარ დასკვნებს ჰიპოთეზებად განიხილავს, რომელთა გადამოწმებაც საჭიროა, და ღიად აღნიშნავს ადგილებს, სადაც მონაცემები აკლდა.
შავი ყუთი საპირისპიროდ მუშაობს — მალავს გზას და ავსებს ხარვეზებს, რათა დარწმუნებული ჩანდეს. საკონსულტაციო ოთახში ამაზე თანხმობა არ არსებობს.
სკეპტიციზმი AI-ის მიმართ თერაპიაში გამართლებულია. ამიტომ საქმე არ არის იმაში, რომ დაგარწმუნოთ, ენდოთ AI-ს — საქმე იმაშია, რომ ინსტრუმენტმა თავად დაამტკიცოს, რომ შესამოწმებელია. ნდობა არ მოდის თავდაჯერებულობიდან. ის მოდის პატიოსნებიდან.
Therapy Support-ის გუნდი