Et luota tekoälyyn terapiassa? Hyvä.

Emme mekään, kun se teeskentelee olevansa varma.

On yksi lause, joka nousee esiin keskusteluissa terapeuttien kanssa aina, kun tekoäly vastaanotolla tulee puheeksi: “En luota asiaan, jota en ymmärrä.”

Tämä ei ole teknofobiaa. Se on terve kliininen vaisto. Terapeutti on vastuussa jokaisesta potilaasta muodostamastaan hypoteesista — siksi hänellä on oikeus, ja itse asiassa velvollisuus, tietää, mistä kyseinen hypoteesi on peräisin.

Silti useimmat tekoälytyökalut käyttäytyvät kuin musta laatikko: syötät dataa sisään, ulos tulee valmis tulos, ja polku näiden kahden välillä pysyy piilossa — haudattuna miljooniin parametreihin, joita kukaan ei pysty tarkastamaan. Säätiedotussovelluksessa se ei ole ongelma. Työssä toisen ihmisen kanssa se on.

On myös toinen, vaarallisempi ansa. Kielimallilla, joka törmää aukkoon datassa, on vahva taipumus täyttää se — lisätä sitä, mikä sopii yhteen, mikä vaikuttaa uskottavalta, mikä näyttää oppikirjamaiselta kuvalta. Juuri tätä hallusinaatio tarkoittaa. Ja kliinisessä kontekstissa se on vaarallisempaa kuin hiljaisuus, koska se kuulostaa uskottavalta.

Lähtökohta on siis yksinkertainen: tekoälytyökalu terapiassa ei ansaitse luottamusta siksi, että se on varma. Se ansaitsee sen silloin, kun se on rehellinen — se näyttää lähteen, näyttää päättelyn ja myöntää, mitä se ei tiedä.

Tämän näkee helpoiten konkreettisesta tapauksesta. Tämän artikkelin avauskartta on katkelma, jonka järjestelmä generoi istunnon litteroinnista — käydään läpi sen osiot.

Järjestelmä ei keksi potilaan ajatuksia — se lainaa niitä

Automaattisten ajatusten osiossa ei ole missään “tekoälyn tulkintaa”. Sen sijaan näkyvät potilaan sanatarkat lausunnot litteroinnista: “Menisin sinne enkä kirjoittaisi mitään”, “En läpäisisi”, “Olen epäonnistuja”. Alla, AI Rationale -kentässä, järjestelmä selittää, miksi se luokitteli nämä ajatukset tiettyyn kategoriaan ja mitkä kognitiiviset vääristymät voivat olla niiden takana.

Tämä on mustan laatikon vastakohta. Sen sijaan, että saisi tuomion tyhjästä, terapeutti saa viestin: tästä sain tämän — tarkista itse. Tarkistaminen vie sekunteja, koska lähde on juuri siinä ulottuvilla.

Se ei ole tuomio — se on hypoteesi

Jokaisen osion vieressä on yksi pieni mutta ratkaiseva sana: (hypoteesi). Järjestelmä ei ilmoita: “tämä on laukaiseva tekijä”. Se sanoo: tämä on todennäköisesti laukaiseva tekijä — tarkista se.

Sama sävy toistuu perusteluissa: “vaikuttaa siltä, että”, “voi viitata”, “vaatii lisää kliinistä tarkistusta”. Tämä ei ole loppuun liimattua kielellistä varovaisuutta. Se on sisäänrakennettu asenne — epistemologinen nöyryys, joka on kirjoitettu suoraan siihen tapaan, jolla järjestelmä muotoilee johtopäätöksensä. Päätös pysyy aina terapeutilla. Ihminen ei putoa pois prosessista, ei hetkeksikään.

Ja nyt tärkein osa: mitä järjestelmä tekee, kun se ei tiedä jotain

Katsotaan fysiologian ja somaattisten reaktioiden osiota.

Jokainen ahdistuksen parissa työskennellyt tuntee tyypillisen kuvan: lihasjännitystä, sydämen hakkaamista, hikoilua, pinnallista hengitystä. Kielimalli voisi yksinkertaisesti lisätä sen — se sopisi täydellisesti, kuulostaisi uskottavalta, kukaan ei huomaisi.

Järjestelmä ei tee niin. Se kirjoittaa: “Ei dataa litteroinnissa”.

Ja sitten se ottaa askeleen, joka muuttaa kaiken. Perustelussa se ei vain totea aukkoa, vaan muuttaa sen kliiniseksi vihjeeksi: se huomauttaa, että potilas kuvaili “stressiä” mutta ei antanut konkreettisia kehon reaktioita, ja ehdottaa, että kattavampi ABC edellyttäisi kysymään, mitä kehossa tapahtui keskusteluun astuttaessa ja sen aikana.

Tämä on juuri se hetki, jolloin tavallinen malli hallusinoisi. ATS sanoo sen sijaan “en tiedä” — ja näyttää terapeutille, mihin litterointi loppuu ja mistä hänen oma työnsä alkaa.

Sama tarkkuus näkyy tunteiden osiossa: siellä, missä potilas antoi numeron (“stressi 90/100”), järjestelmä kirjaa sen. Siellä, missä hän ei antanut — surun ja menetyksen kohdalla — se toteaa suoraan: “voimakkuus: ei ilmoitettu”. Se erottaa sen, mitä mitattiin, siitä, mitä ei mitattu. Se ei teeskentele täydellisyyttä.

Yksi asenne, ei kolme ominaisuutta

Lähde. Hypoteesi. Raja.

Nämä eivät ole kolme erillistä tuotteeseen liimattua painiketta. Ne ovat yksi yhtenäinen tapa, jolla järjestelmä ylipäätään lähestyy kliinistä materiaalia: se näyttää, missä se tietää, mitä se tietää, se käsittelee johtopäätöksiään tarkistettavina hypoteeseina, ja se merkitsee avoimesti kohdat, joista data puuttui.

Musta laatikko toimii päinvastoin — se piilottaa polun ja täyttää aukot näyttääkseen varmalta. Vastaanotolla siihen ei ole suostumusta.

Epäluulo tekoälyä kohtaan terapiassa on perusteltua. Kyse ei siis ole siitä, että sinut suostuteltaisiin luottamaan tekoälyyn — vaan siitä, että työkalu todistaa itse, että sitä voi tarkistaa. Luottamus ei synny varmuudesta. Se syntyy rehellisyydestä.

Therapy Support -tiimi