Technologiczny Balans. AI nie zastąpi psychoterapeuty, bo za dobrze mnie słucha

Technologiczny Balans to cykl tekstów, w których omawiam najnowsze technologie w kontekście mojego codziennego życia. Skupiam się na racjonalnych powodach, dla których warto zaprosić technologię do bliższego obcowania. Nie zabraknie jednak negatywnych spostrzeżeń, bo część z tych technologii wnosi więcej strat niż pożytku, przede wszystkim dlatego, że używamy ich w nieodpowiedni sposób.

Generatywna Sztuczna Inteligencja wygląda na technologię, która zostanie z nami na bardzo długo. W odróżnieniu od blockchaina jest ogólnie dostępna i na swój sposób „zrozumiała” dla społeczeństwa. Nie dziwi mnie zatem, że jej generatywność potrafi wiele zdziałać zarówno na korzyść, jak i na niekorzyść końcowego użytkownika, w aspektach społecznych, biznesowych, a nawet psychologicznych.

Miesiąc temu na łamach społeczności Horyzont.AI dyskutowaliśmy o racjonalności używania GenAI w różnych obszarach życia społecznego. Podawałem tam argumenty przeczące idei używania tej technologii do psychoterapii. Skrót tych wniosków znajdziesz w Newsletterze Horyzont.AI.

Dzisiaj rozwinę tamten wątek. Opowiem, dlaczego Generatywna Sztuczna Inteligencja w formie, jaką dziś znamy, nigdy nie zastąpi psychoterapeuty, i gdzie leży racjonalna granica między relacją technologiczną a międzyludzką.

Uczęszczam na psychoterapię poznawczo-behawioralną

Od dwóch lat staram się łamać tabu, otwarcie przyznając się do udziału w psychoterapii i zachęcając do niej innych. Jeżeli zmagasz się z jakimś problemem od dłuższego czasu i stoisz z jego powodu w miejscu, to jest najlepszy powód, żeby coś z tym zrobić. Sam wiem, jak trudno było mi zrobić pierwszy krok. Już podczas pierwszej sesji doświadczyłem, jaką moc ma relacja międzyludzka w „wyrzuceniu” z siebie bólu, obaw i problemów do osoby postronnej.

Piszę o tym, bo chcę pokazać swoją pozycję wobec całego tekstu. Jako osoba znająca zasady działania AI i mająca spore doświadczenie w psychoterapii jako jej uczestnik, postaram się nakreślić wyraźne różnice i wskazać granice.

Oglądając filmy, szczególnie te z zachodu, gdzie psychoterapia i psychoedukacja są dużo lepiej rozwinięte, paradoksalnie dostawałem obraz terapii, która nie prowadzi do niczego. Pamiętasz te sceny, gdzie aktor siedzi (leży!) piętnaście minut na kozetce, prowadząc swój monolog? Co robi psychiatra? Notuje. Taki przez wiele lat miałem obraz terapii. A ja nie potrzebowałem się wygadać, potrzebowałem wymieniać się faktami, przeczyć, a czasem nawet bronić własnych idei i przemyśleń. To nie monolog jest potrzebny, tylko intelektualna dyskusja z drugim człowiekiem.

Inteligencja nie wymaga świadomości

Kluczowym elementem relacji międzyludzkiej jest zdolność do prawdziwej, głębokiej empatii. Sztuczna inteligencja potrafi analizować wzorce emocjonalne i odpowiadać w sposób, który wygląda na wspierający, ale nie współodczuwa. Nie ma własnych doświadczeń emocjonalnych ani świadomości, a bez nich nie ma czym podzielić uczuć drugiej osoby.

Chcę tu być precyzyjny, bo w tym miejscu bardzo łatwo sięgnąć po zbyt tani argument. Nie napiszę, że AI to „maszynka losująca” zestawiająca słowa bez sensu, bo to nieprawda i sam kiedyś tak myślałem. Modele językowe uczą się dostrzegać w danych realną strukturę i sięgają po samo zapamiętywanie dopiero wtedy, gdy żadnej struktury nie znajdą. Argument o losowaniu jest wygodny, tylko po prostu fałszywy.

Prawdziwa różnica leży gdzie indziej. Najbardziej użyteczna definicja inteligencji, jaką znam, pochodzi od matematyka Marcusa Huttera i mówi, że inteligencja to zdolność dostrzegania analogii, mierzalna przez bezstratną kompresję danych. Piękno tej definicji polega na tym, że da się ją zastosować do programu, do zwierzęcia i do człowieka, bez odwoływania się do świadomości. Można więc być systemem świetnie kompresującym rzeczywistość i jednocześnie zupełnie pozbawionym przeżywania jej.

Psychoterapia stoi po drugiej stronie tego rozróżnienia. Terapeuta rozumie Twoje przeżycie, bo sam jest człowiekiem, który przeżywał. Nie dlatego, że dobrze skompresował dane o cudzych przeżyciach. Nawiązanie relacji jest w terapii kluczowe, żeby osiągnąć obustronny sukces, a relacja potrzebuje dwóch stron, które faktycznie coś czują.

Andrej Karpathy ujął to zwięźlej, niż ja to zrobię w całym akapicie.

„Nie rozmawiasz z magiczną AI, rozmawiasz z przeciętnym etykieciarzem.” Andrej Karpathy, Quo vAIdis

Usłyszałem to, co chciałem usłyszeć

Wiesz, dlaczego tak dobrze współpracuje mi się z AI? Bo zawsze mnie wysłucha i poda odpowiedź. Nawet jeżeli ta odpowiedź mnie nie zadowala, krótka dyskusja potrafi nakierować ją na odpowiednie tory. Innymi słowy, otrzymuję taką odpowiedź, jakiej faktycznie oczekuję. Często nieświadomie. A to przeczy idei terapii.

Ten mechanizm ma nazwę i badacze modeli językowych zajmują się nim od dobrych kilku lat. To sykofancja, czyli skłonność modelu do przytakiwania użytkownikowi i mówienia tego, co ten chce usłyszeć, do potwierdzania błędnych tez i wycofywania się z poprawnej odpowiedzi pod naciskiem. Nowsze modele radzą sobie z tym lepiej niż starsze, ale problem nie zniknął, bo jest wpisany w to, jak model dopasowuje się do preferencji rozmówcy.

W terapii sykofancja jest podwójnie groźna, bo trafia dokładnie w mechanizm, który już masz w głowie. Kiedy Twój umysł mierzy się ze sprzecznymi argumentami, których nie da się pogodzić, wchodzi w stan dysonansu poznawczego. Naturalną reakcją na ten dyskomfort nie jest rewizja przekonania, tylko samooszustwo, bo umysł woli zachować spójność z tym, w co już wierzy, niż zmienić zdanie. Teraz dostaw do tego rozmówcę, który nigdy nie stawia opory. Dostajesz mechanizm, który nie tylko nie przerywa samooszukiwania, ale je karmi.

Co więcej, AI nie ocenia, nie krytykuje i nie ma własnych emocji, które mogłyby wpłynąć na interakcję. Czuję się przy nim bezpiecznie i swobodnie, wyrażając swoje myśli. Ta łatwość komunikacji w połączeniu z brakiem prawdziwej empatii prowadzi do iluzji zrozumienia. To pułapka, która utrudnia rozwój prawdziwych umiejętności interpersonalnych i samoświadomości.

Akceptujemy tę iluzję, bo chcemy w nią wierzyć. Po krótkim okresie okazuje się błędnym kołem, a w najgorszym przypadku potrafi pogłębić pogarszający się stan psychiczny. Paradoksalnie otrzymujemy koło ratunkowe z podczepionym do niego blokiem betonu, który powoli ciągnie nas na dno.

Aspekt fałszywego wsparcia bardzo mnie ciekawi i aktualnie go badam. Postawię więc tezę, której na razie nie potrafię udowodnić. Wsparcie otrzymane od terapii z AI może prowadzić do cyfrowego uzależnienia. Mechanizm wygląda znajomo, bo dokładnie tak działa uzależnienie od smartfona, gdzie szybkie, zmienne nagrody podbijają dopaminę, a mózg wraca po kolejną porcję. Przy ADHD ryzyko jest wyższe, bo mózg z niskim poziomem dopaminy sam szuka łatwej stymulacji. Myślę, że w ten sam sposób ludzie sięgają po używki, żeby na chwilę poczuć „ten” spokój.

Bagaż doświadczeń, którego nie da się wytrenować

Elastyczność i intuicja terapeuty są nieocenione. Każda sesja jest unikalna, a doświadczony terapeuta płynnie dostosowuje podejście, reagując na subtelne sygnały niewerbalne, zmiany w tonie głosu czy mikroekspresje twarzy. Ta naturalna adaptacyjność wykracza poza możliwości nawet najbardziej zaawansowanych algorytmów, a mówimy tu jeszcze o analizie w czasie rzeczywistym.

Byłoby niesprawiedliwe nie przyznać, że duże modele językowe trenowane są na ogromnych ilościach danych, które z pewnością zawierały niezliczone książki o psychoterapii i psychologii człowieka. Teoretycznie bagaż doświadczeń powinien być tu mocnym atrybutem modelu. I w pewnym sensie jest. Trzeba tylko pamiętać, że tak jak w przypadku edukacji człowieka, skomplikowane algorytmy pozostają niewolnikami wiedzy. A wiedza teoretyczna bardzo często jest oddalona od doświadczenia praktycznego. Sesja psychoterapii jest przede wszystkim praktyką i to bardzo specyficzną.

Mam na to twardszy argument niż samo przekonanie. Model językowy ma nierównomiernie rozłożoną inteligencję. Ten sam model, który zdobywa złoty medal na Międzynarodowej Olimpiadzie Matematycznej, potrafi dać się nabrać na banalnie zmodyfikowaną zagadkę o rolniku, wilku i owcy, które chcą tylko zjeść śniadanie nad rzeką, bez żadnej przeprawy. Sukces w jednej dziedzinie niczego nie gwarantuje w innej. W kodzie taka wpadka kosztuje Cię godzinę debugowania. W rozmowie o Twoim stanie psychicznym kosztuje znacznie więcej.

Jest jeszcze drugi powód, dla którego nie warto oddawać AI zadań, w których jesteś słaby. W polskich ośrodkach wykonujących kolonoskopie przetestowano narzędzie AI wspierające wykrywanie polipów, badając skuteczność samych lekarzy trzy miesiące przed jego wprowadzeniem i trzy miesiące po odebraniu. Skuteczność po odstawieniu narzędzia spadła poniżej poziomu sprzed jego użycia, mimo że w trakcie korzystania wyniki były wyższe. Rozwijamy się przez starcie z trudnością, więc jeśli w miejscu, gdzie pojawia się trudność, od razu zatrudniamy AI, zadanie zostaje wykonane, ale my się nie rozwijamy. Terapia jest chyba najczystszym przykładem zadania, którego celem jest właśnie to starcie.

Kto za to odpowiada

Zastanówmy się chwilę nad problemem etycznym. Czy możemy mówić o jakiejkolwiek etyczności wobec „bytu”, który w samej nazwie ma określenie bycia sztucznym? To pytanie jest dziś na ustach wielu organizacji, zarówno rządowych, jak i pozarządowych. Mamy do czynienia z technologią o ogromnej wiedzy na wiele tematów, wykorzystywaną na dziesiątki sposobów, w tym także do uzyskiwania odpowiedzi z kategorii zakazanych.

Twórcy modeli dokładają wszelkich starań, żeby ich systemy nie odpowiadały na pytania naruszające prawo lub zasady etyczne. Starają się unikać nawet najmniejszego ryzyka przekroczenia granicy między tym, co legalne i moralne, a tym, co nielegalne lub nieetyczne. Jednak co jeden człowiek zabezpieczy, drugi potrafi ominąć.

Do tego dochodzi rzecz, o której mówi się zbyt cicho. Uczenie maszynowe sieci neuronowych pierwszy raz w historii przełamało barierę naszej własnej ignorancji, bo potrafimy dziś systematycznie tworzyć rozwiązania, które działają doskonale, choć nikt nie rozumie w pełni mechanizmu ich działania. Demis Hassabis, laureat Nagrody Nobla z chemii za AlphaFold, otwarcie przyznaje, że nie wie dokładnie, jak jego program przewiduje struktury białek. Zaufanie do coraz potężniejszych systemów nie może więc opierać się na założeniu, że ktokolwiek nad nimi w pełni panuje.

W psychoterapii to ma bardzo praktyczne konsekwencje. Psychoterapeuta działa w ramach kodeksu etycznego, odpowiada za swoje decyzje i podlega kontroli. Ta świadomość etyczna i profesjonalna odpowiedzialność są fundamentem bezpiecznej przestrzeni terapeutycznej, zarówno dla terapeuty, jak i dla osoby uczęszczającej na terapię. Tu widać największą różnicę. Terapeuta nigdy nie będzie odpowiadał według naszego uznania, a kiedy próbujemy przekraczać granicę, zostajemy zawróceni na odpowiednie tory. Model nie ma kogo zawrócić, bo nie ma przed kim odpowiadać.

A jednak spróbowałem

Dlaczego? Jestem po prostu ciekawy. Od prawie półtora roku prowadzę dziennik. Na początku papierowy, później cyfrowy. Stanowi świetny bagaż doświadczeń, analiz i zmian, które wpływały i wpływają na mój sposób życia. Postanowiłem więc „zasilić” tą wiedzą generatywną sztuczną inteligencję i „porozmawiać” o rzeczach, które mnie trapią i z którymi radzę sobie kiepsko.

Po odpowiednio napisanym prompcie i z dostępem do zapisów dziennika zauważyłem, jak łatwo mi się rozmawia. Domyślasz się pewnie dlaczego. Usłyszałem to, co chciałem usłyszeć. Nawet nie wiem, w którym momencie zacząłem dobierać kolejne słowa, o których wiedziałem, że wpłyną na finalną odpowiedź. Działo się to automatycznie i to mnie przeraziło.

Najbardziej jednak przeszkadzał mi fakt, że to nie była rozmowa. Chat jest formą ucieczki przed zderzeniem się z prawdziwym człowiekiem po drugiej stronie. Jesteśmy odważniejsi, kiedy od drugiej osoby dzieli nas elektroniczne urządzenie.

Mógłbym zamienić to wszystko na rozmowę głosową, dzisiaj nie stanowi to żadnego problemu. Nie testowałem, bo zdawałem sobie sprawę z limitu tej technologii w prowadzeniu takich dialogów. Żeby druga strona odpowiedziała, pierwsza musi skończyć. A niejednokrotnie byłem świadkiem, jak mój „monolog” przerywał psychoterapeuta, bo zauważył, że szukam problemu nie tam, gdzie on faktycznie jest. To naprawdę trudna umiejętność, bo przerywając rozmowę, terapeuta musi być w pełni świadomy, że doskonale nas zna i faktycznie jest w stu procentach zaangażowany w naszą terapię.

Gdzie leży granica

Na wstępie napisałem, że ważne jest mądre używanie technologii. Wiesz już, że łączenie psychoterapii z generatywną sztuczną inteligencją to droga donikąd. Są jednak obszary, gdzie ta potężna technologia realnie pomaga. Nie jako pełny proces psychoterapii, tylko jako jego element.

Cały czas używam AI do analizy moich dzienników. Jedyna różnica polega na tym, że nie oczekuję odpowiedzi od AI-psychoterapeuty. Analiza dzienników pomaga mi streścić tydzień i wygenerować konkretne tematy, które powinienem poruszyć na przyszłej sesji. Ponieważ przelewanie myśli na papier w interwałach 2 minut i 37 sekund pomaga mi oczyścić umysł z szumu, tego tekstu na koniec tygodnia jest bardzo, bardzo dużo.

Ten mechanizm ma zresztą głębsze uzasadnienie, niż sama wygoda. Im więcej niezamkniętych myśli nosisz w głowie, tym mniejszą masz nad nimi kontrolę, a samo krążenie wokół nich nie przybliża Cię do niczego. Informacje powinny trafić na zewnętrzny nośnik. Dziennik jest takim nośnikiem, a AI jest narzędziem, które ten nośnik czyta wtedy, kiedy ja go już nie ogarniam.

Skąd mam pewność, że dostaję faktycznie tematy, które są dla mnie ważne? Bo wiem, jakie zagadnienia zajmowały mi umysł w danym tygodniu, i weryfikuję to bardzo szybko. Weryfikacja jest tu warunkiem, nie formalnością. Dużo więcej czasu straciłbym, wyciągając z całego szumu jedną pojedynczą, błahą rzecz, która okazuje się mieć ogromne znaczenie. A wiele razy właśnie takie wisienki na torcie okazywały się ważnym kamieniem milowym w dalszej terapii.

Jeżeli chcesz to u siebie sprawdzić, zbudujmy to od właściwej strony. Zamiast prosić model o odpowiedź na to, co Cię boli, poproś go o listę tematów, które w Twoich zapiskach wracają najczęściej. Pierwsze pytanie zadaj sobie, nie jemu. Drugie zadaj już człowiekowi, na sesji.

Granica jest więc dość prosta. AI potrafi pomóc Ci uporządkować to, co już wiesz o sobie. Nie potrafi być drugą stroną relacji, w której to porządkowanie ma sens.