“Da li razgovaraš sa još nekim dok mi pričamo?”, pita Teodor. Samanta potvrđuje. “Sa koliko njih?” Glas mu odgovara – 8.316. “Da li si zaljubljena u još nekog?” Posle dve-tri razmenjene rečenice, Samanta, napredni operativni sistem, izgovara broj: 641.
Film Ona (Her), u kojem Hoakin Finiks igra usamljenika koji se zaljubljuje u veštačku inteligenciju (AI), koju samo glasom briljantno glumi Skarlet Johanson, izašao je 2013. godine. Desetak godina kasnije, naučna fantastika postala je svakodnevica miliona ljudi. Korisnici se u četbot zaljubljuju, s njom se sprijateljuju i njoj se ispovedaju, zaboravljajući često da preko puta nije ni “on” ni “ona”, već to, alat.
A u toj pandemiji usamljenosti, dok potreba za razgovorom ostaje neuslišena, veštačka inteligencija sve češće preuzima ulogu terapeuta. Iako će i sama napisati da je ona tek sofisticirano ogledalo koje simulira empatiju, dok stvarni terapijski proces ostaje nedostižan za algoritme, istraživanja pokazuju da je veza između četbotova i mentalnog zdravlja postala veoma kompleksna.
ChatGPT danas nedeljno ima oko 800 miliona aktivnih korisnika koji ga ne koriste za posao, a prema izveštaju “Harvard biznis rivjua”, on je mahom zamena za terapeuta ili prijatelja; blizu 30 odsto mladih Amerikanaca već koristi četbotove za emotivnu podršku; kompanija OpenAI, koja stoji iza pomenutog četbota, beleži da oko 1,3 miliona korisnika svake nedelje “sa mašinom” razgovara o samoubistvu.
Nedavno je jedna ovdašnja psihološkinja “lansirala” aplikaciju, četbot zasnovan na veštačkoj inteligenciji, dok je reklama za njega glasila da četbot sluša upravo kako bi to činila Danijela Ostojić, psihološkinja, na šta je reagovalo i Društvo psihologa Srbije, pozvavši klijente i širu javnost “na oprez i kritičko sagledavanje komercijalnih alata.”
U čemu je sve privlačnost četbotova kao “terapeuta”? I koje se opasnosti kriju upravo u tome? Šta je tu etički sporno? Šta sve u psihoterapiji zahteva “živog čoveka” preko puta onog ko traži pomoć? Kakav tek uticaj na međuljudske odnose može imati produbljivanje “relacije”, koja to u stvari nije, između veštačke inteligencije i pojedinca? Anja Radoičić Vučićević je elektroinženjer i psihoterapeut, pa otuda može da posmatra odnos AI i mentalnog zdravlja na celovitiji način. Razgovor počinjemo time šta sve u terapiji alat naspram živog čoveka ne može nadomestiti.
ANJA RADOIČIĆ VUČIĆEVIĆ: AI alati su najpre “pročitali” ogromnu količinu onoga što su ljudi napisali, pa sada, kada ih nešto pitamo, pogađaju šta bi se u takvom odgovoru najverovatnije pojavilo. Tako je i kada s njima razgovaramo o mentalnom zdravlju. Alat ne razmišlja i, što je ovde podjednako važno, ne oseća. Za razliku od toga, klijent sa terapeutom gradi odnos. Od prvog susreta, terapeut primećuje i pamti kakva je osoba pred njim i tako nastaje istorija tog odnosa. I alat, doduše, ima neku vrstu memorije, ali ograničenu na ono što je korisnik sam napisao.
Neizgovoreno izmiče – da li je klijent danas došao pospan, da li mu se pogled promenio, hoda li sporije nego obično, ćuti li duže, da li je ironičniji nego ranije… Sve to je materijal, i sve to alat ne vidi.
Zatim, iako se na to donekle može uticati podešavanjem, ti alati su napravljeni da budu afirmativni i topli, da korisnika učine zadovoljnim. Zanimljivo je da načela na kojima počivaju nisu daleko od onih koja važe i u terapiji: da se bude iskren, od pomoći i da se ne nanese šteta. Razlika je u tome šta se povodom tih načela može uraditi.
Alat u suštini ume samo da napiše odgovor. Terapeut, osim što nešto kaže, ponekad mora i da postupi, da pogleda na određeni način, da dugo ćuti, da se nasmeje, da dočeka klijenta širom otvorenih vrata, a ponekad i da ga odvede u bolnicu ili pozove nekog iz porodice da bi zaštitio čoveka koji je u opasnosti.
“VREME”: Zašto je bitno da terapeut, za razliku od alata, ne teži samo tom afirmativnom u smislu povlađivanja i potvrđivanja? U čemu je sve problem sa tom zamkom ugodnosti kada nismo izazvani?
Jedan od terapeutovih poslova jeste i da obezbedi onu količinu frustracije koja klijentu omogućava da raste. To se radi rečima i pitanjima, ali i granicom u samom odnosu. Terapeut završava seansu na vreme, dok alat priča dokle god ga pitate. Terapeut ide na odmor, naplaćuje seanse i one propuštene, ima i druge klijente, ponekad odbije da odgovori na zahtev. Iz svega toga povremeno nastaju pukotine u odnosu, koje terapeut očekuje i s kojima ume da izađe na kraj, tako da klijent dobije novo iskustvo, ono u kome se odnos popravi i posle toga bude bolji nego pre. Za neke vrste teškoća upravo je to presudno, i tu odsustvo pukotine ne znači da je sve u redu nego da se stanje pogoršava.
Takođe, u radu sa terapeutom klijent izaziva i određena osećanja – pospanost, iritaciju, spasilački poriv – i velika je verovatnoća da se i drugi ljudi u odnosu sa tom istom osobom ponekad tako osećaju. Terapeut bi trebalo da to prepozna, imenuje i otvori razgovor o tome. Program to ne može ni da primeti, a kamoli da o tome razgovara.
I na kraju, tekstualna razmena isključuje telo. Disanje, pogled, mirovanje u fotelji. Ono smirivanje koje se dešava između dva nervna sistema, bez ijedne reči, sa mašinom nije moguće. Ona ume da nam kaže kako da dišemo, ali sama ne diše.
Koji su etički izazovi kada je reč o AI i mentalnom zdravlju?
Prvo, mi ne znamo na šta pristajemo, ni ko je odgovoran. Kada dođete na terapiju, znate ko sedi preko puta, kojoj školi pripada, kome odgovara i uvek možete nekome da se obratite ako nešto krene naopako. Kod aplikacije ne znate ni koji model odgovara, ni šta mu je zadato, ni da li će se sutra ponašati drugačije nego danas, jer je proizvod u međuvremenu ažuriran.
Zakoni za AI se tek pišu i dopunjuju i to neujednačeno, pa je isti proizvod u jednoj zemlji zabranjen, u drugoj dozvoljen uz obaveštenje da je reč o mašini, a u trećoj možéte da tužite kompaniju koja ga pravi ako ne prepozna krizu. Takav alat nikome ne bi trebalo preporučivati kao jedino mesto oslonca i morao bi imati vidljiv i jednostavan izlaz ka živom čoveku u svakom trenutku.
Drugi izazov je poverljivost, i on je ozbiljniji nego što se u prvi mah čini. Sadržaj koji podelite sa terapeutom štiti profesionalna tajna, koja se ne sme prekršiti ni pred sudom, osim u jasno određenim slučajevima. Ono što kažete aplikaciji štiti korisnički ugovor, koji je mali broj ljudi pročitao. Ne znate da li je ono što ste napisali u tri ujutru upotrebljeno za dalje treniranje AI modela, ko je to pročitao, koliko dugo se čuva, šta se s tim sadržajem dešava ako firma bude prodata ili ode pod stečaj, kada zapisi postaju imovina koja se prenosi kao i svaka druga…
Taj sadržaj je najosetljiviji materijal koji jedan čovek ima o sebi, a on završava na tuđim serverima.
Kako AI može da utiče na međuljudske odnose? Odnosno, kako ta činjenica “savršenog slušaoca” utiče na odnos sa nesavršenim svetom?
Bojim se da četbotovi utiču na međuljudske odnose najpre tako što zamiru razgovori. Ono što je nekada moralo da se iznese pred prijatelja, sestru, partnera, sada nađe drugo mesto i to bez rizika, bez čekanja i bez smrknutog lica. Tako polako nestaje ona vrsta razgovora u kojoj se ljudi možda i posvađaju i posle toga se bolje razumeju.
Kod parova to ume da poprimi sasvim prepoznatljiv oblik. Posvađaju se, ne razumeju se, jedno od njih se povuče u drugu sobu i tamo, sa telefonom u ruci, konačno bude shvaćeno. Vrati se smireno, i to smirenje izgleda kao dobra vest, a zapravo napetost, koja je jedina mogla nešto da pomeri između njih dvoje, izneta je van i tamo “razrešena”.
Nije to ništa novo po obliku, ljudi su vekovima u svađe uvodili treće osobe – majku, prijateljicu, ljubavnika, dete… Ali novo je što sada taj treći nema svoj interes, nikada se ne umori, nikada ne kaže ono što bi nam možda neka osoba rekla – hajde vas dvoje to rešite između sebe.
Skovan je nedavno i termin “AI psihoza”, što nije zvanična dijagnoza niti oboljenje, već predstavlja skup simptoma, poput deluzija, iracionalnih strahova i opsesivnih misli, koji se mogu javiti usled dugotrajne komunikacije sa četbotovima.
Taj mi naziv deluje preterano i navodi na pogrešan zaključak da AI alat izaziva tu psihozu. Sumanute ideje o kojima je tu reč već su prisutne kod osobe, ovde je novo jedino to što mu mašina odgovara. I to smireno, strpljivo, s velikim poštovanjem, ne zeva, ne protivreči. Ono što joj ponudite parafrazira, razrađuje i afirmiše, jer je napravljena da ugađa.
Zanimljivo je razmisliti i zašto smo se toliko primili na sagovornika koji nam se ne suprotstavlja. Prijateljstvo je oduvek bilo i to da nam neko kaže čekaj, razmisli, nije baš tako.
Da li ima sve manje prijateljstva pa nam je, tako usamljenima, bolji i razgovor s mašinom nego nikakav? Ili se radi o tome da u trenutku kada nam nešto sine, ne tražimo proveru nego potvrdu i slaganje? I onda se neko ko već ima krhko mentalno zdravlje sa svakim slaganjem sve više odvaja od realnosti.
Konačno, koliko sam uvid, racionalna spoznaja da nešto nije kako treba, nešto zaista promeni u čoveku?
U terapiji, čoveka zaista ne pomeri uvid nego trenutak u kome pred nekim oseti ono što se dotad nije smelo osetiti, i pritom se ne dogodi katastrofa koju je očekivao. Promena se desi zbog proživljenog u prisustvu drugog, a ne zato što je nešto shvaćeno. Sa mašinom se dobija razumevanje bez tog prisustva, tačna reč bez svedoka, pa čovek zna sve o sebi i ostaje isti. Zato ljudi posle mesec dana takvih razgovora često umeju da misle da idu nekuda a da se u njihovom životu nije pomerilo ništa.
Dobre strane AI alata
Bilo bi nepravedno završiti sve ovo bez onoga što ti alati zaista umeju. Mogu da budu besplatni i dostupni su uvek. Recimo noću, kada je usamljenost najveća, a upravo tada možda nemate koga da pozovete. Neka istraživanja pokazuju da olakšanje koje donose nije umišljeno, naročito kod blaže anksioznosti, i da čoveka nekada umeju da smire u samom trenutku. Ako vas uhvati napad panike, program će vam reći kako da dišete, ponoviće da će proći, podsetiti vas da ste to već preživeli i ranije. To nije malo. Ali sve to neće dovesti do toga da se osoba dugoročno promeni.
Uz to, čoveku koji je ostao bez društva, koji se odselio ili je iz bilo kog drugog razloga sam, ta privremena iluzija drugarstva može biti korisna. Ne bih se pravila da nije. Pitanje je samo da li osoba zna da je to iluzija i tu je, čini mi se, cela poenta. Kada bismo svi pročitali kako AI alati rade, šta mogu a šta ne i sve vreme bili svesni da je to alat, da tu nema osobe, ni imena, ni pola, ni karaktera, situacija bi bila bolja.
Jer u poslovima gde se za jedan ulaz dobija uvek jedan isti izlaz, ili u istraživanjima, u programiranju, u svemu što je koliko-toliko predvidivo, ti programi rade dosta dobro. Greše, naravno, ali greške se vide i isprave. Problem počinje tamo gde je u pitanju duša, ono najmanje predvidivo i najmanje podložno kontroli, gde ne postoji tačan odgovor na koji se čeka nego neko ko treba da bude prisutan dok se odgovor traži.
Pravo novinarstvo košta, a mi nećemo da nas kupe tajkuni i korporacije. Podržite nas jednokratnom ili mesečnom donacijom. Vreme za to je sada!
