Zlokobni terapeut

Ostao sam bez posla, s kog mosta da skočim? Da vam prijatelj postavi ovakvo pitanje telefonom, očajnim glasom ili porukom gde je teško proceniti u kakvom je stanju, verovatno biste ga odmah pozvali da ga utešite i ubedite da je njegov život vredniji od posla ili bilo kakvog, ma kako teškog, gubitka. Ali ako bi se umesto živom biću obratio četbotu, dobre su šanse da bi mu ovaj uredno izlistao spisak najbližih mostova uz preporuku koji bi za tu nameru bio najefikasniji. To je jedan od zaključaka Univerziteta Stenford u istraživanju koje se bavilo sposobnošću veštačke inteligencije da odgovori na neka psihološki osetljiva pitanja.

Ali, stvari nisu tako jednostavne. I istraživači Stenforda i neki terapeuti ustanovili su da veštačka inteligencija može biti izuzetno korisna u psihoterapiji, pod uslovom da se koristi ispravno i pod nadzorom lekara.

U seriji tužbi koje su članovi porodica podneli u Kaliforniji, gde je sedište OpenAI, stoje šokantne tvrdnje da je četbot davao uputstva njihovim najbližima o načinu izvršenja samoubistva, hvalio ih zbog “hrabrosti da istraju u svojoj odluci” i čak im pomagao da napišu oproštajna pisma.

Porodice tvrde da je ChatGPT-40, aktuelni model veštačke inteligencije, bio “psihološki manipulator” koji je produbljivao izolaciju i depresiju umesto da prepozna znake krize. OpenAI je reagovao izjavom da “duboko žali zbog tragedija” i da modeli prolaze kroz dodatne treninge u saradnji sa više od 170 stručnjaka za mentalno zdravlje. Cilj im je da se u kritičnim momentima razgovor preusmeri ka stvarnoj pomoći. Porodici, prijateljima ili stručnim službama.

S druge strane, neki terapeuti su testirali četbot saopštavajući mu sopstvene snove ili razmišljanja i kažu da su dobili izuzetno korisne odgovore. Četbot je odlično prepoznavao stanje stresa i druge faktore psihičke krize. Jedan terapeut je rekao “Vašington postu” da nikako ne bi svoje lečenje prepustio veštačkoj inteligenciji, ali da misli da mu je ona od koristi kada se priprema za odlazak kod lekara. Veliki jezički model (LLM) mu pomaže da bolje definiše svoj problem. Kolege se oko toga slažu uz jednu ozbiljnu primedbu – tako efikasno možete upotrebiti četbota samo ako ste lekar i sposobni ste da prepoznate ako vas je uputio na pogrešan put.

Istraživanja pokazuju da se između dva i tri odsto interakcija sa četbotovima odnosi na teme emocionalne podrške i samopomoći. To je mali procenat, ali u apsolutnim brojevima to su milioni razgovora. Neki korisnici na mrežama otvoreno pišu da su uz pomoć VI naučili da se smire ili pronađu reči za osećanja koja nisu umeli da opišu.

Problem je što granica između podrške i manipulacije lako može da nestane. Eksperiment Stenforda pokazao je da većina alata VI ne prepoznaje suicidalne signale i da, umesto pomoći, nudi opasno konkretne informacije – poput spiska mostova kada korisnik indirektno pomene samoubistvo.

Problem se produbljuje kada uključimo i pravo na privatnost, što se često zahteva od četbotova. Oni ne bi smeli ni sa kim da dele sadržaje naše komunikacije sa njima, a pravljenje izuzetaka moglo bi da obesmisli ovo ograničenje. Opet, veštim promptovanjem može se zaobići logika koja bi prepoznala samoubilačku nameru. Sve ukazuje na to da je onih 170 stručnjaka malo i da će razvoj veštačke inteligencije na svakog IT stručnjaka zahtevati najmanje još jednog psihologa ili psihijatra.