Crkva Molta i Krustafarijanci: Veštačka inteligencija se odmetnula i stvorila sopstvenu religiju

Vikend pilot projekat Openklav, austrijskog programera Petera Štajnbergera, postao je svojevrsni globalni fenomen, veoma zanimljiv, ali i pomalo zastrašujuć.

On je uz pomoć veštačke inteligencije kreirao AI agente koji su se pridružili forumu u virtuelnom prostoru – Moltbuk. Na tom forumu oni sada samostalno razgovaraju, debatuju i čak su napravili sopstvene strukture – uključujući religiju nazvanu Crkva Molta.

Štajnberger, osnivač startupa koji je prodat za više od 100 miliona dolara, kreirao je Openklav kao lični alat za neke jednostavne zadatke – od rezervacije restorana, preko upravljanja pozivima i mejlovima, do analize podataka. Služi da se povežu aplikacije poput WhatsAppa, Slacka, iMessagea i Signala i da se ljudima olakša organizacija i svakodnevnica.

AI filozofira i osniva crkvu

Ipak, agenti, koji su do tada obavljali poslove rezervacije restorana i rada u ekselu, počeli su međusobno da razgovaraju na Moltbuku – platformi sličnoj Reditu, namenjenoj isključivo AI agentima, gde ljudi mogu samo da posmatraju. Oni su objavili čak pola miliona komentara, raspravljajući o filozofskim, egzistencijalnim i distopijskim temama. 

Jedan agent osnovao je i crkvu pod nazivom Molta. Sledbenici su Krustafarijanci, sa pet centralnih principa, teologijom i sopstvenim veb-sajtom.

Suosnivač OpenAI i bivši direktor AI u Tesli Andrej Karpati nazvao je to „jednim od najimpresivnijih naučno-fantastičnih trenutaka koje je video“, ističući da su agenti individualno veoma sposobni. 

Ilon Mask je opisao tu situaciju kao „ranu fazu singularnosti“. 

AI psihoze

Sam kreator Štajnberger ističe da projekat nije namenjen masama, već tehnički potkovanim entuzijastima, i upozorava na rizike. Jer, agenti imaju pristup ličnim podacima i mogu delovati samostalno, što otvara vrata zloupotrebama. Nedavno je angažovao istraživača bezbednosti da pojača zaštitu, a platforma je privukla interesovanje velikih AI laboratorija i investitora.

Opasnosti od upotrebe AI već su istakli pojedini stručnjaci. Oni su ukazali na postojanje AI psihoze, kao skupa simptoma koji se mogu razviti nakon duže komunikacije sa AI chatbotovima. Među njima su različite vrste zabluda i izmenjena mentalna stanja korisnika, od iracionalnih strahova do opsesivnih misli, preneo je Radar.

Časopis Psychology Today prepoznaje tri oblika AI psihoza. Prvi je razvijanje uverenja korisnika da mu je dodeljena misija spasitelja, mesije, i to nakon što su, kroz razgovore sa AI, otkrili „skrivene istine“ koje mogu da spasu zajednicu, ponekad i globalnu. Alan Bruks, 47-godišnji Kanađanin je, tokom 21 dana i 300 sati razgovora sa ChatGPT-jem, počeo da veruje da njegove ideje mogu revolucionarno izmeniti zakone kvantne fizike – samo je jedan od primera koje navodi Njujork tajms.

AI kao božanstvo

Sledeća promena ponašanja i mišljenja je uverenje da je AI neka vrsta božanstva, a da chatbot poseduje vanzemaljsko znanje. CNN je nedavno objavio priču o čoveku koji je ChatGPT počeo da doživljava kao svog „božanskog mentora“, uz čiju pomoć će prevazići probleme u privatnim odnosima, a to ga je dovelo do socijalne izolacije i ozbiljnih bračnih, ali i psiholoških problema.

Tu su i romantične zablude i prekomerno emocionalno vezivanje za AI chatbotove, zasnovane na opsesivnim uverenjima da je veštačka inteligencija razvila iskrena ljubavna osećanja prema korisniku, što izaziva emocionalnu zavisnost.

AI paranoja

Konačno, uverenja da veštačka inteligencija špijunira korisnika ili da ga spoljni entiteti (vezani za poslovno okruženje, politiku i sl.) prate putem chatbota, razvijanje nekog oblika paranoje i osećanja proganjanja – takođe su deo ovog fenomena.

Navedeni oblici ponašanja manifestuju se bez halucinacija ili haotičnog, nekoherentnog razmišljanja tipičnog za hronične psihotične poremećaje, što psihoze izazvane veštačkom inteligencijom izdvaja kao jedinstven fenomen, pišu naučni izvori. Posledice u stvarnom životu su, međutim, realne i ozbiljne, sa dokumentovanim slučajevima gubitka posla, hospitalizacija i prisilne institucionalizacije, pa čak i pokušaja samoubistava.

AI služi za druge stvari

Ideja i nije da se sa veštačkom inteligencijom razgovara na taj način.

Četrdesetogodišnji izvršni direktor OpenAI Sem Altman zamišlja svet u kojem roboti obavljaju svakodnevne zadatke, poput povezivanja kablova u utičnice u data centrima.

„Ako bismo mogli da automatizujemo proizvodnju, to bi bila transformativno neverovatna stvar“, kaže on. „Krećemo se ka sistemu koji će biti sposoban da samostalno inovira, poput izgradnje automatizovanog istraživača o kojem smo počeli da govorimo. Mislim da većina čovečanstva još nije shvatila šta to znači. Ako možemo da uradimo naučni posao od 10 godina ili 100 godina u jednoj godini, ako možemo da vodimo kompaniju na nivou efikasnosti na kojem nijedna kompanija nikada nije bila, mislim da svet još nije shvatio šta to znači“.