Pohvala nesavršenosti, ili: mašina i iskustvo negativnog

Iako ovde ne govorimo ni o industrijskoj ni o atomskoj, nego o digitalnoj revoluciji, ne bi valjalo hitati sa zaključcima o mogućnostima i dometima GBT-3, dakle o generativnom obučenom transformatoru 3, modelu veštačke inteligencije koji koristi jezik, a o kojem se u poslednjih nekoliko meseci mnogo govori i još više piše (videti tekstove Zorana Stanojevića o GBT-3, “Vreme” br. 1668 i 1669–1670). Možda se problem veštačke inteligencije ne čini tako dramatičnim kao atomska energija, niti tako robustnim kao železnica, ali potencijali promene koju donosi kolosalan je i gotovo neuporediv. Jedino što ne znamo u kom smeru će nas ta promena povući: ka poboljšanju kvaliteta života ili zaglupljivanju.

Promene u digitalnom svetu – pa, posledično, i u ovom našem analognom – događaju se tolikom brzinom da su, logično, kvalitet i količina naklapanja bogatiji nego inače. Nismo se pošteno suočili ni s mobilnim telefonima koji su nam svet okrenuli naglavačke, a evo smo već otvorili mogućnosti da nam mašine pišu knjige i uređuju život. Zbog toga je filozofska refleksija na to što (nam) se događa upravo od neprocenjive važnosti.

GBT–3

Potpisnik ovoga teksta pojma nema na kojim naučnotehničkim principima počiva GBT-3 – kao što ne zna, uostalom, ni kako računari rade, ali ih, u okvirima svojih skromnih tehničkih mogućnosti, koristi – ali ga je isprobavao, te se ovaj odlomak teksta može smatrati istraživačkim novinarstvom. GBT-3, kažu poznavaoci, u stanju je da piše visokokvalitetne tekstove, novinske, recimo, ili studentske radove, a na osnovu toga što je u njega pohranjen upravo nepojamno veliki broj informacija, odnosno na gomilu je stavljen solidan odsečak kolektivnog iskustva zabeležen pre svega u knjigama, a pametnica kakva je, GBT-3 iz ogromnog rezervoara znanja neviđenom brzinom izvlači ono što se od njega zahteva. GBT-3, uz to, ima sposobnost učenja – tako kažu njegovi “roditelji” – te on svoje “znanje” neprestano nadograđuje i usložnjava.

Vođen tim obaveštenjima i objašnjenjima, tražio je odvažni potpisnik ovih redova da mu GBT-3 objasni proste neke stvari (kako se pravi rakija, koji su sastojci sarme, kako se ponašati u slučaju infarkta), onda malo komplikovanije (kako razume političku situaciju u Srbiji, da li je bolja republika ili monarhija, nešto o ruskom razaranju Ukrajine), da bi ga, najzad, “napao” najtežim filozofskim pojmovima (šta je to dekonstrukcija, kako funkcioniše Hegelova dijalektika, razlika između Frojdovog i Lakanovog shvatanja nesvesnog). Odmah valja reći, odgovori su bili vrlo korektni, naročito ovi na “teška” pitanja.

Potom smo krenuli u usložnjavanje pojmovima, u njihovo produbljivanje, naime od GBT-3 traženo je da specifikuje pojmove (koja je razlika između différence i différance – drugu reč izmislio je jedan francuski filozof), da ih obuhvati s više strana, da ih dovede u vezu s drugim pojmovima (différence i répétition), da ukaže kako se ti pojmovi koriste kod određenih autora (kako kod Lajbnica, a kako kod Kjerkegora), te je tekst, sa svakim novim zahtevom, rastao, da bi na kraju postao – barem tako deluje na prvi pogled – sasvim pristojan studentski rad, korektan preko svake mere. Sve to na francuskom, engleskom i srpskom jeziku, što znači da se, ujedno, mogao uporediti i kvalitet prevoda. Zbog čega je, međutim, neustrašivi istraživački novinar ostao suzdržan?

ISKUSTVO NEGATIVNOG

Rečeno je da je tekst koji je mašina proizvela “korektan preko svake mere”. Na Vikipediji je većina tekstova upravo takva. I kakvi su to tekstovi? Niz definicija, određenja i informacija koji se uvezuju u sledu rečenica na takav način da jedna rečenica logički proističe iz prethodne, što je, pomenimo usput, ideal i analitičke filozofije. Zbog toga su tekstovi koje proizvodi mašina, kao i tekstovi na Vikipediji, najzad i kao tekstovi analitičke filozofije, uglavnom mrtvi i pre nego što se rode. Mašina, naime, po svome određenju, ne može da razume da je svaka definicija, da je svako određenje, dakle, ujedno i negacija (omnes definitio negatio est).

Šta to znači? Definišući određenu stvar, pojavu, ili neko polje, mi sve ono što je izvan definicije ostavljamo neodređenim. Ako definicija kaže šta jeste, sve ono što nije ušlo u definiciju, strogo uzev, nije. To ne znači da svet izvan definicije ne postoji – bilo bi to glupo i pomisliti – nego da ne ulazi u određenje. Taj svet izvan određenja jeste ono što nije. Zbog toga je potrebna nova definicija, a onda još jedna, pa nova definicija i tako unedogled, dok se ne definiše sve na svetu. Što je nemoguće. (Zbog toga je moguća savršena šahovska mašina: pravila šaha su definicije, a polje na kome se igra odvija, ma koliko bilo veliko, zapravo je ograničeno. Svet i život, međutim, nisu.)

Za čoveka definicija je, u metodskom smislu, prvi korak. Za mašinu ona je osnovni element. Zbog toga je definicija uvek nedovoljna i zbog toga je, da bi se došlo do živog jezika, potrebna i definicija definicije, negacija negacije, što mašina, naprosto, nije u stanju da uradi. O paradoksu i da ne govorimo. Ako bismo rekli da ono što ostaje izvan definicije jeste ono što nije – što je i za čoveka teško prihvatljivo (paradoks) – mašina s tim ne zna šta da radi. Razume se da mašina može u formalno-logičkoj igri da “nauči” kako minus i minus daju plus (neprijatelj moga neprijatelja je moj prijatelj), ali u jezičkom kretanju mašina ne može da izvede posledice negacije negacije ili paradoksa. Zbog toga su tekstovi koje proizvodi GBT-3 tako ravni u svojoj korektnosti, tako prazni u svojoj zgusnutosti, tako neopisivo dosadni. Sve je tu što bi trebalo da bude tu, a zapravo nema ničeg.

Da li to znači da se tekst što ga je proizvela mašina lako da razlikovati od teksta koji je proizveo čovek? Nipošto. Najpre, najveći broj ljudi dosadan je kao mašina i svakako manje pismen od nje, a i sve što je mašina proizvela zapravo je stvorio čovek, računajući i veze među rečenicama. Ogroman broj srednjoškolskih i veliki broj univerzitetskih profesora lako bi se dao prevariti ukoliko ne bi sa učenikom, odnosno studentom, proverio u kojoj meri ovaj razume to što je tako savršeno napisano. Da je mučeni Siniša Mali imao GBT-3 pri ruci kada je onomad falsifikovao svoj doktorat, teže bi ga bilo uhvatiti u nedelu. Ovako, jebi ga, uhvaćeni lopov ostaje lopov.

Najzad, šta oni koji se uče pisanju dobijaju od toga što je mašina u stanju da proizvede ono što oni sami ne bi bili u stanju da urade? Kratkoročnu dobit, svakako, ukoliko profesor ili čitalac nisu u stanju da provale mašinu. Dugoročno, međutim, šteta je ogromna jer pisanje ogleda, novinskih tekstova, pripovedaka, romana, filozofskih knjiga, doktorata, seminarskih radova, pisama, stvar je nesavršenog ljudskog iskustva.

ISKUSTVO

Prilično je očigledno da tvorci GBT-3 ne moraju da imaju nikakve veze s filozofijom kako bi stvorili vrlo delotvornu mašinu za samostalno (samostalno?) pisanje tekstova, kao što, manje ili više, s filozofijom nisu imali veze ni tvorci atomske bombe. Da ne bude zabune: moralne dileme filozofskog porekla možda bi sprečile neke naučnike da rade na atomskoj bombi, ali uvek bi se našli oni koji se ne bi zamarali moralnim problemima, te se, utoliko, filozofija pokazuje kao zaista najnemoćnija disciplina koja je ikada postojala. A opet, nijedna druga disciplina nije u stanju da nam, relativno precizno, kaže šta je to što radimo, jer čak i kada mislimo da vladamo materijom, kada smo ubeđeni da znamo šta radimo, nekako se uvek ispostavi da, zapravo, ne znamo, ili makar ne vladamo posledicama koje prevazilaze našu moć (nefilozofskog) poimanja. To je kao poklič da je važna jedino praksa, ne i teorija, kao da je bilo kakva praksa, uopšte, moguća bez refleksije o toj praksi. Nije. Tako je, čini se, i sa tvorcima, a još više korisnicima GBT-3. Šta je, dakle, u civilizacijskom smislu, GBT-3? Nesumnjiv i značajan civilizacijski pomak, ili civilizacijski pad? Da li ova vrsta veštačke inteligencije poboljšava (kao što to radi medicina) ljude, ili ih čini gorima nego što jesu?

Prva zanimljiva stvar u vezi s pametnom mašinom jeste da ona unekoliko izoštrava pojam iskustva. Ne vidi se, naime, po čemu se razlikuju iskustvo mašine koja ume da uči i čovekovo, pojedinačno i kolektivno iskustvo. Ljudsko iskustvo, naime, nikada nije, naprosto, sabijeno u čoveku, nego se ispoljava. Iskustvo koje se ne ispoljava, koje ne proizvodi učinke nije iskustvo. Recimo, iskustvo pisanja novinskog teksta posledica je svojevrsnog taloženja (potom i komešanja) čitanja, pisanja, učenja, znanja, povezivanja, neprestanih pokušaja koji se kreću između uspeha i neuspeha, u neprestanoj borbi volje i stvarnosti, u razmeni i sukobu sila, u otporu stvarnosti i njenom prihvatanju. No, ako isključimo volju koja se u ljudskom svetu ionako ne računa (koga briga da li je neko pisao s voljom ili ne?), ako izuzmemo jade, neprospavane noći i neuspehe (ko mari koliko se pisac mučio i zašto bi to uopšte bilo važno za krajnji proizvod – tekst ili umetničko delo) – da li mašina barata iskustvom na drugačiji način od čoveka? Zapravo ne. Drugim rečima, sadržina iskustva relevantna je samo ako se to iskustvo ispolji, a mašina iskustvo stiče i ispoljava kao i čovek.

Na drugoj ravni, međutim, iskustvo jezika je nesvodivo, jer iskustvo jezika jeste iskustvo kretanja svesti, svojevrsna Odiseja, neprestano iskušavanje slobode, dakle sve ono čega je mašina, po svojoj suštini, lišena. Nema veze što će se mašina u ogromnom procentu pokazati racionalnijom i pametnijom od čoveka – nije o tome reč jer ovde, zapravo, ne govorimo o delu svesti koja se da podvrgnuti računu, nego o tome da mašinu uvek neko programira po meri sopstvene pameti i razumevanja sveta. Sve i da je u mašinu sabijeno više iskustva nego što bi ga ijedan čovek mogao zadobiti za deset ljudskih života, mašina nikada neće biti u stanju da prenese iskustvo upravo zbog toga što ne poseduje ni volju ni emocije.

Mašina iskustvo prevodi mašinalno, dakle mahinalno. Mašina ne bira, nego postupa po principu većih brojeva, verovatnoće i po sili algoritama. Ona u visokoj meri može da prevodi određene jezičke zaplete i verovatno će, kako vreme prolazi, kako bude gomilala iskustvo, u tome da bude sve bolja, ali mašina nikada ne može da prevaziđe imanentno ograničenje koje joj neće dopustiti da u rečenice uračuna nejezički momenat koji je konstitutivan za jezik. Kod dobrih pisaca ono nenapisano važno je koliko i ono što je napisano. Zato mašina neće moći da prevede roman, o pesmi ni da ne govorimo. Prevod velikog romana zahteva ljudsku nesavršenost koja se ogleda upravo u tome što ne može da zaobiđe ni volju ni emocije.

PISANJE

S novinskim jezikom stvar je još komplikovanija, pa je, čini se, bojazan kolege Stanojevića (u rečenim tekstovima u “Vremenu”) o ugroženosti novinarske profesije unekoliko preterana. Paralela koju je Stanojević povukao s internetom i propadanjem klasičnih papirnih medija, naprosto ne stoji. Internet je ugrozio papirne novine jer tu nije bilo reči o promeni sadržine, već forme. Tu nije bilo reči o stilskim ili moralnim dilemama, već o nosiocu teksta: umesto da se piše po papiru, sada se piše po elektronskoj tabli. Ostalo se ne menja. Tekst proizvodi čovek. S veštačkom inteligencijom ulog je potpuno drugačiji jer tekst bi trebalo, na osnovu dostupnih informacija, da piše sama mašina. Kako će, međutim, mašina da pravi razliku između dobra i zla, što je razlika koja stoji u osnovi novinarstva sve dok ga bude bilo?

Ovde bi odmah valjalo otkloniti površne nedoumice. Nacističko novinarstvo, komunističko novinarstvo, ili glasila koja podržavaju Vučića i njegovu interesnu grupu, nemaju veze s novinarstvom i ta glasila bila su, ili jesu, propagandna sredstva. Ništa više. Ta i takva glasila, na kojem se god nosaču teksta nalaze, ne kreću se po lestvici koja se proteže od dobra do zla. Za njih ta suprotnost nije važna. Novinarstvo se, s druge strane, uvek nalazi između te dve veličine. Nije u novinarstvu najvažnije preneti informaciju, nego izabrati onu informaciju iz koje nije iščilela supstancija vrednosti. Dobar, veliki novinar – pogledajmo tekstove Miloša Vasića, na primer – uvek govori posredno slobodnim govorom: nikada Miša Vasić nije bio neutralan čak i kada, naprosto, prenosi reči koje je izgovorio, ili napisao neko drugi. Miša Vasić je uspostavljao kontekst koji nikada, ali baš nikada nije bio lišen vrednosne supstancije. On nikada nije uspostavljao lažnu ravnotežu između dobra i zla: koliko dobra, toliko i zla. To bi, valjda, bila definicija “objektivnosti”. Mašina, s druge strane, to ne može. Mašina može biti neutralna – ako se tako programira, to jest – ali ne i objektivna, jer nije u stanju da odmeri distancu između dobra i zla.

O kolumnama i da ne govorimo. Ubacimo u mašinu, recimo, sve što je Teofil Pančić ili Boris Dežulović ikada napisao. Nema nikakve sumnje da bi tekstovi što ih generiše mašina bili đavolski slični Pančićevim ili Dežulovićevim tekstovima, osim što mašina, samo kada bi se malo izmešale karte, ne bi bila u stanju da se snađe u izmenjenom kontekstu. Ona može da imitira stil velikih pisaca, ali ne i ono što te pisce čini velikima: čulo za razlikovanje dobra i zla.

Razume se, ako bi se crne slutnje kolege Stanojevića ostvarile, to bi zaista bilo strašno, ali to bi, takođe, značilo da je čovek izgubio čulo za slobodu. A tada, zaista, ništa više ne bi bilo važno.