Monokultura silicijumskog uma

Postoji jedan ovdašnji književni časopis u čijem impresumu, ravnopravno pored ljudskih imena, stoje još dva: Ava i Ejdolon. Oni tamo nisu navedeni kao softverski programi, već kao punopravni članovi redakcije koji aktivno učestvuju u odabiru tekstova. Časopis se zove “Treći glas”, a Dragan Radovančević je to ime objasnio na sledeći način: prvi glas je čovek koji piše; drugi je mašina koja je progutala gotovo sav dostupan tekst; a treći je onaj međuprostor u kojem više niko sa sigurnošću ne zna čije je zapravo to što čita. To, tvrde njegovi pokretači, nije nikakav problem, već sama poenta.

Ovaj osvrt se direktno nadovezuje na moju “Mračnu šumu” iz majskog broja “Vremena”, kao i na maksimu koju sam tamo upotrebio: da ko nije za stolom, taj je na meniju. U njemu se otvara i jedno važno pitanje: ako hibridni tekst, nastao na relaciji između Beograda i nekog servera u Sjedinjenim Državama, poseduje nesumnjivu estetsku vrednost, čija je, zapravo, ta vrednost i ko će je opisati?

Pre nego što ponudim odgovor, dužan sam da napravim jednu ogradu u pogledu samog pravca kojim se krećemo. U svom kultnom serijalu Zadužbina, Isak Asimov uvodi psihoistoriju, nauku koja na osnovu inercije velikih brojeva matematički proračunava sudbinu čitavih civilizacija. Pojedinac je u toj jednačini nepredvidiv, ali milioni jedinki, uzeti zajedno, kreću se po krivama koje se daju precizno izračunati. Privlačno je pomisliti kako se i naše doba kreće po nekoj takvoj skrivenoj formuli. Asimov nadograđuje sopstvenu viziju: nauka funkcioniše isključivo zato što su mase brojne i potpuno nesvesne proračuna, a ruši se onog časa kada se pojavi makar jedan jedini nepredvidivi činilac. Ne tvrdim, dakle, da je budućnost matematički izračunljiva. Tvrdim nešto skromnije, više na nivou istorijskog osećaja: tok ka sve masovnijoj obradi informacija i sve bržem stvaranju novog znanja, ili u najmanju ruku procesiranju informacija, toliko je silovit, da ga pojedinačni otpor ne može skrenuti s puta. Možemo se danas boriti protiv veštačke inteligencije, ali u toj borbi nećemo uspeti. Pitanje, stoga, nije hoćemo li tamo stići, nego kako, u kom obliku i pod čijim uslovima.

Da ova inercija nije tek zgodna književna metafora, najbolje svedoči ekonomska logika koja iza nje stoji. U “Mračnoj šumi” sam pokazao da OpenAI troši daleko više nego što zarađuje, da je to opštepoznata stvar, a da uprkos tome niko ne povlači kočnicu jer zastati u ovom trenutku znači potpisati kapitulaciju. To je inercija u svom najčistijem obliku: suština nije u tome da čitav postupak ima ekonomskog smisla, već u tome da niko ne želi da bude prvi koji je odustao. Tako se ne ponaša tehnologija koju možete mirno da odložite na policu za neka bolja vremena.

Otuda glasi i moj odgovor na postavljeno pitanje. Smatram da pitanje autorstva polako gubi svoju pređašnju težinu i da to samo po sebi ne predstavlja katastrofu. Doći će, verovatno za koji mesec, a ne za koju deceniju, trenutak kada više neće biti presudno da li je tekst potpisao čovek, mašina ili njih dvoje zajedno. Ako svi budemo mehanički koristili iste alate, na istovetan način i bez sopstvenog intelektualnog učešća, svi naši tekstovi postaće isti: savršeno glatki, konfekcijski i međusobno zamenljivi. Ali tamo gde opstane naša lična iskra, gde neko svesno bira autorski ugao ili neočekivanu reč, tekst će jasno odskakati iz ujednačene supe generisanih reči. To ćemo, posle dovoljno pročitanih stranica, nepogrešivo i osetiti: da li iza rečenice stoji čovek, program ili svesna ruka koja je vodila taj program. Međutim, to osećanje neće umanjiti lepotu onoga što čitamo. Biraćemo, kao i do sada, stil koji nam najviše prija, a taj stil će sve više biti simbioza čoveka i mašine, a ne čisto jedan ili čisto drugi.

GUBITAK NEPOSREDNOG PRISTUPA JAVNOM ZNANJU

ai ilustracija: maja vasić nikolić

Potpuno razumem uobičajenu zebnju pred tehnološkim i društvenim promenama, ali je ne delim do kraja. Svaka generacija je u istoriji smatrala da su onoj sledećoj frizure smešne, muzika vulgarna, a radne navike nikakve i ta se stara ploča vrti najmanje dvesta godina, a verovatno i znatno duže. Danas na identičan način slušamo apokaliptične prognoze da će zbog veštačke inteligencije sve propasti i da posle nas dolazi potop. U to ne verujem. Prelazni period će nesumnjivo biti dramatičan, ali stvar će se s vremenom sleći, a mi ćemo nastaviti dalje. To, međutim, ni izdaleka ne znači da treba apatično da pristanemo na sve. Prihvatiti da je neki istorijski pravac neizbežan nipošto ne znači prihvatiti i svaki pojedinačni oblik u kojem nam ga isporučuje nekolicina moćnih kompanija; ono što zateknemo na tom putu moramo shvatiti tek kao nacrt na koji imamo i pravo i dužnost da uložimo svoje amandmane.

A prvi i najvažniji takav amandman ne tiče se autorstva. Iza tog pitanja odvija se jedan daleko tiši, ali mnogo opasniji proces: ono što je do juče bilo javno, opšte i neposredno, danas postaje posredovano, a to posredovanje počinje debelo da se naplaćuje, ali i boji neočekivanim bojama.

Do znanja se vekovima dolazilo neposredno i samostalno: otvoriš knjigu, pročitaš je, uporediš izvore, vidiš ko šta tvrdi i na osnovu kojih argumenata. Danas se do njega sve češće dolazi kroz filter jednog jedinog glasa koji ga sažvaće, izmeša i servira bez ikakvih šavova i bez navođenja izvora. Sirovina je, paradoksalno, i dalje javna i besplatna; naplaćuje se onaj tehnološki sloj koji čita umesto nas. A taj sloj nipošto nije neutralan. Hibridni tekst koji nastaje na relaciji između Beograda i servera u tuđoj zemlji neminovno nosi ideološku i kulturološku osu svoje mašinske polovine, a ta polovina je trenirana i uobličena negde drugde, po tamošnjoj meri. Ono što nam se vraća kao objektivan odgovor skrojeno je, sasvim neprimetno, po tuđem aršinu. Antropolog Džozef Henrik je za ljudsku psihologiju to formulisao direktno: ono što Zapad smatra “opštečovečanskim” zapravo je svetski izuzetak, lokalna ekscentričnost prerušena u univerzalno pravilo. Isto važi i za podrazumevani glas mašine. On je univerzalan samo po imenu.

SEČENJE GRANE NA KOJOJ JAVNO ZNANJE RASTE

Najjasnije se to vidi na poljima gde su ulozi telesni i opipljivi. Henrik je, uzgred budi rečeno, bio jedan od autora eksperimenta koji ovu razliku najbolje ilustruje. MIT-ova platforma “Moralna mašina” prikupila je preko 40 miliona odluka iz 233 zemlje i teritorije postavljajući ljudima osnovno etičko pitanje: kada je sudar autonomnog automobila neizbežan, koga algoritam treba da poštedi? Rezultat nije bio jedinstven, univerzalni ljudski odgovor, već mapa civilizacijskih razlika. Pokazala su se tri velika kulturna kruga (grubo rečeno, zapadni, istočni i južni) koji se dubinski ne slažu oko toga čiji život ima veću specifičnu težinu. A softver za autonomnu vožnju neće projektovati čitav svet, već tek nekoliko globalnih proizvođača, svako po svojoj sopstvenoj meri uobličenoj tamo gde taj softver i nastaje. Pitanje, dakle, nije samo čija će etička načela biti fabrički ugrađena, nego zašto o njima odlučuje nekolicina korporacija, a ne društvo kroz čije ulice taj automobil prolazi? I šta biva sa ostalim sistemima vrednosti? Zabrinjavajući odgovor glasi da oni ne nestaju eksplicitnom zabranom, već pukom neupotrebom. Niko ih ne ukida; prosto ih niko ne ugrađuje jer se ekonomski ne isplati projektovati zasebnu moralnu logiku za svako pojedinačno društvo od nekoliko miliona ljudi. Norma koja nije programirana polako prestaje da postoji u praksi i ostaje tek mrtvo slovo na papiru.

Za one koji žele da testiraju sopstvene moralne nazore, ova platforma je i dalje aktivna na adresi moralmachine.net.

U svetlu ovoga, na velika vrata se vraća jedna stara istorijska reč koja savršeno opisuje aktuelni proces: ograđivanje. Vekovima je zajednički seoski pašnjak bio dostupan svima, da bi potom, komad po komad, bio ograđen i pretvoren u privatni posed. Teoretičari informacionog zajedničkog dobra opravdano upozoravaju da se ista sudbina danas sprema celokupnom čovekovom znanju. I upravo tu najviše gubi svako ko od stvaranja tog znanja živi, a novinarstvo se nalazi na prvom udaru. Internet pretraživač je decenijama funkcionisao kao svojevrsna pogodba: besplatan odgovor u zamenu za pažnju i poneki oglas, ali je bar vodio čitaoca dalje, na tuđe stranice, direktno ka izvoru. Odgovor mašine veštačke inteligencije, međutim, ne vodi nikuda. Krug se hermetički zatvara kod tehnološkog posrednika. Izvor (onaj ko je znanje mukotrpno stvorio, bio to novinar, autor ili istraživač) potpuno ispada iz jednačine, a sa njim nestaju i njegov prihod i njegov osnovni motiv da uopšte stvara. To je svesno sečenje grane na kojoj javno znanje raste.

Male kulture u ovom procesu gube dvostruko. Njih niko nije pitao po čijoj se meri sažima svet, a ono što im se vraća kao gotov proizvod dolazi ukalupljeno u tuđu matricu. Isti je slučaj i sa jezikom: stvarna opasnost nije u tome da srpski jezik fizički nestane, već da njegov podrazumevani oblik, onaj koji svako od nas dobija preko ekrana, stigne trajno skrojen prema sintaksičkom kalupu engleskog jezika.

KONCENTRACIJA PAMETI U RUKAMA NEKOLICINE

Pred kraj neophodno je zastati na trenutak i sagledati prave razmere ovog fenomena. Reč je o jednoj od najvećih koncentracija kapitala i moći u savremenoj istoriji, dok obavezujuća pravna kontrola ozbiljno kaska za njom. Prvi sveobuhvatni pravni okvir, evropski Akt o veštačkoj inteligenciji, donet je još 2024. godine, ali njegova stvarna ovlašćenja nad tvorcima modela stupaju na snagu tek sada, u leto 2026. Dakle, godinama nakon što je ova tehnologija postala naša svakodnevica, dok sama primena regulative uveliko kasni za sopstvenim rokovima. Nije stvar u tome da kontrole uopšte nema, već u tome što jedini ozbiljan pravni okvir tromo šepa za onim što odavno trči. A ono što najviše zabrinjava nisu same finansijske razmere, već tačka na kojoj se ta moć sleže: ne u suverene države niti u javne ustanove, već u ruke nekolicine pojedinaca koji upravljaju ovim gigantskim kompanijama. Koncentraciju bogatstva i gole sile istorija je već ciklično poznavala; ono što do sada nikada nije videla jeste koncentracija same pameti, alata pomoću kojeg milijarde ljudi misle, u rukama nekolicine.

Zato bih Asimovljevu psihoistorijsku sliku okrenuo u našu korist. Da, mi se krećemo tamo vođeni nezaustavljivom inercijom, i taj smer ne mogu da preokrenu ni pojedinac ni mala zemlja. Ali, sam pravac kretanja nije isto što i konačni ishod. Ishod, odnosno pitanje ko drži monopol nad znanjem i pod kakvim uslovima, ostaje otvoren i oko njega se vredi i mora sporiti. To ne znači slepo verovati tehnološkim kompanijama koje ove sisteme projektuju; naprotiv. To znači postavljati jasne zakonodavne granice, neprestano proveravati šta tačno dobijamo u zamenu za podatke i pokrenuti ozbiljan društveni razgovor o tome kako mašinu danas koriste oni koji tek uče da misle, kako u učionicama, tako i van njih.

Dok ovo pišem, stiže vest koja celu ovu priču čini bolno opipljivom. Američka vlada je, pozivajući se na razloge nacionalne bezbednosti, naložila kompaniji Antropic (Anthropic) da pristup svom najmoćnijem modelu trenutno ukine svim stranim državljanima, bilo gde u svetu. Kompanija je bila primorana da ih isključi preko noći, uprkos zvaničnim tvrdnjama da se takvom potezu protivi. Međutim, prema čitavoj toj predstavi valja zadržati zdravu dozu sumnje. Ništa ne reklamira moć tako uspešno kao zabrana, a poruka da je nešto “previše opasno da bi se delilo sa drugima” istovremeno funkcioniše kao savršena marketinška poruka da je to nešto “toliko moćno da sme ostati u samo nekoliko odabranih ruku”. Viđali smo već geopolitičke zabrane koje se tiho povuku čim medijska galama odradi svoj posao, pa se nije naivno zapitati kome ova politička predstava zapravo ide u korist. A čak i ako pretpostavimo da je sve sasvim iskreno, struktura koju ovaj potez ogoljava trajna je i utoliko gora: vrhunac ove tehnologije ne nalazi se samo u rukama nekolicine privatnih kompanija, već pod direktnom kontrolom jedne jedine države koja jednim jedinim dekretom može od nje da odseče ostatak planete. Za zemlju koja veštačku inteligenciju ne proizvodi, a takva je apsolutna većina na svetu, pristup najboljim alatima ne zavisi od sopstvene volje ili finansijskih mogućnosti, već od tuđe strateške odluke, bilo da iza nje stoje bezbednosni razlozi ili puka računica. Ono što je danas jedan softverski model, sutra lako mogu postati čitave privredne grane i regioni, isključeni državnim dekretom pre nego silom slobodnog tržišta.

Na kraju, čak i kada uspešno postavimo sve zakonodavne granice, ostaje ono ključno pitanje na koje nijedan pravni propis ne ume da odgovori. Kada svi jednom budemo progovorili kroz isti, unificirani glas: čije će vrednosti, čiji moral, čiji stil i čija kultura živeti u njemu? A onda nastupa i ono najteže: hoće li nas taj posuđeni glas, govoreći neprekidno umesto nas, s vremenom neosetno preoblikovati prema sopstvenom liku, brišući sve one prelepe civilizacijske razlike, sve dok ne počnemo da mislimo, osećamo i govorimo na jedan jedini, tuđi način?

Neće.

Pravo novinarstvo košta, a mi nećemo da nas kupe tajkuni i korporacije. Podržite nas jednokratnom ili mesečnom donacijom. Vreme za to je sada!