Kako je tehnologija uništila demokratiju za 1.750.000.000 sekundi

Pre nekoliko meseci imao sam veliko zadovoljstvo i čast da održim završno predavanje na fenomenalnoj DigiTalk konferenciji u Zrenjaninu. Govorio sam kako se tehnologija menja kroz vreme, kako se istorijski obrasci ponavljaju, šta iz toga možemo da naučimo, i kako možemo da primenimo to znanje da bi se što bolje suočili sa izazovima koje donosi veštačka inteligencija.

Ono što je taj nastup učinilo posebnim – pored predivne publike – bilo je to što sam, prvi put ikada, inspirisao samog sebe. Usred izlaganja, tu, na sceni, shvatio sam kako je tehnologija uništila demokratiju. U sebi, naravno. Nadam se da niko nije primetio.

Bio je to neverovatan trenutak, ali da biste ga razumeli, moram da krenem od početka.

Misaoni eksperiment

Najveći izazov koji sam imao dok sam pripremao prezentaciju je bio kako da pričam publici o nečemu što smo zajedno proživeli, na način koji je ne samo zanimljiv i privlačan, nego koji će im omogućiti da vide tu prošlost novim očima. Kako mogu da razbijem perceptivni problem koji je toliko ukorenjen da ga delimo sa žabama? Kao što žabe ne mogu da primete postepenu promenu u temperaturi vode, tako izgleda da ni mi ne možemo da primetimo postepene promene u svetu oko nas.

Da bih rešio ovaj problem, odlučio sam da sa publikom sprovedem „Rip Van Vinkl“ misaoni eksperiment. Ovaj misaoni eksperiment je inspirisan pričom Vašington Ervinga, u kojoj istoimeni heroj zaspi zahvaljujući nekoj magiji, i probudi se godinama kasnije mnogo posle američke revolucije, u svetu bez crvenih mundira koji on više ne prepoznaje. Priča služi kao metafora za dezorijentirajuću promenu u svetu oko nas, čiju veličinu i značenje gotovo i ne primetimo ako ih proživimo. I kao što Rip ne može da prepozna svet posle velike političke promene, tako neko ne bi mogao da prepozna svet posle velike tehnološke promene koju bi prespavao.

Prosto rečeno, eksperiment glasi: Koliko dugo neko mora da spava da bi se probudio u svetu koji ne razume ili u kome ne može odmah da se snađe bez većih poteškoća?

Na primer, ako uspavate nekog kovača s početka Rimskog Carstva, i probudite ga 1600 godina kasnije, osim jezičke barijere, ne bi imao mnogo problema da se snađe. Ako uspavate nekog kovača iz 1800. i probudite ga samo 160 godina kasnije, on će misliti da je svet pun čarolija.

Odlučio sam da svoj eksperiment počnem od Epohe 0.

Epoha, ili Unix Time, je kako kompjuteri mere vreme. Da bi izbegli probleme oko prestupnih sekundi i godina, Julijanskih i Gregorijanskih kalendara, letnjeg i zimskog vremena, kompjuteri jednostavno broje sekunde od određenog trenutka i onda to preračunavaju u rogobatne formate koje mi ljudi koristimo. Tako je mnogo jednostavnije. Većina operativnih sistema i programskih jezika broji sekunde od ponoći, 1. januara 1970. UTC, poznatije kao Epoha 0. Pošto sam se i ja „uključio“ samo nekoliko meseci kasnije, izgledalo je baš kao dobra polazna tačka jer sam želeo da pričam o promenama za mog života, sa kojima imam ličnog iskustva.

Sledeća odluka koju sam morao da donesem je bila: koji vremenski interval da odaberem? Koliko dugo bi moj hipotetički junak morao da spava da bi se probudio u svetu koji ne razume? Samo zato što je lep i okrugao broj, prvo sam probao period od 7,93 godine (ili 250.000.000 sekundi). Bio sam najiskrenije iznenađen kada sam shvatio kako se datumi lepo slažu i kako eksperiment dobro radi sa tako besmisleno malim vremenskim razmakom.

Svet koji se brzo menja

Pripremio sam slajdove, izabrao slike i filmiće, i postavio eksperiment. Naš junak nije kovač već „kompjuteraš“ koji se budi na svakih 7,93 godine i pokušava da razume digitalni svet oko sebe. Ako između dva buđenja svet ostane fundamentalno nepromenjen ili potpuno predvidljiv, eksperiment bi trebalo da propadne.

Evo kratkog pregleda sa čime se naš junak suočava svaki put kada se probudi:

Četvrtak, 1. januar 1970.
UNIX se pokreće. Računari su ogromni, izuzetno skupi i koriste se isključivo za ozbiljan posao u ozbiljnim institucijama. Koriste ih veoma visoko obučeni operateri.

Subota, 3. decembar 1977.
Računari su mali, pristupačni i može ih koristiti svako. Lični računari poput Apple II, Commodore PET i TRS-80 — prodaju se u milionima, u firmama, školama i domovima, uglavnom za posao ili obrazovanje.

Utorak, 5. novembar 1985.
Bezbroj kućnih računara, uglavnom fokusiranih na zabavu i igre, uključujući legendarne Commodore Amiga i Atari ST. Macintosh pronalazi svoju nišu u oblasti desktop izdavaštva. IBM PC preplavljuje poslovni svet. Pojavljuju se prve mreže mobilnih telefona.

Četvrtak, 7. oktobar 1993.
PC dominira i u kući i na poslu. Retko koja kancelarija više nema računar. Prvi savremeni laptopovi se pojavljuju — poput ThinkPad-a i MacBook-a. Globalno cirkuliše oko 80 miliona mobilnih telefona. Prva SMS poruka se šalje kao test mreže. Mosaic, prvi web čitač, pojavljuje se u akademskim krugovima.

Nedelja, 9. septembar 2001.
Internet je postao ključan za svakodnevni život. Dot-com balon je u međuvremenu narastao — i pukao. Samo u 2001. godini prodaje se 400 miliona mobilnih telefona. U prva tri meseca te godine šalje se više od 50 milijardi SMS poruka.

Utorak, 11. avgust 2009.
Pametni telefoni. Računarstvo je prešlo u „cloud“. Streaming servisi dominiraju. Društvene mreže postaju sveprisutne. Pojavljuju se blockchain i Bitcoin.

Petak, 14. jul 2017.
Glavni hit su veštačka i oboaćena stvarnost. Internet stvari se širi. DeepMind-ov AlphaGo pobeđuje najboljeg igrača Goa na svetu.

Nedelja, 15. jun 2025.
Pandemija je promenila društvo kroz tehnologiju — globalno praćenje kontakata, rad na daljinu je normalizovan. AlphaFold tim iz DeepMind-a osvaja Nobelovu nagradu za hemiju 2024. godine. Veliki jezički modeli i generativna AI su svuda — i u svemu.

Otkrovenje

Negde pri početku mog izlaganja, pokušavao sam da publici dočaram koliko je milijarda sekundi (savet: nikad ne računajte pred publikom, čak ni 4×8). U tom trenutku, verovatno zato što su svima nama u Srbiji izbori konstantno na pameti, shvatio sam da je period koji naš junak prespava, globalno — grubo govoreći — jedan, možda dva izborna ciklusa.

Ta misao me je potpuno pomela u tom trenutku, i ostala je sa mnom mnogo dugo posle toga.

Vidite, ja sam, kroz svoj misaoni eksperiment, dokazao da je brzina razvoja tehnologije takva da je nemoguće predvideti kako će se tehnologija, a sa njom neminovno i društvo, razviti za osam godina. Za života samo jedne ili dve političke administracije. Možda je to bilo očigledno svima, ali za mene je to bilo neverovatno otkrovenje.

Naš demokratski sistem je postavljen tako da mi, građani, biramo svoje predstavnike na osnovu njihovih obećanja, strategija i kampanja, i šaljemo ih po skupštinama, saborima, i parlamentima, da nas tamo predstavljaju do sledećih izbora. Ono što nikako ne smemo smetnuti s uma, je da je delovanje ovih institucija isključivo usmereno na budućnost. One donose zakone i prave propise koji tek treba da budu implementirani u godinama koje dolaze.

Veoma dobro osmišljen sistem, ako je jasan cilj. Uprošćeno govoreći, i u laboratorijskim uslovima gde nema trenja i gravitacije, političari bi najavili svoje strategije, svoje vizije budućnosti i petogodišnje planove. Na osnovu tih planova bi bili izabrani i stvari bi se manje-više odvijale u tom pravcu, ka nekoj zajedničkoj viziji koju smo mi, kao narod, odredili.

Ali moj misaoni eksperiment je pokazao da to više nije slučaj, i nije bio već duže vreme.

Društvene promene su danas vođene tehnologijom, a ne bilo kakvim demokratskim procesom ili principom.

Duboke, fundamentalne promene.

Kada je naš junak legao da spava u četvrtak, 7. oktobra 1993, znao je zasigurno, intuitivno, kao i svako ljudsko biće koje je ikada hodalo planetom pre njega, da svaka informacija, osim usmene, mora imati fizičku formu. Tekst je živeo po knjigama i sveskama, muzika na kasetama, pločama i CD-ima, igrice i fajlovi na disketama, fotografije su bile na papirima i negativima, ljudi su jedni drugima slali pisma i razglednice. Špijuni su krijumčarili mikro-filmove. Sve je bilo kao što je bilo oduvek.

Kada se probudio osam godina kasnije u 2001, ta iskonska intuicija je bila potpuno pogrešna. Prevaziđena. Pregažena vremenom, do te mere, da je malo ko smatrao nenormalnim ono što nikada pre nije bilo normalno.

Ko je glasao za tu promenu?

Nemojte pogrešno da me shvatite. Ne kažem ja da je sve to loše, i da nije trebalo da se dogodi. Samo hoću da postavim pitanje: kako je moguće da se jedna tako velika socijalna promena dogodi a da niko nikoga nije pitao? Pritom, nije se dogodila zbog bilo kakve političke volje, ili ideološke vizije, već samo zbog profita.

Šta vlade mogu da urade po tom pitanju? Ne mogu da urade ništa, osim da rade jedinu stvar za koju nisu postavljene tu. Da reaguju na promene koje nisu bile ni u stripovima kada su pisali svoje programe zbog kojih smo ih izabrali.

Njihov posao je da postavljaju strategiju, da vode društvo unapred, da gledaju u budućnost. Ali to više nije moguće. Vlade su sada primorane da reaguju na događaje i promene koje nisu mogle da predvide. Da regulišu ono što ne mogu da kontrolišu. I zato što ne mogu, uglavnom se i ne trude.

Najosnovnija ideja demokratije je da narod ima moć da kontroliše svoju budućnost. Ali vlade to više ne mogu da ponude. Nisu više za volanom.

Nevidljiva razmena

Te davne 1993, međunarodni telefonski pozivi su bili jako skupi. I morali su da budu. Nije bilo izbora. Bilo je potrebno održavati veliku infrastrukturu na globalnom nivou. Telefonske centrale, dalekovode, satelite… Infrastrukturu o kojoj se hvalilo u petogodišnjim planovima i političkim kampanjama. Godine 2001, pozivi su bili znatno jeftiniji. Danas su „besplatni“.

Globalni korporativni giganti danas poseduju i upravljaju infrastrukturom koja uveliko zasenjuje sve što je bilo pre njih, po svakoj mogućoj meri. Servisi koje nam nude ne koštaju ništa – a oni od toga generišu više bogatstva nego iko ikada u istoriji.

Koliko nas se ikada zaustavi da razmotri najosnovniji ekonomski princip koji se tu igra: razmenu vrednosti?

Jasno je da mora da postoji. Mi, kao potrošači, znamo tačno šta dobijamo. Možemo da pričamo, šaljemo porukice, 4k filmiće, HDR fotografije po celoj planeti, u trenutku, i po ceni od nula dinara. Malo ko od nas shvata šta mi dajemo za uzvrat. U stvari, mislim da većina ljudi misli da mi ne dajemo ništa zauzvrat, a kamoli da to ima toliku vrednost.

Problem nije samo puka monetarna vrednost. Ove korporacije ne usisavaju naše podatke direktno u neku mašinu za pravljenje novca. Ne, pre nego što ih proslede tamo, te podatke će iskoristiti da usavrše svoje algoritme, da ispoliraju svoje varalice i da naoštre svoje udice. Da postave društvo tako da maksimizuju svoj profit.

Kako dalje?

Znam… neki od vas će reći: Tako treba! Vlade su prespore i glomazne, slobodno tržište treba da vlada, sloboda govora mora da je apsolutna…

Fer. Možda ste i u pravu. Ali ja ne pričam o tome.

Ja pričam o tome da je u demokratiji neophodno da građani imaju uticaj u tome u kom će se pravcu razvijati društvo. Demokratski proces i institucije, očigledno više nisu dorasli tom zadatku. Ali moramo nešto da smislimo. I to brzo.

Mi se nalazimo na civilizacijskom, možda čak i evolutivnom raskršću. Pametne mašine su među nama. Najosnovniji princip našeg ekonomskog poretka, razmena rada za novac, je pod ozbiljnom pretnjom. Kako možemo da dozvolimo sebi da ne propustimo ovakve odluke kroz neki socijalni filter? Kako možemo biti tako ravnodušni da dozvolimo šačici pohlepnih milijardera da donose ove odluke – za nas, i za sve koji dolaze posle nas?

Najveći paradoks od svega je što čak i milijarderi vide problem – i nude „razumna“ rešenja. Međutim, političari su prestravljeni, jer su sva ova rešenja veoma ekstremna. Ali moraju biti ekstremna, jer ono sa čim se suočavamo je ekstremno koliko je moguće biti.

Ne mogu da se setim boljeg primera za ovaj paradoks, od ove razmene između bivšeg premijera Velike Britanije Riši Sunaka sa Ilonom Maskom.

U novembru 2023. Riši Sunak je organizovao sigurnosni samit koji se bavio izazovima koje donosi veštačka inteligencija. Ceo samit je bio Rišijev „lični“ projekat, pa je bio željan da lično počasti svog glavnog gosta sa 40-minutnim razgovorom na sceni.

Bilo je potpuno fascinatno gledati kako dvojica ljudi, sa kojima se ne slažem gotovo ni po jednom osnovu, ćaskaju bezbrižno o mojoj, i budućnosti moje dece. Dohvatili su se teme o budućnosti rada, i Riši je otvorio pitanjem koje je jasno pokazalo da on nimalo ne razume problem. Kao i toliko drugih ušorenih ekonomista i političara, on ovu tranziciju vidi kao još jednu veliku promenu koja se može rešiti prekvalifikacijom. Kao u doba industrijske revolucije ili elektrifikacije.

Mask, s druge strane razume problem veoma dobro. Čak je ponudio i neka „razumna“ rešenja. Potreslo me je na trenutak kada sam shvatio da se sa većinom onoga što je rekao potpuno slažem.

(Preveo je robot. Original razgovora je ovde)

Riši:
…

To me nekako dovodi do onoga što sam hteo da pitam. Kada radim intervjue ili razgovaram s ljudima o AI u okviru ovog posla, ono što se najviše pominje, zapravo, verovatno nije toliko ono o čemu smo pričali, već poslovi. Šta AI znači za moj posao? Da li će to značiti da neću imati posao ili da moja deca neće imati posao? Sada… moj odgovor kao kreatora politike, kao lidera, je zapravo da AI već stvara poslove. To možete videti u kompanijama koje se pokreću. Takođe, način na koji se koristi je malo više kao kopilot, nužno, nasuprot zameni osobe. I dalje postoji ljudska aktivnost, ali vam pomaže da bolje obavljate svoj posao, što je dobra stvar. Kao što smo videli sa tehnološkim revolucijama u prošlosti, jasno je da dolazi do promene na tržištu rada, broju poslova. Citirao sam danas MIT studiju koju su uradili pre nekoliko godina. Nešto kao 60% poslova u tom trenutku nije postojalo pre 40 godina, tako da je teško predvideti.

Moj posao je da stvorim neverovatni obrazovni sistem, bilo u školi, bilo da se ljudi prekvalifikuju u bilo kom trenutku svoje karijere, jer na kraju krajeva, ako imamo kvalifikovano stanovništvo, onda bismo trebali da pratimo tempo promena i imamo dobar život. I dalje je to razlog za zabrinutost. Kakvo je vaše mišljenje o AI i uticaju na tržište rada i poslove ljudi, i kako bi trebalo da se osećaju u vezi s tim dok razmišljaju o tome?

Mask

Mislim da ovde vidimo najrazorniju silu u istoriji. Prvi put, imaćemo prvi put, nešto što je pametnije od najpametnijeg čoveka. Teško je reći tačno kada je taj trenutak, ali doći će trenutak kada nijedan posao neće biti potreban. Možete imati posao ako želite posao iz ličnog zadovoljstva, ali AI će moći sve da uradi. Ne znam da li to čini ljude zadovoljnim ili nezadovoljnim. Zato kažem, ako poželite magičnog duha koji vam ispunjava sve želje. Nema ograničenja. Nemate ona tri ograničenja. Ograničenje od tri želje. Besmislica. Imate onoliko želja koliko želite. To je i dobro i loše.

Jedan od izazova u budućnosti će biti, kako pronalazimo smisao u životu ako imate magičnog duha koji može učiniti sve što želite? Kada postoji nova tehnologija, ona obično sledi S-krivu. U ovom slučaju, bićemo na eksponencijalnom delu S-krive dugo vremena. Moći ćete da tražite bilo šta. Nećemo imati univerzalni osnovni prihod. Imaćemo univerzalni visoki prihod. U nekom smislu, to će biti svojevrsni izjednačavač. Zaista, mislim da će svi imati pristup ovom magičnom duhu. Moći ćete da postavite bilo koje pitanje. Sigurno će biti dobro za obrazovanje. Biće najbolji učitelj. Mogao bi biti najstrpljiviji učitelj. Tako da je sve tu. Neće biti manjka roba i usluga. Bićemo u dobu izobilja. Preporučio bih ljudima da čitaju Ijena Banksa. Banksove knjige o kulturi su verovatno najbolja vizija. U stvari, ne verovatno. One su definitivno daleko najbolja vizija AI budućnosti. Nema ničeg ni blizu. Tako da bih zaista preporučio Banksa. Veliki sam fan. Sve njegove knjige su dobre. Neću reći koja, sve od njih. Tako da će vam to dati osećaj šta je… prilično utopijska ili pro-utopijska budućnost sa AI.

Kako da unesemo ovu debatu u glavne političke tokove? Kako da primoramo naše političare da se suoče sa stvarnošću? Koje alate možemo koristiti da povratimo pravo značenje „vladavina naroda“ u reč demokratija?

Ne znam. Ali znam da se to neće desiti kroz „demokratiju“ kako je trenutno razumemo—ne sa mehanizmima i alatima koje trenutno imamo.

To je tehnologija tiho ubila za 1.750.000.000 sekundi.

Autor je kreativni tehnolog iz Londona