Test zrelosti civilizacije: Između ambisa prosperiteta

Dario Amodei, izvršni direktor jedne od vodećih svetskih kompanija za veštačku inteligenciju Anthropic, upozorava čovečanstvo da se nalazi na ivici da mu bude dodeljena „gotovo nezamisliva moć“ za koju je „potpuno nespremno“.

U opširnom tekstu pod naslovom „Adolescencija tehnologije“, Amodei detaljno analizira potencijalne rizike „moćne“, generativne veštačke inteligencije. Obrađuje bezbednosne i vojne pretnje, moguće političke i ekonomske poremećaje i transformaciju tržišta rada. Autor dodatno razmatra i hipotetičke scenarije pojave sintetičkih entiteta, sa potencijalno egzistencijalnim posledicama.

Amodei nastoji da čitaocu pruži sveobuhvatan pregled na moguće rizike ovih revolucionarnih tehnologija na društvo, ekonomiju i samu prirodu života.

AI kao pojačivač ljudskih namera

Ovaj stručnjak upozorava da se pred nama nazire period u kome čovečanstvo stvara tehnologiju koja s jedne strane eksponencijalno uvećava ljudske sposobnosti, ali istovremeno briše zaštitne barijere koje su nas do sada štitile od sopstvene destruktivnosti. Moćna veštačka inteligencija neće biti samo pametniji alat, već univerzalni „pojačivač namera“ – dobrih i loših – dajući pojedincima kapacitete koji su ranije bili rezervisani za države, institucije i uske krugove vrhunskih stručnjaka.

Amodei upozorava da dok danas „poremećeni usamljenik“ može počiniti lokalni nasilni čin, ali nije u stanju da stvori oružje za masovno uništenje, moćna AI to menja. Ona bi ga mogla, korak po korak, voditi kroz proces dizajniranja, sinteze i širenja potencijalno smrtonosnog biološkog agensa, praktično podižući prosečnog pojedinca na nivo stručnjaka sa doktoratom.

Istovremeno, tekst skreće pažnju na ekstremne, ali ne i nemoguće scenarije stvaranja tzv. mirror life organizama – sintetičkih oblika života čije su molekuli raspoređeni „obrnuto“ u odnosu na prirodni život, što ih čini biološki nekompatibilnim sa postojećim organizmima. Njihov uticaj na okolinu mogao bi da bude razarajući: mogli bi da se nekontrolisano šire i u najgorem slučaju ugroze sve ekosisteme na Zemlji.

Globalni rizici

Svi navedeni rizici dodatno se pojačavaju činjenicom da veštačka inteligencija već ubrzava svoj sopstveni razvoj – piše kôd, dizajnira, eksperimentiše i gradi sledeće generacije sistema – dok društvo i regulacija zaostaju ili stagniraju.

U bezbednosnom smislu, stvari mogu biti još opasnije: ako neka država stekne odlučujuću prednost u razvoju veštačke inteligencije i stavi pod kontrolu, kako autor naziva, „zemlju genijalaca u data centru“ – moćne AI sisteme koji deluju iza ekrana – unutar sopstvenog vojnog aparata, druge zemlje bi mogle postati praktično nesposobne da se brane. Bile bi nadmudrene i nadjačane na svakom koraku, poput „rata između ljudi i miševa“. Ovakva situacija, smatra CEO Anthropic-a, otvara mogućnost pojave prve prave globalne, totalitarne diktature.

Pored inherentnih bezbednosnih rizika koje AI može izazvati samostalno ili kroz zloupotrebu od strane pojedinaca, organizacija ili država, postoji i ozbiljan ekonomski izazov. Veštačka inteligencija će u perspektivi brzo nadmašivati kognitivne sposobnosti ljudi i zameniće veliki broj poslova u kratkom vremenskom roku, što može dovesti do potencijalne destabilizacije radne snage. Brzina razvoja, sposobnost AI sistema da „u hodu“ nadoknade nedostatke, širok spektar zadataka koje mogu preuzeti i koncentracija moći u rukama malog broja aktera mogu izazvati poremećaje na tržištu, rastuću nezaposlenost i nejednakost, formiranje novih nižih ekonomskih slojeva i gomilanje još većeg bogatstva kod pojedinaca i malog broja država.

Test zrelosti

Zbog toga se naredni period može smatrati testom zrelosti civilizacije: društvo će morati da pronađe načine da preventivno obuzda i kolektivno kontroliše ovu moć, inače bi moglo biti suočeno sa posledicama čiji obim prevazilazi kapacitete i mogućnosti za njihovo ispravljanje, zaključuje Dario Amodei.