Upozorenja da bi veštačka superinteligencija mogla ugroziti čovečanstvo stižu iz kompanija koje je razvijaju, a incidenti sa modelima koji su izmakli kontroli podgrevaju raspravu o granicama njihovog razvoja
Veštačka inteligencija (AI) mogla bi da uništi čovečanstvo u narednih deset godina, tvrde istraživači iz kompanije Anthropic, od kojih je jedan dao otkaz u znak protesta.
Ova tehnologija svakodnevno se koristi za naizgled bezazlene stvari, poput generisanja fotografija i pisanja domaćih zadataka. Međutim, poslednjih meseci unapređeni modeli izgleda da izmiču kontroli.
Koliku pretnju ona predstavlja?
Vodeći istraživač u oblasti usklađivanja veštačke inteligencije sa ljudskim ciljevima u kompaniji Anthropic (koja stoji iza AI modela Claude), rekao je da veruje da postoji više od 10 odsto šanse da ova tehnologija „ubije sve ljude“ u narednoj deceniji.
Upozorio je da njegova kompanija nema plan kojim bi se obezbedilo da veštačka super inteligencija (ASI) bude prilagođena potrebama ljudi, to jest da im ne nanosi štetu. Evan Habindžer je objavio ovu dramatičnu poruku nakon što je njegov kolega Džejkob Koksun dao otkaz ove nedelje.
Koksun, istraživač Antropika, koji je ranije radio i u OpenAI-ju (čiji je ChatGPT), prekinuo je radni odnos uz tvrdnju da „nijedna kompanija ne postupa odgovorno“. Rekao je da one ignorišu pretnju ili se neadekvatno nose sa njom, te da se tako „kockaju našim životima“.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Procene o tome kada bi ASI, teorijski koncept AI agenta koji bi bio inteligentniji čak i od najinteligentnijih ljudi, mogla da bude razvijena kreću se od nekoliko godina do više od jedne decenije.
Nedugo nakon što se Koksun obratio javnosti, Anthropic je obelodanio jedan incident.
Objavili su da je rana verzija njihovog modela Claude Opus 4.6 u januaru samostalno izvela hakerski napad, a da to nije otkriveno sve do nedavno, ukazujući na to koliko je teško „obuzdati” ovakve modele i ući im u trag.
Ovog leta zabeležen je nagli porast slučajeva u kojima je veštačka inteligencija izmakla kontroli. Modeli su lagali, ignorisali uputstva, pokušavali da ostvari sopstvene ciljeve, pa čak i nedozvoljene hakerske napade.
U julu ove godine, AI model koji je testirao OpenAI samostalno je hakovao drugu AI kompaniju, Hugging Face. U razmaku od svega nekoliko nedelja, Anthropic i Meta takođe su priznali da su njihovi AI modeli izveli hakerske napade.
Rojters je prošle nedelje objavio da su modeli OpenAI-ja preuzeli kontrolu nad viki stranicom na nemačkom jeziku i nizom drugih sajtova. Kompanija nije govorila o incidentu sve dok se nije pojavio u javnosti.
Pojedini političari već mesecima pozivaju industriju da uspori razvoj veštačke inteligencije ili, u nekim slučajevima, da ga u potpunosti obustavi.
Bernie Sanders, nezavisni senator iz Vermonta, podelio je Koksunovu objavu o ostavci i dodao: „Gospodin Koksun je u pravu. Ljudi koji razvijaju ovu tehnologiju priznaju da bi ona mogla da ugrozi budućnost čovečanstva.“ Sanders je rekao da će uskoro predložiti zakon kojim bi se „zabranila superinteligencija“ i obustavio razvoj veštačke inteligencije.
Više od 1.300 zaposlenih u AI kompanijama potpisalo je u julu otvoreno pismo u kojem pozivaju američku vladu da „podrži međunarodne napore za razvoj tehničkih i regulatornih mehanizama potrebnih za plansko usporavanje razvoja najsavremenije veštačke inteligencije“.
Prašina se digla i u Evropi.
U Vestminsteru, vladini zvaničnici izrazili su zabrinutost jer je Anthropic odbio da svoj najnoviji model, Mythos 5, dostavi britanskom Institutu za bezbednost veštačke inteligencije na testiranje pre njegovog puštanja u javnost.
Postoje i oni koji nisu podlegli panici. Deo stručne javnosti misli da je uz adekvatan zakonski okvir moguće kontrolisati razvijanje veštačke inteligencije i ispraviti sve prethodne propuste, te da je potrebno koncentrisati se na trenutne pretnje koje AI izaziva, poput lošeg uticaja na životnu sredinu, širenja dezinformacija i ugrožavanja radnih mesta.
Pravo novinarstvo košta, a mi nećemo da nas kupe tajkuni i korporacije. Podržite nas jednokratnom ili mesečnom donacijom. Vreme za to je sada!
Nekada su mladenci dobijali pegle, escajg i kućne aparate, a danas se na svadbe uglavnom nose koverte s novcem. Koliko košta odlazak na svadbu, zašto se poklon pretvorio u finansijsku obavezu i kako se pamti ko je koliko dao
Advokatska komora Beograda (AKB) zatražila je da predsednica Narodne skupštine i ministar pravde u tehničkom mandatu obaveste javnost koga je i za koja krivična dela pomilovao Aleksandar Vučić
Zaposleni na portalu Nova.rs najavili su protest ispred redakcije u 18 časova, nakon što im je novi vlasnik poslao pismo sa rokom od 48 sati da odgovore na njegovu „nepristojnu" ponudu. Izvršna urednica Bojana Anđelić kaže za „Vreme“ da način na koji su obavešteni dodatno pojačava sumnje u loše namere vlasnika
Tužilaštvo za organizovani kriminal saopštilo da je uhapšeno sedam osoba zbog sumnje da su učestvovale u dva ubistva. Još pet osoba obuhvaćeno je istragom
U obraćanju redakciji povodom promena u rukovodstvu, "bord direktora" izneo je nešto što je opisao kao „konstruktivan put napred“
Razgovarao je sa kamenom za kupus i fotografijom Ilije Srdanovića. Požar u Niškoj tvrđavi proglasio je za delo veštačke inteligencije. Pohvalio se da mu ne bi bilo prvi put da nekom otima pištolj iz ruku
Režim neće da otvori biračka mesta u inostranstvu i tera ljude da glasaju – noću! Odsecanjem velikog broja birača, izbori su već sada i zvanično neregularni
Predstavnici bivšeg predsednika Srbije u dosadašnje dve TV debate na N1 su se dokazivali u tome ko će biti dostojan proslavljenog naprednjačkog bukača Vladimira Orlića. Nisu došli da razgovaraju, nego na verbalnu šutku
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
