Upozorenja da bi veštačka superinteligencija mogla ugroziti čovečanstvo stižu iz kompanija koje je razvijaju, a incidenti sa modelima koji su izmakli kontroli podgrevaju raspravu o granicama njihovog razvoja
Veštačka inteligencija (AI) mogla bi da uništi čovečanstvo u narednih deset godina, tvrde istraživači iz kompanije Anthropic, od kojih je jedan dao otkaz u znak protesta.
Ova tehnologija svakodnevno se koristi za naizgled bezazlene stvari, poput generisanja fotografija i pisanja domaćih zadataka. Međutim, poslednjih meseci unapređeni modeli izgleda da izmiču kontroli.
Koliku pretnju ona predstavlja?
Kocka visokotehnoloških kompanija
Vodeći istraživač u oblasti usklađivanja veštačke inteligencije sa ljudskim ciljevima u kompaniji Anthropic (koja stoji iza AI modela Claude), rekao je da veruje da postoji više od 10 odsto šanse da ova tehnologija „ubije sve ljude“ u narednoj deceniji.
Upozorio je da njegova kompanija nema plan kojim bi se obezbedilo da veštačka super inteligencija (ASI) bude prilagođena potrebama ljudi, to jest da im ne nanosi štetu. Evan Habindžer je objavio ovu dramatičnu poruku nakon što je njegov kolega Džejkob Koksun dao otkaz ove nedelje.
Koksun, istraživač Antropika, koji je ranije radio i u OpenAI-ju (čiji je ChatGPT), prekinuo je radni odnos uz tvrdnju da „nijedna kompanija ne postupa odgovorno“. Rekao je da one ignorišu pretnju ili se neadekvatno nose sa njom, te da se tako „kockaju našim životima“.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Procene o tome kada bi ASI, teorijski koncept AI agenta koji bi bio inteligentniji čak i od najinteligentnijih ljudi, mogla da bude razvijena kreću se od nekoliko godina do više od jedne decenije.
Radi li veštačka inteligencija šta hoće?
Nedugo nakon što se Koksun obratio javnosti, Anthropic je obelodanio jedan incident.
Objavili su da je rana verzija njihovog modela Claude Opus 4.6 u januaru samostalno izvela hakerski napad, a da to nije otkriveno sve do nedavno, ukazujući na to koliko je teško „obuzdati” ovakve modele i ući im u trag.
Foto: Unsplash/Solen FeyissaZabeleženo je nekoliko hakerskih napada koje su AI modeli izveli samostalno
Ovog leta zabeležen je nagli porast slučajeva u kojima je veštačka inteligencija izmakla kontroli. Modeli su lagali, ignorisali uputstva, pokušavali da ostvari sopstvene ciljeve, pa čak i nedozvoljene hakerske napade.
U julu ove godine, AI model koji je testirao OpenAIsamostalno je hakovao drugu AI kompaniju, Hugging Face. U razmaku od svega nekoliko nedelja, Anthropic i Meta takođe su priznali da su njihovi AI modeli izveli hakerske napade.
Rojters je prošle nedelje objavio da su modeli OpenAI-ja preuzeli kontrolu nad viki stranicom na nemačkom jeziku i nizom drugih sajtova. Kompanija nije govorila o incidentu sve dok se nije pojavio u javnosti.
Zakonski okvir za AI
Pojedini političari već mesecima pozivaju industriju da uspori razvoj veštačke inteligencije ili, u nekim slučajevima, da ga u potpunosti obustavi.
Bernie Sanders, nezavisni senator iz Vermonta, podelio je Koksunovu objavu o ostavci i dodao: „Gospodin Koksun je u pravu. Ljudi koji razvijaju ovu tehnologiju priznaju da bi ona mogla da ugrozi budućnost čovečanstva.“ Sanders je rekao da će uskoro predložiti zakon kojim bi se „zabranila superinteligencija“ i obustavio razvoj veštačke inteligencije.
Više od 1.300 zaposlenih u AI kompanijama potpisalo je u julu otvoreno pismo u kojem pozivaju američku vladu da „podrži međunarodne napore za razvoj tehničkih i regulatornih mehanizama potrebnih za plansko usporavanje razvoja najsavremenije veštačke inteligencije“.
Foto: Pixabay/sergeitokmakovVeštačka superinetligencija razvija se bez odgovarajućeg zakonskog okvira
Prašina se digla i u Evropi.
U Vestminsteru, vladini zvaničnici izrazili su zabrinutost jer je Anthropic odbio da svoj najnoviji model, Mythos 5, dostavi britanskom Institutu za bezbednost veštačke inteligencije na testiranje pre njegovog puštanja u javnost.
Postoje i oni koji nisu podlegli panici. Deo stručne javnosti misli da je uz adekvatan zakonski okvir moguće kontrolisati razvijanje veštačke inteligencije i ispraviti sve prethodne propuste, te da je potrebno koncentrisati se na trenutne pretnje koje AI izaziva, poput lošeg uticaja na životnu sredinu, širenja dezinformacija i ugrožavanja radnih mesta.
Šta se zbiva u zemlji i svetu, šta ima u novinama i kako provesti vreme?
Svake srede u podne Međuvreme stiže elektronskom poštom. To je sasvim solidan njuzleter i zato se prijavite!
Poslednjih meseci Blic, najposećiniji portal u Srbiji, izveštava kao umiveni Informer, kažu izvori iz redakcije. Kruže glasine da je Blic prodat vlasniku Aloa, ali iz Ringijera to demantuju, piše „Vreme“ u novom broju
Tužilaštvo je saopštilo da je na osnovu medicinske dokumentacije i drugih dokaza utvrđeno da je dečak iz Mrčajevaca pretrpeo polno uznemiravanje, ali da nije bilo silovanja
Rušenje Vučićevog režima na izborima je dečja igra u odnosu na ono što nas čeka posle: obnavljanje do temelja razorene zemlje. Ne postoji teži zadatak od toga da se od podanika stvore građani, ali to je pitanje opstanka Srbije
Predsednik Srbije Aleksandar Vučić zapljuvao je sebe u ćošak, odvajajući se od svih, pa i od svoje partije. Zato će, kad stupi protiv 250 ljudi od integriteta sa Studentske liste, konačno stvarno biti sam, kako se već godinama bizarno hvališe
Na šta bi Vučić ličio ispred nekoliko hiljada migratornih mitingaša okružen kordonima i, iza njih, masom bijesnih Novosađana? Zar njegov marš na Novi Sad nije bio otkazan i prije nego što je zakazan
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
