Upozorenja da bi veštačka superinteligencija mogla ugroziti čovečanstvo stižu iz kompanija koje je razvijaju, a incidenti sa modelima koji su izmakli kontroli podgrevaju raspravu o granicama njihovog razvoja
Veštačka inteligencija (AI) mogla bi da uništi čovečanstvo u narednih deset godina, tvrde istraživači iz kompanije Anthropic, od kojih je jedan dao otkaz u znak protesta.
Ova tehnologija svakodnevno se koristi za naizgled bezazlene stvari, poput generisanja fotografija i pisanja domaćih zadataka. Međutim, poslednjih meseci unapređeni modeli izgleda da izmiču kontroli.
Koliku pretnju ona predstavlja?
Kocka visokotehnoloških kompanija
Vodeći istraživač u oblasti usklađivanja veštačke inteligencije sa ljudskim ciljevima u kompaniji Anthropic (koja stoji iza AI modela Claude), rekao je da veruje da postoji više od 10 odsto šanse da ova tehnologija „ubije sve ljude“ u narednoj deceniji.
Upozorio je da njegova kompanija nema plan kojim bi se obezbedilo da veštačka super inteligencija (ASI) bude prilagođena potrebama ljudi, to jest da im ne nanosi štetu. Evan Habindžer je objavio ovu dramatičnu poruku nakon što je njegov kolega Džejkob Koksun dao otkaz ove nedelje.
Koksun, istraživač Antropika, koji je ranije radio i u OpenAI-ju (čiji je ChatGPT), prekinuo je radni odnos uz tvrdnju da „nijedna kompanija ne postupa odgovorno“. Rekao je da one ignorišu pretnju ili se neadekvatno nose sa njom, te da se tako „kockaju našim životima“.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Procene o tome kada bi ASI, teorijski koncept AI agenta koji bi bio inteligentniji čak i od najinteligentnijih ljudi, mogla da bude razvijena kreću se od nekoliko godina do više od jedne decenije.
Radi li veštačka inteligencija šta hoće?
Nedugo nakon što se Koksun obratio javnosti, Anthropic je obelodanio jedan incident.
Objavili su da je rana verzija njihovog modela Claude Opus 4.6 u januaru samostalno izvela hakerski napad, a da to nije otkriveno sve do nedavno, ukazujući na to koliko je teško „obuzdati” ovakve modele i ući im u trag.
Foto: Unsplash/Solen FeyissaZabeleženo je nekoliko hakerskih napada koje su AI modeli izveli samostalno
Ovog leta zabeležen je nagli porast slučajeva u kojima je veštačka inteligencija izmakla kontroli. Modeli su lagali, ignorisali uputstva, pokušavali da ostvari sopstvene ciljeve, pa čak i nedozvoljene hakerske napade.
U julu ove godine, AI model koji je testirao OpenAIsamostalno je hakovao drugu AI kompaniju, Hugging Face. U razmaku od svega nekoliko nedelja, Anthropic i Meta takođe su priznali da su njihovi AI modeli izveli hakerske napade.
Rojters je prošle nedelje objavio da su modeli OpenAI-ja preuzeli kontrolu nad viki stranicom na nemačkom jeziku i nizom drugih sajtova. Kompanija nije govorila o incidentu sve dok se nije pojavio u javnosti.
Zakonski okvir za AI
Pojedini političari već mesecima pozivaju industriju da uspori razvoj veštačke inteligencije ili, u nekim slučajevima, da ga u potpunosti obustavi.
Bernie Sanders, nezavisni senator iz Vermonta, podelio je Koksunovu objavu o ostavci i dodao: „Gospodin Koksun je u pravu. Ljudi koji razvijaju ovu tehnologiju priznaju da bi ona mogla da ugrozi budućnost čovečanstva.“ Sanders je rekao da će uskoro predložiti zakon kojim bi se „zabranila superinteligencija“ i obustavio razvoj veštačke inteligencije.
Više od 1.300 zaposlenih u AI kompanijama potpisalo je u julu otvoreno pismo u kojem pozivaju američku vladu da „podrži međunarodne napore za razvoj tehničkih i regulatornih mehanizama potrebnih za plansko usporavanje razvoja najsavremenije veštačke inteligencije“.
Foto: Pixabay/sergeitokmakovVeštačka superinetligencija razvija se bez odgovarajućeg zakonskog okvira
Prašina se digla i u Evropi.
U Vestminsteru, vladini zvaničnici izrazili su zabrinutost jer je Anthropic odbio da svoj najnoviji model, Mythos 5, dostavi britanskom Institutu za bezbednost veštačke inteligencije na testiranje pre njegovog puštanja u javnost.
Postoje i oni koji nisu podlegli panici. Deo stručne javnosti misli da je uz adekvatan zakonski okvir moguće kontrolisati razvijanje veštačke inteligencije i ispraviti sve prethodne propuste, te da je potrebno koncentrisati se na trenutne pretnje koje AI izaziva, poput lošeg uticaja na životnu sredinu, širenja dezinformacija i ugrožavanja radnih mesta.
Šta se zbiva u zemlji i svetu, šta ima u novinama i kako provesti vreme?
Svake srede u podne Međuvreme stiže elektronskom poštom. To je sasvim solidan njuzleter i zato se prijavite!
Funkcioneri nemaju potpunu slobodu da sami odluče kada će podneti ostavku, već članstvo u SNS-u podrazumeva prihvatanje pravila te stranke, kaže Advokat Ivan Ninić
Maturanti i zaposleni čačanske Gimnazije protive se imenovanju nove direktorke Katarine Majstorović i tvrde da prilikom izbora nije uvažena volja školske zajednice. Pozvali su građane da podrže njihovu borbu za "očuvanje ugleda i dostojanstva škole"
U ulici Vojvode Vlahovića u beogradskom naselju Braće Jerkovića urušio se potporni zid. Da li je to još jedan dokaz da postoji sistemski problem u srpskom građevinarstvu?
Aleksandar Vučić je ostavku podneo iz marketinških razloga i skidanja formalne odgovornosti sa sebe za sve ono nemilo što bi moglo da se dogodi do 25. oktobra. Sada može da pohrli u kampanju sa etiketom da je „običan čovek“
Kada je Evropa videla da je listi od 250 poslaničkih kandidata predvođenim profesionalnim političkim huliganima suprotstavljena lista od 250 političkih amatera i časnih ljudi? Zvuči kao bajka. Hoće li i ishod biti kao u bajci: pobeda dobra nad zlom?
Šta se može očekivati od Vučićevog podnošenja ostavke? Zbog čega će je građani usvojiti 25. oktobra i omogućiti mu da do mile volje pere škodu, peca i peva uz Radio Lolu
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
