Upozorenja da bi veštačka superinteligencija mogla ugroziti čovečanstvo stižu iz kompanija koje je razvijaju, a incidenti sa modelima koji su izmakli kontroli podgrevaju raspravu o granicama njihovog razvoja
Veštačka inteligencija (AI) mogla bi da uništi čovečanstvo u narednih deset godina, tvrde istraživači iz kompanije Anthropic, od kojih je jedan dao otkaz u znak protesta.
Ova tehnologija svakodnevno se koristi za naizgled bezazlene stvari, poput generisanja fotografija i pisanja domaćih zadataka. Međutim, poslednjih meseci unapređeni modeli izgleda da izmiču kontroli.
Koliku pretnju ona predstavlja?
Kocka visokotehnoloških kompanija
Vodeći istraživač u oblasti usklađivanja veštačke inteligencije sa ljudskim ciljevima u kompaniji Anthropic (koja stoji iza AI modela Claude), rekao je da veruje da postoji više od 10 odsto šanse da ova tehnologija „ubije sve ljude“ u narednoj deceniji.
Upozorio je da njegova kompanija nema plan kojim bi se obezbedilo da veštačka super inteligencija (ASI) bude prilagođena potrebama ljudi, to jest da im ne nanosi štetu. Evan Habindžer je objavio ovu dramatičnu poruku nakon što je njegov kolega Džejkob Koksun dao otkaz ove nedelje.
Koksun, istraživač Antropika, koji je ranije radio i u OpenAI-ju (čiji je ChatGPT), prekinuo je radni odnos uz tvrdnju da „nijedna kompanija ne postupa odgovorno“. Rekao je da one ignorišu pretnju ili se neadekvatno nose sa njom, te da se tako „kockaju našim životima“.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Procene o tome kada bi ASI, teorijski koncept AI agenta koji bi bio inteligentniji čak i od najinteligentnijih ljudi, mogla da bude razvijena kreću se od nekoliko godina do više od jedne decenije.
Radi li veštačka inteligencija šta hoće?
Nedugo nakon što se Koksun obratio javnosti, Anthropic je obelodanio jedan incident.
Objavili su da je rana verzija njihovog modela Claude Opus 4.6 u januaru samostalno izvela hakerski napad, a da to nije otkriveno sve do nedavno, ukazujući na to koliko je teško „obuzdati” ovakve modele i ući im u trag.
Foto: Unsplash/Solen FeyissaZabeleženo je nekoliko hakerskih napada koje su AI modeli izveli samostalno
Ovog leta zabeležen je nagli porast slučajeva u kojima je veštačka inteligencija izmakla kontroli. Modeli su lagali, ignorisali uputstva, pokušavali da ostvari sopstvene ciljeve, pa čak i nedozvoljene hakerske napade.
U julu ove godine, AI model koji je testirao OpenAIsamostalno je hakovao drugu AI kompaniju, Hugging Face. U razmaku od svega nekoliko nedelja, Anthropic i Meta takođe su priznali da su njihovi AI modeli izveli hakerske napade.
Rojters je prošle nedelje objavio da su modeli OpenAI-ja preuzeli kontrolu nad viki stranicom na nemačkom jeziku i nizom drugih sajtova. Kompanija nije govorila o incidentu sve dok se nije pojavio u javnosti.
Zakonski okvir za AI
Pojedini političari već mesecima pozivaju industriju da uspori razvoj veštačke inteligencije ili, u nekim slučajevima, da ga u potpunosti obustavi.
Bernie Sanders, nezavisni senator iz Vermonta, podelio je Koksunovu objavu o ostavci i dodao: „Gospodin Koksun je u pravu. Ljudi koji razvijaju ovu tehnologiju priznaju da bi ona mogla da ugrozi budućnost čovečanstva.“ Sanders je rekao da će uskoro predložiti zakon kojim bi se „zabranila superinteligencija“ i obustavio razvoj veštačke inteligencije.
Više od 1.300 zaposlenih u AI kompanijama potpisalo je u julu otvoreno pismo u kojem pozivaju američku vladu da „podrži međunarodne napore za razvoj tehničkih i regulatornih mehanizama potrebnih za plansko usporavanje razvoja najsavremenije veštačke inteligencije“.
Foto: Pixabay/sergeitokmakovVeštačka superinetligencija razvija se bez odgovarajućeg zakonskog okvira
Prašina se digla i u Evropi.
U Vestminsteru, vladini zvaničnici izrazili su zabrinutost jer je Anthropic odbio da svoj najnoviji model, Mythos 5, dostavi britanskom Institutu za bezbednost veštačke inteligencije na testiranje pre njegovog puštanja u javnost.
Postoje i oni koji nisu podlegli panici. Deo stručne javnosti misli da je uz adekvatan zakonski okvir moguće kontrolisati razvijanje veštačke inteligencije i ispraviti sve prethodne propuste, te da je potrebno koncentrisati se na trenutne pretnje koje AI izaziva, poput lošeg uticaja na životnu sredinu, širenja dezinformacija i ugrožavanja radnih mesta.
Šta se zbiva u zemlji i svetu, šta ima u novinama i kako provesti vreme?
Svake srede u podne Međuvreme stiže elektronskom poštom. To je sasvim solidan njuzleter i zato se prijavite!
Stefanović kaže da se plaši postupanja domaćih pravosudnih i bezbednosnih institucija, dok ga srpska policija traži zbog sumnje da je izazvao paniku i nered
Drugi put ove godine vandalizovan je spomenik Borislavu Pekiću. Da li će neko biti kažnjen zbog toga? Do sad nije niko, mada se ovakvi slučajevi u prestonici nedopustivo često dešavaju
Advokat Ivan Ninić tvrdi da je novinar Ljubomir Stefanović godinama bio meta pritisaka BIA i da je ta agencija nastojala da sa njim uspostavi saradnički odnos
Obruč koji oko Ćacilenda steže Studentska lista sve je uži. Jer sve je više razmađijanih ljudi koji lažnog proroka vide kao ono što jeste: uličnog opsenara koji zavađa Srbiju
"Ljudi ne žele slobodu i to iz, čini se, jednog jedinog razloga: ako bi je poželeli imali bi je". Ovako je pisao Etjen de la Boesi pre 500 godina. A građani Srbije su se trgli i zakazali sastanak sa slobodom, spremni da odbace „dobrovoljno ropstvo“
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
