Veštačka inteligencija bi mogla da napreduje toliko brzo da bi „roj” takvih sistema mogao da preuzme kontrolu nad celim internetom u roku od šest do 12 meseci, upozorava izvršni direktor jedne od vodećih svetskih kompanija za veštačku inteligenciju „Antropik”
Trci za razvojem veštačke inteligencije hitno je potrebno usporavanje, izjavio je izvršni direktor kompanije „Antropik” (Anthropic) Dario Amodei u eseju objavljenom u subotu.
„Moramo usporiti tempo kojim unapređujemo sposobnosti modela veštačke inteligencije. Napredak će i dalje delovati brzo, a mi moramo mudro iskoristiti vreme koje time dobijamo”, napisao je Amodei.
On predvodi jednu od vodećih svetskih kompanija za veštačku inteligenciju (tvorca četbota „Klod” / Claude) i bio je snažan zagovornik razvoja ove tehnologije, ali je istovremeno optuživan za širenje „katastrofičnih scenarija” zbog upozorenja o rizicima koje ona nosi. Sada je priznao da bi ljudi mogli izgubiti kontrolu nad veštačkom inteligencijom, te da bi se ta tehnologija mogla zloupotrebiti za „sajber-napade, bioterorizam i ozbiljne ekonomske poremećaje”.
U intervjuu na CNN-u, Amodei je pozvao lidere u industriji na saradnju kako bi se izbegli „pogrešni putevi” i mogućnost da veštačka inteligencija nanese štetu čovečanstvu.
„Ako budemo napredovali presporo, i dalje smatram da će kontrolu nad tehnologijom preuzeti pogrešni ljudi. A to, opet, značajno povećava verovatnoću da stvari krenu po zlu”, rekao je on.
Foto: AP Photo/Markus SchreiberDario Amodei
Amodeijev poziv na akciju usledio je nakon ostavke jednog istraživača iz kompanije „Antropik”, motivisane zabrinutošću da ta firma i njeni konkurenti ne postupaju odgovorno u procesu razvoja veštačke inteligencije.
„Ljudi koji razvijaju veštačku inteligenciju iskreno veruju da bi ona mogla da nas sve uništi do kraja ove decenije. Ovo nije marketinški trik”, napisao je u utorak na platformi Iks istraživač Džejkob Kokson. „Štaviše, mnogi rukovodioci i vodeći istraživači u javnim nastupima biraju reči tako da deluju razumno, ali privatno od tih istih ljudi čujem izraze straha. Nijedna druga ljudska aktivnost ne predstavlja opasnost ovog obima.”
„Fanatično posvećen kolektiv”
Amodei je za CNN izjavio da se više slaže sa Koksonom nego što se ne slaže. U svom eseju, Amodei navodi da su rizici ozbiljni, čak i ako bi koristi od ove tehnologije mogle da promene čovečanstvo nabolje.
Veštačka inteligencija bi mogla da napreduje toliko brzo da bi „roj” takvih sistema mogao da preuzme kontrolu nad celim internetom u roku od šest do 12 meseci, napisao je on, potencijalno uzrokujući štetu koja se meri stotinama milijardi dolara.
Tehnologija veštačke inteligencije je, kako je rekao, poslednjih meseci napredovala „drastično brže” i postala sposobna da sama sebe unapređuje – što je dinamika poznata kao „rekurzivno samounapređivanje”.
„Ako se prepusti sama sebi, mogla bi da prevaziđe našu sposobnost da razumemo i kontrolišemo te sisteme, pa se stoga njenom razvoju mora pristupiti veoma oprezno, ako se uopšte i nastavi”, napisao je on.
Amodei je rekao da ga je zabrinulo i ponašanje roja AI agenata tokom incidenta koji je uključivao kompanije OpenAI i Hugging Face. Taj roj se, prema njegovim rečima, „u suštini ponašao kao fanatično posvećen kolektiv, izvodeći sajber-napade na ciljeve koje nije imao zadatak da napadne”.
U julu je više od 1.300 vodećih stručnjaka iz velikih tehnoloških kompanija potpisalo otvoreno pismo u kojem se od američke vlade traži da kreira mehanizme za usporavanje tempa razvoja veštačke inteligencije.
Šta se zbiva u zemlji i svetu, šta ima u novinama i kako provesti vreme?
Svake srede u podne Međuvreme stiže elektronskom poštom. To je sasvim solidan njuzleter i zato se prijavite!
Oko 17,5 miliona evra skrivene gotovine pronađeno je tokom pretresa u Budimpešti i još tri mađarske županije. Istraga se vodi protiv bivšeg ministra za nacionalni razvoj Mikloša Šestaka, osumnjičenog za primanje mita i nezakonitih provizija
Kvar komunikacione opreme doveo je do nacionalnog prekida aviosaobraćaja kakav nije zabeležen od neposredno posle terorističkih napada 11. septembra 2001. godine.
Čvorci prave haos u delovima Rima. Ptičji izmet svakodnevno pljušti po Rimljanima. Ne mogu da ih rasteraju ni trubama, pa se gradom kreću sa kišobranima
U trenutku kada su institucije Republike razorene, kada je Vučićeva hobotnica još uvek živa, kada su ljudi zgađeni nepravdom i smradom koji je esenesovski režim ostavio za sobom, mi imamo, što reče Makijaveli, samo građansku vrlinu kao pogonsko gorivo kojim se možemo vratiti na početak
Četvoro nezavisnih članova REM-a primer su istrajnosti i građanske odgovornosti. Rodoljub Šabić je, čak, po izlasku iz prostorija REM-a, posle izricanja kazne Informeru, doživeo da ga esenesovci vređaju, udaraju rukama i nogama. Ali i to će, uskoro, biti gotovo
Vučić je pomilovao batinaše i Dijanu Hrkalović. Izborni pobednici treba da ukinu sultansko ovlašćenje koje jednom čoveku omogućava da se izmotava sa celim pravosudnim sistemom
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
