Veštačka inteligencija bi mogla da napreduje toliko brzo da bi „roj” takvih sistema mogao da preuzme kontrolu nad celim internetom u roku od šest do 12 meseci, upozorava izvršni direktor jedne od vodećih svetskih kompanija za veštačku inteligenciju „Antropik”
Trci za razvojem veštačke inteligencije hitno je potrebno usporavanje, izjavio je izvršni direktor kompanije „Antropik” (Anthropic) Dario Amodei u eseju objavljenom u subotu.
„Moramo usporiti tempo kojim unapređujemo sposobnosti modela veštačke inteligencije. Napredak će i dalje delovati brzo, a mi moramo mudro iskoristiti vreme koje time dobijamo”, napisao je Amodei.
On predvodi jednu od vodećih svetskih kompanija za veštačku inteligenciju (tvorca četbota „Klod” / Claude) i bio je snažan zagovornik razvoja ove tehnologije, ali je istovremeno optuživan za širenje „katastrofičnih scenarija” zbog upozorenja o rizicima koje ona nosi. Sada je priznao da bi ljudi mogli izgubiti kontrolu nad veštačkom inteligencijom, te da bi se ta tehnologija mogla zloupotrebiti za „sajber-napade, bioterorizam i ozbiljne ekonomske poremećaje”.
U intervjuu na CNN-u, Amodei je pozvao lidere u industriji na saradnju kako bi se izbegli „pogrešni putevi” i mogućnost da veštačka inteligencija nanese štetu čovečanstvu.
„Ako budemo napredovali presporo, i dalje smatram da će kontrolu nad tehnologijom preuzeti pogrešni ljudi. A to, opet, značajno povećava verovatnoću da stvari krenu po zlu”, rekao je on.
Amodeijev poziv na akciju usledio je nakon ostavke jednog istraživača iz kompanije „Antropik”, motivisane zabrinutošću da ta firma i njeni konkurenti ne postupaju odgovorno u procesu razvoja veštačke inteligencije.
„Ljudi koji razvijaju veštačku inteligenciju iskreno veruju da bi ona mogla da nas sve uništi do kraja ove decenije. Ovo nije marketinški trik”, napisao je u utorak na platformi Iks istraživač Džejkob Kokson. „Štaviše, mnogi rukovodioci i vodeći istraživači u javnim nastupima biraju reči tako da deluju razumno, ali privatno od tih istih ljudi čujem izraze straha. Nijedna druga ljudska aktivnost ne predstavlja opasnost ovog obima.”
Amodei je za CNN izjavio da se više slaže sa Koksonom nego što se ne slaže. U svom eseju, Amodei navodi da su rizici ozbiljni, čak i ako bi koristi od ove tehnologije mogle da promene čovečanstvo nabolje.
Veštačka inteligencija bi mogla da napreduje toliko brzo da bi „roj” takvih sistema mogao da preuzme kontrolu nad celim internetom u roku od šest do 12 meseci, napisao je on, potencijalno uzrokujući štetu koja se meri stotinama milijardi dolara.
Tehnologija veštačke inteligencije je, kako je rekao, poslednjih meseci napredovala „drastično brže” i postala sposobna da sama sebe unapređuje – što je dinamika poznata kao „rekurzivno samounapređivanje”.
„Ako se prepusti sama sebi, mogla bi da prevaziđe našu sposobnost da razumemo i kontrolišemo te sisteme, pa se stoga njenom razvoju mora pristupiti veoma oprezno, ako se uopšte i nastavi”, napisao je on.
Amodei je rekao da ga je zabrinulo i ponašanje roja AI agenata tokom incidenta koji je uključivao kompanije OpenAI i Hugging Face. Taj roj se, prema njegovim rečima, „u suštini ponašao kao fanatično posvećen kolektiv, izvodeći sajber-napade na ciljeve koje nije imao zadatak da napadne”.
U julu je više od 1.300 vodećih stručnjaka iz velikih tehnoloških kompanija potpisalo otvoreno pismo u kojem se od američke vlade traži da kreira mehanizme za usporavanje tempa razvoja veštačke inteligencije.
Pravo novinarstvo košta, a mi nećemo da nas kupe tajkuni i korporacije. Podržite nas jednokratnom ili mesečnom donacijom. Vreme za to je sada!
Savet za neidentifikovane anomalne pojave je osnovan paralelno sa objavljivanjem novih državnih dokumenata o misterioznim pojavama koje su tokom decenija beležili piloti, vojska, obaveštajne službe i federalni agenti
Britanci sve više podržavaju bliže odnose sa EU, a gotovo polovina bi podržala ponovno članstvo. Ovo bi moglo dati prednost laburistima, ali i ojačati desničarsku stranku Reform
Rusija drugog dana zaredom napada infrastrukturu u Kijevu. Ukrajinske vlasti i Evropska unija upozoravaju na humanitarnu krizu u okupiranim područjima
Predsednica Evropske komisije Ursula fon der Lajen pohvalila je napredak Crne Gore u sprovođenju reformi, posebno u oblasti vladavine prava, ocenjujući da je time zemlja stigla do završne faze pristupnog procesa
Pad podrške vladajućim strankama i istorijski nizak rejting kancelara Fridriha Merca potpomogli su dalji rast AfD-a. Uz strahove od ekonomskih, bezbednosnih i klimatskih problema, Nemci se brinu da trenutni životni standard neće moći da se očuva
Predstavnici bivšeg predsednika Srbije u dosadašnje dve TV debate na N1 su se dokazivali u tome ko će biti dostojan proslavljenog naprednjačkog bukača Vladimira Orlića. Nisu došli da razgovaraju, nego na verbalnu šutku
U predizbornoj kampanji Šapić je fizički napao Tatjanu Mićić, aktivisti SNS-a su prebili vladinog službenika na radnom zadatku, a Vučić nikako da obelodani koga je sve pomilovao iz vlastitih redova. Šta im je?
Aleksandar Vučić je ostavku podneo iz marketinških razloga i skidanja formalne odgovornosti sa sebe za sve ono nemilo što bi moglo da se dogodi do 25. oktobra. Sada može da pohrli u kampanju sa etiketom da je „običan čovek“
Intervju: Jovo Bakić, sociolog, profesor Univerziteta u Beogradu
Pobedićemo, narod pravi kampanju za sve nas Pretplati seArhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
