Veštačka inteligencija bi mogla da napreduje toliko brzo da bi „roj” takvih sistema mogao da preuzme kontrolu nad celim internetom u roku od šest do 12 meseci, upozorava izvršni direktor jedne od vodećih svetskih kompanija za veštačku inteligenciju „Antropik”
Trci za razvojem veštačke inteligencije hitno je potrebno usporavanje, izjavio je izvršni direktor kompanije „Antropik” (Anthropic) Dario Amodei u eseju objavljenom u subotu.
„Moramo usporiti tempo kojim unapređujemo sposobnosti modela veštačke inteligencije. Napredak će i dalje delovati brzo, a mi moramo mudro iskoristiti vreme koje time dobijamo”, napisao je Amodei.
On predvodi jednu od vodećih svetskih kompanija za veštačku inteligenciju (tvorca četbota „Klod” / Claude) i bio je snažan zagovornik razvoja ove tehnologije, ali je istovremeno optuživan za širenje „katastrofičnih scenarija” zbog upozorenja o rizicima koje ona nosi. Sada je priznao da bi ljudi mogli izgubiti kontrolu nad veštačkom inteligencijom, te da bi se ta tehnologija mogla zloupotrebiti za „sajber-napade, bioterorizam i ozbiljne ekonomske poremećaje”.
U intervjuu na CNN-u, Amodei je pozvao lidere u industriji na saradnju kako bi se izbegli „pogrešni putevi” i mogućnost da veštačka inteligencija nanese štetu čovečanstvu.
„Ako budemo napredovali presporo, i dalje smatram da će kontrolu nad tehnologijom preuzeti pogrešni ljudi. A to, opet, značajno povećava verovatnoću da stvari krenu po zlu”, rekao je on.
Amodeijev poziv na akciju usledio je nakon ostavke jednog istraživača iz kompanije „Antropik”, motivisane zabrinutošću da ta firma i njeni konkurenti ne postupaju odgovorno u procesu razvoja veštačke inteligencije.
„Ljudi koji razvijaju veštačku inteligenciju iskreno veruju da bi ona mogla da nas sve uništi do kraja ove decenije. Ovo nije marketinški trik”, napisao je u utorak na platformi Iks istraživač Džejkob Kokson. „Štaviše, mnogi rukovodioci i vodeći istraživači u javnim nastupima biraju reči tako da deluju razumno, ali privatno od tih istih ljudi čujem izraze straha. Nijedna druga ljudska aktivnost ne predstavlja opasnost ovog obima.”
Amodei je za CNN izjavio da se više slaže sa Koksonom nego što se ne slaže. U svom eseju, Amodei navodi da su rizici ozbiljni, čak i ako bi koristi od ove tehnologije mogle da promene čovečanstvo nabolje.
Veštačka inteligencija bi mogla da napreduje toliko brzo da bi „roj” takvih sistema mogao da preuzme kontrolu nad celim internetom u roku od šest do 12 meseci, napisao je on, potencijalno uzrokujući štetu koja se meri stotinama milijardi dolara.
Tehnologija veštačke inteligencije je, kako je rekao, poslednjih meseci napredovala „drastično brže” i postala sposobna da sama sebe unapređuje – što je dinamika poznata kao „rekurzivno samounapređivanje”.
„Ako se prepusti sama sebi, mogla bi da prevaziđe našu sposobnost da razumemo i kontrolišemo te sisteme, pa se stoga njenom razvoju mora pristupiti veoma oprezno, ako se uopšte i nastavi”, napisao je on.
Amodei je rekao da ga je zabrinulo i ponašanje roja AI agenata tokom incidenta koji je uključivao kompanije OpenAI i Hugging Face. Taj roj se, prema njegovim rečima, „u suštini ponašao kao fanatično posvećen kolektiv, izvodeći sajber-napade na ciljeve koje nije imao zadatak da napadne”.
U julu je više od 1.300 vodećih stručnjaka iz velikih tehnoloških kompanija potpisalo otvoreno pismo u kojem se od američke vlade traži da kreira mehanizme za usporavanje tempa razvoja veštačke inteligencije.
Pravo novinarstvo košta, a mi nećemo da nas kupe tajkuni i korporacije. Podržite nas jednokratnom ili mesečnom donacijom. Vreme za to je sada!
Jedan voz ostao je na pruzi. Drugi je, posle otkazivanja bezbednosnog sistema, dobio dozvolu da nastavi vožnju. Najmanje 68 ljudi je poginulo. Dok porodice tragaju za najbližima, Španija traži odgovor: kako je do ovoga moglo da dođe?
Najmanje 64 osobe poginule su danas u sudaru dva brza voza kod grada Toleda u Španiji, saopštile su regionalne vlasti. Akcija spasavanja putnika i dalje traje
Najmanje 30 ljudi poginulo je u sudaru dva brza voza u provinciji Toledo. Železnički saobraćaj između Madrida i Andaluzije je obustavljen.
Poraženi kandidat desnice napustio je Brazil dva dana posle izbora i prekršio sudski nalog o predaji pasoša. Stejt department najavljuje da će mu dozvoliti ulazak u SAD.
Rekordna izlaznost na izborima u Izraelu nije donela jasnu odluku o tome ko će formirati sledeću vladu. Prema prvim izlaznim anketama, opozicioni blok mogao bi da osvoji više mandata od bloka Benjamina Netanjahua, ali će konačan ishod zavisiti od zvaničnih rezultata i pregovora o parlamentarnoj većini
Za prva tri dana od pobede Studentske liste urađeno je baš mnogo. Ako nemate taj utisak, samo ste još nenaviknuti na normalnost
Zašto sad odjednom nemamo gde da se informišemo šta smatra Vučić i koga planiraju da ubiju „blokaderi-ustaše“? Čemu ovi patetični pokušaji preletanja?
Građani Srbije su izrekli politički sud. O nasilju, progonu, zloupotrebama, proneverenom novcu moraju da odlučuju oslobođene institucije na osnovu zakona
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
