Veštačka inteligencija bi mogla da napreduje toliko brzo da bi „roj” takvih sistema mogao da preuzme kontrolu nad celim internetom u roku od šest do 12 meseci, upozorava izvršni direktor jedne od vodećih svetskih kompanija za veštačku inteligenciju „Antropik”
Trci za razvojem veštačke inteligencije hitno je potrebno usporavanje, izjavio je izvršni direktor kompanije „Antropik” (Anthropic) Dario Amodei u eseju objavljenom u subotu.
„Moramo usporiti tempo kojim unapređujemo sposobnosti modela veštačke inteligencije. Napredak će i dalje delovati brzo, a mi moramo mudro iskoristiti vreme koje time dobijamo”, napisao je Amodei.
On predvodi jednu od vodećih svetskih kompanija za veštačku inteligenciju (tvorca četbota „Klod” / Claude) i bio je snažan zagovornik razvoja ove tehnologije, ali je istovremeno optuživan za širenje „katastrofičnih scenarija” zbog upozorenja o rizicima koje ona nosi. Sada je priznao da bi ljudi mogli izgubiti kontrolu nad veštačkom inteligencijom, te da bi se ta tehnologija mogla zloupotrebiti za „sajber-napade, bioterorizam i ozbiljne ekonomske poremećaje”.
U intervjuu na CNN-u, Amodei je pozvao lidere u industriji na saradnju kako bi se izbegli „pogrešni putevi” i mogućnost da veštačka inteligencija nanese štetu čovečanstvu.
„Ako budemo napredovali presporo, i dalje smatram da će kontrolu nad tehnologijom preuzeti pogrešni ljudi. A to, opet, značajno povećava verovatnoću da stvari krenu po zlu”, rekao je on.
Amodeijev poziv na akciju usledio je nakon ostavke jednog istraživača iz kompanije „Antropik”, motivisane zabrinutošću da ta firma i njeni konkurenti ne postupaju odgovorno u procesu razvoja veštačke inteligencije.
„Ljudi koji razvijaju veštačku inteligenciju iskreno veruju da bi ona mogla da nas sve uništi do kraja ove decenije. Ovo nije marketinški trik”, napisao je u utorak na platformi Iks istraživač Džejkob Kokson. „Štaviše, mnogi rukovodioci i vodeći istraživači u javnim nastupima biraju reči tako da deluju razumno, ali privatno od tih istih ljudi čujem izraze straha. Nijedna druga ljudska aktivnost ne predstavlja opasnost ovog obima.”
Amodei je za CNN izjavio da se više slaže sa Koksonom nego što se ne slaže. U svom eseju, Amodei navodi da su rizici ozbiljni, čak i ako bi koristi od ove tehnologije mogle da promene čovečanstvo nabolje.
Veštačka inteligencija bi mogla da napreduje toliko brzo da bi „roj” takvih sistema mogao da preuzme kontrolu nad celim internetom u roku od šest do 12 meseci, napisao je on, potencijalno uzrokujući štetu koja se meri stotinama milijardi dolara.
Tehnologija veštačke inteligencije je, kako je rekao, poslednjih meseci napredovala „drastično brže” i postala sposobna da sama sebe unapređuje – što je dinamika poznata kao „rekurzivno samounapređivanje”.
„Ako se prepusti sama sebi, mogla bi da prevaziđe našu sposobnost da razumemo i kontrolišemo te sisteme, pa se stoga njenom razvoju mora pristupiti veoma oprezno, ako se uopšte i nastavi”, napisao je on.
Amodei je rekao da ga je zabrinulo i ponašanje roja AI agenata tokom incidenta koji je uključivao kompanije OpenAI i Hugging Face. Taj roj se, prema njegovim rečima, „u suštini ponašao kao fanatično posvećen kolektiv, izvodeći sajber-napade na ciljeve koje nije imao zadatak da napadne”.
U julu je više od 1.300 vodećih stručnjaka iz velikih tehnoloških kompanija potpisalo otvoreno pismo u kojem se od američke vlade traži da kreira mehanizme za usporavanje tempa razvoja veštačke inteligencije.
Pravo novinarstvo košta, a mi nećemo da nas kupe tajkuni i korporacije. Podržite nas jednokratnom ili mesečnom donacijom. Vreme za to je sada!
Četvrt veka nakon napada na Njujork i Vašington, posledice 11. septembra i dalje oblikuju svetsku politiku. „Rat protiv terorizma“ pokrenuo je sukobe u svetu i doneo promene u bezbednosnim procedurama
Jedan učenik je nosio fantomku i oštar predmet kojim je napao vršnjaka i spremačicu u Elektrotehničkoj školi u Zagrebu
Osamdeset hiljada Marokanaca nahrupilo je u špansku eksklavu Seutu krajem jula što je izazvalo ogroman potres u Evropskoj uniji. Izgleda da je sve to bilo unapred poznato
Al Kaida danas više nije organizacija kakva je bila 11. septembra 2001. godine, ali nije ni nestala. Njeni ogranci još uvek su snažni u nestabilnim delovima Afrike i Azije
Tramp pred međuizbore Amerikancima obećava 5.000 dolara, ali samo ako republikanci zadrže vlast u Kongresu. Njegova stranka u trku ulazi sa niskim predsednikovim rejtingom i tesnom većinom
Zašto režimu trebaju mržnja i podele? Kako su na njih odgovorili studenti? Kome i zbog čega smeta Kesić i društvo iz emisije „24 minuta“? I kako su opozicione stranke završile u izbornoj fusnoti
Rušenje Vučićevog režima na izborima je dečja igra u odnosu na ono što nas čeka posle: obnavljanje do temelja razorene zemlje. Ne postoji teži zadatak od toga da se od podanika stvore građani, ali to je pitanje opstanka Srbije
Predsednik Srbije Aleksandar Vučić zapljuvao je sebe u ćošak, odvajajući se od svih, pa i od svoje partije. Zato će, kad stupi protiv 250 ljudi od integriteta sa Studentske liste, konačno stvarno biti sam, kako se već godinama bizarno hvališe
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
