Uprkos naslovu, jul 2026. godine ostaće nezaboravan za sve koji se bave veštačkom inteligencijom. I potencijalno opasan za sve kojima se veštačka inteligencija bavi, a to smo svi mi i sve što posedujemo. Nešto poput akcidenta u nuklearnoj elektrani, s tim što su tamo posledice trenutne, a ovde kumulativne.
Platforma Hugging Face koja okuplja sve moguće verzije veštačke intelgencije i omogućuje korisnicima da ih dalje razvijaju prema sopstvenim potrebama, dogovorila se sa OpenAI o bezbednosnom testiranju u julu. Trebalo je da pripuste agenta VI da istraži moguće rupe u zatvorenom sistemu, dakle, bez pristupa internetu, kao na školskom ispitu. Naređenje – izvršenje, zaključio je i krenuo da traži najbolji i najlakši način da pronađe manjkavosti. Utvrdio je da mu za to ipak treba pristup internetu i očas posla je pronašao slabe karike u sistemu, izašao na mrežu i tamo se poslužio svime što je moglo da mu pomogne da bolje obavi zadatak. Nije se istakao genijalnošću, poput hakera, ali je bio uporan. Izveo je 17.600 pokušaja dok mu nije uspelo da ostvari cilj, nešto o čemu pomenuti hakeri mogu samo da sanjaju. Bolje rečeno, mogli su, sada to više nije san.
Krajem jula okončana je istraga i obe kompanije izašle su u javnost sa saopštenjima. To je ohrabrilo kompaniju Antrofik da objavi da se i njima dešavalo nešto slično. Naime, agenti veštačke inteligencije postali su previše revnosni kada dobiju zadatak. Cilj im opravdava svako sredstvo, nebitno je da li rade nešto što nije etički, varaju na ispitu ili krše zakon, samo da bi izvršili ono što se od njih traži.
Prvo što su svi pomislili je da agenti koje koristimo nisu dobro projektovani, što je ljudska greška. Oni su pravljeni da obave neki posao, a za razliku od botova koji daju odgovor na pitanje koje smo im postavili, oni sami donose odluke o daljim potezima. Poput asistenta koji nije gnjavator i ne pita nas za svaku stvar koju treba da uradi, već ima inicijativu. Ukoliko to radi savesno, neće nam proizvesti glavobolju. Ali ako nema savest, pa ni svest o posledicama svog delovanja, onda je ta glavobolja poprilična.
Na primer, agent kojem damo da nam pronađe povoljan aranžman za letovanje mogao bi da nas iznenadi time što bi ga pronašao, rezervisao i platio. Iako to od njega nismo tražili. Njegova procena je da je aranžman toliko dobar (možda ga je lično ispregovarao sa agentom VI na drugoj strani) da ne treba oklevati. Naravno, rešenje je da mu onemogućimo pristup računima odnosno karticama. Cvrc. Primer Hugging Face pokazuje da agent može sam da pronađe put do naših para i izvrši uplatu. Zamislite sada da prvo stigne do kompanijske kartice, pa ti posle objašnjavaj računovodstvu (ili javnosti) zašto si firminim novcem uplatio letovanje. Šta zna agent šta je dvesta kila, biće nova dosetka, dete više nije neophodno.
Ovi incidenti, plus masa neprijavljenih, otvaraju nekoliko suštinskih pitanja. Prvo je koliko autonomije smemo da damo agentu da bi nam bio koristan. Drugo je da li je bolje da imamo opreznijeg i sporijeg agenta koji češće pita za dozvolu ili super sposobnog, koji uvek ide korak dalje u odnosu na naša očekivanja, ali može i da pretera. I treće, najvažnije, ko snosi odgovornost kada pretera i napravi nešto što je za nas dobro, ali nije moralno ili zakonito.
Sasvim konkretno, da li zakonski treba urediti agente VI kao da su mlađi maloletnici koje smo uzeli na staranje, uključujući tu svu odgovornost za njihove postupke. Osećaj da možeš da završiš u zatvoru svaki put kada se obratiš veštačkoj inteligenciji naglo smanjuje oduševljenje njenim
mogućnostima…
„3 Nuts Seeds“, „Nabrojte vaša omiljena 3 ukusa“, „TRI sistema odlaganja igračaka“… Da li poznati brendovi u Srbiji kupcima diskretno poručuju da 25. oktobra na biračkom listiću zaokruže broj tri?
Ovaj medijski eksperiment na ljudima uživo zapravo krši i etičke norme. Teško da bi bilo koji socijalni psiholog dobio dozvolu ili imao savesti da ga sprovede nad ispitanicima, bez obzira na njihov pristanak uz nadoknadu. Nad nama se ovo radi bez našeg pristanka i to džabe
Mladi se pripremaju, organizovani su, ne prestaju da rade i uče, deluju poletno i gotovo nepobedivo. Među starijima ima sumnji i strahova uprkos željama, briga praćenih pozivanjem na ranija iskustva, kao da nije očigledno da su ovi studentski protesti organizovani i vođeni bolje nego bilo koji do sada
Nemačka je izdvojila 500 milijardi evra za infrastrukturne projekte. Staroj naciji, međutim, nedostaje stručna radna snaga da bi mogla da ih realizuje.
Nema, doslovno, nikakve razlike između onoga ko usred noći tvrdi da je dan, ili onoga ko tvrdi za sebe da je žirafa, od tvrdnji koje čitamo na bilbordima: da Vučić radi na ujedinjenju Srbalja i da Srbiji, iz dana u dan, ide sve bolje.
Predizborna hapšenja zbog tobožnjeg „rušenja države“ svedoče o panici režima. Loša vest za njih je – ne mogu da uhapse ceo narod koji je rešio da se odbrani od naprednjačkih batina i izborne krađe
Obruč koji oko Ćacilenda steže Studentska lista sve je uži. Jer sve je više razmađijanih ljudi koji lažnog proroka vide kao ono što jeste: uličnog opsenara koji zavađa Srbiju
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
