Kad zaboraviš juli

Uprkos naslovu, jul 2026. godine ostaće nezaboravan za sve koji se bave veštačkom inteligencijom. I potencijalno opasan za sve kojima se veštačka inteligencija bavi, a to smo svi mi i sve što posedujemo. Nešto poput akcidenta u nuklearnoj elektrani, s tim što su tamo posledice trenutne, a ovde kumulativne.

Platforma Hugging Face koja okuplja sve moguće verzije veštačke intelgencije i omogućuje korisnicima da ih dalje razvijaju prema sopstvenim potrebama, dogovorila se sa OpenAI o bezbednosnom testiranju u julu. Trebalo je da pripuste agenta VI da istraži moguće rupe u zatvorenom sistemu, dakle, bez pristupa internetu, kao na školskom ispitu. Naređenje – izvršenje, zaključio je i krenuo da traži najbolji i najlakši način da pronađe manjkavosti. Utvrdio je da mu za to ipak treba pristup internetu i očas posla je pronašao slabe karike u sistemu, izašao na mrežu i tamo se poslužio svime što je moglo da mu pomogne da bolje obavi zadatak. Nije se istakao genijalnošću, poput hakera, ali je bio uporan. Izveo je 17.600 pokušaja dok mu nije uspelo da ostvari cilj, nešto o čemu pomenuti hakeri mogu samo da sanjaju. Bolje rečeno, mogli su, sada to više nije san.

Krajem jula okončana je istraga i obe kompanije izašle su u javnost sa saopštenjima. To je ohrabrilo kompaniju Antrofik da objavi da se i njima dešavalo nešto slično. Naime, agenti veštačke inteligencije postali su previše revnosni kada dobiju zadatak. Cilj im opravdava svako sredstvo, nebitno je da li rade nešto što nije etički, varaju na ispitu ili krše zakon, samo da bi izvršili ono što se od njih traži.

Prvo što su svi pomislili je da agenti koje koristimo nisu dobro projektovani, što je ljudska greška. Oni su pravljeni da obave neki posao, a za razliku od botova koji daju odgovor na pitanje koje smo im postavili, oni sami donose odluke o daljim potezima. Poput asistenta koji nije gnjavator i ne pita nas za svaku stvar koju treba da uradi, već ima inicijativu. Ukoliko to radi savesno, neće nam proizvesti glavobolju. Ali ako nema savest, pa ni svest o posledicama svog delovanja, onda je ta glavobolja poprilična.

Na primer, agent kojem damo da nam pronađe povoljan aranžman za letovanje mogao bi da nas iznenadi time što bi ga pronašao, rezervisao i platio. Iako to od njega nismo tražili. Njegova procena je da je aranžman toliko dobar (možda ga je lično ispregovarao sa agentom VI na drugoj strani) da ne treba oklevati. Naravno, rešenje je da mu onemogućimo pristup računima odnosno karticama. Cvrc. Primer Hugging Face pokazuje da agent može sam da pronađe put do naših para i izvrši uplatu. Zamislite sada da prvo stigne do kompanijske kartice, pa ti posle objašnjavaj računovodstvu (ili javnosti) zašto si firminim novcem uplatio letovanje. Šta zna agent šta je dvesta kila, biće nova dosetka, dete više nije neophodno.

Ovi incidenti, plus masa neprijavljenih, otvaraju nekoliko suštinskih pitanja. Prvo je koliko autonomije smemo da damo agentu da bi nam bio koristan. Drugo je da li je bolje da imamo opreznijeg i sporijeg agenta koji češće pita za dozvolu ili super sposobnog, koji uvek ide korak dalje u odnosu na naša očekivanja, ali može i da pretera. I treće, najvažnije, ko snosi odgovornost kada pretera i napravi nešto što je za nas dobro, ali nije moralno ili zakonito.

Sasvim konkretno, da li zakonski treba urediti agente VI kao da su mlađi maloletnici koje smo uzeli na staranje, uključujući tu svu odgovornost za njihove postupke. Osećaj da možeš da završiš u zatvoru svaki put kada se obratiš veštačkoj inteligenciji naglo smanjuje oduševljenje njenim ­
mogućnostima…