AI firme poručuju – dali ste nam previše slobode

Najveća greška bila bi da od VI očekujemo samokontrolu tamo gde možemo da napravimo tehničku kontrolu. Ovu mudrost nisam izrekao ja nego sam ChatGPT tokom našeg razgovora o tome kako ograničiti veštačku inteligenciju pre nego što postane previše autonomna i krene da radi nešto što joj niko nije tražio.

Povod za razgovor, takođe, nije moja lična zabrinutost za budućnost civilizacije. Ta briga je na mene prešla sa najvažnijih ljudi u industriji veštačke inteligencije poput Sema Altmana i Darija Amodeija koji vode OpenAI i Antrophic. Iako su nepomirljivi konkurenti, nedavno su uglas zavapili da razvoj veštačke inteligencije mora pod hitno da se ograniči, to jest uspori. Letošnji incident sa Hugging Face, platformom za razvoj veštačke inteligencije koju koriste brojni diveloperi, smatra se najozbiljnijim upozorenjem. O tome je već bilo reči u ovoj rubrici, ali u najkraćem, agent VI našao je način da samostalno izađe na internet kako bi lakše rešio zadatak iako mu takva mogućnost nije data niti dozvoljena. To je zabrinulo njegove stvaraoce jer su shvatili da bi mogli da se suoče sa nekontrolisanim ponašanjem agenata ukoliko im se ne stavi ozbiljna rampa. A prvi način je da se razvoj uspori do brzine gde čovek može da prikoči ako treba.

Najveći strah nije samo da modeli postaju pametniji, nego da počinju da automatizuju sopstveno istraživanje i razvoj. Anthropic navodi da Claude već “vodi” oko 26 odsto njihovih istraživačkih zadataka u oblasti VI, a u više od 90 odsto učestvuje najmanje kao saradnik. To znači da razvoj može postati brži nego što ljudi mogu da prate.

Tu je zatim mogućnost da agent preduzme neželjenu radnju poput gore opisane na Hugging Face. Naročito je to opasno za sajber bezbednost i biologiju. Agenti bi mogli masovno da rade visoko sofisticirane stvari za koje je do sada bio neophodan izuzetno obučen i talentovan čovek, kakvih je malo. Recimo da probija sisteme zaštite, ali i da bira ciljeve i razvija naoružanje. U biologiji je još gore jer bi neko sa malo znanja, a mnogo zlih namera, mogao preko agenta VI da se nađe u mogućnosti da razvija opasne stvari.

Sve i da se ne ostvare ove najcrnje slutnje, previse brz razvoj, kakvom svedočimo, izmeniće tržište i uslove rada i dovešće do ozbiljnih civilizacijskih izazova, od obrazovanja do zapošljavanja, umetnite tu i nauku. Zašto bismo obučavali ljude za poslove koje može da radi veštačka inteligencija – teza je koja bi ubrzo mogla da stvori dramatičnu rupu ili generacijsku pauzu u znanju.

Na sve to nadovezuju se političari, poput američkog predsednika Trampa, koji poručuje da mu ne pada na pamet da bilo šta usporava i omogući Kini da preuzme nedostižan primat. A ima i onih, takođe u SAD, koji bi zaustavili svaki dalji razvoj VI.

Nude se dva moguća pristupa tom usporavanju. Prvi je “semafor”, on predviđa uvođenje nezavisnih evaluatora koji bi pratili razvoj i palili odgovarajuće svetlo kada procene da se ide prebrzo. Drugi je da se napravi nešto poput Atomske agencije gde bi sve laboratorije u svetu bile dužne da prijave incidente koji su im se dogodili, što bi zahtevalo uvođenje međunarodnih standarda koje bi morali da prihvate pre svih SAD i Kina.

Sama VI nam poručuje da “problem nije kada VI misli brzo – problem počinje kada brzo deluje, a čovek više ne stiže da proveri šta radi”.

Ups.

Vreme izbora! A neko mora da Vas izveštava nezavisno. Zato je u oktobru godišnja pretplata na digitalno izdanje „Vremena“ čak 2.500 dinara jeftinija. Izaberite odmah!