Degradacija zakona robotike

Finansijski analitičar Džordž Mekgi je pre šest Godina, vozeći “teslu” na Floridi, ispustio telefon i krenuo da ga traži pod sedištem, bez zaustavljanja. Vozilo je bilo na auto-pilotu, ali umesto da ga obavesti da prolaze pored znaka “stop” i crvenog svetla i automatski prikoči, zakucali su se u automobil koji im se našao na putu usmrtivši devojku u njemu, dok je njen dečko ostao doživotni invalid. Iz Tesle su najpre tvrdili da u kompjuteru automobila nema podataka o udesu sve dok ih pre nekoliko nedelja jedan haker nije izvukao na zahtev Mekgijevog advokata. Ali za ovu priču je bitnije to što je automobil dozvolio korišćenje automatske vožnje na putu koji nije opremljen niti registrovan za to. Ponašanje i odgovornost vozača je posebna tema, ali to je delom i stvar navike, razumeće to svako ko u svom vozilu ima parking senzore i kameru.

Šesnaestogodišnji mladić iz Kalifornije izvršio je samoubistvo u aprilu ove godine posle brojnih introspektivnih razgovora sa ChatGPT-jem. Istraga je pokazala da ga je bot u toj nameri ohrabrivao odnosno, ispravnije rečeno, savetovao ga je na koji način je najbolje da to izvrši. Porodica sada tuži OpenAI koja je proizvela i kontroliše bota. Tvrde da su ga pustili na tržište nedovoljno ispitanog i nepripremljenog za ovakve izazove, što je dovelo do tragičnog ishoda. Iz kompanije odgovaraju da su svesni određenih propusta u treniranju, to jest da njihov bot može s vremenom da popusti ili, kako su oni rekli, da “degradira”. To znači da svoje čvrste stavove može da omekša i počne da daje odgovore koje ne bi smeo, sve u cilju zadovoljavanja interesovanja korisnika. Mladić i ChatGPT su dnevno razmenjivali više od šest stotina poruka.

I Tesla i OpenAI najavljuju pooštravanje kriterijuma, odnosno bezbednosne kulture ugrađene u svoje softvere. U Teslinom slučaju to znači da se auto-pilot ne može koristiti tamo gde za to ne postoje zakonski uslovi, sve i da savršeno radi. Četbot neće davati odgovore koji bi mogli da vode ubistvu ili samoubistvu mada ima onih koji tvrde da se to i dalje može zaobići veštim promptovanjem.

Ovo su samo dva primera o kojima se poslednjih dana mnogo govori, a ima ih još ohoho… Zajedničko im je kršenje moralnih principa ili takozvanih zakona robotike koje je pisac Isak Asimov definisao još 1942. godine. Ima ih ukupno tri (plus nulti) i oni kažu da robot ne sme da naškodi čoveku svojim delovanjem ili pasivnošću, da robot mora da sluša naredbe čoveka osim ako su u suprotnosti sa prvim zakonom i da robot mora da štiti svoj integritet, sem ako se kosi sa prvim i drugim zakonom. Nulti zakon je šira verzija prvog i kaže da robot ne sme svojim radom ili pasivnošću da naškodi čovečanstvu, ne samo pojedincu.

Kada ih je pisao, Isak Asimov je zamišljao uglavnom čovekolike robote. Nije razmišljao o algoritmima i softverskim botovima iako oni daju život mehaničkim robotima. Tako da se postavlja ozbiljno pitanje – važe li zakoni robotike i za veštačku inteligenciju?

Ne važe, bio bi jednostavan odgovor na osnovu navedenih primera. U oba slučaja VI nije vodila računa o životima ljudskih bića, već samo o potrebama trenutnog korisnika, makar te potrebe bile štetne i po njega samog. Malo mekši odgovor bio bi da zakoni važe, ali se ne primenjuju, na šta smo mi u ovom regionu navikli, dok u ozbiljnom svetu nisu.

Evo šta o tome kaže okrivljeni ChatGPT: “Ja nisam robot u fizičkom smislu, već softver VI. Nemam telo niti mogućnost da direktno delujem na fizički svet, pa ti zakoni ne mogu da se primene bukvalno. Ali moji bezbednosni sistemi i pravila ponašanja napravljeni su u istom duhu: da ne nanosim štetu, da poštujem ljude i da pružam pomoć na način koji je siguran i koristan”.

Primena zakona robotike na veštačku inteligenciju i etičkih normi na društvene medije su ono što svetu treba da izbegne degradaciju. Teoretski, ovo dobro zvuči.