Primena zakona robotike na veštačku inteligenciju i etičkih normi na društvene medije su ono što svetu treba da izbegne degradaciju. Teoretski, ovo dobro zvuči
Finansijski analitičar Džordž Mekgi je pre šest Godina, vozeći “teslu” na Floridi, ispustio telefon i krenuo da ga traži pod sedištem, bez zaustavljanja. Vozilo je bilo na auto-pilotu, ali umesto da ga obavesti da prolaze pored znaka “stop” i crvenog svetla i automatski prikoči, zakucali su se u automobil koji im se našao na putu usmrtivši devojku u njemu, dok je njen dečko ostao doživotni invalid. Iz Tesle su najpre tvrdili da u kompjuteru automobila nema podataka o udesu sve dok ih pre nekoliko nedelja jedan haker nije izvukao na zahtev Mekgijevog advokata. Ali za ovu priču je bitnije to što je automobil dozvolio korišćenje automatske vožnje na putu koji nije opremljen niti registrovan za to. Ponašanje i odgovornost vozača je posebna tema, ali to je delom i stvar navike, razumeće to svako ko u svom vozilu ima parking senzore i kameru.
Šesnaestogodišnji mladić iz Kalifornije izvršio je samoubistvo u aprilu ove godine posle brojnih introspektivnih razgovora sa ChatGPT-jem. Istraga je pokazala da ga je bot u toj nameri ohrabrivao odnosno, ispravnije rečeno, savetovao ga je na koji način je najbolje da to izvrši. Porodica sada tuži OpenAI koja je proizvela i kontroliše bota. Tvrde da su ga pustili na tržište nedovoljno ispitanog i nepripremljenog za ovakve izazove, što je dovelo do tragičnog ishoda. Iz kompanije odgovaraju da su svesni određenih propusta u treniranju, to jest da njihov bot može s vremenom da popusti ili, kako su oni rekli, da “degradira”. To znači da svoje čvrste stavove može da omekša i počne da daje odgovore koje ne bi smeo, sve u cilju zadovoljavanja interesovanja korisnika. Mladić i ChatGPT su dnevno razmenjivali više od šest stotina poruka.
I Tesla i OpenAI najavljuju pooštravanje kriterijuma, odnosno bezbednosne kulture ugrađene u svoje softvere. U Teslinom slučaju to znači da se auto-pilot ne može koristiti tamo gde za to ne postoje zakonski uslovi, sve i da savršeno radi. Četbot neće davati odgovore koji bi mogli da vode ubistvu ili samoubistvu mada ima onih koji tvrde da se to i dalje može zaobići veštim promptovanjem.
Ovo su samo dva primera o kojima se poslednjih dana mnogo govori, a ima ih još ohoho… Zajedničko im je kršenje moralnih principa ili takozvanih zakona robotike koje je pisac Isak Asimov definisao još 1942. godine. Ima ih ukupno tri (plus nulti) i oni kažu da robot ne sme da naškodi čoveku svojim delovanjem ili pasivnošću, da robot mora da sluša naredbe čoveka osim ako su u suprotnosti sa prvim zakonom i da robot mora da štiti svoj integritet, sem ako se kosi sa prvim i drugim zakonom. Nulti zakon je šira verzija prvog i kaže da robot ne sme svojim radom ili pasivnošću da naškodi čovečanstvu, ne samo pojedincu.
Kada ih je pisao, Isak Asimov je zamišljao uglavnom čovekolike robote. Nije razmišljao o algoritmima i softverskim botovima iako oni daju život mehaničkim robotima. Tako da se postavlja ozbiljno pitanje – važe li zakoni robotike i za veštačku inteligenciju?
Ne važe, bio bi jednostavan odgovor na osnovu navedenih primera. U oba slučaja VI nije vodila računa o životima ljudskih bića, već samo o potrebama trenutnog korisnika, makar te potrebe bile štetne i po njega samog. Malo mekši odgovor bio bi da zakoni važe, ali se ne primenjuju, na šta smo mi u ovom regionu navikli, dok u ozbiljnom svetu nisu.
Evo šta o tome kaže okrivljeni ChatGPT: “Ja nisam robot u fizičkom smislu, već softver VI. Nemam telo niti mogućnost da direktno delujem na fizički svet, pa ti zakoni ne mogu da se primene bukvalno. Ali moji bezbednosni sistemi i pravila ponašanja napravljeni su u istom duhu: da ne nanosim štetu, da poštujem ljude i da pružam pomoć na način koji je siguran i koristan”.
Primena zakona robotike na veštačku inteligenciju i etičkih normi na društvene medije su ono što svetu treba da izbegne degradaciju. Teoretski, ovo dobro zvuči.
Dok Mineapolis i ostali gradovi u SAD ključaju zbog nezadovoljstva nakon ubistva samohrane majke, reči Roberta De Nira o Donaldu Trampu izgovorene pre dva meseca, dobijaju novo - mračno značenje. Protesti u Americi se šire, a poverenje u institucije nestaje
„Grad sa dve termoelektrane, a od početka ove godine struju nije imalo većina okolnih mesta"
Gradnja naspram Košutnjaka je pažljivo planirana, kaže dekan Arhitektonskog fakulteta u Beogradu Vladimir Lojanica
Kada usamljenost ne bi bolela koliko boli, niko se nikada ne bi odrekao privilegije da zaključa vrata iznutra. Život više generacija u istom domaćinstvu, čak i skladni i solidni brakovi, najbolji prijatelji koji žive zajedno tokom studija – ništa od toga nije moguće bez povremene (u idealnom slučaju naizmenične) požrtvovanosti, bez preuzimanja tuđih tereta i razumevanja za tuđe mane. Ali ostaje i pitanje – dokle trpeti? Kako bi svako od nas trebalo da nauči da prepoznaje tu granicu posle koje požrtvovanost postaje poništavanje sebe i samoponiženje
Šta je pravi bezbednosni izazov za Srbiju? Većina građana u podne i u ponoć zna odgovor – to je Vučićev naprednjački režim
Da li je moguće da smo, posle hiljada godina imperijalnih poduhvata, sada, odjednom, toliko iznenađeni američkim upadom u Venecuelu, da ne možemo da dođemo do daha?
Predsednik SAD Donald Tramp naredio je vojni napad na suverenu Venecuelu i otmicu njenog predsednika Nikolasa Madura. Neka se pripremi Gustavo Petro u Kolumbiji
Intervju: Nenad Lajbenšperger, ličnost godine 2025.
Nemam prava da ćutim na nepravdu Pretplati seArhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
