Primena zakona robotike na veštačku inteligenciju i etičkih normi na društvene medije su ono što svetu treba da izbegne degradaciju. Teoretski, ovo dobro zvuči
Finansijski analitičar Džordž Mekgi je pre šest Godina, vozeći “teslu” na Floridi, ispustio telefon i krenuo da ga traži pod sedištem, bez zaustavljanja. Vozilo je bilo na auto-pilotu, ali umesto da ga obavesti da prolaze pored znaka “stop” i crvenog svetla i automatski prikoči, zakucali su se u automobil koji im se našao na putu usmrtivši devojku u njemu, dok je njen dečko ostao doživotni invalid. Iz Tesle su najpre tvrdili da u kompjuteru automobila nema podataka o udesu sve dok ih pre nekoliko nedelja jedan haker nije izvukao na zahtev Mekgijevog advokata. Ali za ovu priču je bitnije to što je automobil dozvolio korišćenje automatske vožnje na putu koji nije opremljen niti registrovan za to. Ponašanje i odgovornost vozača je posebna tema, ali to je delom i stvar navike, razumeće to svako ko u svom vozilu ima parking senzore i kameru.
Šesnaestogodišnji mladić iz Kalifornije izvršio je samoubistvo u aprilu ove godine posle brojnih introspektivnih razgovora sa ChatGPT-jem. Istraga je pokazala da ga je bot u toj nameri ohrabrivao odnosno, ispravnije rečeno, savetovao ga je na koji način je najbolje da to izvrši. Porodica sada tuži OpenAI koja je proizvela i kontroliše bota. Tvrde da su ga pustili na tržište nedovoljno ispitanog i nepripremljenog za ovakve izazove, što je dovelo do tragičnog ishoda. Iz kompanije odgovaraju da su svesni određenih propusta u treniranju, to jest da njihov bot može s vremenom da popusti ili, kako su oni rekli, da “degradira”. To znači da svoje čvrste stavove može da omekša i počne da daje odgovore koje ne bi smeo, sve u cilju zadovoljavanja interesovanja korisnika. Mladić i ChatGPT su dnevno razmenjivali više od šest stotina poruka.
I Tesla i OpenAI najavljuju pooštravanje kriterijuma, odnosno bezbednosne kulture ugrađene u svoje softvere. U Teslinom slučaju to znači da se auto-pilot ne može koristiti tamo gde za to ne postoje zakonski uslovi, sve i da savršeno radi. Četbot neće davati odgovore koji bi mogli da vode ubistvu ili samoubistvu mada ima onih koji tvrde da se to i dalje može zaobići veštim promptovanjem.
Ovo su samo dva primera o kojima se poslednjih dana mnogo govori, a ima ih još ohoho… Zajedničko im je kršenje moralnih principa ili takozvanih zakona robotike koje je pisac Isak Asimov definisao još 1942. godine. Ima ih ukupno tri (plus nulti) i oni kažu da robot ne sme da naškodi čoveku svojim delovanjem ili pasivnošću, da robot mora da sluša naredbe čoveka osim ako su u suprotnosti sa prvim zakonom i da robot mora da štiti svoj integritet, sem ako se kosi sa prvim i drugim zakonom. Nulti zakon je šira verzija prvog i kaže da robot ne sme svojim radom ili pasivnošću da naškodi čovečanstvu, ne samo pojedincu.
Kada ih je pisao, Isak Asimov je zamišljao uglavnom čovekolike robote. Nije razmišljao o algoritmima i softverskim botovima iako oni daju život mehaničkim robotima. Tako da se postavlja ozbiljno pitanje – važe li zakoni robotike i za veštačku inteligenciju?
Ne važe, bio bi jednostavan odgovor na osnovu navedenih primera. U oba slučaja VI nije vodila računa o životima ljudskih bića, već samo o potrebama trenutnog korisnika, makar te potrebe bile štetne i po njega samog. Malo mekši odgovor bio bi da zakoni važe, ali se ne primenjuju, na šta smo mi u ovom regionu navikli, dok u ozbiljnom svetu nisu.
Evo šta o tome kaže okrivljeni ChatGPT: “Ja nisam robot u fizičkom smislu, već softver VI. Nemam telo niti mogućnost da direktno delujem na fizički svet, pa ti zakoni ne mogu da se primene bukvalno. Ali moji bezbednosni sistemi i pravila ponašanja napravljeni su u istom duhu: da ne nanosim štetu, da poštujem ljude i da pružam pomoć na način koji je siguran i koristan”.
Primena zakona robotike na veštačku inteligenciju i etičkih normi na društvene medije su ono što svetu treba da izbegne degradaciju. Teoretski, ovo dobro zvuči.
Koji zaključci mogu da se izvuku iz susreta šefa beogradske policije Veselina Milića, Saše Vukovića Bosketa i Aleksandra Nešovića Baje, u međuvremenu poznatom kao „ubistvo na Senjaku“
Psihologija jasno pokazuje da je svaki oblik fanatizma – svođenja sebe na jednu dimenziju, bila ona religijska, ideološka, politička, društvena, profesionalna ili pripadanje određenoj grupi – odbrambeni pokušaj neke osobe koja ne može da otkrije stabilan lični identitet i onda, sebi koliko i drugima, baca prašinu u oči ubeđivanjem da ne samo da ima identitet nego je on tako očigledan da niko nikad ne bi smeo u njega da posumnja
Lokalni sud u Kini proglasio je maloletnika krivim za ubistvo i silovanje, a presuđena kasna je poptuni presedan - doživotni zatvor
Udruženje novinara Srbije objavilo je presek užasnog stanja u srpskim medijima i poziv vlastima da promene stvari. Ali, taj poziv će, kao i raniji, otići u prazno
Zašto je ulično nasilje postalo sve što Vučić može da ponudi građanima? Zbog čega je ono postalo bensendin za najtvrđe naprednjačko-radikalsko biračko telo? I čime je dokazao da ni malo ne poznaje ulicu
Zašto je Vučić muški opaučio po svojim poslušnicima? Je li mu dobro? I šta to znači za studente i njihovu listu
Predsednik Vučić piše programe i „autorske tekstove“ kako bi obodrio i zaplašio birače da će zanavek ostati na vlasti
Intervju: Darko Rundek, muzičar i pesnik
Želim da podržim studente, jer najiskrenije – to i moram Pretplati seArhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
