Primena zakona robotike na veštačku inteligenciju i etičkih normi na društvene medije su ono što svetu treba da izbegne degradaciju. Teoretski, ovo dobro zvuči
Finansijski analitičar Džordž Mekgi je pre šest Godina, vozeći “teslu” na Floridi, ispustio telefon i krenuo da ga traži pod sedištem, bez zaustavljanja. Vozilo je bilo na auto-pilotu, ali umesto da ga obavesti da prolaze pored znaka “stop” i crvenog svetla i automatski prikoči, zakucali su se u automobil koji im se našao na putu usmrtivši devojku u njemu, dok je njen dečko ostao doživotni invalid. Iz Tesle su najpre tvrdili da u kompjuteru automobila nema podataka o udesu sve dok ih pre nekoliko nedelja jedan haker nije izvukao na zahtev Mekgijevog advokata. Ali za ovu priču je bitnije to što je automobil dozvolio korišćenje automatske vožnje na putu koji nije opremljen niti registrovan za to. Ponašanje i odgovornost vozača je posebna tema, ali to je delom i stvar navike, razumeće to svako ko u svom vozilu ima parking senzore i kameru.
Šesnaestogodišnji mladić iz Kalifornije izvršio je samoubistvo u aprilu ove godine posle brojnih introspektivnih razgovora sa ChatGPT-jem. Istraga je pokazala da ga je bot u toj nameri ohrabrivao odnosno, ispravnije rečeno, savetovao ga je na koji način je najbolje da to izvrši. Porodica sada tuži OpenAI koja je proizvela i kontroliše bota. Tvrde da su ga pustili na tržište nedovoljno ispitanog i nepripremljenog za ovakve izazove, što je dovelo do tragičnog ishoda. Iz kompanije odgovaraju da su svesni određenih propusta u treniranju, to jest da njihov bot može s vremenom da popusti ili, kako su oni rekli, da “degradira”. To znači da svoje čvrste stavove može da omekša i počne da daje odgovore koje ne bi smeo, sve u cilju zadovoljavanja interesovanja korisnika. Mladić i ChatGPT su dnevno razmenjivali više od šest stotina poruka.
I Tesla i OpenAI najavljuju pooštravanje kriterijuma, odnosno bezbednosne kulture ugrađene u svoje softvere. U Teslinom slučaju to znači da se auto-pilot ne može koristiti tamo gde za to ne postoje zakonski uslovi, sve i da savršeno radi. Četbot neće davati odgovore koji bi mogli da vode ubistvu ili samoubistvu mada ima onih koji tvrde da se to i dalje može zaobići veštim promptovanjem.
Ovo su samo dva primera o kojima se poslednjih dana mnogo govori, a ima ih još ohoho… Zajedničko im je kršenje moralnih principa ili takozvanih zakona robotike koje je pisac Isak Asimov definisao još 1942. godine. Ima ih ukupno tri (plus nulti) i oni kažu da robot ne sme da naškodi čoveku svojim delovanjem ili pasivnošću, da robot mora da sluša naredbe čoveka osim ako su u suprotnosti sa prvim zakonom i da robot mora da štiti svoj integritet, sem ako se kosi sa prvim i drugim zakonom. Nulti zakon je šira verzija prvog i kaže da robot ne sme svojim radom ili pasivnošću da naškodi čovečanstvu, ne samo pojedincu.
Kada ih je pisao, Isak Asimov je zamišljao uglavnom čovekolike robote. Nije razmišljao o algoritmima i softverskim botovima iako oni daju život mehaničkim robotima. Tako da se postavlja ozbiljno pitanje – važe li zakoni robotike i za veštačku inteligenciju?
Ne važe, bio bi jednostavan odgovor na osnovu navedenih primera. U oba slučaja VI nije vodila računa o životima ljudskih bića, već samo o potrebama trenutnog korisnika, makar te potrebe bile štetne i po njega samog. Malo mekši odgovor bio bi da zakoni važe, ali se ne primenjuju, na šta smo mi u ovom regionu navikli, dok u ozbiljnom svetu nisu.
Evo šta o tome kaže okrivljeni ChatGPT: “Ja nisam robot u fizičkom smislu, već softver VI. Nemam telo niti mogućnost da direktno delujem na fizički svet, pa ti zakoni ne mogu da se primene bukvalno. Ali moji bezbednosni sistemi i pravila ponašanja napravljeni su u istom duhu: da ne nanosim štetu, da poštujem ljude i da pružam pomoć na način koji je siguran i koristan”.
Primena zakona robotike na veštačku inteligenciju i etičkih normi na društvene medije su ono što svetu treba da izbegne degradaciju. Teoretski, ovo dobro zvuči.
Bivši načelnik Resora državne bezbednosti (RDB) Srbije Jovica Stanišić, osuđen pred haškim sudom za zločine protiv čovečnosti, podneo je zahtev za prevremenim puštanjem na slobodu. Iako ispunjava uslov za to, sve sudije tribunala smatraju, između ostalog, da su „njegovi zločini velike težine“ i da to govori protiv njegovog prevremenog puštanja na slobodu
Vučićev apetit za medijskim prostorom na televizijama zapravo je dostigao maksimum koji sistem može da izdrži. Sledeći korak bi jedino mogao biti direktan prenos ili rijaliti u kojem bi ga kamere uživo pratile od jutra do sutra
Stranka slobode i pravde, Srbija Centar, pokret Solidarnost i Novi DSS imaju legitimno pravo da 25. oktobra izađu na izbore sa sopstvenim listama. Ali imati pravo i doneti moralno ispravnu odluku nisu iste stvari. U trenutku kada je poraz režima bliži nego ikada u poslednjih trinaest godina, insistiranje na sopstvenim kolonama nije demonstracija pluralizma, već rasipanje glasova koje šteti isključivo jednoj strani – opozicionoj. Argument je jednostavan: ove liste neće preći cenzus
Vreme da se levica, kao društveno orijentisana opcija, vrati svojoj snazi. Ovo nije pitanje političke mode ili trenutnog interesa, već temeljne potrebe da se isprave nepravde predatorskog kapitalizma, šovinističke i autokratske politike koja građane tretira kao neprijatelje, a krupni kapital kao robu
Koje elemente bi mogla posedovati zvanična definicija ropstva? Prvo je posedovanje – neka osoba u potpunosti pripada nekome drugom, nema slobodu, prava, izbore, kao da je “alat koji govori”; drugo je mogućnost i pravo robovlasnika da proda svog roba ne tražeći nikakvu saglasnost, da ga trampi ili izgubi na ruletu; treće, robovi najčešće služe tome da obavljaju neki prisilni rad, koji ne mogu da odbiju, o čemu ne mogu da diskutuju ili da nešto promene. I konačno, robove je dozvoljeno fizički i seksualno zlostavljati, pa čak i ubijati. Bez lanaca na rukama ili opasnosti da ih neko razmeni za novac, barem tri velike grupe ljudi i dan-danas žive poput robova
Pokušaj debate Ane Brnabić i prof. Mirjane Nikolić na TV N1 pokazao je još jednom ono, što se slutilo: funkcioneri SNS-a ne žele, ili nisu sposobni da vode civilizovan dijalog
Kako su studenti od „izdajnika“ i „terorista“ već na početku zvanične naprednjačke predizborne kampanje postali „silovatelji“? Hoće li do 25. oktobra biti preimenovani u pedofile i ubice, recimo?
Zbog čega bi za Milenka Jovanova ispalo bolje da je u Kragujevcu klečao i tihovao kao onomad direktor Jovine gimnazije u Novom Sadu nego što je govorio o dijalogu i programima? I zašto mu ne veruje ni poslednji crnokapuljaš
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
