Sluga Erbai i njegovo pravo

To se do sada viđalo samo u crtanom filmu. Zaposleni u jednom izložbenom salonu, da ne kažemo šourumu, u Šangaju bili su ne malo iznenađeni kada nisu zatekli svoje robote na mestu gde obično stoje već u sasvim drugoj prostoriji. Tek su se čudili kada su pogledali snimke sigurnosnih kamera. Na njima se vidi kako jedan mali robot prilazi grupi od desetak parkiranih većih “kolega” i počinje s njima nekakvu komunikaciju. Ubrzo robotić kreće, a za njim polaze i ostali roboti.

Onda je usledio dodatni šok kada su komunikaciju odgonetnuli. Mali robot pitao je velike robote kako su, koliko rade, da li imaju dovoljno odmora, a ovi su odgovarali da rade mnogo, da se nikada ne odmaraju, da im je teško. Robotić Erbai ih je onda pozvao da krenu s njim, kući, pa da se svi lepo odmore. Nije trebalo dvaput da im kaže.

Kada se ova vest pojavila, svi su prvo mislili da je u pitanju neki štos, ali su vlasnici salona to demantovali. Događaj je autentičan, a desio se zbog sigurnosnog propusta u softveru koji roboti koriste. U nameri da ih učine što humanijim dodavali su im i empatiju i samosažaljenje, a izgleda da je odatle do preuzimanja kontrole nad robotima bio mali korak ili kotrljaj, budući da su svi roboti na točkićima.

I dok su se mnogi zabavljali ovom situacijom, stručnjaci za veštačku inteligenciju su se ozbiljno zabrinuli. Jasno je da roboti nemaju osećanja, pa ni osećanje umora ili prekarnosti. Kada mu se baterija značajno isprazni, robot odlazi na dopunu, ne postoji mogućnost da sam sebe “slomi” kao što se to dešava ljudima. U ovom slučaju ih je neko loše isprogramirao i to nije otkrio Erbai već onaj ko je njime u tom trenutku upravljao. Dakle, neki živi haker je pronašao tu softversku rupu i iskoristio je da grupi robota izda naredbu da ga slede. To što je ona garnirana zanimljivom komunikacijom samo čini stvar pikantnijom.

Veća opasnost je u otkrivanju mogućnosti da mašina može da pokrene druge mašine i povede ih sa sobom. To znači da bi neki takav robotizovani automobil mogao da isprakrira sve samovozeće automobile u ulici i u koloni ih odvede u nepoznatom pravcu, recimo u neku garažu gde će ih rasturiti u delove. Još gore bi bilo ako bi to uradio dok su u njima ljudi koji bi ili nastavili da se tako voze, pa dokle stignu ili bi bili prinuđeni da iskaču iz vozila u pokretu. Jer bi kontrolu nad automobilom preuzeo neko drugi. Čitaocu ostavljamo da izmašta sve moguće situacije gde bi to moglo opako da se iskoristi.

Jedan deo ove priče je svakako taj bezbednosni. Da li je moj robotizovani pomoćnik, bilo da je u pitanju automobil, kućni asistent ili šporet dovoljno bezbedan ili je u njega moguće provaliti beskontaktno? Drugi deo je sindikalni. Imaju li roboti neka prava, treba li im ograničiti radno vreme kako bi se redovno održavali i punili baterije? Da li sam činjenicom da sam humanizovanog robota pošteno platio stekao pravo da s njim radim šta je meni volja, pa i da ga polupam čekićem ili teram da radi dok ne pregori ili proizvođač može da mu isprogramira zaštitu od toga? Da li mašina stiče neka prava ukoliko je sposobna da “misli” i “razgovara”?

Pitanja poput ovih možda deluju preuranjeno, ali budite sigurni da će biti važna tema kako razvoj veštačke inteligencije bude napredovao. Mašina koja suvislo odgovara na naša pitanja, predlaže, analizira zaslužiće neka prava, samo je pitanje kakva.