Veštačka inteligencija po srpskoj meri: Manje nadzora, više izuzetaka

Ukoliko Srbija namerava da uzme novac namenjen iz Plana rasta Evropske unije za Zapadni Balkan, do kraja godine mora, između ostalog, da usvoji i zakon o veštačkoj inteligenciji (VI).

Da će biti tako je sredinom avgusta najavila Marija Gnjatović, državna sekretarka u Ministarstvu nauke, tehnološkog razvoja i inovacija.

Međutim, zakon još uvek nema ni zvanični nacrt, već samo Radnu verziju. Kratki rokovi, posebno u kontekstu predstojećih izbora, pritom nisu jedini problem.

Izostavljene najkritičnije tačke

Ana Toskić Cvetinović iz organizacije Partneri Srbija za „Vreme“ izdvaja nekoliko spornih rešenja u Radnoj verziji.

„Kada pogledate Radnu verziju zakona o VI reklo bi se da je ona po strukturi i po osnovnim elementima gotovo prepisan Aktom Evropske unije (EU) o VI. Međutim, kada se obrati pažnja na detalje vidi se da su neke stvari ne baš slučajno izostavljene, i to baš najkritičnije tačke u Srbiji: nedostatak vladavine prava i nezavisnih institucija, i nedovoljne garancije zaštite ljudskih prava“, kaže Toskić Cvetinović.

Kao najveći problem navodi izuzimanje sektora odbrane iz zakona. Iako se insistira na tome da je Radna verzija usklađena sa Aktom EU o VI, ona ukazuje da takvo izuzeće nije primenjivo na države koje nisu članice EU.

„EU nema jedinstvenu spoljnu i bezbednosnu politiku, već svaka država članica to pitanje uređuje svojim propisima. Srbija bi trebalo da donese zakon primenjiv na naš pravni sistem i na razvoj i primenu veštačke inteligencije. Izuzeće sektora odbrane uopšte nije primenjivo na države koje nisu članice EU“, kaže Toskić Cvetinović.

Ona podseća i na izveštaje istraživačkih medija o fabrici dronova otvorenoj u Beogradu u saradnji sa Izraelom, ističući da je zbog razvoja vojne industrije i novih tehnologija važno da Srbija ima zakon koji tu oblast reguliše.

AI firme poručuju – dali ste nam previše slobode

Bez garancije ljudskih prava

Dodatni problem vidi u tome što u pojedinim delovima Radne verzije nisu predviđene garancije zaštite ljudskih prava koje postoje u Aktu EU o VI i domaćem Zakonu o zaštiti podataka o ličnosti.

To se odnosi i na obradu osetljivih podataka, poput zdravstvenih i podataka o socijalnoj zaštiti.

Istovremeno se menja i Zakon o zaštiti podataka o ličnosti, čijim je nacrtom, koji je bio na javnoj raspravi, predviđeno ograničenje prava građana kada se podaci obrađuju za potrebe VI.

„Čini mi se da postoji koordinisana namera da se spusti nivo ljudskih prava kada govorimo o razvoju alata VI u Srbiji“, ocenjuje Toskić Cvetinović.

Problem vidi i u tome što nije predviđen nezavisni nadzor nad primenom VI. Radna verzija predviđa formiranje Agencije za veštačku inteligenciju, čijeg bi direktora imenovala Vlada Srbije, dok bi Vlada odobravala i njen budžet.

„Ta agencija, kako sada stoji u Radnoj verziji, nikako ne bi bila nezavisna. Pored toga, u Aktu EU o VI vrlo jasno je predviđena uloga civilnog sektora i akademske zajednice, koje bi trebalo da imaju ulogu u praćenju korišćenja VI, pre svega u kontekstu etičke primene VI. Ti akteri su, međutim, nestali u Radnoj verziji našeg zakona“, kaže Toskić Cvetinović.

Stručnjaci upozoravaju: Ako ne „prikočimo” AI bi uskoro mogao da preuzme kontrolu

Dipfejk i politička zloupotreba

Kada je reč o zloupotrebi dipfejka za diskreditaciju političkih protivnika, Toskić Cvetinović ukazuje da Akt EU o VI predviđa označavanje sadržaja generisanog veštačkom inteligencijom, između ostalog i sadržaja od javnog interesa, dok je to, prema njenim rečima, u domaćoj Radnoj verziji izostavljeno ili umanjeno.

„Izostavljeno je i da korisnici dipfejka to moraju da označe, uz neke prilagođene izuzetke, za neke umetničke, satirične i fiktivne radove. Smanjene su obaveze transparentnosti što je posebno problematično u oblastima političke debate i demokratskih procesa“, kaže Toskić Cvetinović.

Dipfejk: Poguban uticaj na kredibilitet medija

Dodaje da transparentnost ne bi smela da se svede samo na oznaku da je sadržaj nastao uz pomoć VI, već ona mora biti vidljiva i razumljiva publici.

Drugačije tumačenje daje savetnik za propise i inspekcije u NALED-u Milan Stefanović. Prema njegovim rečima, Radna verzija predviđa obavezu označavanja sintetičkog ili izmenjenog audio i video sadržaja, dok bi i korisnik koji objavljuje tekst generisan ili modifikovan pomoću VI, u svrhu informisanja javnosti, morao da navede da je tekst veštački generisan ili izmenjen.

Podseća i da je za kršenje obaveza transparentnosti predviđena prekršajna odgovornost pravnog lica uz visoke novčane kazne.

Stefanović, međutim, naglašava da treba razlikovati neoznačavanje sadržaja od njegove sadržine i posledica objave. Tako, na primer, u slučaju objavljivanja lažnog snimka koji nekoj politički eksponiranoj osobi pripisuje protivustavnu ili protivzakonitu izjavu, tada može doći do povrede većeg broja zakona – najpre Krivičnog zakonika, Zakona o javnom informisanju i medijima, Zakona o elektronskim komunikacijama i Zakona o zaštiti podataka o ličnosti.

„Pored tih matičnih zakona, to pitanje reguliše i Radna verzija zakona zabranom stavljanja na tržište i omogućavanja upotrebe, odnosno korišćenja sistema VI u kojem se primenjuju manipulativne, odnosno obmanjujuće tehnike kojima se utiče na ponašanje čoveka ili grupe ljudi tako da se narušava njihova sposobnost donošenja odluka na način da mogu prouzrokovati štetu“, kaže Stefanović.

„Odgovornost može obuhvatiti autora, naručioca, lice koje je sadržaj svesno distribuiralo, izdavača ili odgovornog urednika, u zavisnosti od njihove uloge. Kod ovog pitanja je potrebno reći i da, svakako, ne treba otići ni u drugu krajnost, jer je potrebno sačuvati prostor i za kritiku, satiru i parodiju, koje se jasno i razumno mogu prepoznati“, zaključuje Stefanović.

Veštačka inteligencija otkriva sklonost ka korupciji

Ko će nadzirati veštačku inteligenciju?

Stefanović navodi da bi Agencija za veštačku inteligenciju odgovarala Vladi, dok bi nadzor bio podeljen između Ministarstva nauke, tehnološkog razvoja i inovacija, tržišne inspekcije, inspekcije za informacionu bezbednost i Poverenika za zaštitu podataka o ličnosti.

Postoji i mogućnost da Agencija uopšte ne bude osnovana kao novi organ, već da se njeni poslovi pridodaju postojećim institucijama, među kojima je Kancelarija za IT i e-Upravu.

Radna verzija predviđa i Registar sistema veštačke inteligencije kao centralizovani javni registar, sa objavljenim podacima i odlukama. Građani bi mogli da vide osnovne podatke o visokorizičnom sistemu, njegovom dobavljaču, nameni i statusu usaglašenosti, kao i o tome koji organ javne vlasti ga koristi.

Registar, međutim, ne bi predstavljao potpunu evidenciju svake upotrebe VI.

„Kada je reč o javnosti podataka, ne mogu svi podaci biti javno dostupni, jer je neophodno zaštititi podatke o ličnosti, poslovne tajne, izvorni kod i druge oblike intelektualne svojine, pravne postupke i tajne podatke čije bi objavljivanje ugrozilo nacionalnu bezbednost. Dakle, potrebno je razlikovati javni i zaštićeni, odnosno poverljivi deo Registra“, navodi Stefanović.

Odbrana formalno izuzeta, ali ne i bez ikakvih pravila

Stefanović potvrđuje da Radna verzija, poput Akta EU o VI, izuzima iz opšteg režima sisteme koji se koriste isključivo za vojne i odbrambene svrhe, odnosno nacionalnu bezbednost. Objašnjava da se takav pristup koristi i u drugim oblastima, dok se pojedina pitanja uređuju posebnim zakonima.

Istovremeno, određeni sistemi koji se koriste u krivičnom gonjenju, migracijama i kontroli granice svrstani su među visokorizične. Radna verzija zabranjuje i neke prakse, poput predviđanja da će neko lice izvršiti krivično delo isključivo na osnovu profilisanja ili procene njegovih ličnih osobina.

Za neke oblike biometrijske identifikacije predviđeni su dodatni uslovi i sudska kontrola na predlog javnog tužioca.

„Izuzeće od primene ovog sistemskog zakona ne znači, naravno, da je sistem VI koji koristi organ nadležan za javnu ili državnu bezbednost, odnosno sprečavanje ili otkrivanje krivičnih dela izuzet iz pravnog poretka, jer se svakako i dalje primenjuju Ustav i zakoni o BIA, policiji, krivičnom postupku, zaštiti podataka o ličnosti i zabrani diskriminacije“, kaže Stefanović.

Dodaje da bi, radi pravne sigurnosti i izbegavanja nedoumica, rad tih sistema bilo svrsishodno urediti posebnim zakonima.

Za sada, međutim, ostaje činjenica da Srbija nema ni zvanični nacrt zakona, već Radnu verziju, dok se rok za njegovo usvajanje približava.

Vreme izbora! A neko mora da Vas izveštava nezavisno. Zato je u oktobru godišnja pretplata na digitalno izdanje „Vremena“ čak 2.500 dinara jeftinija. Izaberite odmah!