foto: tanjug
Centralizacija podataka u Data centru u Kragujevcu donosi niz prednosti, poput lakšeg upravljanja i tehničke bezbednosti, ali i nosi rizik od zloupotrebe na većem obimu podataka, kažu stručnjaci sa kojima je BIRN razgovarao
Centralizacija podataka u kragujevačkom Data centru, nabavka superkompjutera i učešće kineskih, evropskih i američkih partnera u razvoju veštačke inteligencije u Srbiji doveli su do sve veće zabrinutosti stručnjaka iz oblasti zaštite ličnih podataka zbog potencijalne zloupotrebe tih informacija u većem obimu nego do sada, pokazuje analiza BIRN-a.
Vlada Srbije objavila je u junu 2021. da pokreće platformu “Pametna Srbija” koja bi trebalo da “integriše višestruke tokove informacija iz različitih organa javne uprave na lokalnom i državnom nivou”, da služi “za sigurno prikupljanje i obradu podataka iz različitih javnih izvora”, a sve kako bi se “unapredile elektronske usluge za građane”. Istovremeno, podaci koji se prikupljaju u Data centru “predstavljaju ‘pamet’ države na osnovu koje mogu da se donose odluke i osmišljavaju strategije”.
Do danas nije poznato koje institucije su prebacile svoje podatke u Data centar u Kragujevcu, kao ni koji setovi podataka se tamo nalaze.
Stručnjaci Share fondacije, koja se duži niz godina bavi digitalnim pravima, upozorili su javnost na postojanje mogućnosti da se ukrštanjem različitih podataka koji su smešteni u ovim data centrima mogu formirati “digitalni identiteti” građana, ili algoritmi koji bi mogli da donose odluke o životu građana.
Sagovornici BIRN-a kažu da su centralizacija i kreiranje javnih usluga na bazi veštačke inteligencije procesi koji mogu dugo da traju, da je Srbija na samom početku, ali i da su etičke smernice koje bi pratile svaki nivo razvoja veštačke inteligencije od ključnog značaja.
Deo civilnog sektora zabrinut je zbog potencijalno novih vidova obrade podataka u okviru novog data centra. Sredinom decembra objavljen je Nacrt etičkih smernica za primenu veštačke inteligencije. Ana Toskić Cvetinović, direktorka nevladine organizacije “Partneri Srbija”, kaže da je “dobro što se uopšte pristupilo izradi jednog ovakvog dokumenta”. “Međutim, na veštačku inteligenciju se već mogu primenjivati odredbe Zakona o zaštiti podataka o ličnosti, što se ne čini, a nema garancije da će se i bilo koji drugi propis, a posebno smernice koje nisu obavezujuće, primenjivati”, kaže Ana Toskić Cvetinović.
Paralelno sa ovim, na sceni je pravi mali tehnološki rat između Istoka i Zapada, u kome se Srbija nalazi između dve vatre. Kancelarija za IT i eUpravu je još 2019. godine, pre donošenja Strategije za razvoj veštačke inteligencije i pre nego što je otvoren Državni data centar, sa kineskom kompanijom Huawei potpisala memorandum o uspostavljanju platforme za veštačku inteligenciju, da bi onda napravila zaokret ka zapadnim partnerima.
“Mi tu dođemo kao neki ‘pokusni kunići’, nismo igrači, mi smo korisnici, gde će te tehnologije da se probaju, na velikom uzorku”, kaže Vladan Joler, profesor na Univerzitetu u Novom Sadu i vodeći istraživač za pitanja veštačke inteligencije u Share laboratoriji.
SUPERKOMPJUTER ZA SUPER OBRADU PODATAKA
Nameru da centralizuje sve podatke iz javne uprave u kragujevački data centar Vlada Srbije je započela još juna 2021. godine, kroz platformu “Pametna Srbija”. Krajem te godine u Data centar stigao je prvi superkompjuter, koji bi trebalo da koristi podatke prikupljene iz javnih uprava radi kreiranja javnih usluga na bazi veštačke inteligencije. U to vreme počela je i obuka javnih službenika u oblasti veštačke inteligencije i novih tehnologija.
Prvi korisnik Nacionalne platforme za veštačku inteligenciju postao je Institut za veštačku inteligenciju. Prilikom potpisivanja sporazuma o korišćenju platforme, sada bivši direktor Kancelarije za IT i eUpravu Mihajlo Jovanović je izjavio da očekuje da će Institut znatno pomoći Kancelariji u primeni i korišćenju veštačke inteligencije u daljem razvoju usluga eUprave.
Dubravko Ćulibrk iz Instituta za veštačku inteligenciju kaže da je još rano za razvoj javnih usluga na bazi veštačke inteligencije. “Nije trenutno plan da se uvode javne usluge bazirane na veštačkoj inteligenciji, eUprava ima u svom planu gomilu stvari koje treba da razviju. Recimo ono što radimo i želimo da poboljšamo je pretraga na portalu ‘Službeni glasnik’, da primenimo savremenije tehnike obrade govora i da ponudimo eUpravi da isto uradimo i za njih”, kaže on.
KAKO SE SISTEM “HRANI” PODACIMA
Javnost još nije obaveštena koji podaci i koje institucije su prebacile svoje podatke u Državni data centar u Kragujevcu. Dubravko Ćulibrk, direktor Instituta za veštačku inteligenciju, kaže za BIRN da je Institut za molekularnu genetiku i genetičko inženjerstvo preneo svoju genetsku banku u Državni data centar, ali da nije upoznat koje javne institucije su učinile slično.
Na sajtu Kancelarije za IT i eUpravu navodi se da platforma, između ostalog, služi za kreiranje elektronskih usluga na bazi veštačke inteligencije jednom kada javni podaci budu centralizovani. “Cilj je integrisati sve višestruke tokove informacija iz različitih organa javne uprave na lokalnom i državnom nivou. Kada su javni podaci tu, platforma ‘Pametna Srbija’ biće u mogućnosti da pruža usluge zasnovane na veštačkoj inteligenciji.”
Stručnjaci sa kojima je BIRN razgovarao kažu da je prebacivanje podataka u novi data centar proces za koji su nekada potrebne godine. Korisnici platforme za veštačku inteligenciju su naučno-tehnološki parkovi, pojedini tehnički fakulteti, instituti i startap kompanije. Broj lokacija sa kojih se pristupa Nacionalnoj platformi za veštačku inteligenciju, prema akcionom planu, trebalo bi da bude 50 do kraja 2022. godine.
Sagovornici BIRN-a kažu da je za pouzdano funkcionisanje programa veštačke inteligencije potrebno prethodno “nahraniti” sistem velikim brojem podataka, pa ako je cilj proizvodnja javnih usluga na bazi veštačke inteligencije, ulazni podaci, na kojima se sistem “trenira”, moraju da budu podaci koje poseduju organi javne uprave.
Stručnjaci sa kojima je BIRN razgovarao su saglasni u tome da je diskriminaciju koju proizvode sistemi veštačke inteligencije nemoguće izbeći, te da je diskriminacija prisutna i u procesu odabira podataka kojima se sistem “hrani”. Ana Toskić Cvetinović, direktorka nevladine organizacije “Partneri Srbija”, kaže da su “transparentnost i učešće čoveka neophodni u bilo kakvom procesu odlučivanja koji podrazumeva primenu veštačke inteligencije, pre svega u javnom sektoru”.
Nedavno je Zakon o socijalnoj karti dospeo u žižu javnosti zbog algoritma, čiji je princip funkcionisanja javnosti nepoznat, a koji je iz sistema socijalne zaštite “istisnuo” preko 20 hiljada socijalno ugroženih. “Algoritam mora da bude transparentan, pogotovu kada pričamo o javnim institucijama, jer one su naš servis i imamo sva prava da razumemo pravila unutar tog servisa”, kaže Vladan Joler.
Iako algoritam koji se koristi u sklopu informacionog sistema Socijalna karta nije baziran na veštačkoj inteligenciji, javnost je ostala uskraćena za mnoga etička pitanja koja se odnose na praktičnu primenu veštačke inteligencije.
Novinari BIRN-a su prošlog meseca pisali o pametnom softveru Griffeye Analyze DI Pro koji je nabavila srpska policija, a koji ima funkcionalnosti na bazi veštačke inteligencije. Nove izmene zakona o policiji trebalo bi da legalizuju ovakav tip softvera, pa i skorašnji nacrt etičkih smernica u oblasti veštačke inteligencije nije propustio da navede obaveznu procenu uticaja na zaštitu podataka u slučaju “sistemskog nadzora nad javno dostupnim površinama u velikoj meri”.
Na zvaničnim sajtovima Vlade Srbije navode se pozitivni primeri primene veštačke inteligencije u javnom sektoru Srbije – “Oko sokolovo”, program za sprečavanje utaje poreza i program za predikciju potrošnje struje koji je Majkrosoftov razvojni centar u Beogradu razvio za EPS.
Kako se navodi na sajtu, Majkrosoftova platforma za vizualizaciju i predikciju potražnje električne energije je uštedela EPS-u 600 hiljada evra.
U julu ove godine Vlada Srbije je pustila u rad poseban objekat u okviru kragujevačkog data centra u koji bi podatke trebalo da smesti MUP i bezbednosne strukture, a premijerka Srbije, Ana Brnabić ga je nazvala “srcem bezbednosti”.
U vreme kada je ovaj objekat bio u izgradnji, decembra 2021. godine, predsednik Srbije Aleksandar Vučić je izjavio: “Gradimo ovde poseban objekat koji će biti baza za apsolutno sve podatke MUP-a i BIA, odakle ćemo najbolje i najtačnije vaditi podatke za svaku situaciju koja se pojavi.”
Prikupljanje ovako velikog broja podataka izazvalo je zabrinutost kod stručnog dela javnosti, jer masovno prikupljanje informacija na jednom mestu može dovesti do njihove zloupotrebe u većem obimu. Vladan Joler smatra da je zloupotreba moguća i kada su podaci decentralizovani, a “kada su na jednom mestu lakše je podatke umrežiti, čuvati i kontrolisati”.
Share fondacija je na sajtu objavila potencijalne opasnosti centralizacije podataka, i to na mogućnost formiranja “digitalnih identiteta” ili algoritama koji donose odluke o životu građana ukrštanjem različitih podataka.
Vladan Joler i dodaje da je veći problem od centralizacije podataka u stvari njihova automatizovana obrada. “Država nije imala kapacitet automatizovanog, a sada može. Nekada je nadzor bio selektivan. Na primer, pratimo stotinu sumnjivih lica, a sa veštačkom inteligencijom je obrnuto – skupljaju se svi podaci, to je drugi nivo igrice, masovni nadzor. Skupljaš sve podatke, često bez kapaciteta da sve to analiziraš i onda sistem detektuje anomalije, sistem određuje šta su sumnjiva ponašanja”, kaže Joler.
Idejno rešenje BIO4 kampusa na granici Kumodraža i Voždovca, koji bi trebalo da objedini različite grane bioindustrije i veštačku inteligenciju
foto: bio4.rs
Sa ciljem da objedini biotehnologiju i veštačku inteligenciju Vlada Srbije je pokrenula projekat pod nazivom BIO4 kampus, koji predstavlja plan izgradnje multidisciplinarnog naučnoistraživačkog kompleksa nadomak Agencije za lekove i medicinska sredstva, Instituta “Torlak”, Farmaceutskog fakulteta i Instituta za molekularnu genetiku i genetičko inženjerstvo, koji je od maja novi korisnik Nacionalne platforme za veštačku inteligenciju.
Institut za molekularnu genetiku otvorio je decembra 2021. godine Centar za sekvenciranje genoma i bioinformatiku u saradnji sa pekinškim BGI institutom, koji se našao na udaru američkih vlasti zbog spekulacija da prikuplja genetske podatke iz zemalja i analizira ih uz pomoć veštačke inteligencije, o čemu je pisao Radio Slobodna Evropa. Prema rečima doktorke Ivane Morić iz Instituta za molekularnu genetiku, kineski Institut “biće prisutan” na BIO4 kampusu koji je u planu izgradnje.
U razvoju platforme za veštačku inteligenciju Srbija se okrenula zapadnim, američkim kompanija poput Majkrosofta, Nividije, Orakla, IBM-a sa jedne strane, a kineskoj Huawei i arapskoj kompaniji G42, sa druge.
Novinari BIRN-a nisu dobili ugovore koje je Vlada potpisala sa ovim kompanijama, a koji bi otkrili na koji način one učestvuju u razvoju platforme za veštačku inteligenciju. Između ostalog, informacionim sistemom Kovid19 se upravljalo preko “Pametne Srbije”, koja je bazirana na Majkrosoftovoj tehnologiji.
Dubravko Ćulibrk iz Instituta se nada da će naša zemlja ulaganjem u veštačku inteligencije moći da bude nezavisnija. “Kada se rade neinvazivni testovi iz krvi, da bi se videlo da li je žena trudna, svi ti podaci su se slali u Švajcarsku, a mi sve to plaćamo. Voleo bih da su ti podaci ostali na serveru u Srbiji, da se istrenira model veštačke inteligencije, pa da neka naša firma napravi posao i prihod od toga, pa ako nešto pođe po zlu da znaš ko je odgovoran. Ipak, ne možemo u svemu da se merimo (sa velikim korporacijama), pa ako je benefit dovoljno veliki, moramo sa strane da uzmemo, to je skroz u redu.”
Vladan Joler, profesor na fakultetu u Novom Sadu i vođa Share laboratorije, veruje da se novi softveri veštačke inteligencije uvek testiraju nad onima koji se nalaze u pravnom vakumu. “U onoj šumi na granici Poljske i Belorusije, gde je gomila migranata, koje su to ludnice od tehnologije koje se testiraju. Uvek testiraš takve sisteme na prostorima koji su pravno neregulisani, i ja verujem da mi jesmo jedan takav prostor”, zaključio je Joler.
Ovaj tekst napravljen je uz finansijsku podršku Evropske unije. Izraženi stavovi isključiva su odgovornost autora i ne odražavaju nužno stavove donatora. Projekat “Povećanje učešća građana na polju Digitalne agende – ICEDA” sprovode Fondacija Metamorfosis (Severna Makedonija), Open data Kosovo (Kosovo), Akademija za eUpravu (Estonija), Partneri za demokratske promene Srbija (Srbija), NVO 35mm (Crna Gora) i Levizja Mjaft! (Albanija)
Represija se pojačava. Sada već imamo pritvaranja, zatvaranja, i toga će biti sve više. To pokazuje da je režim svestan da više nije u toliko komotnoj poziciji. Onaj deo opozicije koji je iskren mora da shvati da uobičajeni metodi borbe neće dati rezultat. I sada je pitanje: da li smo mi na to spremni ili nismo? Ako nismo, onda da se svi povučemo svojim kućama i da pustimo da ovaj vlada doživotno
Opozicionari su policajce pozivali da skinu šlemove i odlože “antiterorisitičku” aparaturu, ili da se bar vrate u zgradu, iznutra je zaštite i da ne prave bespotrebni cirkus i metež. Na trenutke je situacija bila na ivici ozbiljnijeg incidenta. Jedna fotografija je izazvala veliku pažnju javnosti: bakica iz lokalnog pokreta “Bravo” čuvala je pendrek i balistički štit jednog policajca koji je otišao do toaleta. Još jedan kuriozitet: neki advokati koji su krenuli u sud na ročišta zadržali su se ispred suda, u znak podrške poslanicima – donosili su im vodu iz obližnje trafike. I nama je prekardašilo, reći će jedan. Kako bilo, blokada je bila uspešna
U Novi Sad predsednik Srbije nije došao zbog četrnaest mrtvih (u međuvremenu je taj broj porastao na petnaest). Ali došao je jer su tokom protesta oštećene prostorije Srpske napredne stranke, pokazavši da su mu prozori, a ne ljudi, prioritet. A onda se slikao na sahrani dve devojčice i njihovog dede, žrtava pada nadstrešnice na Železničkoj stanici
U jeku borbe za očuvanje kakvog takvog kredibiliteta vladajuće partije, Aleksandar Vučić, član SNS-a i predsednik Srbije, uglavnom se bavi i svojim omiljenim poslom – političkim intrigama i smicalicama iza kulisa
Džaba vam upinjanje da dokažete da visoka korupcija postoji u Srbiji. Ona je, jednostavno, nezamisliva. A onda padne nadstrešnica sveže renovirane železničke stanice (na slici) i ubije 15 ljudi. I pukne mehur i iz njega počnu da kuljaju laži, krađa, kriminal i korupcija
Kako se, na prvi znak da se otpor može organizovati drukčije nego mirnim šetnjicama, sad najednom vlast i njeni telali dosetiše da „batina ima dva kraja“?
Ministar kulture Nikola Selaković mora da bira između zakona i interesa investitora koji hoće da ruše Generalštab, a koji očigledno zastupa predsednik Vlade Republike Srbije Miloš Vučević
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
MUP je u nabavci program “Analyze Di Pro” opisao kao “softver za sortiranje i analizu velikih količina slika i video-zapisa, sa fokusom na slučajeve koji sadrže materijal seksualne eksploatacije dece”. Međutim, iz specifikacija na zvaničnom sajtu kompanije jasno je da to nisu centralne, niti najnaprednije karakteristike programa. Ovo je softver za biometrijsku obradu podataka
