Softver za prepoznavanje lica: Kad te vidim na sokaku

Veselili ste se na svadbi, slikali se sa mladencima, okačili slike na Instragram i sad zbog toga treba da platite kaznu za hodanje po kolovozu i zaustavljanje saobraćaja na neprijavljenom građanskom protestu, koji se dogodio tri meseca kasnije. To je najkraći način da se objasni trenutna afera sa kompanijom Klirvju AI (Clearview AI), koja je razvila izuzetan softver za prepoznavanje lica uz pomoć veštačke inteligencije.

Kompanija Klirvju je za samo nekoliko godina narasla od startapa do najpoželjnijeg softvera za policiju, ali i svakog drugog kome je važno da prepozna nepoznate osobe u nekoj situaciji. Recimo, među pretplatnicima su bile robne kuće koje su sistem postavile da bi prepoznavale šanere ili džeparoše među mušterijama koje ulaze u radnju.

Presuda protiv Clearview AI u Velikoj Britaniji

IMG-3434

Sama kompanija hvali se na svom sajtu clearview.ai da poseduje bazu od dvadeset milijardi slika ljudi koje je pokupila sa društvenih mreža, dakle, radi se o slikama koje smo sami kačili i davali na uvid javnosti, ništa nam nije ukradeno. Ono što jeste problem i čime se sudovi sada bave je da li neko ima pravo da te javne informacije stavi u bazu bez našeg pristanka i da onda nekim algoritmom iz te baze kreira nove informacije i stiče profit.

U Velikoj Britaniji su prošle nedelje presudili da ne može, kaznili kompaniju sa 7,5 miliona funti i naložili joj da odmah prestane sa takvom praksom, to jest da pobriše sve slike britanskih državljana. Inače, Klirvju radi u 26 država u svetu, mada su SAD najveći korisnik.

Ubica otkriven za 20 minuta

Slučaj kojim su kupili američko tržište dogodio se u februaru 2019. u američkoj državi Indijani, kada su se dvojica potukla u parku i jedan je upucao drugog iz pištolja u stomak. Slučajno je prolaznik snimio mobilnim telefonom ceo događaj i Klirvju je ponudio policiji da pomognu u identifikovanju pucača. Trebalo im je dvadeset minuta, pronašli su ga na slikama sa društvenih mreža koje je neko okačio i naveo ime. Ovo je opisao novinar Kašmir Hil u “Njujork tajmsu” razotkrivajući poslove kompanije još pre godinu i po dana.

Politika kompanije je da ljudima iz službi bezbednosti na bilo kom nivou omoguće da testiraju njihov servis besplatno. Ko god bi to probao, oduševio bi se i navalio na svoje šefove da se pretplate. Tako nisu morali da se reklamiraju i uspevali su da javnosti prolaze ispod radara sve dok se nije proneo previše dobar glas o njihovim sposobnostima. Inače, osnivači kompanije su Hon Ton Det i Ričard Švarc, koji je bio u službi Rudija Đulijanija dok je ovaj bio gradonačelnik Njujorka, i proslavio se time što je uveo malo reda i bezbednosti u gradu.

Sporno i u SAD

U maju su u SAD kompaniji zabranili da usluge iznajmljuje bilo kome osim policiji i drugim zvaničnim bezbednosnim agencijama, a u nekim državama im je rad potpuno zabranjen. Posle ubistva u školi u Teksasu postavlja se, međutim, pitanje da li bi ovakav sistem prepoznao na vreme sumnjivog tinejdžera i upozorio na njegovo kretanje i mogućnost da je naoružan. Takođe, u cilju internacionalnog pi-ara, Hoan Ton je ukrajinskim vlastima dao da koriste Kliervju za prepoznavanje ruskih vojnika, uključujući identifikaciju poginulih, na osnovu fotografija skinutih sa servisa Vkontakte.

Kao i u slučaju Kembridž analitike, i ovde je duh pušten iz boce; samo saznanje da je ovakav sistem moguć i efikasan znači da je realnije da ubuduće bude još ubitačniji nego bolje kontrolisan. Za sada je najopasnije to što nije nepogrešiv, a policija mu veruje kao da jeste.

„Vreme“ broj 1639, 02. juni 2022.

Čitajte dnevne vesti, analize, komentare i intervjue na www.vreme.com