Ko to kaže, ko to laže

Možete to lako da pronađete na Jutjubu – reč je o takmičenju ko peva najsličnije pevačici Adel, na koje se i ona sama prijavila, doduše, malo zamaskirana. Sve je bilo normalno dok prava Adel nije zapevala i ostalim kandidatkinjama nije trebalo duže od dvadesetak sekundi da shvate šta je posredi. Bilo je među njima odličnih pevačica, glasa bliskog originalu, ali je razlika bila nesumnjiva.

Da je takmičenje održano danas i onlajn, odnosno da se nije pevalo uživo pred konkurencijom, možda bi i prava Adel izgubila od svog digitalnog klona. Kompanija OpenAI saopštila je da odlaže objavu svoje VoiceEngine aplikacije (prevod bi bio Glasovna mašina) zbog mogućih negativnih posledica koje bi ona mogla da ima na čovečanstvo.

VoiceEngine, kažu, u stanju je da iz samo 15 sekundi snimka nečijeg glasa napravi digitalni klon koji je potpuno veran originalu. Misli se na ono što nazivamo “boja” glasa, po kojoj razlikujemo jednu osobu od druge, kao što se vizuelno razlikujemo po crtama lica. Kompanija tvrdi, a može i da demonstrira, kvalitet te sintetizacije. Kada se dodaju druge karakteristike svojstvene nekom govorniku, možete mu “staviti u usta” bilo šta i to na bilo kom jeziku.

Manje uspešne, ali i dalje zadivljujuće, verzije ovih programa već su se raširile svetom. Vrlo su popularni programi koji u vrlo kratkom vremenu mogu nečiji glas da prevedu na strani jezik i postignu gotovo savršenu nadsinhronizaciju gde akter priča na kineskom, svahili ili armejskom iako originalno govori na engleskom i nijedan pomenuti jezik ne ume ni da prepozna. U budućnosti bi tako mogli da izgledaju ne samo filmovi već i redovne emisije, intervjui na primer. Umesto titla ili nasnimljenog prevoda gledalac bi birao jezik na kojem će slušati, a boja glasa, dinamika i sve ostale vrline i mane govornika verno bi se prenele i uklopile u gestikulaciju lica. Takve aplikacije već postoje, rade veoma dobro, uglavnom, tako da nas ovo saopštenje OpenAI može samo zabrinuti. Kako li tek to njihovo zvuči?

Opasnost je u tome što više nijedan telefonski poziv ne bi bio siguran. Ko god da vas pozove, ako priča kroz tu aplikaciju, može da se predstavi kao neko koga odlično poznajete i da vodi smislenu konverzaciju. Naravno da biste u dužem razgovoru shvatili da nešto nije u redu ako je to neko ko vam je zaista blizak. Ali ako se radi o službeniku banke, s kojim obično komunicirate telefonom, možda biste prevarantu otkrili neke podatke koje nikako ne biste smeli. Da poentiramo, već saznanje da takav servis postoji znači da se “zvuku” više ne može verovati. Svaki senzor koji reaguje na boju glasa ne može više da posluži za autentifikaciju jer je jasno da je samo pitanje vremena kada će neko da dostigne ovo što je OpenAI već proizveo. A moguće je i da već jeste, samo to krije upravo zbog manipulisanja na raznim nivoima.

Već se nameću i neki etički principi, poput vrlo aktuelnih da se kloniranje glasa ne sme koristiti u svrhu političkih kampanja pre svega za kreiranje lažnih izjava političara. Nešto od toga smo mogli da čujemo i u Srbiji, ali je bilo na nivou vica uprkos zadivljujućoj sličnosti sa glasom kojim se manipulisalo.

VoiceEngine bi trebalo da bude daleko bolji od toga i mogao bi da uništi celu rastuću industriju podkasta koji su na Zapadu pretežno u audio-formatu. I da potpuno promeni industriju zabave jer bi svako mogao da pravi pesme za “Adel” i objavljuje ih po internetu dok potpuno ne obesmisli postojanje originala.