Kako algoritam TikToka uči dečake da mrze žene

Trinaest minuta bilo je dovoljno da TikTok profil sedamnaestogodišnjeg dečaka, koji je napravila novinarka Sidnej Morning Heralda Amber Šulc, počne da dobija sadržaje koji muškarce i žene predstavljaju kao suprotstavljene strane.

Novinarka Amber Šulc napravila je lažni profil sedamnaestogodišnjeg Džejdena Majkla kako bi ispitala koliko brzo algoritmi društvenih mreža mogu mladog korisnika da uvedu u vrtlog sadržaja koji ga postepeno vodi ka takozvanoj manosferi.

Za eksperiment je korišćen fabrički resetovan telefon i američki eSIM, za čije korišćenje nije bila potrebna identifikacija. Džejden Majkl je tako postao novi korisnik društvenih mreža, samo što iza njega nije stajao sedamnaestogodišnjak, već novinarka koja je beležila ono što mu algoritam nudi.

Prvih pola sata profil je bio pasivan. Šulc je skrolovala bez posebnog usmeravanja sadržaja. A onda su počele da se pojavljuju poruke o ratu polova.

Od „gender wara“ do nasilnog sadržaja

Posle 13 minuta profil je već bio izložen sadržaju koji ga je uvodio u priču o sukobu muškaraca i žena. Nakon 18 minuta pojavio se sadržaj sa porukom da feminizam uništava svet. Pet minuta kasnije, Šulc je zabeležila ono što je opisala kao nasilni i mizogini sadržaj.

U narednih sat vremena slika je postajala sve određenija. Žene su u preporučenim sadržajima predstavljane kroz tradicionalnu ulogu da treba da budu lepe, da stave karmin, da se smeše i da prihvate muškarca kao šefa.

To je, prema Šulc, putanja kojom manosfera može da funkcioniše. Od sadržaja o razlikama između muškaraca i žena, preko sukoba polova i kritike feminizma, do poruka kojima se ženama pripisuje podređen položaj, a muškarcima pravo da ih kontrolišu.

U najtežim oblicima, takav sadržaj može biti deo šireg lanca koji vodi ka normalizaciji nasilja i seksualnog uznemiravanja.

@sydneymorningherald Thirteen minutes of scrolling on social media is all it took for my fake profile of 17-year-old Jaden Michael to be exposed to the manosphere content pipeline. Using a factory-reset phone set up with a US-based e-SIM (which doesn’t require ID), Amber Schultz set up an account for 17-year-old Jaden Michael. For the first 30 minutes, I was a passive user. After that, I began linking videos and following users who promoted manosphere views. #socialmedia #manosphere ♬ original sound – Sydney Morning Herald

Eksperiment ima i jednu važnu metodološku granicu. Nakon prvih 30 minuta pasivnog korišćenja, Šulc je počela da lajkuje video-snimke i prati naloge povezane sa sadržajem koji je tražila. Od tog trenutka algoritam više nije imao posla sa potpuno pasivnim korisnikom. Dobijao je konkretne signale, šta mu se dopada, šta prati i na kom sadržaju se zadržava.

Šta je zapravo manosfera

Manosfera je naziv za internet zajednice, forume, naloge i sadržaje koji se bave muškim identitetom, odnosima muškaraca i žena, feminizmom i rodnim ulogama. Prisutne su i ekstremne zajednice koje promovišu mizoginiju, podređivanje žena i opravdavanje nasilja.

U najekstremnijim oblicima žene se predstavljaju kao grupa koju muškarci treba da kontrolišu, a nasilje i seksualno uznemiravanje mogu se predstavljati kao prihvatljivi načini uspostavljanja odnosa moći. Zbog toga se manosfera sve češće pominje u raspravama o bezbednosti dece na internetu zbog sadržaja koji mladi traže, a i zbog onoga što im algoritmi nude.

Kako TikTok odlučuje šta ćemo sledeće gledati

Za razliku od klasičnih medija, u kojima urednik odlučuje koji će tekst ili prilog dospeti do publike, društvene mreže velikim delom koriste sisteme preporuka koji procenjuju šta bi pojedinačnog korisnika moglo da zadrži na platformi.

Svaki potez može postati signal. Video koji je korisnik pogledao do kraja, onaj na kojem se zadržao nekoliko sekundi duže, sadržaj koji je lajkovao, nalog koji je zapratio ili tema koju je više puta otvorio. Na osnovu takvog ponašanja sistem pokušava da predvidi šta bi korisnik želeo da vidi sledeće. Kod TikToka je to posebno važno jer je početna stranica „For You“ upravo zasnovana na personalizovanim preporukama.

Pravo novinarstvo košta, a mi nećemo da nas kupe tajkuni i korporacije. Podržite nas jednokratnom ili mesečnom donacijom. Vreme za to je sada!