Meta i TikTok povećali angažman korisnika uz rast rizika za bezbjednost na mreži

Tehnološke kompanije dozvolile više štetnog sadržaja zbog konkurencije, dok ulaganja u zaštitu djece i mjere protiv nasilja zaostaju

Tehnološke kompanije Meta (vlasnik Facebooka i Instagrama) i TikTok suočavaju se sa ozbiljnim optužbama uzbunjivača da su u posljednje vrijeme preuzimale veći rizik po bezbjednost korisnika, posebno maloljetnika, kako bi povećale angažman i konkurisale na tržištu društvenih mreža. Prema svjedočenju inženjera Mete, menadžment je donio odluku da se dozvoli više ‘graničnog’ štetnog sadržaja, uključujući mizoginiju i teorije zavjere, s obrazloženjem da je cilj zaustaviti pad cijena akcija kompanije.

Zaposleni u TikToku je otkrio interno upravljanje žalbama korisnika, navodeći da se prioritet daje slučajevima koji uključuju političare kako bi se održale dobre veze i izbjegle potencijalne regulatorne zabrane. Ove odluke dolaze u vrijeme kada TikTok, zahvaljujući svom algoritmu za preporuke kratkih video snimaka, bilježi snažan angažman korisnika i mijenja dinamiku na globalnom tržištu društvenih mreža, primoravajući konkurente da prilagode svoje strategije.

Prema internim istraživanjima, Instagramova funkcija Rils, pokrenuta 2020. godine kao odgovor na TikTok, karakteriše se većom učestalošću govora mržnje i nasilja u komentarima u odnosu na ostatak Instagrama. Meta je investirala u razvoj Rilsa kroz angažman 700 zaposlenih, dok su timovi za bezbjednost suočeni sa odbijanjem zahtjeva za zapošljavanjem dodatnih stručnjaka za zaštitu djece. Kompanija Meta je odbacila tvrdnje da svjesno pojačava štetan sadržaj radi finansijske dobiti, ističući da su njihove politike zaštite korisnika stroge i da su posljednjih godina značajno ulagali u bezbjednost i sigurnost.

TikTok je u zvaničnom odgovoru ocijenio navode uzbunjivača kao ‘izmišljene tvrdnje’ i naveo da kompanija investira u tehnologiju koja sprječava prikazivanje štetnog sadržaja. TikTok navodi da nalozi za tinejdžere imaju više od 50 unaprijed podešenih bezbjednosnih funkcija, kao i strogu politiku preporuka sadržaja.

Uzbunjivači ističu da je objavljivanje materijala vezanog za terorizam, seksualno i fizičko nasilje, zlostavljanje i trgovinu ljudima u porastu, te da postoji značajna razlika između javno deklarisanih mjera zaštite i realnog stanja na platformama. Dokumenti ukazuju da objave koje izazivaju negativne reakcije i angažman, uključujući one koje dotiču osjetljive moralne teme, imaju veću vjerovatnoću širenja na ovim mrežama.

Kompanije iz sektora društvenih mreža nastavljaju ulagati u razvoj novih funkcija i povećanje angažmana korisnika, ali se istovremeno suočavaju sa sve većim pritiskom regulatora i javnosti da povećaju ulaganja u zaštitu djece i sprječavanje širenja štetnog sadržaja. Očekuje se da će regulatorni okvir u Evropi i SAD-u nastaviti da se pooštrava u narednom periodu, s ciljem jačanja zaštite korisnika i transparentnosti algoritama.