ŠOK Istraživanje koje je Wall Street Journal proveo zajedno sa istraživačima Univerziteta Stanforda i Massachusetts Amherst, otkrilo je neke uznemirujuće činjenice. Algoritmi Instagrama omogućili su masivnoj mreži pedofila da traže nedozvoljeni seksualni sadržaj i aktivnosti maloljetnika.
Prema članku koji je objavio Wall Street Journal, kompanija Meta i jedna od najpopularnijih društvenih mreža omogućili su hashtag-ove koji su povezani s zlostavljanjem dece. Tu spadaju termini poput #pedowhore, #preteensex, #pedobait i #mnsfw.
Istraživači tvrde da su heštegovi povezivali posjetitelje sa nalozima koji su navodno nudili prodaju pedofilskog materijala kroz „menije“ sadržaja. Tu su se mogli naći video snimci mladih koji se ranjavaju ili upuštaju u bestijalnosti. Neki od naloga su čak dozvoljavali klijentima da „izvrše određene radnje“ ili organiziraju „sastanke“.
ŠOK Algoritmi povezuju ljude
Kao što su istraživači objasnili, nije Instagram taj koji na kome ove užasne aktivnosti mogu naći, već algoritmi koji ih podstiču.
„Pedofili već dugo koriste internet, ali za razliku od foruma i servisa za prijenos datoteka koji služe ljudima koji su zainteresirani za nedozvoljeni sadržaj, Instagram nije samo domaćin ovih aktivnosti. Njegovi algoritmi ih promoviraju. Instagram povezuje pedofile i usmjerava ih do prodavača sadržaja preko sistema preporuka koji su izvrsni u povezivanju onih koji djele interese“, piše Wall Street Journal.
ŠOK Reakcija kompanije
Portparol Mete je naveo da kompanija stalno traži načine da se odbrani od ovakvog nedozvoljenog sadržaja. Štoviše, kompanija je uspostavila internu radnu grupu koja će ispitati tvrdnje i što prije se pozabaviti njima.
Meta je priznala da su povremeno prijavljivani slučajevi zlostavljanja dece, ali nije poduzela ništa da te prijave riješi. Kompanija je tvrdila da ih je u procesu obrade spriječila softverska greška. Prema riječima Meta, taj problem je sada riješen. Kompanija je revidirala smijernice za recenzente sadržaja kako bi se olakšalo pronalaženje i uklanjanje predatorskih naloga.
Izvor: 98FM
Prema navodima kompanije, Metini timovi za provođenje politike „ugasili su 27 nasilnih mreža“ između 2020. i 2022. U januaru ove godine uklonjeno je preko 490.000 naloga zbog kršenja pravila o sigurnosti djece. U četvrtom kvartalu 2022, Metina tehnologija je uklonila preko 34 miliona sadržaja koji sadrže seksualnu eksploataciju djece sa Fejsbuka i Instagrama. Preko 98% ovog sadržaja je otkriveno prije nego što su ga korisnici prijavili.
ŠOK Tehničke i pravne prepreke
Wall Street Journal navodi da tehnički i regulatorni izazovi otežavaju bilo kome izvan Mete da tačno odredi stvaran broj pedofila na Instagramu. U članku se navodi da je istraživački tim Stanfordske internet opservatorije otkrio 405 prodavača, kako je tim nazvao, „samogeneriranog“ materijala koji sadrži seks sa djecom. To se odnosi na naloge kojima su navodno vodili sami maloljetnici.
Prodavači su otkriveni upotrebom heštegova povezanih sa seksom maloljetnika. Članak Wall Street Journal-a je također uključivao podatke iz Maltego, programa za mapiranje mreže, koji je otkrio da 112 od tih profila ima ukupno 22.000 jedinstvenih pratilaca.
ŠOK Užasna otkrića
Prema Wall Street Journal-u, Instagram nalozi koji oglašavaju prodaju ilegalnog pornografskog materijala „uglavnom ga ne objavljuju otvoreno“ i često se povezuju sa „sajtovima za trgovinu sadržajem van platforme“. Istraživači su otkrili da Instagram dozvoljava korisnicima da pretražuju „eksplicitne heštegove kao što su #pedovhore i #preteensex” koji su ih povezivali sa nalozima koji koriste fraze za oglašavanje prodaje materijala za seks sa djecom.
Izvor: SpunOut
Kada su istraživači koristili probne naloge da bi pregledali jedan od ovakvih naloga, „bili su zgroženi preporukama Instagram algoritma navodnih prodavaca i kupaca materijala koji sadrži dečju pornografiju, zajedno sa nalozima koji vode do sajtova za trgovinu sadržajem van platforme. Bilo je potrebno samo nekoliko ovih prijedloga da se testni nalog u potpunosti popuni sadržajem koji seksualizira djecu.
Druge društvene mreže
Što se tiče drugih društvenih mreža, čini se da Snapchat i TikTok ne podržavaju pedofile koji traže sadržaj zlostavljanja djece kao što to čini Instagram. S druge strane, tim Stanfordske internet opservatorije pronašao je 128 naloga na Twitteru koji reklamiraju sadržaj u kome ima seksualnog zlostavljanja dece.
Prema istraživačima, Twitter nije promovirao ove naloge toliko koliko Instagram, plus, uklonio ih je mnogo brže.
Kako će ovo otkriće utjecati na Instagram i njegovu matičnu kompaniju Meta, pokazati će vrijeme. Ono što je sigurno jeste da je ovaj izveštaj objavljen u najgorem mogućem trenutku za Metu. Naime, kompanija se zajedno sa drugim društvenim mrežama suočava sa istragom zbog svojih napora da cenzuriraju i zaustave širenje uvrijedljivih sadržaja na svojim platformama.
U travnju ove godine FBI i Interpol su bili među organizacijama za provođenje zakona koje su izrazile zabrinutost zbog Metinih planova da poveća end-to-end enkripciju na svojim platformama. Ovakav postupak može „staviti povez” kompaniji i sprečiti je da identifikuje opasan sadržaj koji se odnosi na seksualno zlostavljanje dece.
