Aplikacija za razmjenu poruka Telegram vratila se na Appleovu App Store nakon što ju je kompanija iz Cupertina privremeno uklonila na nekoliko sati. Razlog: otkrivanje materijala o seksualnom zlostavljanju djece u javnoj grupi, što je kršenje pravila trgovine. Mjera, koja je utjecala na milione korisnika koji su pokušali preuzeti aplikaciju, brzo je poništena kada je Telegram uklonio sadržaj i blokirao korisnika koji ga je objavio.
Incident, koji se dogodio u ranim jutarnjim satima utorka, ponovo je pokrenuo debatu o odgovornosti platformi za razmjenu poruka u moderiranju sadržaja. Pavel Durov, osnivač i izvršni direktor Telegrama, prekinuo je šutnju kako bi ponudio svoju verziju događaja, koja ukazuje na napad koji je orkestrirao iznuđivač koji je koristio vještačku inteligenciju za manipulisanje starom porukom. Kontroverza je tek počela.
Brzo povlačenje i trenutni oporavak
Apple je potvrdio da je tokom rutinskog pregleda pronađen ilegalni sadržaj na javnom Telegram kanalu. Kompanija je brzo reagovala i uklonila aplikaciju iz svoje App Store prodavnice, čime je spriječila nova preuzimanja na iPhone, iPad i Mac uređajima. Međutim, korisnici koji su već imali instaliranu aplikaciju nisu iskusili prekid usluge. Nekoliko sati kasnije, nakon što je Telegram intervenisao, aplikacija je ponovo postala dostupna. Glasnogovornik Applea objasnio je da je do vraćanja usluge došlo nakon što je programer uklonio sadržaj i suspendovao odgovorni račun.
Brzina uklanjanja je jedna od tačaka koje je Durov najviše kritikovao, smatrajući da je Apple trebao ranije kontaktirati platformu . Na svom Xbox nalogu, rukovodilac je napisao: "Siguran sam da će se ovaj stav podjednako primjenjivati na sve ostale aplikacije u prodavnici u budućnosti, zar ne, Apple?" Kritika koja odražava napetost između dvije kompanije.
Durovljeva verzija: iznuđivač s umjetnom inteligencijom
Prema Durovu, zabrana nije bila uzrokovana greškom moderatora, već namjernim napadom . Iznuđivač je koristio automatizirani račun za uređivanje stare poruke u javnoj grupi, ubacujući ilegalni sadržaj modificiran umjetnom inteligencijom. Budući da se radilo o retroaktivnoj izmjeni, materijal je ostao skriven od trenutnih članova chata, koji ga nisu mogli vidjeti niti prijaviti. Napadač, koji je tražio otkupninu od administratora grupe, prijavio je sadržaj direktno Appleu kako bi pokrenuo uklanjanje aplikacije.
Durov je objasnio da ovi iznuđivači djeluju koordinirano i nastoje naštetiti legitimnim zajednicama čiji administratori odbijaju platiti. U svojoj izjavi je tvrdio da "ilegalni pornografski sadržaj u javnim Telegram grupama nije sistemski problem " i da je moderiranje platforme "efikasno". U stvari, naglasio je da su napadači morali pribjeći tehničkom triku kako bi postigli svoj cilj, demonstrirajući efikasnost filtera.
Kritika Applea i sistemski rizik
Osnivač Telegrama kritikovao je Appleovu odluku da ukloni aplikaciju bez prethodne najave. Po njegovom mišljenju, ova akcija stvara potencijalni sistemski rizik za svaku aplikaciju koja hostuje sadržaj koji generiraju korisnici. Ako se platforma s preko milijardu korisnika može ukloniti iz App Storea bez prethodne komunikacije, bilo koja druga bi mogla doživjeti istu sudbinu. Durov je upozorio da su "iznuđivači pronašli način da manipulišu Appleom da pretjerano reaguje".
Izvršna vlast je također željela poslati poruku industriji: „Telegram ima opsežno iskustvo u identificiranju trikova koje koriste koordinirane grupe zviždača i zaštiti legitimnih zajednica. Druge platforme možda nisu toliko pripremljene.“ Ovo upozorenje naglašava potrebu za jačanjem sistema moderiranja na svim platformama društvenih medija.
Umjerenost i odgovornost: vječna debata
Incident je još jednom pokrenuo pitanje ko bi trebao snositi krajnju odgovornost za sadržaj koji cirkuliše na platformi za razmjenu poruka. Telegram tvrdi da se ne može tretirati kao izdavač svega što njegovi korisnici objavljuju, dok Apple tvrdi da njegova trgovina mora garantirati sigurno okruženje i pridržavati se vrlo specifičnih standarda. Napetost između ova dva stava je neizbježna.
Uprkos kritikama, realnost je da Telegram mora nastaviti poboljšavati svoje alate za moderiranje. Kompanija održava politiku nulte tolerancije prema materijalima koji sadrže seksualno zlostavljanje djece i sarađuje s vlastima kada je to potrebno. Međutim, incident pokazuje da čak i najrobustnije platforme mogu biti ranjive na vanjske napade. Pitanje je da li bi Apple trebao biti fleksibilniji u svojim procesima ili bi aplikacije trebale poduzeti dodatne mjere opreza.
Konačno, privremeno uklanjanje Telegrama iz App Storea poslužilo je kao poziv na buđenje cijeloj industriji . Kombinacija iznuđivača pokretanog umjetnom inteligencijom i brzog odgovora Applea istakla je slabosti u moderiranju sadržaja i potrebu za fluidnijim dijalogom između platformi i trgovina aplikacija. U međuvremenu, korisnici Telegrama mogu odahnuti: aplikacija se vratila, ali debata o slobodi izražavanja i sigurnosti na internetu ostaje relevantna kao i uvijek.