В ночь на 4 августа Apple на несколько часов удалила Telegram из App Store. Основатель мессенджера Павел Дуров (внесён в перечень террористов и экстремистов Росфинмониторинга) объяснил, в чём причина.
Telegram вернулся в магазин приложений в течение нескольких часов. Дуров* утверждает, что произошедшее было не обычным нарушением правил платформы, а целенаправленной атакой вымогателя, пытавшегося добиться блокировки сообщества:
«Прошлой ночью Apple ненадолго удалила Telegram из App Store из-за того, что один пользователь разместил незаконный порнографический контент в публичном групповом чате. Telegram вернули в магазин уже через несколько часов».
По словам Дурова*, Telegram удаляет незаконные материалы из публичных групп с помощью жалоб пользователей, ИИ-фильтров, цифровых отпечатков файлов и других инструментов модерации.
Чтобы контент не заметили участники группы, злоумышленник отредактировал старое сообщение в активном чате и добавил в него изменённый с помощью ИИ незаконный материал.
Из-за этого публикация оказалась фактически скрыта от большинства пользователей, которые не могли своевременно увидеть её и отправить жалобу:
«Злоумышленнику пришлось прибегнуть к технической уловке. Он добавил изменённый с помощью ИИ незаконный контент, отредактировав старое сообщение в активном групповом чате. В результате материал оказался фактически скрыт от участников группы, из-за чего они не могли его увидеть и оперативно пожаловаться».
Дуров* назвал автора атаки «вымогателем, специализирующимся на блокировках». Такие злоумышленники требуют деньги у владельцев публичных групп, обещая не размещать в их сообществах запрещённые материалы.
Если администраторы отказываются платить, вымогатели якобы используют автоматизированные аккаунты для публикации незаконного контента, после чего самостоятельно отправляют жалобу Apple. Целью становится удаление сообщества или всего приложения из App Store:
«Эти вымогатели используют автоматизированные аккаунты, чтобы размещать незаконный контент в публичных группах, а затем напрямую жаловаться на него Apple. Так они пытаются добиться удаления добросовестных сообществ, владельцы которых отказались им платить».
Основатель Telegram* считает, что незаконный порнографический контент не является системной проблемой публичных групп мессенджера. По его мнению, необходимость использовать старые, почти невидимые сообщения и другие технические уловки подтверждает эффективность модерации платформы.
При этом Дуров* выделил две более масштабные проблемы. Первая связана с действиями Apple — компания удалила Telegram из App Store до того, как связалась с представителями мессенджера. Вторая проблема заключается в развитии методов вымогателей. Они могут применять подобные схемы не только в Telegram, но и в сообществах на других социальных платформах.
По словам Дурова*, Telegram уже сталкивался с организованными группами, которые используют массовые жалобы и запрещённый контент для атак на публичные сообщества. Другие сервисы, как считает предприниматель, могут быть хуже подготовлены к таким действиям:
«Вымогатели нашли способ манипулировать Apple и провоцировать её на чрезмерную реакцию. Apple удалила Telegram из App Store ещё до того, как связалась с нами. Это создаёт потенциальный системный риск для любого мобильного приложения, в котором публикуется пользовательский контент. Если приложение, которым пользуются более миллиарда человек, могут удалить из App Store без предварительного предупреждения, значит, это может произойти с любым приложением.
Тактика вымогателей, добивающихся удаления приложений и сообществ, развивается, подвергая риску сообщества на разных социальных платформах. Telegram обладает большим опытом в выявлении уловок, которыми пользуются организованные группы, массово отправляющие жалобы, и в защите добросовестных сообществ — даже когда из-за этого наше собственное приложение рискует быть временно удалено из App Store. Другие платформы могут оказаться не столь хорошо подготовлены.
Будьте бдительны!», — объяснил Дуров*.
Apple публично не объясняла причины временного удаления Telegram из App Store.
* внесён в перечень террористов и экстремистов Росфинмониторинга
Комментарии