Сегодня ночью Apple неожиданно удалила Telegram из App Store, но затем через полтора часа вернула приложение обратно.
Тогда Apple заявила, что это произошло из-за распространения материалов, связанных с сексуальной эксплуатацией детей, что нарушило правила магазина. Теперь официальный комментарий дал и Павел Дуров*:
🍎 Вчера ночью Apple ненадолго удалила Telegram из App Store из-за того, что один пользователь разместил незаконный порнографический контент в публичном групповом чате.
⬅️ Telegram был восстановлен в течение нескольких часов. Но я хочу объяснить, что произошло, — чтобы предупредить других разработчиков приложений и помочь защитить онлайн-сообщества от подобных атак.
🧹 Поскольку Telegram быстро удаляет незаконный контент из публичных групп, используя сообщения пользователей, фильтры ИИ, хеши контента и другие инструменты модерации, злоумышленнику пришлось прибегнуть к техническому трюку. Он внедрил измененный ИИ незаконный контент, отредактировав старое сообщение в активном групповом чате. В результате контент был фактически скрыт от участников группы, что помешало им увидеть его и оперативно сообщить о нем.
💰 Злоумышленник был вымогателем: тем, кто требует выкуп у владельцев групп в обмен на то, чтобы не атаковать их сообщества. Эти вымогатели используют автоматизированные учетные записи для размещения незаконного контента в публичных группах, а затем сообщают об этом напрямую в Apple, пытаясь добиться удаления законных сообществ, владельцы которых отказались платить им.
🤝 С практической точки зрения, незаконный порнографический контент в публичных группах Telegram не является системной проблемой. Наша модерация эффективна. Тот факт, что злоумышленникам приходится прибегать к устаревшему, фактически невидимому контенту и другим техническим уловкам, доказывает это.
⚠️ Однако здесь есть два важных урока для разработчиков приложений и онлайн-сообществ:
- Вымогатели нашли способ манипулировать Apple, заставляя её реагировать чрезмерно. Apple удалила Telegram из App Store, не связавшись с нами. Это создает потенциальный системный риск для каждого мобильного приложения, содержащего пользовательский контент. Если приложение, используемое более чем миллиардом человек, может быть удалено из App Store без предварительного предупреждения, то это может произойти с любым приложением.
- Тактика, используемая вымогателями, занимающимися удалением контента, развивается, подвергая риску сообщества на разных социальных платформах. Telegram обладает обширным опытом выявления уловок, используемых скоординированными группами по подаче жалоб, и защиты легитимных сообществ (даже если это сопряжено с риском временного удаления нашего собственного приложения из App Store). Другие платформы могут быть не столь подготовлены.
Будьте бдительны! ☝️
1 комментарий