Автоматическая модерация не сработала: Instagram* рекламировал Telegram-группы с детским насилием

Instagram* обвинили в рекламе Telegram-каналов с запрещёнными материалами.

Журналисты BBC выяснили, что Instagram* показывал в Индии платные объявления, которые вели пользователей в Telegram-каналы с материалами о сексуализированном насилии над детьми. В рекламных публикациях использовались запросы вроде «rape video» и «child video», а ссылки направляли в закрытые каналы, где запрещённые материалы предлагали приобрести примерно за один доллар. Реклама спокойно проходила модерацию Instagram* и приносила платформе выручку.

После публикации расследования Министерство электроники и информационных технологий Индии потребовало от Meta* немедленно отключить всю рекламу и контент, связанный с распространением CSAM, а также запросило у компании подробное объяснение. В Meta* заявили, что удалили несколько обнаруженных объявлений и заблокировали связанные с ними аккаунты за нарушение правил. Представитель компании признал, что ни одна система проверки не способна выявить все нарушения, и отметил, что после публикации рекламные материалы продолжают автоматически анализироваться, а пользователи могут отправлять жалобы на подозрительные объявления, сообщает Futurism.

Расследование вышло на фоне планов Meta* сократить зависимость от сторонних модераторов и активнее применять ИИ для проверки контента, однако новый случай показывает, что автоматизированная модерация может пропускать особенно опасные публикации. Telegram сообщил BBC, что с начала 2026 года удалил более 274 тысяч групп и каналов, связанных с распространением CSAM-материалов. Бывший вице-президент Facebook* Брайан Боланд связал проблему с устройством рекламных алгоритмов Meta*: по его оценке, со временем баланс между выручкой и безопасностью пользователей сместился в сторону прибыли.

Instagram*, Facebook* и Meta* признаны экстремистскими организациями и запрещены на территории РФ.