Срочное реагирование: в России начнут оперативно блокировать запрещенный контент

Новый законопроект

Как рассказали в Генпрокуратуре, сегодня в России ведется кропотливая работа, направленная на совершенствование механизма противодействия распространению в интернете запрещенного контента.

«Совместными усилиями разработан законопроект, регламентирующий оперативное решение по блокированию вредоносных сайтов», — сообщили в надзорном ведомстве.

Отмечается, что мониторинг контента в интернете, соцсетях и мессенджерах проводится постоянно. В 2023 году Генпрокуратура направила в Роскомнадзор свыше 2 тыс. требований о внесудебном ограничении доступа к противоправной информации. Годом ранее (в 2022-м) цифра была меньше — 1,7 тыс. требований.

Помимо этого, в надзорном ведомстве добавили, что его сотрудники выявляют сайты, на которых продаются поддельные документы или содержащие информацию с нарушением законов — обычно на них предлагается вложиться в ценные бумаги или получить кредит в обход законодательства.

Только за прошлый год было выявлено более 41 тыс. таких сайтов или страниц в социальных сетях. «Известия» направили запросы в Генпрокуратуру, Минцифры и Роскомнадзор для выяснения подробностей.

Как блокируется контент

Как рассказали «Известиям» в Минцифры, система для блокировки контента, названная в Генпрокуратуре, — это «Антифишинг». Ее запустили еще в 2022 году. Сегодня она позволяет быстро находить противоправный контент в интернете, в том числе мошеннические ресурсы, которые выдаются за официальные, — блокировка занимает до нескольких часов.

В Роскомнадзоре отметили, что подготовленный законопроект будет направлен на дальнейшее совершенствование ограничения доступа к фишинговым ресурсам в Сети.

— Блокировка доступа к ресурсам происходит на основе автоматического анализа текстовой информации. Роботы мониторят ведущие поисковые системы и анализируют текстовое содержимое сайтов на наличие запрещенных тем. После обнаружения подобных ресурсов информация о предполагаемой блокировке размещается на специальном портале, и если от его владельца не поступает обоснованного протеста, то данные передаются операторам связи, которые «банят» ресурсы по IP- и URL-адресам, — объясняет эксперт программных продуктов компании «Код безопасности» Максим Александров.

Сама система поиска, по его словам, может использовать искусственный интеллект (ИИ), который обучается в том числе на образцах фото и видео, содержащих запрещенный контент. Также поиск может осуществляться путем перевода содержимого фото и видео в текст, как бы создавая пересказ контента.

— Эти способы уже имеют аналогичные решения в области защиты авторских прав, например, многие соцсети проверяют на уникальность загружаемые пользователями видео и фото, — отмечает Александров.

Цифровое зрение

В прошлом году для автоматического поиска запрещенного контента запустили еще одну систему автоматического поиска противоправного контента — «Окулус». Как поясняли в Роскомнадзоре, она может также выявлять призывы к массовым незаконным мероприятиям, суициду, наркорекламе, пропаганде ЛГБТ и проч.

«Система распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. До разработки «Окулуса» специалисты ФГУП ГРЧЦ анализировали изображения и видео вручную. В среднем операторы обрабатывали 106 изображений и 101 видео в день», — рассказал журналистам представитель Главного радиочастотного центра (ГРЧЦ) РКН.

Проект «Окулус», использующий технологию компьютерного зрения, способен проверять более 200 тыс. картинок в сутки (обработка каждого занимает около трех секунд). При этом, отмечает в беседе с «Известиями» эксперт по сетевым угрозам компании «Код безопасности» Константин Шуленин, система постоянно сталкивается с рядом сложностей, например разнообразием контента и постоянно меняющимися способами его сокрытия. Зачастую распространители используют несколько доменов для доступа к порталу, поэтому даже при блокировке одного из них сайт остается доступен.

— Помимо этого, пользователи сами применяют методы обхода блокировок: VPN-подключения и активация прокси. Однако в борьбе с этим помогут как раз ИИ-технологии, которые будут регулярно обучаться и оперативно выявлять новые способы обхода, а также комплексная работа ведомств — например, можно вспомнить кампанию по блокировке нарушающих законодательство VPN-сервисов, — отмечает эксперт.

Зарубежный опыт

Между тем опыт автоматической блокировки запрещенного контента в Сети есть и у других стран. Обычно они применяют фильтрацию контента на уровне интернет-провайдеров, а также осуществляют блокировку через централизованные системы, как, например, Great Firewall of China — система фильтрации интернета в КНР.

— Лучшие практики противодействия распространению противоправного контента включают в себя координацию между государственными органами и интернет-провайдерами, разработку критериев для определения противоправного контента, обучение и повышение квалификации сотрудников, ответственных за блокировку, а также регулярное обновление технологических решений, — говорит эксперт по сетевым угрозам Константин Шуленин.

По словам руководителя направления киберразведки Innostage CyberART Александра Чернова, для успешной работы система блокировки должна сочетать в себе несколько основных вещей, в том числе единый реестр ресурсов с системой аналитики контента на наличие противоправного контента и программу с использованием DPI и контентной фильтрации. Так или иначе, в России система «Антифишинг» уже показывает серьезные результаты: в том числе благодаря ей за девять месяцев 2023 года было выявлено 144 тыс. фишинговых сайтов, тогда как за весь 2022 год — 80 тыс. За всё время работы системы было заблокировано более 90 тыс. таких ресурсов.

Мария Фролова