Искусственный разум «ВКонтакте» научился распознавать запрещенный контент

24.03.2017 |

Александр Абрамов.

Соцсеть «Вконтакте» использует алгоритм, который определяет незаконный контент и не допускает его в поисковую выдачу или в новостные ленты. В числе запретных тем – суицид, порнография, спам, мошенничество.

«ВКонтакте» начинает переводить противостояние нарушающим законы материалам на автоматическую основу. Запущена программа на основе нейросетей, умеющая выявлять запретные материалы, классифицировать и принимать меры по недобущению появления их в соцсети.

В частности, программа умеет «читать» изображения, узнавая на них людей, животных, даже символы и знаки, применяемые распространителями опасных материалов. Алгоритм понимает даже тексты на снимках, анализирует полученную информацию и присваивает материалам определенный рейтинг. Если оценка контента входит в зону «опасно», он не появится ни в поисковой выдаче, ни в ленте новостей, но пойдет к модератору для принятия решения. Если опасность определена, как умеренная, материал в новостную ленту попадет, но будет иметь низкий приоритет.

В «сфере интересов» нейросети – мошенничество, спам, суицидальные статьи и снимки, детское порно, запрещенные законом услуги и другие материалы, создающие проблемы для соцсети. Наиболее жестко система противостоит суицидальным ресурсам. Их материалы безжалостно удаляются, а сайты автоматически блокируются.

Еще одна задача алгоритма – формирование интеллектуальной новостной ленты. Он ранжирует записи по приоритетности, учитывая интересы конкретного пользователя. Для этого умная программа применяет все тот же рейтинг, значения которого находятся в диапазоне от 0 до 1.

Представители «ВКонтакте» говорят, что алгоритм помогает создавать безопасную и полезную новостную ленту. В будущем от него ожидают больших возможностей в борьбе со спамом и мошенничеством.