«ВКонтакте» научит нейросети бороться с оскорблениями

Разработчики соцсети «ВКонтакте» ведут работу по совершенствованию системы модерации сообщений на основе технологий искусственного интеллекта. Создаваемые нейросети должны обеспечить выявление с высокой точностью любых фактов враждебных высказываний и угроз со стороны пользователей, несущие в себе признаки расизма, сексизма, ксенофобии и так далее.

Владельцы сервиса рассчитывают, что посредством инновационных технологий появится возможность в значительной степени оградить пользователей от грубости и хамства, а также повысить скорость реакции на поступающие жалобы.

Вместе с этим для подобных жалоб выделена самостоятельная категория, получившая название «Враждебные высказывания». Сообщения в ней станут основой для обучения искусственного интеллекта.

Уже сегодня модерация позволяет в значительной степени фильтровать размещаемые материалы, удаляя большую часть враждебного контента еще до момента получения к нему доступа широких масс, но в будущем ее эффективность станет еще выше.

Представители соцсети отмечают актуальность проводимой работы. Только за шесть месяцев 2020-го года модераторами было удалено не меньше 520 тысяч записей, разжижающих межнациональную и иную вражду. Было заблокировано почти 2,5 тысяч сообществ и около 1,3 тысячи пользовательских профилей, с которых регулярно выдавался агрессивный контент.

Рубрики: Web, Инновации

Ключевые слова: ВКонтакте, социальные сети