MTS AI создала ИИ-модератора для видеоплатформы NUUM

Ранее эта проверка выполнялась сотрудниками полностью вручную, однако с ростом объема контента задача становится все более трудоемкой, поэтому NUUM решили подключить к работе нейросети MTS AI.

На сегодняшний день ИИ-помощник работает как полноценный модератор и выполняет задачи по первичной проверке коротких видео на платформе. При этом нейросеть справляется с модерацией в три раза быстрее сотрудников: ИИ-помощник проверяет до 6000 видео в день, тогда другие как работники только 2000. По итогам, руководители отдела получают файл с тайм-кодом, категорией нарушения и ссылкой на конкретный кадр.

Система, созданная MTS AI, распознает запрещённый контент с точностью более 90%. Таким образом можно отсеять большую часть видео, на котором нет запрещенных объектов, и обратить внимание сотрудников на кадры с подозрительным содержанием. При этом искусственный интеллект только фиксирует нарушение, но не блокирует видео – финальное решение остается за модераторами платформы.

«Задача модерации остро стоит перед видеоплатформами. Для контроля уже имеющегося контента требуются десятки сотрудников, работающих круглосуточно. Именно поэтому нейросети в перспективе помогут нам, не расширяя штат, эффективно справляться с задачей проверки контента», - прокомментировала генеральный директор NUUM, Наталья Братчикова.

Добиться высокой точности детекции удалось благодаря обучению на датасете, который состоял из 700 тысяч изображений запрещенного контента.

Для ИИ-модератора используется технология параллельной обработки видео. Файлы разбиваются на кадры, которые затем группируются и распределяются между несколькими потоками для распознавания объектов. Все потоки обрабатываются параллельно для эффективного использования ресурсов. После все результаты группируются для дальнейшего использования.

«Современные нейросети способны распознавать опасный контент не только в фильмах и сериалах, но и в записях стримов. Также в перспективе они могут мониторить трансляции в режиме реального времени, а также голосовой контент. Мы работаем над тем, чтобы нашим коллегам были доступны эффективные способы модерации контента и постоянно совершенствуем алгоритмы и датасеты», – пояснил руководитель проекта в MTS AI Семен Галушкин.