Цифры говорят
ICQ внедрила антиспам-систему для фото и картинок
19.05.2017 |
ICQ внедрила новый алгоритм борьбы со спамом, в основе которого лежат нейронные сети: он позволяет отфильтровать нежелательные изображения, которые нарушают правила сервиса. Система уже тестируется в лайвчатах ICQ: она блокирует порнографический контент и спам.
Самообучающаяся система автоматически распознает изображение и текст на фотографиях и картинках, выявит контент, не соответствующий правилам, и заблокирует его. Таким образом, пользователи ICQ защищены не только от текстовых спам-сообщений, но и от непрошенных картинок с назойливой рекламой.
Для обучения нейросети разработчики использовали базу из пяти миллионов изображений, а результаты работы системы проверялись вручную. Такая схема позволила добиться высокой точности и минимизировать вероятность ложного срабатывания. Новая система разработана совместно с командой Поиска Mail.Ru.
