В России хотят использовать нейросети для оценки игрового контента

В играх могут содержаться сюжетные линии, в которых показаны сцены физического или сексуального насилия, есть призывы совершить самоубийство или попробовать наркотические вещества, оглашены неэтичные или неполиткорректные лозунги. При этом оценить наличие незаконного в РФ контента эксперту довольно сложно – игровые миры с каждым годом расширяются, что требует от человека провести за анализом игры сотни, а то и тысячи часов.

Искусственный интеллект должен помочь решить проблему. Для этого нейросеть будет тренироваться на прохождение всех уровней и локаций игровой вселенной. По завершению игры искусственный интеллект составит отчет, на основании которого эксперт сможет сделать выводы о запрете игры или выставлении нужных возрастных фильтров.

С применением нейросетей для поиска вредоносного контента есть две сложности. Во-первых, искусственный интеллект придется заново тренировать для каждой новой игры, что потребует времени и аппаратных мощностей. Во-вторых, под запрет можно будет подвести практически любую игру. Это связано с тем, что в современных игровых вселенных огромное количество контента генерируется непосредственно пользователями, а отдельный игрок может высказать идеи, которые не поддерживают разработчики игры.