«Ростелеком» и MINDSMITH рассказали о технологиях защиты детей от киберрисков

В начале вебинара Руслан Юсуфов, футуролог, эксперт в области цифровой трансформации и технологических трендов, управляющий партнер MINDSMITH, напомнил о тезисах, озвученных им на предыдущей лекции. Так, исследование «Ростелекома» и MINDSMITH содержит информацию о 23 кластерах рисков, распределенных по шести группам. Согласно данным исследования, дети рискуют, к примеру, быть подверженными криминализации, маркетинговому давлению или рискованным денежным отношениям, испытать психологическое насилие или атаку на личность, быть использованными для создания цифрового контента. Также они могут быть подвержены информационным атакам, получить зависимость от Интернета, игр или определенных ресурсов.

Чтобы выявить и предложить заинтересованным сторонам (прежде всего, родителям) технологические инструменты для снижения этих рисков, аналитики проанализировали более 300 патентов и ИТ-решений в данной сфере. В результате решения разделились на 8 основных кластеров.

Кластеры технологических решений для защиты детей в Сети

Первый кластер содержит решения, связанные с предиктивной аналитикой. Эта технология позволяет с помощью изучения онлайн-среды, профилирования ребенка, а также поиска паттернов поведения, соответствующих поведению преступника по отношению к детям, анализу связей между ребенком и другими людьми – предсказать, насколько велика вероятность, что ребенок станет жертвой определенных опасных действий в Сети.

Во второй кластер входит такое решение, как перенос активности детей в специальные детские социальные сети. Подобные ресурсы автоматически модерируют контент с помощью фильтрации по определенным словам. Регистрация на них чаще всего доступна только пользователям, подтвердившим свою личность через учебное заведение, что решает вопрос нежелательного присутствия взрослых злоумышленников, которые могут скрываться за детскими аватарами. Однако дети не всегда довольны системой модерации и контроля и с определенного возраста стремятся покинуть детские интернет-площадки.

Третий кластер включает в себя программные разработки, сервисы или приложения, предупреждающие пользователей о том, что контент содержит информацию 18+, и поясняющие, какого рода контент может содержаться на данном ресурсе. Также они предупреждают о том, что переход по определенной ссылке может быть потенциально опасен.

Четвертый кластер – решения, позволяющие осуществлять родительский контроль и мониторинг. В результате родители могут выставлять ограничения для ребенка по времени пребывания в сети или времени работы на конкретном устройстве, выставлять ограничения для определенных ресурсов как по времени их посещения, так и вовсе запрещая их к посещению. Однако использование такого рода решений разрушает доверие между ребенком и родителем и побуждает ребенка искать обходные пути.

Пятый кластер – интернет-фильтры, защищающие ребенка от нежелательных ресурсов и контента без дополнительных действий со стороны родителей. Защита ребенка осуществляется круглосуточно и не требует дополнительного родительского вмешательства.

Шестой кластер – инструменты автоматизированной модерация. Благодаря ей нежелательный контент, содержащий, например, нецензурные слова или выражения, а также названия запрещенных веществ и другие, внесенные в список автоматической модерации, не может появиться на ресурсе. Такая модерация может встраиваться в чаты, не позволяя напечатать сообщение, содержащее определенные слова. Однако автоматическая модерация легко обходится написанием слов с ошибками, через транслитерацию, с использованием замены символов, дополнительных пробелов и т.д. Кроме того, всегда есть риск, что определенные слова остались не занесенными в список автомодерации.

Седьмой кластер – сервисы оказания помощи. Сюда подростки, столкнувшиеся с неприятными ситуациями в Интернете, могут обратиться за поддержкой и советом, как поступить в том или ином случае. Это могут быть как чат-боты, так и волонтерские организации, однако слабая компетентность сотрудников или плохая проработка сценариев при автоматизированных ответах зачастую не позволяют оказать полноценную помощь.

И последним, восьмым кластером является инфраструктура – совокупность программных и аппаратных средств защиты, интегрированных в единую систему и поддерживающих непрерывное обеспечение безопасности.

Риски будущего

Многие риски, которые ждут детей и подростков в будущем, пересекаются с настоящими рисками, являясь их естественным продолжением.

Так, например, рисками будущего представлены кибербуллинг, сексуальное насилии в VR-пространствах или дистанционные способы эксплуатации детей, которые имеют основу уже сегодня. Так, некоторые компании уже сейчас используют навыки программирования подростков, извлекая из групповых игровых проектов коммерческую выгоду.

Недооценены сейчас риски внедрения искусственного интеллекта в процессы воспитания детей. Зачастую родители вверяют ребенка виртуальному помощнику, который общается вместо родителя с детьми, отвечает на их вопросы, подбирает контент для потребления. Практика показывает, что недоработки в этом вопросе могут приводить к трагедиям – например, в случаях, когда ИИ рекомендует детям опасные популярные челленджи.

Среди других рисков будущего – оставление цифрового следа начиная с самого раннего возраста, искусственный интеллект как инструмент преступных действий, трансформация социальных навыков детей, популяризация «серых взаимодействий», ужесточение цифровой войны и рост цифрового разрыва.

Рекомендации от «Ростелекома» и MINDSMITH

В конце вебинара спикер озвучил рекомендации для стейкхолдеров (заинтересованных сторон): правительства, учебных заведений, коммерческих предприятий, ИТ-разработчиков, НКО и родителей. Родителям предлагалось больше вовлекаться в виртуальную жизнь своих детей, повышать компетенции в сфере киберрисков и информационной грамотности, использовать существующие решения для минимизации киберрисков, а также выстраивать оптимальный баланс между приватностью ребенка и его кибербезопасностью.

Все материалы вебинара доступны для ознакомления по ссылке . Здесь же любой желающий может проверить полученные знания о кибербезопасности в детской среде с помощью тестирования и получить сертификат, если правильных ответов будет не менее 15 из 20 вопросов теста.