Денис Денисов, эксперт по информационной безопасности ГК InfoWatch, – об опасностях нейросетей для детей и подростков

В вопросах, касающихся цифровой грамотности, цифровой гигиены – разрыв поколений постоянно возрастает, потому что информационные технологии развиваются очень быстрыми темпами. Пока родители осваивают Госуслуги и борются с электронным дневником, дети используют ChatGPT, чтобы выполнять домашние задания, и отправляют классному руководителю аудиосообщение с поддельным голосом родителя, созданным с помощью нейросети.

К сожалению, одними из первых берут на вооружение новые информационные технологии злоумышленники. С начала 2020-х годов по текущий момент мы наблюдаем, как преступники используют поддельный голос, видео, фотографии. Им теперь уже не надо самим общаться с человеком в процессе переписки, за них это делают чат-боты, а мошенники подключаются на последнем этапе.

Конечно, бум нейросетей сильно влияет непосредственно на детей и, к сожалению, часто в негативном ключе. Казалось бы, только недавно мы с ИБ-специалистами и психологами обсуждали, что делать с детской интернет-зависимостью. Только мы разработали меры, как ребенка вытащить из сети Интернет, возникла коммуникационная зависимость, которая гораздо страшнее. Только разобрались с коммуникационной зависимостью, начала появляться зависимость от нейросетей, и теперь мы ломаем голову, что с этим делать.

Зависимость от нейросетей и их бесконтрольное использование влекут за собой четыре основных типа опасности.

Первая опасность состоит в том, что ребенок, погружаясь в нейросети, теряет социальные связи, привычный круг общения. ChatGPT или умная колонка становятся для него лучшим другом и советчиком, которому он доверяет. Таким образом происходит подмена авторитета взрослого и потеря социальных связей не только в реальном мире, но даже в онлайне: ребенок предпочитает разговаривать с ChatGPT вместо того, чтобы общаться со сверстниками, пусть даже в мессенджерах.

Вторая опасность – нейрогаллюцинации. Когда нейросеть не может решить задачу или дать правильный ответ, она этот ответ придумывает. Ребенок же в силу отсутствия должного жизненного опыта, критичности мышления легко может этот ответ принять за истину.

Третья опасность связана с тем, что у ребенка начинает формироваться ложное представление о себе и об окружающем мире, поскольку нейросеть подстраивается под запросы ребенка и в основном выдает положительную обратную связь.

Четвертая опасность возникает, когда ребенок начинает использовать нейросети для выполнения домашнего задания вместо того, чтобы заниматься самостоятельно. Раньше мы часто осуждали то, что ребенок вместо получения знаний просто ищет информацию в сети интернет. Но чтобы это сделать, ему как минимум нужно открыть браузер, что-то поискать, посмотреть самому. Теперь ему даже этого не надо. Он заходит в ChatGPT и делает запрос: «Напиши сочинение в моем стиле для шестого класса по такой-то теме на оценку четыре». И он действительно получает сочинение, сгенерированное в его стиле, потому что он уже научил этому ChatGPT.

Чтобы обезопасить ребенка от подобных негативных воздействий, родителям нужно приложить усилия,  хорошо изучить особенности современных цифровых технологий. Нужно делиться информацией с подростком, сообщать ему важные сведения о безопасности, цифровой гигиене и киберрисках, получать обратную связь, выстраивать доверительные отношения.

Фото: конференция ТАСС