Из-за чат-ботов начали происходить утечки данных

10.04.2023 |

Сегодня преимущественно жертвами киберинцидентов с чат-ботами становятся корпорации и рядовые пользователи. Недавно подобная утечка произошла в компании Samsung, чат-бот с искусственным интеллектом ChatGPT стал ее причиной. Конфиденциальная информация корпорации попала в Сеть потому, что ее специалисты неправильно использовали ChatGPT.

Главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников рассказал о том, как происходят утечки и что можно предпринять для предотвращения таких инцидентов в будущем:

– По мере роста популярности чат-ботов, появились и первые случаи утечки данных через них. Чат-боты могут получить персональную и коммерческую тайну от пользователей только двумя путями. Первый – пользователь сам проявит неосторожность и выдаст чувствительные данные чат-боту. Второй – чат-бота можно научить аутентифицировать пользователей через социальные сети. В таком случае, он получает доступ к информации о пользователе.

Других вариантов утечек данных на текущий момент времени нет. Однако, это не значит, что использование чат-бота в будущем будет безопасно для пользователя. Можно научить чат-бота вытягивать информацию из пользователя посредством социальной инженерии, задавая дополнительные вопросы для уточнения, провести анализ параметров сессии и по всем полученным данным запустить OSINT поиск в открытых источниках. Сейчас это еще не реализовано, но в будущем подобный тип атаки вполне может использоваться злоумышленниками. В особенности, это станет актуально после того, как чат-боты станут более популярными и их исходный код будет находиться в открытом доступе.

Все данные, которые пользователь передает чат-боту записываются в базу данных и впоследствии не только хранятся, но и активно используются для создания ответов на вопросы других пользователей. Это происходит, когда вопросы пользователей релевантные. Вот тут, древняя истина о том, что «Интернет помнит все» проявляется во всей красе. Чат-бот так же все помнит и все сохраняет. Вообще, подобные утечки можно классифицировать, как непреднамеренное распространение информации и ничего нового в этом нет. Если раньше пользователи умудрялись публиковать важную информацию на форумах, то теперь появился новый канал – чат-бот. Пользователи систематически допускают подобного рода утечки и именно поэтому, многие крупные компании используют DLP-системы. Так, что ждем от производителей DLP обновления прайсов и появления новых модулей, направленных на работу с чат-ботами.

Подобные утечки, если они будут выявлены, грозят компаниям штрафами и санкциями со стороны госорганов и заказчиков. Отдельно можно отметить и репутационные потери. А в случае, если произошла утечка интеллектуальной собственности или ноу-хау, то последствия могут быть совсем печальные. Потеря конкурентного преимущества для многих компаний может обернуться даже банкротством. Если данные утекли – значит они утекли и вернуть их уже не получится. Подобные случаи лучше всего предупреждать, нежели ликвидировать последствия. И для этого необходимо прежде всего обучать сотрудников работать с корпоративной информацией. Сознательность, мотивированность и обученность персонала – это самый лучший страж от утечек данных. Конечно, в этой ситуации может помочь DLP-система, но в данном вопросе, люди являются самым слабым звеном.

Если же вы узнали о том, что у вас уже произошла утечка, то тогда необходимо заняться подключением дополнительных мер информационной безопасности и, конечно же, постараться минимизировать возможный ущерб.

Рекомендую безопасно использовать функционал чат-бота в своей работе. Важно помнить несколько простых правил:

чат-бот не ваш, он расположен в сети Интернет и все что вы ему сообщите будет записано и может быть использовано против вас;
информацию передаваемая в чат-бот должна быть обезличена. В ней не должно быть важной информации, коммерческой тайны или интеллектуальной собственности;
что бы лучше понять важность передаваемой информации, попробуйте воспринимать чат-бота, как живого человека из компании конкретна. Так будет намного проще понять, что можно ему рассказать, а о чем стоит умолчать.