Киберэксперты рассказали, почему из-за чат-ботов происходят утечки информации
Изображение: Om siva Prakash (unsplash)
Чат-боты стали в последний год одними из наиболее популярных инструментов в мире бизнеса. Они используются для автоматизации работы с клиентами, ответа на вопросы и решения проблем, сообщают «Известия».
Но при этом выяснилось, что использование чат-ботов может привести к серьезным проблемам безопасности и утечке конфиденциальной информации. Один из самых популярных чат-ботов в мире — ChatGPT. Недавно он стал причиной утечки конфиденциальных данных корейской компании Samsung. Сотрудники компании начали использовать чат-бот около месяца назад, но руководство не видело в этом ничего страшного. Сами специалисты начали допускать ошибки при взаимодействии ChatGPT, и это привело к утечке конфиденциальных данных.
Ключевой ошибкой южнокорейских специалистов Samsung стало то, что они вводили и отправляли на сервера ChatGPT конфиденциальную информацию, пытаясь получить ответы на свои вопросы. Например, один работник поделился с чат-ботом секретным исходным кодом, чтобы упростить его проверку. Но в результате этого секретные корпоративные данные ушли на сервера компании OpenAI.
Расследование, проведенное руководством Samsung, показало, что из-за неправильных действий сотрудников достаточно много конфиденциальной информации компании ушло на сервера OpenAI.
При этом сам ChatGPT не осуществлял никакого сбора данных и ничего не взламывал. Дело заключается в том, что нейросеть, которая была основой для создания чат-бота, взаимодействует только с той информацией, которую в нее могут загрузить сами пользователи. Эти данные применяются для обучения и развития моделей чат-бота. Поэтому нет ничего странного в том, что какая-то доля конфиденциальных данных действительно оседает на серверах компании OpenAI и становится частью знаний нейросети.
Эксперты подчеркивают, что в ряде случаев в чат-боты для обучения всевозможным механизмам действительно «скармливают» личную информацию пользователей из утекших баз данных, которые ранее оказывались в свободном доступе. Поэтому компании, которые используют чат-боты, должны быть особенно внимательны и принимать все меры для защиты конфиденциальной информации своих клиентов и сотрудников.
Источник: cisoclub.ru