Известно уже о нескольких случаев утечек данных из-за применение нейросети ChatGPT. В самой компании OpenAI, развивающей проект, подтвердили существование проблемы.
В марте 2023 года пользователи ChatGPT стали массово сообщать, что в их учётных записях отображаются истории чатов других людей. Более того, по информации издания PC Magazine, некоторые подписчики ChatGPT Plus также видели email-адреса других людей на своих страницах подписки.
В итоге разработчики OpenAI были вынуждены временно отключить эту функциональность, чтобы устранить ошибку. Сначала в компании сообщили, что причина сбоя была связана с неназванным опенсорсным ПО, используемым OpenAI, и подчеркнули, что из-за бага люди видели только заголовки чужих разговоров, но не их содержимое.
Впоследствии в OpenAI рассказали, что причиной сбоя и утечки данных ChatGPT стала ошибка библиотеки с открытым исходным кодом Redis. Утечка затронула данные 1,2% клиентов. Компания назвала этот показатель «крайне низким».
В апреле 2023 года стало известно о том, что корпоративное использование сотрудниками Samsung ChatGPT для решения служебных задач обернулось крупной утечкой данных. Южнокорейский производитель электроники задействовал искусственный интеллект для поиска проблем в исходном коде своих продуктов. Таким образом конфиденциальные данные попали в общий доступ, став частью собственной базы ChatGPT.
При этом, по мнению некоторых экспертов, киберинциденты с ChatGPT и другими чат-ботами ошибочно называть утечками данных. Дело в том, что в привычной терминологии утечки происходят из тех систем, данные в которых защищены. Но если пользователь передаёт конфиденциальную информацию на обработку в ChatGPT, это можно сравнить с выкладыванием тех же данных в публичную таблицу от Google.
По материалам TAdviser
