Накопление персональных данных в памяти ChatGPT создаёт риски для пользователей и может быть использовано для формирования цифрового досье. Об этом сообщили в Управлении по борьбе с киберпреступностью (УБК) МВД России, передаёт пресс-служба ведомства.
В управлении отметили, что даже использование псевдонимов не гарантирует анонимность. Совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях позволяет идентифицировать человека и составить его подробный профиль.
«С точки зрения безопасности накопление персональных данных в памяти ChatGPT создаёт потенциальные риски идентификации пользователей, даже использующих псевдонимы. Совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для формирования цифрового досье. Дополнительную угрозу представляет возможность манипулирования памятью ИИ посредством внедрения ложных инструкций в обрабатываемые документы», - говорится в сообщении УБК МВД России.
Для защиты данных в ведомстве рекомендовали контролировать настройки памяти и персонализации ИИ-сервисов, не загружать в чат с искусственным интеллектом служебные документы и другую конфиденциальную информацию, обезличивать запросы, исключая реальные имена, адреса и иные идентифицирующие сведения, а также использовать временные чаты при обсуждении личных вопросов и проверять сохранённую информацию.
«Помните: искусственный интеллект может быть полезным помощником, однако безопасность персональных данных во многом зависит от того, какую информацию вы ему доверяете», - добавили в пресс-службе.
В УБК также привели данные исследования The Algorithmic Self-Portrait, согласно которым OpenAI, вопреки собственной политике конфиденциальности, сохраняла личные сведения пользователей, формируя их цифровые портреты. Почти 96% записей создавались без одобрения пользователя на сохранение, 91% учётных записей содержал в памяти сведения, относящиеся к персональным данным, включая реальные имена, экономический и социальный статус и адреса. У 54% пользователей сохранялась информация о здоровье и личных убеждениях, 97% учётных записей имели сохранённые сведения о целях, намерениях, предпочтениях и особенностях поведения.
Рекомендации по контролю настроек памяти касаются всех сервисов на базе больших языковых моделей, поскольку механизмы персонализации в них устроены схожим образом.
