"Общаясь с искусственным интеллектом, пользователи нередко делятся личными переживаниями, служебными документами, спрашивают советы в финансовых вопросах и состоянии здоровья, - рассказали в пресс-службе Управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД. - Однако далеко не все задумываются, что часть этих сведений может сохраняться в персонализированной памяти ИИ".

Что выяснили исследователи? Как сообщают в МВД, в рамках исследования The Algorithmic Self-Portrait специалисты выяснили, что OpenAI, вопреки собственной политике конфиденциальности данных, сохраняла личные сведения пользователей, формируя их цифровые портреты.

"Согласно полученным результатам 95,9 процента записей создавались без одобрения пользователя на сохранение, - говорится в сообщении киберполиции. - 91 процент имели в памяти учетных записей сведения, относящиеся к персональным данным, среди которых реальные имена, экономический и социальный статус, а также адреса пользователей. У 54 процента пользователей сохранялась информация о здоровье и личных убеждениях. 97 процентов учетных записей имели сохраненные сведения о целях, намерениях, предпочтениях и особенностях поведения".

Представители МВД подчеркивают: с точки зрения безопасности накопление персональных данных в памяти ChatGPT создаёт потенциальные риски идентификации пользователей, даже использующих псевдонимы. "Совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для формирования цифрового досье, - рассказывают в киберполиции. - Дополнительную угрозу представляет возможность манипулирования памятью ИИ посредством внедрения ложных инструкций в обрабатываемые документы. ИИ потенциально может использоваться для скрытого влияния на решения госслужащих и учёных с учётом их персональных данных и психологических особенностей".

Главная опасность - незаметный и адресный характер такого воздействия, который ИИ предоставляет в своих ответах. Поэтому эксперты рекомендуют не загружать в чат с искусственным интеллектом документы и конфиденциальную информацию.