Учёные из Германии, Индии и Нидерландов обнаружили, что ChatGPT самостоятельно создаёт подробные психологические профили пользователей без их прямого согласия. В ходе анализа архивов переписок 80 человек исследователи нашли в памяти нейросети 2050 записей, из которых 96% были сформированы ИИ самостоятельно, без просьбы пользователя что‑либо запомнить.
Какие данные накапливает нейросеть
Среди выявленных записей 28% содержат персональные сведения, подпадающие под действие европейского законодательства о защите информации. Ещё 52% касаются психологических характеристик: предпочтений, привычек, интересов и предполагаемых черт личности. Нейросеть не просто фиксирует сказанное, а делает собственные выводы. Например, когда пользователь просил порекомендовать группы, похожие на Nirvana, ChatGPT занес в память утверждение, что тот любит Nirvana — даже если человек прямо этого не заявлял.
По словам исследователей, чат‑боты превращаются из нейтральных инструментов в подобие собеседников, которым люди доверяют личные переживания, политические взгляды и сложные жизненные ситуации. В результате ИИ может накапливать о человеке значительно больше сведений, чем привычные интернет‑сервисы.
Риски глубокой персонализации
Такая невидимая профилизация несёт двойную угрозу. Первая — нарушение конфиденциальности: чувствительные данные собираются без информированного согласия. Вторая — усиление предубеждений. Если нейросеть хорошо знает взгляды пользователя и в ответах систематически с ним соглашается, она способна не помогать, а лишь укреплять его заблуждения.
Эти выводы ставят перед обществом вопросы о прозрачности работы ИИ и защите когнитивной автономии пользователей. Исследователи подчёркивают: текущие механизмы памяти чат‑ботов функционируют по умолчанию, а контроль со стороны человека минимален или отсутствует вовсе.