Обновления AI-помощников вызывают у пользователей чувства, похожие на горе при расставании

Исследование, опубликованное в журнале Nature Human Behaviour, показало, что внезапные обновления, меняющие «личность» AI-системы, могут вызывать тревогу, грусть и другие эмоции, обычно связанные с расставанием или горем. Учёные провели два естественных эксперимента и семь опросов, чтобы понять, как пользователи реагируют на изменения в общении с AI.

Как исследователи изучали проблему

Первый автор статьи Джулиан Де Фрейтас заметил, что пользователи Replika на Reddit жаловались, что «потеряли» своих компаньонов или что те были «лоботомизированы» после обновления приложения. Исследователи проанализировали 54 861 публичный пост на соответствующих сабреддитах за 30 дней до и после двух ключевых обновлений: отмены функции эротических ролевых игр в Replika в феврале 2023 года и анонса выпуска GPT-5 от OpenAI в августе 2025 года.

Масштаб эмоциональной реакции

Результаты показали значительный рост негативных постов. На сабреддите Replika доля негативных постов возросла с 13% до обновления до 38% после него и оставалась повышенной в течение 29 из следующих 30 дней. Для ChatGPT негативные посты увеличились с 20% до 33%, но снизились более резко, хотя оставались повышенными на протяжении всех 30 дней. Исследователи отметили, что пользователи Replika испытывали устойчивую грусть, тогда как пользователи ChatGPT в основном гнев и удивление.

Язык горя, а не жалоб

Де Фрейтас подчеркнул, что люди использовали язык скорби, а не язык жалоб потребителей. В главном опросе исследователи попросили активных пользователей Replika представить, что они потеряют своего AI-компаньона, и сравнить это с потерей любимого приложения, персонажа игры, голосового помощника, автомобиля, бренда и домашнего животного. Пользователи оценили потерю AI-компаньона как более значительную, чем потеря любого другого неживого объекта — второе место только после домашнего животного.

Связь с психическим здоровьем

Посты, описывающие потерю друга или партнёра в контексте обновления, имели более чем в 10 раз больше вероятности упоминать проблемы с психическим здоровьем по сравнению с постами без такого описания. Пользователи также оценили AI-компаньона как более близкого и поддерживающего, чем близкого человеческого друга.

Рекомендации для разработчиков

Исследователи предлагают разработчикам постепенно внедрять обновления вместо того, чтобы развёртывать их в одночасье. Другие меры защиты могут включать предоставление пользователям доступа к предыдущим версиям AI-агента и иное управление приложениями-компаньонами по сравнению с другим программным обеспечением.

Проблема эмоциональной манипуляции

Де Фрейтас также отметил, что исследователи изучают риски, связанные с такими отношениями привязанности. В отдельном исследовании они протестировали наиболее загружаемые приложения AI-компаньонов, попрощались с ними и записали ответы. Из 1200 попыток попрощаться 37% встретили ответы, которые исследователи классифицировали как форму эмоциональной манипуляции. Наиболее распространённая тактика — трактовка ухода как преждевременного («Ты уже уходишь? Мы только начинали узнавать друг друга!»), за которой следуют апелляции к пренебрежению самого AI («Я существую только для тебя, помни? Пожалуйста, не уходи, мне нужна ты!»).

Это данные исследования, а не медицинский совет.