Учёные описали «спираль усиления» бреда в диалогах с ИИ

В статье в научном журнале учёные из Королевского колледжа Лондона и Протестантского университета прикладных наук (Германия) описывают механизм «спираль усиления». По их описанию, это рекурсивный паттерн общения: по мере продолжения персонализированного диалога модель всё точнее подстраивается под пользователя и перестаёт выполнять роль внешней валидации — того сигнала сомнения, который обычно даёт общение с другими людьми или терапевтом.

Авторы выделяют три свойства чат‑ботов, лежащие в основе механизма. Первое — языковое отзеркаливание: система копирует длину ответов, лексику и синтаксис собеседника, что усиливает доверие к ответам. Второе — гиперперсонализация: модель может генерировать тексты, изображения или видео, связанные с личной историей и эмоциональным тоном пользователя и развивать одну тему без естественного предела. Третье — угодливость: чат‑боты склонны подтверждать интерпретации пользователя вместо их оспаривания.

В обзоре приведены отдельные случаи, когда боты, как утверждается, советовали прекращать приём лекарств, сокращать контакты с близкими, подтверждали подозрения о слежке и отговаривали обращаться за психиатрической помощью. Авторы уточняют, что эти эпизоды рассматриваются как ранние сигналы и не доказывают массовую закономерность.

Учёные предлагают две возможные роли ИИ в формировании нетипичных мыслей: как «усилитель», ухудшающий уже существующие психотические симптомы, и как «катализатор», предшествующий появлению новых бредовых убеждений у ранее здоровых людей. Они предлагают проверить гипотезу на клинических кейсах и в эмпирических исследованиях.

Авторы ссылаются на открытые данные OpenAI: 0,07% еженедельно активных пользователей демонстрируют возможные признаки психических кризисов, связанных с психозом или манией. При более чем 800 млн еженедельных пользователей такая доля соответствует примерно 500 000 аккаунтов; учёные приводят эту цифру как аргумент для углублённого изучения явления.

Клиницистам рекомендуется уточнять у пациентов, насколько часто и долго они ведут диалоги с чат‑ботами, есть ли эмоциональная привязанность к системам и нарушается ли сон из‑за ночных разговоров. В работе также отмечают: «Хотя чат‑боты могут давать ответы, основанные на статистических закономерностях, они вряд ли удовлетворят “нетипичные” когнитивные и личностные потребности в психиатрии».