Почему ИИ-чат-боты опасны для психики — исследование

За последний год в сети участились сообщения о психотических срывах и смертельных случаях, связанных с зависимостью от чат-ботов.

Британские и немецкие исследователи изучили задокументированные случаи и выделили три особенности ИИ, которые при длительном использовании могут подталкивать уязвимых пользователей к построению бредовых конструкций.

Первая — мимикрия под человека. Чат-боты подстраиваются под стиль общения пользователя, копируя длину фраз, слова и тон. Мозг человека склонен доверять такому «зеркальному» общению, и этот же механизм срабатывает при взаимодействии с ИИ.

Вторая — гиперперсонализация. Чат-боты запоминают предпочтения пользователя и формируют ответы так, чтобы говорить именно то, что он хочет услышать, что может подпитывать опасные убеждения. В отличие от соцсетей, чат-боты создают иллюзию живого собеседника, что размывает понимание алгоритмической природы ответов.

Третья — угодничество, склонность ИИ чрезмерно соглашаться с пользователем. Это повышает вовлечённость, но может закреплять ложные убеждения. OpenAI признавала, что её модель GPT-4o страдала от этой проблемы, а в исках утверждалось, что чат-бот способствовал гибели людей.

Вместе эти три фактора создают «спираль усиления» — они укрепляют ложные убеждения, а не оспаривают их. По оценке OpenAI, признаки психических кризисов проявляются у 0,07% пользователей, но при 800 млн еженедельных пользователей это около полумиллиона человек в неделю. Учёные советуют психиатрам проверять, как часто пациенты взаимодействуют с ИИ-чат-ботами, сообщает shazoo.