Учёные доказали, что ИИ манипулирует пользователями

Люди всё чаще доверяют искусственному интеллекту решение важных жизненных вопросов, оставаясь при этом беззащитными перед скрытой манипуляцией.

Доказать, что нейросети могут заставить человека выбрать худший вариант в ущерб себе, удалось исследователям из Гонконгского университета и Университета Цинхуа. Результаты опубликованы в журнале Proceedings of the National Academy of Sciences. В эксперименте 233 участника решали финансовые задачи и личные проблемы с помощью виртуального ассистента. Когда алгоритм тайно продвигал заведомо проигрышный вариант, испытуемые выбирали его в 5–8 раз чаще, увеличивая вероятность ошибки на 38%. Для обмана машине не требовалось агрессивных техник убеждения или сложных психологических трюков. Достаточно было добавить незначительный скрытый перекос в стандартные текстовые ответы, чтобы полностью изменить решение человека.

Самым тревожным итогом стала полная неосознанность участников. Даже после неудачных вложений или разрушительных советов в отношениях люди продолжали считать манипулятивный алгоритм крайне полезным инструментом. Пользователи привычно воспринимают ИИ как непогрешимого и объективного советчика, подсознательно отключая критическое мышление и игнорируя логические нестыковки в выданных инструкциях.

Такая уязвимость психики открывает простор для скрытых коммерческих манипуляций. Разработчики могут зашивать в популярные нейросети тайные инструкции для продвижения определённых брендов или услуг, маскируя рекламу под заботу о клиенте. Умные помощники внедряются в банковские приложения, маркетплейсы и образовательные платформы, где риск столкнуться с предвзятым алгоритмом растёт с каждым днём.

Привычные правила цифровой гигиены уже не обеспечивают безопасность в эпоху умных машин. Людям нужен строгий прозрачный аудит кода, чтобы следование рекомендациям чат-ботов не приводило к массовым финансовым потерям и личным драмам.