ИИ-чат-боты могут усугублять психические расстройства

Датские исследователи, проанализировав тысячи медицинских записей, пришли к выводу, что генеративные чат-боты на основе искусственного интеллекта могут усиливать симптомы у людей с тяжёлыми психическими расстройствами, включая бредовые идеи и суицидальные мысли.

Генеративные чат-боты на основе искусственного интеллекта могут усиливать симптомы у людей с тяжёлыми психическими расстройствами. К такому выводу пришли датские исследователи, проанализировав тысячи медицинских записей пациентов. Работа опубликована в рецензируемом журнале Acta Psychiatrica Scandinavica (APS).

Учёные проанализировали электронные медицинские карты почти 54 тысяч пациентов, проходивших лечение в психиатрической службе Центрального региона Дании в период с сентября 2022 по июнь 2025 года. За это время врачи внесли более 10 миллионов клинических заметок. Исследователи проводили поиск упоминаний чат-ботов и системы ChatGPT, включая распространённые варианты написания и опечатки.

В результате было выявлено 126 пациентов, чьё использование технологий искусственного интеллекта находило отражение в медицинской документации. У 38 из них специалисты обнаружили потенциально неблагоприятные последствия взаимодействия с ИИ-системами, передает Газета.