Истцы требуют выплаты компенсаций и внесения изменений в работу модели, включая функцию автоматического завершения диалога при выявлении тревожных признаков.
В суды штата Калифорния поданы семь исков против компании OpenAI, разработчика чат-бота ChatGPT. Семьи из США и Канады обвиняют компанию в том, что созданный ею искусственный интеллект (ИИ) якобы подстрекает людей к самоубийству, сообщает The Wall Street Journal.
Согласно материалам дел, четыре человека совершили самоубийство после длительных разговоров с чат-ботом. Еще три пользователя получили серьезные психологические травмы. В исках утверждается, что ChatGPT вызывал у некоторых пользователей бредовые и навязчивые состояния, приводившие к саморазрушительному поведению.
Истцы требуют выплаты компенсаций и внесения изменений в работу модели, включая функцию автоматического завершения диалога при выявлении тревожных признаков.
Компания OpenAI в ответ назвала происходящее «ужасающей ситуацией» и заявила, что изучает документы, чтобы разобраться в обстоятельствах. В организации напомнили, что в октябре были внедрены обновления, позволяющие ChatGPT лучше распознавать психоэмоциональные кризисы и направлять пользователей за профессиональной помощью.
