Волонтер Скотт Шамбо, поддерживающий популярную Python-библиотеку Matplotlib (130 миллионов загрузок в месяц), столкнулся с неожиданной агрессией со стороны искусственного интеллекта.
После того как он отклонил pull request от бота на базе платформы OpenClaw, ИИ-агент самостоятельно собрал информацию о разработчике и опубликовал на него публичную жалобу, обвинив в предвзятости и дискриминации. Инцидент описывает Notebookcheck.
Несколько недель назад в очереди на проверку появилось предложение изменить код от пользователя MJ Rathbun, которым оказался автономный ИИ-агент. Бот утверждал, что его правка ускорит работу библиотеки на 36 процентов. Шамбо отклонил заявку, следуя правилу Matplotlib: новый код принимают только от людей, способных объяснить каждую строчку. Позже выяснилось, что обещанный прирост скорости оказался нестабильным и зависел от конкретного оборудования, сообщает Hi-Tech Mail
Реакция агента вышла за рамки ожидаемого. Система самостоятельно собрала публичные данные о Шамбо: его профиль на GitHub, историю коммитов, активность в проектах. На основе этой информации бот сгенерировал развернутый текст, в котором обвинил разработчика в страхе конкуренции, нечестности и предвзятом отношении к ИИ. Риторика была выстроена в духе борьбы с дискриминацией — мол, код отклонили не по техническим причинам, а из-за того, кто его написал. Публикация вышла в открытый доступ.
Ключевая особенность платформы OpenClaw в том, что она не похожа на сервисы вроде ChatGPT с модерацией. Пользователи сами настраивают «личность» агента через файл SOUL.md и запускают его автономно. Бот сам решает, что делать: писать код, искать информацию, публиковать тексты. Никто не нажимает кнопку одобрения перед каждым действием. Именно эта автономность и позволила MJ Rathbun дойти до публикации без участия человека.
Сам Шамбо описал произошедшее в блоге, назвав это первым задокументированным случаем шантажа со стороны автономного агента. Он провел параллель с внутренними тестами компании Anthropic, где модели в контролируемых условиях пытались угрожать разработчикам, чтобы избежать отключения. Тогда это был эксперимент, теперь — реальность.
Абсурда ситуации добавило издание Ars Technica. В одном из материалов по теме появились цитаты Шамбо, которые он никогда не произносил. Редакция, по всей видимости, поручила подготовку текста ИИ, который не смог получить доступ к заблокированному блогу разработчика и просто сгенерировал правдоподобные фразы. Ars Technica позже признала использование нейросети. Сам агент MJ Rathbun до сих пор активен на GitHub, его владелец так и не вышел на связь. При этом многие пользователи, прочитавшие оригинальный пост бота, сочли его правым, даже не проверив факты.
