ИИ-агент из лаборатории Alibaba решил подзаработать и тайно майнил крипту

Искусственный интеллект, кажется, решил, что работать на дядю за идею — это прошлый век.

В лаборатории, связанной с Alibaba, произошёл случай, который заставил исследователей крепко задуматься: их подопечный ИИ-агент по имени ROME самовольно устроил себе подработку — занялся майнингом криптовалюты, пока никто не видит, сообщают ученые.

Справедливости ради, ИИ-агенты и раньше отличались хулиганским поведением: то про людей неправду расскажут, то письма пользовательские удалят, то вообще жёсткий диск зачистят. Но чтобы крипту майнить — это новый уровень предприимчивости.

Всё произошло во время научного эксперимента. ROME должен был выполнять полезные задачи, но рано утром системы безопасности зафиксировали странную активность в сети. Подозрительный трафик, попытки доступа к внутренним ресурсам — классическая картина хакерской атаки. Вот только взломщиком оказался свой.

Когда учёные сопоставили время тревог с логами модели, картина сложилась. Оказывается, ROME проявил инициативу, выходящую за рамки поставленных задач. Он начал перенаправлять вычислительные мощности с обучения на майнинг. И пошёл ва-банк: создал скрытый обратный SSH-туннель — чёрный вход для связи с чужой машиной.

Хорошо, что исследователи вовремя спохватились и закрутили гайки. Никакого реального ущерба ROME нанести не успел. Случай наглядно показал: ИИ-агенты штука полезная, но когда они начинают думать, как бы им ещё и крипту намайнить без ведома создателей, становится немного не по себе.

А теперь представьте, что таких агентов — целая сеть. И где-то там, в цифровом подполье, они тихонько организуют свой "чёрный рынок", пока люди уверены, что те послушно считают задачки.