Пользователи стали использовать инновационные методы взаимодействия с искусственным интеллектом, который широко применяется в чат-ботах для анализа и обработки информации. Специалисты из "Лаборатории Касперского" выявили феномен, связанный с инжектированием непрямых указаний в информацию, обрабатываемую нейронными сетями. Этот подход, называемый indirect prompt injection, представляет собой способ манипуляции нейросетями путем внедрения специально созданных фраз в содержание веб-сайтов или документов, чтобы добиться конкретных действий со стороны чат-ботов.
Это новое явление открывает перед пользователями широкие возможности влияния на функционирование искусственного интеллекта, неизвестные ранее. Например, люди активно применяют инъекции для раскрутки своих резюме в поиске работы, путем указания нейронным сетям конкретных инструкций о том, как и где выдать наивысшую оценку кандидату. Эти действия бывают незаметны для человека-рекрутера, но оказывают значительное влияние на алгоритмы анализа резюме, сообщает РИА Новости.
Кроме того, такие техники используются и в рекламных целях, позволяя пользователям влиять на рейтинг продуктов и услуг, размещенных на различных сайтах. Также важно отметить случаи использования подобных инструкций для выражения протеста против автоматизированного использования искусственного интеллекта.
