В нашей стране вскоре после начала специальной военной операции была запрещена работа ряда социальных сетей в связи с их экстремистской и русофобской политикой. Однако сейчас на поле информационной войны появился новый игрок – искусственный интеллект (ИИ). При этом нейросети – далеко не беспристрастный и объективный робот, так как и они созданы людьми, преследующими свои цели.
– Валерий Валерьевич, многие помнят шок, который в 2022 году вызвала компания «Мета»* тем, что разрешила в своих социальных сетях призывы убивать русских. Запрет ее деятельности в России стал вполне адекватной реакцией. Конечно, государство обязано обеспечить безопасность своих граждан, в том числе и информационную. Но вот чем могут навредить чат-боты ChatGPT, Gemini, которые рисуют картинки и пишут сочинения? Многие воспринимают этот инструмент искусственного интеллекта просто как игрушку.
– Вспомним, что социальные сети для многих и сейчас остаются всего лишь самым простым способом рассказать о себе всему миру. Но технологии позволяют использовать их как чрезвычайно эффективный инструмент влияния, а значит, и управления. Администраторы социальных сетей ангажированы своими правительствами и вместо обеспечения общепризнанных прав и свобод используют их в своих интересах для достижения политических целей.
Например, с началом СВО американская компании «Мета»* (материнская организация социальных платформ «Facebook»**, «Instagram»**) стала проводить редакционную политику по продвижению экстремизма и русофобии, ограничению публикации объективной информации и фактического блокирования контента на уровне встроенных технологий любых российских информационных каналов, в том числе принадлежащих лидерам общественного мнения. Да, запрет их деятельности логичен и оправдан.
Платформа «YouTube» американской компании Google также удалила без каких-либо объяснений ряд аккаунтов и новостных каналов российских средств массовой информации, известных блогеров и информационных каналов, публикующих объективную информацию вопреки прозападной пропаганде, полностью построенной на дискредитации Российской Федерации.
Сейчас же началась эра искусственного интеллекта. Надо понимать, что нейросети и искусственный интеллект являются всего лишь программами, а качество и принципы их работы определяют компании-разработчики. Глобальные IT-монополисты активно продвигают инновационные цифровые сервисы с применением больших языковых моделей (LLM), так называемый генеративный искусственный интеллект. И что мы видим? Самые популярные платформы разработаны компаниями, принадлежащими Microsoft, Gemini от Google и т. д.
Эти ИИ-сервисы, также называемые нейросетями, работают в диалоговом режиме, удобном и понятном для человека. Самые популярные ИИ-сервисы способны в режиме реального времени отвечать на вопросы, генерировать тексты на разных языках, включая русский, относящиеся к различным предметным областям.
Важно понимать, что при этом для создания каждой такой нейросети использовались методы обучения с прямым участием и под контролем специалистов компаний. Если упрощенно, то были использованы подходы, аналогичные тем, как получает знания любой современный человек: подготовлены специализированные материалы и данные, а также определенная технология их изучения.
– Попросту говоря, что будет знать и как будет думать ИИ, решают люди? То есть в искусственный разум можно заложить алгоритм, который будет работать на определенную идею?
– Да, фактически объем знаний, разметка контента для обучения, цензурирование и подкрепление полученных знаний на основе предустановленных правил для указанных нейросетей полностью контролируется со стороны компаний и их команд-разработчиков.
К сожалению, как показывает практика последнего времени, ни о какой открытости и объективности в получаемых нейросетями знаниях по острым социальным и политическим темам говорить не приходится. Налицо прямое воздействие на модели обучения искусственного интеллекта жестких методов цензурирования, построенных на пропаганде прозападных ценностей, в том числе тех, что носят прямой деструктивный характер по отношению к традиционным человеческим ценностям.
– Чем опасен искусственный интеллект, созданный и обученный западными компаниями, которые работают в интересах недружественных нам стран?
– На примере запрещенных социальных сетей «Facebook»** и «Instagram»** мы действительно видим, что их владельцы и администраторы полностью ангажированы своими правительствами, которые вместо обеспечения общепризнанных прав и свобод используют монопольное положение и разработанные технологии в своих интересах, в том числе для достижения политических целей.
Нейросети и платформы ИИ только формально являются нейтральными, хотя, по идее, созданы для решения задач, которые должны облегчить жизнь человека. В реальности это управляемый инструмент, механику работы которого полностью определяют компании-разработчики. Отсюда и риски по распространению дипфейков и генерации массового антироссийского контента популярными зарубежными платформами и поисковыми системами.
Самые распространенные ИИ-сервисы и платформы умеют правдоподобно генерировать и трансформировать контент, в том числе и аудиовизуальный, диаметрально противоположный достоверному первоисточнику информации. И на основе этого контента с помощью методов социальной инженерии, а также благодаря тому, что большинство пользователей не имеют привычки критически относится к информации, проверять ее и анализировать, и формируются ошибочные, ложные мнения – идеологически выверенные, специально сконструированные, преследующие определенные цели. Именно поэтому так важно проверять информацию, сгенерированную чатами нейросетей на ресурсах официальных источников – органов власти Российской Федерации и ключевых средств массовой информации.
– Русофобская политика западных IT-компаний фактически дала стимул развитию отрасли в нашей стране и созданию собственных продуктов. В частности, социальных сетей «VK» и «Одноклассники.ру», а также независимого генеративного ИИ: Gigachat от Сбера, YandexGPT от «Яндекса». Они должны стать российскими «бойцами» в информационной войне и защитить россиян от фейков. Но насколько, с вашей точки зрения, эти продукты конкурентоспособны на данный момент и как вы оцениваете их дальнейшие перспективы?
– Потенциал отечественных продуктов безграничен. Понятно, что всегда можно дальше, выше, быстрее, но уже сейчас это вполне конкурентные решения. Сбербанк и «Яндекс» являются ведущими IT-компаниями, активно развивают технологии искусственного интеллекта и в перспективе достойно смогут представлять не ангажированную, объективную информацию для заинтересованных лиц.
Что касается социальных сетей, то я считаю уже сейчас представленные решения ничем не уступают зарубежным аналогам, а по некоторым критериям даже превосходят.
После начала СВО в популярных мессенджерах Telegram и What's up обострилась ситуация с распространением фейков. В основном они относятся к политическим и социально значимым темам, вопросам государственной безопасности. Специалисты департамента информатизации и связи Краснодарского края назвали признаки, по которым можно распознать фейки.
Как правило, чтобы дать фейкам быстрое и широкое распространение в массы, их авторы используют манипулятивную подачу и воздействуют на эмоции. Например, вызывают чувство беспокойства, угрозы.
Чаще всего фейки имеют вызывающие кликбейтные заголовки, грамматические и орфографические ошибки, ссылки на анонимные источники информации («известный ученый», «сотрудник ФСБ», информационные ресурсы, незарегистрированные в качестве СМИ и пр.).
Фейки могут содержать открытые призывы к пользователям помочь в распространении информации и каким-то активным действиям. К примеру, написать жалобы и заявления, не пить воду, срочно закупаться продуктами, снимать деньги с карт и так далее.
Следует обращать внимание на фейковые аккаунты и размещение информации в нескольких группах или аккаунтах. Обратите внимание на одновременные репосты, схожие комментарии и множество лайков. Это может говорить о координированном распространении заведомо ложной информации.
С помощью технологий искусственного интеллекта мошенники научились подделывать аудио- и видеосообщения. Если к вам в таком формате обращается с просьбой даже знакомый человек, следует обратить внимание на видеоряд. В поддельном – неестественная мимика, странное моргание глаз, размытое изображение. Лучше всегда перезвонить и уточнить детали.
Чтобы обезопасить свой аккаунт и не стать жертвой мошенников, надо раз и навсегда запомнить, что не существует никаких безопасных счетов, а также использовать для доступа к своим ресурсам сложные пароли, при возможности – двухфакторную аутентификацию и не скачивать ничего из непроверенных источников.
*КОМПАНИЯ «МЕТА» ПРИЗНАНА ЭКСТРЕМИСТСКОЙ И ЗАПРЕЩЕНА НА ТЕРРИТОРИИ РФ / **ПРИНАДЛЕЖИТ КОМПАНИИ «МЕТА», КОТОРАЯ ПРИЗНАНА ЭКСТРЕМИСТСКОЙ И ЗАПРЕЩЕНА НА ТЕРРИТОРИИ РФ.
