Кубанские Новости
Общество

«ВКонтакте» использует нейросеть для борьбы с враждебностью

«ВКонтакте» использует нейросеть для борьбы с враждебностью
Фото: pixabay.com

Сотрудники компании работают над искусственным интеллектом для автоматического распознавания материалов с враждебными высказываниями.

С помощью этой технологии получится ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости, говорится в сообщении «ВКонтакте».

Новая нейросеть будет искать как материалы с хейтспичем, так и публикации, провоцирующие пользователей на проявление агрессии. Под враждебными высказываниями в компании подразумевают проявления ксенофобии, расизма, гомофобии и сексизма, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Для обучения искусственного интеллекта «ВКонтакте» добавила новую категорию жалоб – «Враждебные высказывания».

Руководитель команды модерации компании Иван Корнеев отметил, что сотрудники ежедневно обрабатывают большой объем контента в поисках опасного или оскорбительного материала.

– Если же вы заметили оскорбительную публикацию, пожалуйтесь на неё. С проявлениями нетерпимости эффективнее бороться вместе – и мы призываем пользователей присоединяться к нам в этой борьбе, – сказал он.

Отмечается, что в первом полугодии 2020 года в социальной сети было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти и заблокировано 1340 профилей и 2470 сообществ.

Показать еще