«ВКонтакте» разрабатывает нейросеть для борьбы с враждебными высказываниями — ИТ-Бизнес

Соц сеть «ВКонтакте» разрабатывает решение для автоматического определения материалов с хейтспичем — агрессивными высказываниями — на основе искусственного ума, говорится в сообщении компании.

«Новая нейросеть очень поможет быстрее находить материалы с враждебными высказываниями (Высказывание — в логике, предложение, которое может быть истинно или ложно), а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть обучается определять самые разные категории оскорблений и угроз. Посреди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, наружности или наличия заболеваний», — уточняется в сообщении.

Разработка призвана ускорить время обработки жалоб и посодействовать пользователям реже сталкиваться с проявлениями нетерпимости.

Чтобы усилить модерацию по теме языка ненависти и научить искусственный интеллект, соцсеть добавила новую категорию жалоб — «Агрессивные высказывания». Пользователь может выбрать её, если нажмёт кнопку «посетовать» у оскорбительной публикации. После этого спец материал попадёт на рассмотрение к модераторам, что позволит позволит поточнее откалибровать уже существующие инструменты и собрать свежие на основе нейросетей.

Помимо этого, команды модерации и помощи не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью устройств автоматического поиска, технологии цифровых отпечатков и нейронных сетей, отметили в организации.

За первую половину 2020 года на платформе было удалено 520 тыс единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих агрессивные высказывания.