Search
Суббота 26 сентября 2020
  • :
  • :

Метод «ВКонтакте» найдет опасный контент в соцсети

«Вконтакте» применила нейросети для борьбы с «группами смерти»

Новый метод несомненно поможет соцсети «Вконтакте» анализировать весь контент на ее просторах, вовремя находить опасные публикации и фото и моментально их перекрыть. Алгоритм способен распознавать на картинах различные объекты — людей, животных, растения.

Технология, как сообщается, может определять не только лишь информацию, которая изображена на картинке, фотографии, однако и «читать» текстовые надписи.

После выявления рискованных либо провокационных фото они автоматом исключаются из поисковой выдачи и «умной» новостной ленты сети.

В отличие от стандартных алгоритмов, запрограммированных выполнять определенные действия, нейросеть работает по принципу человеческого мозга.

Нейросеть сумеет определять предметы и сущности, изображенные на фотографиях. Классификация включает несколько тыс. категорий, присваиваемых картинкам по нескольким характеристикам. «Умеренно опасные» фотографии теряются из поисковой выдачи, а в новостной ленте их приоритет понижается. Фото, определенное ИИ как рискованное, передается на модерацию, приоритетность «умеренно опасного» контента снижается и он пропадает из поисковой выдачи.

Кроме того, отдельный сценарий спроектирован знатоками «ВКонтакте» для борьбы с суицидальным контентом.

По мнению разработчиков, технология должна пресечь распространение спама, мошенничества, детской порнографии, а кроме этого незаконных услуг и другой противоправной деятельности. Изображения и тексты на суицидальную тематику автоматом удаляются, а страницы пользователей, разместивших данную информацию, блокируются. При блокировке собственнику страницы предлагается сообщить о причинах публикации. По его словам, нейросеть обучили на основе жалоб пользователей. При всем этом метод анализирует только визуальный контент, загружаемый для общего доступа, фото в личных сообщениях не проверяются.




Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *