Новый метод несомненно поможет соцсети «Вконтакте» анализировать весь контент на ее просторах, вовремя находить опасные публикации и фото и моментально их перекрыть. Алгоритм способен распознавать на картинах различные объекты — людей, животных, растения.
Технология, как сообщается, может определять не только лишь информацию, которая изображена на картинке, фотографии, однако и «читать» текстовые надписи.
После выявления рискованных либо провокационных фото они автоматом исключаются из поисковой выдачи и «умной» новостной ленты сети.
В отличие от стандартных алгоритмов, запрограммированных выполнять определенные действия, нейросеть работает по принципу человеческого мозга.
Нейросеть сумеет определять предметы и сущности, изображенные на фотографиях. Классификация включает несколько тыс. категорий, присваиваемых картинкам по нескольким характеристикам. «Умеренно опасные» фотографии теряются из поисковой выдачи, а в новостной ленте их приоритет понижается. Фото, определенное ИИ как рискованное, передается на модерацию, приоритетность «умеренно опасного» контента снижается и он пропадает из поисковой выдачи.
Кроме того, отдельный сценарий спроектирован знатоками «ВКонтакте» для борьбы с суицидальным контентом.
По мнению разработчиков, технология должна пресечь распространение спама, мошенничества, детской порнографии, а кроме этого незаконных услуг и другой противоправной деятельности. Изображения и тексты на суицидальную тематику автоматом удаляются, а страницы пользователей, разместивших данную информацию, блокируются. При блокировке собственнику страницы предлагается сообщить о причинах публикации. По его словам, нейросеть обучили на основе жалоб пользователей. При всем этом метод анализирует только визуальный контент, загружаемый для общего доступа, фото в личных сообщениях не проверяются.