Используемая нейронная сеть определяет предметы и сущности на фотографиях, пишут «Известия». Она понимает не только, что значит «человек», «ребенок», «животное», «растение», но и может определить предмет одежды или символ «группы смерти». В целом имеется несколько тысяч классов, присваиваемых картинках по нескольким параметрам. Если изображение охарактеризовано как запрещенное, оно отправляется модераторам для проверки. Если оно признано умеренно опасным, то пропадает из поиска и теряет приоритет в новостной ленте. Картинки с суицидальным контентом, однако, удаляются автоматически, а страницы их авторов блокируются. Технология способна анализировать и текстовые надписи.
Умная лента была введена в социальной сети в прошлом году. Принцип ее работы заключается в том, что записи друзей отображаются в приоритетном порядке, с учетом интересов пользователя: чему он больше ставит лайки, то чаще и видит. Сделано это для того, чтобы каждый получал максимально интересную и полезную для него информацию. Сегодня такой лентой пользуются 80% активной аудитории «ВКонтакте», пишет издание.
Данный механизм поможет остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой запрещенной информации, считают разработчики.