Новый алгоритм поможет очистить «Вконтакте» от запрещенного контента

Дата публикации: 2017-03-27

От автора: для анализа «правомерности» содержимого графического контента «Вконтакте» запустил алгоритм, который «умеет» распознавать изображенные на картинках предметы и текст.

Представители социальной сети сообщили, что алгоритм используется для ранжирования картинок. В результате чего изображение полностью блокируются (не допускаются к публикации) или не попадает в выдачу и в пользовательскую ленту новостей.

Прежде всего, действие функционала рассчитано на выявление и блокировку незаконного контента. Созданный алгоритм работает на базе нейронной сети, состоящей из нескольких тысяч классов, согласно котороым происходит сортировка изображений и их оценка. Окончательное решение о «правомерности» отсеянных рисунков принимают модераторы социальной сети.

Новая технология полностью разработана специалистами «Вконтакте». Нейронная сеть «умеет» не только определять предметы и сущности, запечатленные на изображении, но и выявлять скрытый контекст различных символов (группы смерти, свастика и другие запрещенные к публикации «атрибуты»).

При этом отдельный (более «категоричный») сценарий алгоритма направлен на борьбу с контентом, популяризирующиь суицид. Посты и фото по этой тематике удаляются из соцсети автоматически, а их авторы блокируются.