«ВКонтакте» начала выявлять суицидальные фото с помощью нейросети

В социальную сеть «ВКонтакте» внедрили алгоритм способный определять опасный контент: мошеннические материалы, спам и порнографию. Картинкам присваивается специальный рейтинг, по которому сеть определяет, содержатся ли в аккаунте либо группе опасные материалы, порнография либо спам.

Сеть может распознавать нежелательные изображения и тексты, призывающие к суициду. Программа распознает на картинах объекты — людей, животных, растения.

— Нейросеть имеет несколько тыс. классов, которые присваиваются фото — от 0 до 1 по нескольким параметрам.

Метод распознает объекты на изображениях, которые на этот момент исключаются из поисковой выдачи и «умной» новостной ленты.

Отдельный сценарий предусмотрен для борьбы с суицидальным контентом. Изображения и тексты на суицидальные темы автоматом удаляются. Те юзеры, на чьих страницах будут найдены иллюстрации, хештеги либо записи с суицидальными призывами, подвергнутся блокировке, а контент будет немедленно удален. Если фото признается «опасным», оно уходит модераторам для проверки. По его словам, нейросеть обучили на основе жалоб пользователей.