Искусственный интеллект против спама: новая разработка от создателей Facebook и Instagram

Социальные сети Facebook и Instagram всегда тщательно следили за содержанием постов, предупреждая появление оскорбительных месседжей. Также под блокировку попадали спам-сообщения. Разработчики продвинулись дальше в стремлении сделать сервис совершеннее и безопасней.

Новый искусственный интеллект

Rosetta – уникальная программа, которая умеет понимать мемы и анализировать видеоряд. С ее помощью разработчики надеются полностью автоматизировать контроль качества и содержания информационных полей.

Базой служит алгоритм автоматического распознавания текста, который уже много лет совершенствуется. Социальная сеть начала разработку собственного аналога еще в 2015 году. Сегодня анализ контента проходит в частично автоматическом режиме, кроме этого, случаются ошибочные идентификации, что вызывает недоумение у пользователей.

Новая система является нейросетью. Она знает несколько языков, преимущественно базирующихся на латинице, умеет быстро анализировать сообщения. Разработчики считают, что такое решение поможет бороться с агрессивными и оскорбляющими месседжами. Существенный прорыв в технологии произошел благодаря компании Bloomsbury, которая активно разрабатывала парадигму естественного языка. Активы фирмы были приобретены социальной сетью Facebook несколько ранее.

Агрессивный видеоконтент

Метод базируется на умении Rosetta распознавать образы на изображении. Именно так анализируют и выявляют негативные мемы. Для видеозаписи предусмотрен покадровый анализ контента с выделением значимых зон. Такой алгоритм дает наиболее достоверную информацию, однако встает вопрос о его производительности.

Пока программа находится на стадии тестирования, но скоро все пользователи смогут оценить ее полезность и адекватность.


avatar
  Subscribe  
Показать