Facebook и YouTube научились автоматически блокировать экстремистский контент
Ресурсы Facebook и YouTube, являющиеся одними из самых популярных в мире, внедрили в свой состав алгоритмы, автоматически блокирующие любой контент, так или иначе связанный с экстремизмом. Это касается всего, что пользователи выкладывают в Интернет, и если YouTube в силу своей специфики блокирует только лишь видео, то социальная сеть Facebook предотвращает распространение также фотографий, записей и анимированных изображений.
Представители Facebook и YouTube не объявляли о запуске нового функционала, передает портал CNET — алгоритмы были интегрированы, можно сказать, задним числом, и в настоящее время они находятся на тестировании в реальных условиях. Как именно работает новая технология, ее авторы не уточняют.
Как стало известно от инсайдеров, алгоритмы Facebook и YouTube ищут экстремистские материалы по специальным цифровыми отпечаткам. По принципу действия это очень похоже на технологии поиска пиратского контента в Интернете, когда только что загруженные в социальные сети и другие ресурсы файлы сверяются с заранее составленным черным списком в автоматическом режиме. Если файл не проходит проверку, система тут же блокирует ее.
В первую очередь нововведения в Facebook и YouTube направлены на борьбу с ИГИЛ, террористической организацией, запрещенной на территории России. Алгоритмы позволят блокировать видеоролики со сценами убийств, а также лекции, призывающие внушаемых граждан вступить в ряды террористов. Такой контент экстремисты загружают ежедневно, и в течение определенного времени он находится в свободном доступе, пока модераторы не удалят его вручную.
По предварительным данным, новые алгоритмы Facebook и YouTube имеют способность к обучению. На первом этапе они будут работать под контролем тех самых модераторов, а в скором будущем станут полностью самостоятельными.