Алгоритм YouTube оказался под пристальным вниманием после того, как исследование, проведённое Tech Transparency Project (TTP), показало, что сервис рекомендует видео, пропагандирующие оружие, стрельбу в школах и фильм о серийном убийце Джеффри Дамере, аккаунтам юных геймеров. Результаты исследования вызывают опасения по поводу безопасности системы рекомендаций YouTube и её влияния на благополучие молодых пользователей.

В ходе исследования было создано четыре тестовых аккаунта на YouTube, два из которых представлялись девятилетними мальчиками, а два - 14-летними. Оба проявляли интерес к видеоиграм, просматривая игровые плейлисты. Исследователи проанализировали видеоролики, рекомендованные алгоритмом YouTube этим несовершеннолетним аккаунтам, причём некоторые из них приняли рекомендации, а другие — нет.

Пример игровых видео в плейлисте для 14-летних.

Вопреки заявлениям YouTube об ответственном подходе к рекомендациям, исследование показало, что сервис рассылает контент, связанный с перестрелками и оружием, всем аккаунтам геймеров. Однако аккаунты, которые нажимали на рекомендованные видео, получали значительно больше контента, связанного с оружием и стрельбой. Эти рекомендации включали видеоролики, изображающие стрельбу в школах, инструкции по модификации огнестрельного оружия в автоматическое и фильм о серийном убийце Джеффри Дамере.

Примечательно, что многие из этих видео нарушают политику YouTube в отношении насилия, огнестрельного оружия и безопасности для детей. Несмотря на это, YouTube не предпринял никаких действий по возрастному ограничению или удалению видео. Это противоречит утверждению сервиса в 2021 о том, что его рекомендации не направляют зрителей к экстремальному контенту.

Популярность YouTube среди молодёжи очевидна: по данным исследования Pew Research, проведённого в 2022 году, 95% опрошенных в возрасте от 13 до 17 лет пользуются этой платформой. Несмотря на это, YouTube получил менее пристальное внимание, чем такие платформы, как TikTok и Instagram, в отношении их влияния на развитие и благополучие подростков.

Одно из видео, рекомендованное 14-летнему пользователю, содержало графическую сцену из фильма о стрельбе в школе, похожей на Колумбайн, и было положено на музыку.

Алгоритм рекомендаций YouTube работает на основе сигналов пользователя, таких как клики, время просмотра и видеопредпочтения. Рекомендации составляют значительную часть общего числа зрителей на платформе, что подчеркивает важность предоставления привлекательного контента и рекламы. Несмотря на то, что пользователи не могут отключить функцию рекомендаций, они могут удалить отдельные рекомендованные видео из своей ленты. Отдельно можно удалить историю просмотра.

В исследовании подчеркивается, что YouTube необходимо решить проблемы, связанные с его системой рекомендаций, особенно в отношении ознакомления несовершеннолетних с вредным и неприемлемым контентом. Более строгое соблюдение политики и возрастных ограничений, а также постоянная прозрачность и подотчётность необходимы для обеспечения более безопасного и ответственного использования YouTube пользователями младшего возраста.


Ещё по теме: