На YouTube, крупнейшем видео-хостинге в мире, зарегистрировано 2 млрд пользователей. Большинство из них, конечно же, зрители. Но ядро сервиса – это авторы контента.
Они загружают на YouTube 500 часов видео в минуту. 500 часов. Каждую. Минуту.
Как модерировать этот бесконечный поток и не допустить на сайт видео, содержащие эсктримизм, расизм и другие оскорбляющие людей темы?
Это работа Нила Мохэна (Neal Mohan). Он менеджер по развитию продуктов (Chief Product Officer) в YouTube. Нил отвечает за все сервисы относящиеся к YouTube: YouTube.com, мобильные приложения, YouTube Kids, Music и YouTube Premium. Продукты для рекламодателей, создателей контента и музыкантов – тоже часть работы Нила.
Это Нил Мохэн
Автор подкаста Recode Media Питер Кафка (Peter Kafka) поговорил с Мохэном и выяснил, как работает модерация на таком гиганте как YouTube.
Самое важное из интервью с Нилом:
▪️ Механизм модерации работает следующим образом. Сразу после загрузки все видео анализируются нейросетью на соответствие нашим правилам и стандартам.
▪️ Какие-то из них помечаются как «подозрительные» и отправляются на дополнительную проверку, уже живым человеком. Очень во многих случаях только человек может принять окончательное решение.
Машина не сможет отличить, например, просто документальную нацистскую хронику и видео с хроникой, под которую звучат нацистские призывы.
▪️ Точное количество модераторов неизвестно, но недавно Google наняли еще 10 тысяч человек.
▪️ Все механизмы модерации работают, основываясь исключительно на заложенных правилах. Они не совершенны. Правила дорабатываются постоянно. Возможно какие-то видео на момент публикации им соответствуют, но многие люди отправляют жалобы на этот ролик. Тогда его рассматривают вручную.
▪️ Чтобы удалить видео, должно сработать несколько триггеров. Каких — Нил не уточнил.
▪️ Бывают достаточно тонкие вопросы, в которых непонятно в каком месте проводить черту. Например, в проявлениях ненависти. Какие-то ролики можно допускать, а какие-то нет.
▪️ За последние два года в правила было внесено 30 поправок. Это постоянный процесс.
▪️ Каждый квартал удаляется порядка 9 миллионов роликов. Большинство из них даже не успевают попасть на сайт, а удаляются еще в процессе обработки.
Нил Мохэн — действительно неотъемлемая часть YouTube. Именно благодаря ему все сервисы компании нормально функционируют и коммуницируют друг с другом.
Эх, такого бы сотрудника в Apple для управления iTunes и App Store. Быть может, они могли бы взаимодействовать друг с другом гораздо лучше. И откровенно плохого контента стало бы меньше.
11 комментариев