Алгоритмы YouTube подсовывают детям бессмысленный ИИ-мусор вместо полезного контента

Журналисты проводили анализ в течение нескольких недель, изучая рекомендации в режиме приватного просмотра.

Популярный видеохостинг YouTube заваливает ленты детей дошкольного возраста странным контентом, созданным нейросетями исключительно ради прибыли. Расследование The New York Times показало, что достаточно посмотреть один ролик популярного шоу CoComelon, чтобы платформа начала предлагать бесконечную череду «синтетических» видео, лишенных всякой образовательной ценности.

Журналисты проводили анализ в течение нескольких недель, изучая рекомендации в режиме приватного просмотра. Выяснилось, что в ходе обычного 15-минутного сеанса более 40% предложенных коротких видео содержали признаки генерации искусственным интеллектом. При этом после просмотра классической детской песенки «Колеса на автобусе» доля сомнительного контента в рекомендациях оставалась пугающе высокой.

Какой контент потребляют дети

Вместо обещанных уроков алфавита или рассказов о животных дети видят на экране абсурдные образы: искаженные лица, лишние части тела и невнятный текст. Такие ролики длятся не более 30 секунд. По мнению экспертов, подобный формат не оставляет места для повторений или внятного повествования, которые критически важны для развития ребенка. Тем не менее этот цифровой суррогат набирает миллионы просмотров.

За этим потоком стоят анонимные авторы, превратившие инструменты ИИ в надежный источник дохода. Используя доступные сервисы, такие как Google Whisk и Runway, они штампуют ролики массово. Порог входа в этот бизнес минимален, а отдача огромна: алгоритм платформы охотно продвигает такие аккаунты, отдавая приоритет количеству, а не качеству.

Как отреагировал YouTube

Реакция видеохостинга последовала только после прямого вмешательства прессы. Представители YouTube заблокировали пять упомянутых в расследовании каналов в своей партнерской программе, лишив их дохода от рекламы. Также было удалено несколько роликов из детского приложения YouTube Kids за нарушение правил безопасности.

Однако системно проблема не решена. Правила платформы об обязательном раскрытии использования ИИ пока не распространяются на анимационные видео для детей. В этой ситуации эксперты и Американская академия педиатрии советуют родителям быть бдительными, самостоятельно формировать плейлисты из проверенных программ или вовсе отказываться от использования приложения в пользу модерируемого контента.