YouTube é alvo de denúncias por pedofilia e ‘dicas’ de suicídio em vídeos infantis

EDIT (18/03): Texto atualizado com a informação sobre a Momo, que também está sendo utilizada em vídeos com instruções de suicídio. Se você já havia lido este post anteriormente, vale a pena ler esta nova informação .

Trinta anos. A internet está aí (ou aqui) há trinta anos, e infelizmente ainda não podemos considerá-la um “espaço” minimamente seguro para crianças. E uma descoberta recente e surpreendente, pelo menos para mim, mostrou que o YouTube é um terreno perigoso para os pequenos.

Cuidado com o conteúdo ao qual seu filho é exposto (Foto: Reprodução/iStock)

É isso mesmo. A “nova TV”, tão adorada pelos pais que fazem do serviço uma babá eletrônica, apresenta riscos que até pouco tempo eram desconhecidos. Nas últimas semanas, produtores de conteúdo da plataforma revelaram que ela não só é explorada por uma rede de pedófilos que se aproveitam de algoritmos, como também esconde vídeos bizarros com incitação ao suicídio.

Ouça o podcast sobre o tema:

Fiquei sabendo do tal “círculo” através de um vídeo do youtuber Felipe Neto, em que ele mostra como pessoas mal intencionadas podem facilmente entrar numa espécie de corrente de vídeos e comentários que proporcionam material para os pedófilos. Em pouco cliques, ele chega a uma publicação que, depois de visualizada, curtida e comentada, passa a sugerir conteúdo relacionado sugestivo.

Para não ser repetitivo, não vou detalhar o processo, mas recomendo (quem diria) que pais e cuidadores assistam ao vídeo, para entenderem como funciona:

“Dentro do YouTube, existe uma forma de você entrar numa espécie de looping, onde você passa a só receber conteúdo de menininhas dançando ou fazendo acrobacias, usando pouca roupa ou fazendo festinha na piscina, de uma maneira que seria inocente para qualquer outra criança que estiver assistindo, e são conteúdos criados para outras crianças, mas que são assistidos por milhões de pedófilos ao redor do mundo”, explica o youtuber.

Ele ainda fala que a descoberta não é recente, mas que tem tomado volume após vários produtores de conteúdo se manifestarem, cobrando da plataforma uma solução. Recentemente, o YouTube desativou os comentários em milhões de vídeos, especialmente os que mostram crianças pequenas, com o objetivo de evitar a ação dos pedófilos, já que eles se comunicavam principalmente pelas mensagens deixadas nas publicações, com informações de contato e marcações dos segundos em que os vídeos mostravam as crianças em posições mais expostas.

Por mais que seja pouco, ficar atento aos comentários parece ser a principal (para não dizer única) defesa, caso você seja pai, mãe ou responsável por alguma criança que produz conteúdo para a plataforma. Apague, sinalize e/ou denuncie mensagens estranhas, e também tenha cuidado com marcações de tempo ou contatos deixados nos coments. Todo cuidado é pouco, e até mesmo desativar a opção pode ser algo a ser avaliado.

“Lateral para atenção, longitudinal para resultados”

(Foto: Reprodução/Ars Technica)

O segundo grande perigo a ser denunciado é tão assustador quanto o primeiro, e também um pouco mais preocupante por atingir o YouTube Kids, a versão do serviço que deveria ser mais segura para o público infantil. Um blog administrado por pediatras americanos revelou a existência de vídeos que “ensinam” como cometer suicídio.

O vídeo, veiculado no Pedimom, mostra uma edição feita no meio do que parece ser um desenho inocente. Aos 4 minutos e 44 segundos, um homem aparece na tela usando óculos escuros e dizendo: “Lembrem-se crianças, lateral para atenção, longitudinal para resultados. Terminem!” Ao mesmo tempo em que transmite a mensagem perturbadora, o homem faz gestos simulando cortes no pulso.

A descoberta foi divulgada por uma “médica anônima”, segundo o blog, que assistiu ao vídeo enquanto cuidava do filho durante um sangramento nasal. “Estou perturbada, entristecida e revoltada. Mas também estou aliviada por estar lá para ver este vídeo com meus próprios olhos, para poder tomar as ações apropriadas para proteger minha família”, disse ela.

Ao portal Ars Technica, o YouTube informou que “trabalha para fazer com que os vídeos no YouTube Kids sejam adequados para toda a família e leva o feedback muito a sério. Ficamos felizes quando pessoas chamam nossa atenção para conteúdo problemático, e permitimos que qualquer pessoa sinalize um vídeo. Vídeos sinalizados são revisados manualmente constantemente e qualquer vídeo que não pertença ao app é removido. Também estamos investindo em novos controles para os pais, incluindo a possibilidade de selecionar a dedo vídeos e canais no app. Estamos fazendo melhorias constantes nos nossos sistemas e reconhecemos que há mais trabalho a ser feito.”

Momo e a popularização do problema no Brasil

(Foto: Reprodução/Guff Dump)

Outro viral que tem tirado o sono dos pais é o da Momo, a famosa criatura horripilante que ficou famosa em 2017 ao ser ligada a um desafio online que supostamente fazia com que crianças e adolescentes se machucassem ou até mesmo cometessem suicídio. Após um tempo “escondida”, a figura voltou a ter destaque depois que uma mãe relatou tê-la visto em um vídeo no YouTube Kids.

Em entrevista à revista Crescer, a professora Juliana Tedeschi, de Campinas (SP), afirmou que sua filha Bianca, de 8 anos, teve contato com a Momo, e que passou a ter problemas emocionais, como crises de choro e dificuldades para dormir sozinha. De acordo com o relato de Juliana, a criatura assustadora aparecia em vídeos com receitas de slime, e a filha já havia assistido o vídeo várias vezes.

Além deste caso, também circulam no Instagram vídeos compartilhado por mães que mostram a figura aparecendo durante clipes da música “Baby Shark”, muito famosa entre crianças, principalmente em idade pré-escolar. Assista:

Como é possível ver, a rotina é semelhante aos casos registrados nos Estados Unidos, com o homem de óculos. A Momo aparece e orienta as crianças a procurarem “brinquedos afiados”, e cortar os pulsos no sentido longitudinal. Algumas vezes, a figura ainda diz que as crianças não devem parar caso sintam dor, pois elas “precisam ser corajosas”. De acordo com os posts feitos pelas mães, os vídeos teriam sido gravados em várias línguas diferentes, inclusive em português.

Melhorando a proteção

Aumente a segurança no aplicativo logo após instalá-lo (Foto: Reprodução)

Se você usa o YouTube Kids (o que é extremamente recomendado no caso de crianças em idade pré-escolar) e quer deixar o aplicativo um pouco mais seguro, a dica é explorar bastante as configurações. Logo depois de instalar e abrir o app, aperte no ícone do cadeado e resolva a equação matemática que vai aparecer, criando uma senha de quatro dígitos em seguida.

O próximo passo é criar o perfil do seu filho, com nome, idade e mês de aniversário, o que fará com que o conteúdo sugerido seja adaptado especificamente para a faixa etária da criança. Depois desative a opção “Permitir pesquisa”, caso você não queira que seu filho encontre conteúdo através da busca, ou ative a opção “Somente conteúdo aprovado”, se quiser selecionar manualmente todo o conteúdo que será exibido para a criança. Por último, você pode selecionar a opção “Pausar histórico”, para que o YouTube Kids não recomende vídeos baseado no que é reproduzido.

No fim das contas, o melhor conselho é sempre estar por perto dos pequenos enquanto eles assistem a qualquer conteúdo online. Por mais opções e recursos que serviços como o YouTube Kids ofereça, nenhum filtro será melhor que o bom senso dos responsáveis. Como pai, sei que essa vigilância constante nem sempre é possível, mas presença, atenção e diálogo continuam sendo os grandes aliados na formação de crianças saudáveis e sadias.