Aplicativos de jogos podem expor crianças ao ódio, embora os pais nem sempre percebam

Crianças e adolescentes são os principais alvos de discursos de ódio nas redes sociais e em plataformas de jogos online – o que, frequentemente, não é percebido pelos pais e responsáveis. Comportamentos racistas, homofóbicos e misóginos estão cada vez mais frequentes na rotina dos jovens que acessam a internet, assim como conteúdos que incitam diferentes formas de violência, seja contra si ou grupos minoritários.

Segundo o presidente da Safernet Brasil, Thiago Tavares, mais de 50 milhões de crianças e adolescentes acessam a internet diariamente no Brasil.

O especialista em Direitos Humanos na Web afirmou ter observado, nos últimos anos, uma tendência preocupante, não apenas no Brasil, mas em diversas partes do mundo. Essa tendência se manifesta aqui no Brasil de forma séria e grave, que é a radicalização de adolescentes e jovens.

Aumento do ódio na web

Segundo Thiago, esses conteúdos de ódio estão se tornando mais frequentes devido a três fatores. O primeiro deles é a influência dos algoritmos, que variam conforme a plataforma.

“Infelizmente, algumas plataformas, em sua busca por manter a audiência, ajustam seus algoritmos de recomendação para dar relevância a conteúdos de baixa qualidade, sintéticos, muitas vezes criados por inteligência artificial generativa, e conteúdos que frequentemente apresentam cenas de violência e que despertam instintos mais primitivos do usuário, como raiva, repulsa, nojo ou revolta.”

Segundo o especialista, indivíduos em situação de vulnerabilidade e em desenvolvimento, como crianças e adolescentes, são os mais suscetíveis a essa exposição. “Esse conteúdo pode causar dano, pois pode levar a pessoa a se envolver em atos de autolesão, reforçar ideias e pensamentos suicidas, e assim por diante”, ressaltou.

O segundo fator é a diminuição das equipes de integridade nessas plataformas. Thiago cita o exemplo do X (antigo Twitter), que demitiu 80% dos funcionários após a aquisição pela bilionário Elon Musk.

As equipes de segurança e integridade da plataforma foram drasticamente reduzidas. Paralelamente, o novo controlador da empresa passou a defender a liberdade de expressão como justificativa para a inação em relação à moderação de conteúdo violento, conforme analisou Thiago.

A terceira razão que contribuiu para o aumento de conteúdos extremistas e violentos nas redes e jogos online é a mudança na política dessas plataformas. O presidente da Safernet Brasil deu o exemplo da Meta, dona do WhatsApp, Facebook e Instagram, que anunciou mudanças importantes na política de conteúdo de ódio no início deste ano. Segundo Thiago, as mudanças foram feitas respeitando apenas a legislação local, dos Estados Unidos, em detrimento do que define a legislação brasileira.

Impacto na prática

A exposição constante a conteúdos de ódio pode gerar consequências graves em crianças e adolescentes, como ocorreu no Brasil em abril de 2023, com os ataques a escolas. “É um problema real, sério, e que também deve ser considerado. Afinal, ninguém nasce odiando ninguém. As pessoas, se elas aprenderam algum momento a odiar, é porque alguém ensinou, alguém incentivou”, declarou Thiago.

Diante desse cenário, tornou-se necessário investigar os crimes virtuais que afetam crianças e adolescentes, o que resultou na criação do Núcleo de Observação e Análise Digital (Noad), da Polícia Civil de São Paulo, coordenado pela delegada Lisandréa Salvariego.

A policial afirma que o discurso de ódio no ambiente virtual tem se intensificado de forma gradual e exponencial, também se associando a outros tipos criminosos. Como exemplo, menciona ofensas com xingamentos que inicialmente são apenas insultos e que podem levar a casos de suicídio.

O discurso de ódio causa uma projeção na vítima que não se consegue aferir, e isso é muito grave. [Os agressores] recorrem a estupro virtual e a incentivo à automutilação, pois a vítima não sabe lidar com tal situação, o que acaba culminando em outros tipos penais, afirmou a delegada.

Agentes do Noad, que atuam de forma infiltrada nas plataformas, relatam que é comum crianças e adolescentes serem abordados para cometer crimes, incluindo cyberbullying e maus-tratos.

Além disso, são frequentes, principalmente envolvendo meninas, relações que resultam em automutilação, tentativas de suicídio e estupros virtuais.

De acordo com Lisandréa, desde a criação do Noad, em novembro do ano passado, 96 vítimas já foram resgatadas de estupros virtuais e tentativas de suicídio. A delegada justificou que outros dados não puderam ser divulgados devido a um trabalho de inteligência.

Monitoramento parental

Para a coordenadora do Noad, é importante que os pais monitorem as plataformas às quais os filhos têm acesso. “É fácil julgá-los e dizer que o pai não está prestando atenção, o pai está omisso, sendo que eles nem sabem que isso está acontecendo. Então, eu acho que precisamos difundir informação e alertá-los sobre o que está acontecendo nas redes”, disse.

Na prática, o controle parental é frequentemente negligenciado. Dados coletados pelo Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic.br), apresentados na pesquisa TIC Kids Online Brasil, revelam que ainda existe uma grande defasagem no conhecimento dos pais e responsáveis sobre o que as crianças e adolescentes estão fazendo na internet.

Dados da última pesquisa, que entrevistou pais e responsáveis de jovens de 9 a 17 anos nos 12 meses de 2024, revelaram uma situação preocupante.

Trinta e quatro por cento das crianças e adolescentes entre 9 e 17 anos relatam não ter regras para o uso do aparelho, e 25% afirmam que os pais “nunca” olham seus celulares e com quem estão falando.

O estudo revelou que 75% dos jovens entrevistados possuem permissão para utilizar aplicativos de mensagens instantâneas sem supervisão e 72% deles podem acessar redes sociais sem o acompanhamento de um adulto.

Dados alarmantes indicam que 13% dos jovens compartilham informações pessoais online sem supervisão e 62% publicam fotos e vídeos com sua imagem individual.

Quanto a conteúdos de ódio, 42% das crianças relataram ter presenciado discriminação na internet nos últimos meses. O preconceito racial é o mais comum, sendo observado por 25% dos jovens.

Quanto a conteúdos sensíveis e que incentivam o auto-lesão, 10% dos jovens relatam ter sido expostos a formas de se prejudicar, e 14% relataram ter vivenciado cenas de violência ou com grande quantidade de sangue.

As plataformas afirmam combater conteúdos de ódio.

Lisandra identificou o Discord e o Roblox como as plataformas mais complexas para o trabalho do Noad, sobretudo devido à lentidão nas respostas solicitadas pela polícia.

A Roblox declarou que possui um conjunto abrangente de medidas de segurança, que incluem filtros rigorosos de mensagens de texto, destinados a impedir palavras ou frases inadequadas, e diretrizes da comunidade que proíbem explicitamente conteúdos ou comportamentos que representem ou promovam discriminação ou discurso de ódio de qualquer forma.

A plataforma alegou empregar “tecnologia de detecção automatizada de última geração”, associada a uma equipe especializada de milhares de moderadores, para aplicar os padrões e tomar medidas contra os responsáveis. A plataforma também declarou incentivar “qualquer pessoa a denunciar conteúdo ou comportamento que não esteja em conformidade com nossos Padrões da Comunidade”.

O Discord, juntamente com as demais plataformas mencionadas, não respondeu às solicitações da reportagem. Em sua política de uso, a empresa declarou não tolerar conduta odiosa ou discurso de ódio, exceto em casos de sátira “óbvia”. O aplicativo, que oferece ferramentas para monitoramento parental, incentiva a denúncia de conteúdos violentos.

O FreeFire, jogo online apontado em reportagens como ambiente com discurso de ódio, informa aos pais que se compromete a “proporcionar uma experiência positiva, segura e agradável para todos os usuários”. A Garena, desenvolvedora do jogo, ressalta que menores de idade devem obter o consentimento dos pais antes de iniciar o jogo, conforme os termos de uso.

O Telegram solicita, em seus termos de uso, que usuários com no mínimo 16 anos não promovam violência, conteúdo pornográfico ou crimes, incluindo abuso infantil.

Outras plataformas analisadas pela reportagem que possuem, em seus termos de uso, o combate a discursos de ódio são o X, a Meta, o TikTok e o Kwai. Todas essas redes também estabelecem limitações para o acesso e cadastro de menores de idade.

Como denunciar discurso de ódio na web

Fonte: Metrópoles