A mídia social ainda não é um espaço seguro para as crianças. Uma repressão está em andamento –

• Segurança online infantil está em uma necessidade drástica de um reset
• Presidente Biden pediu por restrições mais rígidas para empresas de redes sociais nos EUA
• Regulador do Reino Unido anunciou novas regras para obrigar empresas de tecnologia a manter as crianças seguras online

A segurança online infantil está em uma necessidade drástica de um reset – não apenas aos olhos de muitos pais, mas também de governos, reguladores e jovens que tiveram experiências negativas ao usar as redes sociais. Nos EUA, o Presidente Biden pediu por restrições mais rígidas para empresas de redes sociais e o Kids Online Safety Bill está ganhando destaque no Senado. Mas os EUA ainda estão um passo atrás do Reino Unido, que anunciou novas regras na quarta-feira que farão com que empresas de tecnologia sejam obrigadas a tomar novas medidas para manter as crianças seguras, sob o risco de multas ou proibições. O regulador Ofcom delineou 40 medidas práticas sob o Online Safety Act que empresas de redes sociais terão que seguir para manter as crianças seguras em suas plataformas. Existem dois aspectos nas novas regras. Primeiramente, elas exigirão que empresas de tecnologia que possam ter crianças usando suas plataformas apliquem verificação de idade mais rigorosa para prevenir que jovens acessem conteúdo inapropriado para suas idades. Em segundo lugar, elas devem aprimorar a moderação e “domar algoritmos tóxicos” filtrando ou classificando para baixo conteúdos como pornografia, ou referências a auto-mutilação, suicídio e distúrbios alimentares. Empresas de tecnologia que não cumprirem as regras enfrentarão multas ou até mesmo tempo na prisão para executivos. Embora se apliquem apenas no Reino Unido, a Ofcom espera que a gravidade das sanções faça com que as pessoas nos conselhos e nas salas de diretoria das maiores plataformas de redes sociais priorizem mais firmemente a segurança das crianças do que fizeram no passado. Se for esse o caso, quaisquer mudanças introduzidas pelas plataformas poderão ter efeitos de longo alcance que impactem jovens usuários de redes sociais em todo o mundo.

Plataformas de redes sociais enfrentam há muito tempo acusações de que contribuem para problemas de saúde mental por não protegerem as crianças de conteúdos prejudiciais. Em alguns casos, incluindo a morte da adolescente britânica Molly Russell, isso teve consequências trágicas. Russell morreu por suicídio em novembro de 2017, aos 14 anos, após visualizar extenso material relacionado à auto-mutilação no Instagram e Pinterest. O legista em seu caso concluiu que o conteúdo que Russell visualizou foi responsável por sua morte e recomendou que os sites de redes sociais introduzissem disposições mais rígidas para a proteção de crianças. Ao longo dos anos, empresas de tecnologia intensificaram seus esforços de moderação e introduziram novos recursos, ferramentas e recursos educacionais para manter as crianças seguras. Mas, como muitas crianças e pais sabem muito bem, muitos problemas ainda persistem. Crianças ainda são expostas a conteúdo prejudicial para seu bem-estar e correm o risco de exploração por adultos que usam as mesmas plataformas que elas. Não são apenas os adultos que já tiveram o bastante. Ao projetar as novas regras do Reino Unido, a Ofcom consultou mais de 15.000 crianças, disse a Diretora de Grupo de Segurança Online da reguladora, Gill Whitehead. “Quando falamos com crianças e perguntamos a elas, ‘o que você gostaria de mudar sobre o serviço de redes sociais?’ Elas lhe dizem – elas têm muitas ideias”, disse ela. São as opiniões das crianças que informaram regras como ter o poder de recusar automaticamente convites para grupos de bate-papo e poder dizer que desejam ver menos de tipos específicos de conteúdo em seus feeds. Após uma consulta, a Ofcom espera publicar seu novo código de segurança infantil dentro de um ano. De acordo com as novas regras, empresas de tecnologia terão então três meses para avaliar o risco que representam para as crianças e relatar isso publicamente. Elas também terão que ser transparentes sobre as medidas que estão tomando para mitigar esse risco. À medida que as regras entram em vigor, a Ofcom planeja continuar consultando os jovens, não apenas para ver se as medidas introduzidas pelas empresas de tecnologia são eficazes, mas também para identificar novas ameaças à medida que surgem. Já, o regulador está planejando uma consulta adicional em torno das ameaças que a AI generativa pode representar para crianças. “Nós estabelecemos várias mensagens hoje sobre como esses canais de denúncia para empresas de tecnologia devem ser melhorados”, disse Whitehead. “Mas, em última instância, se o feedback vier quando falamos com crianças de que esses canais de denúncia são ineficazes, então isso fará parte do plano de ação que temos com essas maiores e mais arriscadas empresas sobre como lidar com isso.”