O Instagram está a testar o uso de IA para sinalizar utilizadores menores de idade que ocultam ou mentem sobre a sua idade. Estas medidas fazem parte das novas restrições para proteger de forma mais eficiente os adolescentes online, disse a empresa-mãe Meta na segunda-feira.
A plataforma agora irá procurar "proativamente" contas de adolescentes que suspeita pertencerem a utilizadores menores de idade, mesmo que esses tenham inserido uma data de nascimento falsa quando se inscreveram.
A aplicação já tinha usado IA antes para calcular a idade dos seus utilizadores no passado, mas a nova abordagem representa uma estratégia mais "agressiva".
A Meta diz que treina o seu sistema de IA para detetar sinais - como a atividade da conta, detalhes do perfil e interações de conteúdo - para sinalizar quem possa ter deturpado sua idade.
Se o Instagram determinar que um utilizador mentiu sobre a sua idade real, a conta será classificada novamente para a categoria de adolescente. Isto implica definições de privacidade e segurança mais rigorosas.
Por definição, as contas de adolescentes são privadas. As mensagens são limitadas às pessoas que o utilizador já segue ou com quem já está ligado. Os conteúdos considerados "sensíveis" - como vídeos violentos ou publicações que promovam procedimentos estéticos - serão agora restringidos, segundo o Meta.
Os utilizadores adolescentes irão receber notificações de limite de tempo após 60 minutos de utilização. Será ativado um "modo de suspensão" que desliga as notificações e envia respostas automáticas a mensagens diretas das 22h00 às 7h00.
O Instagram também começará a enviar notificações aos pais que irão incentivar conversas com os adolescentes sobre a importância de fornecer informações precisas sobre a idade online, de acordo com o Meta.
A atualização surge num momento em que as empresas de tecnologia enfrentam um maior escrutínio sobre o impacto das redes sociais na saúde mental dos jovens. Vários estados norte-americanos estão também a avançar com nova legislação para exigir a verificação da idade nas redes sociais, embora muitos destes esforços tenham enfrentado desafios legais.
A Meta e outras empresas de tecnologia têm argumentado que as "lojas de aplicações", devem ser responsáveis pela verificação da idade dos utilizadores e não as plataformas individuais.