Meta e TikTok enfrentam processos por falhas na proteção de menores, enquanto novas ferramentas de IA são implementadas para classificar usuários adolescentes
Este ano, as gigantes das redes sociais têm estado sob intenso escrutínio das autoridades. Processos judiciais têm atingido grandes nomes como Meta e TikTok, por falharem em proteger adequadamente usuários menores de idade. Sob essa pressão, algumas plataformas, como o Instagram, têm implementado medidas de privacidade mais rigorosas para contas de adolescentes. Agora, a Meta revelou detalhes sobre seu novo classificador de idade baseado em IA.
Há meses, contas de menores de 16 anos no Instagram têm recebido o rótulo de “conta de adolescente”. Perfis com essa classificação têm as restrições de privacidade mais severas, impedindo que crianças e adolescentes entrem em contato direto com possíveis predadores. No entanto, algumas dessas restrições podem limitar funcionalidades, levando alguns adolescentes a tentarem contorná-las.
Uma maneira de contornar as restrições é criar um novo perfil com uma data de nascimento falsa. Com isso em mente, a Meta anunciou em setembro o lançamento de uma ferramenta de classificação de idade baseada em IA para detectar automaticamente esses casos. Agora, Allison Hartnett, diretora de gerenciamento de produtos para jovens e impacto social da Meta, revelou mais detalhes sobre como a ferramenta funcionará.
De acordo com Hartnett, a ferramenta analisará múltiplos parâmetros para tomar uma decisão, incluindo os perfis que um usuário segue e o tipo de conteúdo com o qual interage. Os sistemas da Meta também estarão atentos a comportamentos potencialmente suspeitos ao criar uma nova conta no Instagram, como usar um email associado a um perfil existente ou até mesmo obter o ID do dispositivo. Dessa forma, a plataforma pode tomar uma decisão mais precisa sobre quem está criando um novo perfil.
O classificador de idade da Meta poderá rotular contas suspeitas de pertencerem a menores como “adolescentes”, aplicando automaticamente todas as restrições. Contas com essas restrições não podem removê-las sem a autorização prévia de um responsável legal. A empresa promete fornecer uma ferramenta de recurso caso uma conta seja incorretamente rotulada como “adolescente”. No entanto, ainda não há uma data definida para a disponibilidade dessa ferramenta.
Também pode haver casos de adolescentes tentando remover as restrições alterando sua data de nascimento. Nesse caso, o Instagram solicitará um documento de identidade válido emitido pelo governo. Os usuários também terão a opção de enviar um vídeo selfie por meio da tecnologia da Yoti, que oferece serviços avançados de reconhecimento facial com IA, capazes de determinar a idade de uma pessoa. A Meta já recorreu à Yoti para verificar a idade dos usuários da opção de namoro do Facebook.
Fonte: Android Headlines