Deepfakes e IA geram quase 50 mil denúncias de abuso infantil no Brasil
Crescimento Alarmante de Deepfakes e Seus Efeitos na Sociedade
Nos últimos anos, o Brasil tem enfrentado um fenômeno preocupante: o aumento de deepfakes sexuais, especialmente envolvendo estudantes. Um levantamento realizado pela SaferNet, uma organização que se dedica a promover os Direitos Humanos na internet, revelou que quatro casos desse tipo foram registrados em escolas de São Paulo. Este dado é apenas a ponta do iceberg, pois o estudo identificou ocorrências em 10 estados do país, incluindo Minas Gerais, Rio de Janeiro e Paraná.
O Cenário Atual de Crimes Digitais
Entre 1º de janeiro e 31 de julho de 2025, a SaferNet recebeu um total impressionante de 76.997 denúncias de crimes digitais. Dentre essas, 49.336, ou seja, cerca de 64%, estavam relacionadas a abusos e exploração sexual infantil. Isso significa que quase sete em cada dez denúncias feitas à organização são sobre esse tema alarmante. Além disso, outras denúncias incluem crimes cibernéticos como racismo, xenofobia e intolerância religiosa.
O Impacto do Vídeo “Adultização”
Um evento que gerou repercussão significativa foi a publicação do vídeo “Adultização” pelo influenciador Felca em 6 de agosto, que acumulou 46 milhões de visualizações. Este vídeo estimulou 6.278 novas denúncias, sendo que metade delas ocorreu logo após a sua divulgação. Esse crescimento inesperado nas denúncias destaca a relação entre a disseminação de conteúdos impactantes e o aumento de notificações sobre abusos.
IA Generativa e Seus Perigos
Outro ponto preocupante levantado pelo levantamento é o uso crescente de inteligência artificial (IA) generativa para criar e disseminar material sexual envolvendo crianças e adolescentes. A tecnologia atual permite que aplicativos gerem imagens hiper-realistas, incluindo fotos manipuladas e deepfakes que usam vozes e rostos de menores. Essas produções circulam de forma rápida em redes sociais, aplicativos de mensagens e sites de conteúdo pornográfico, muitos dos quais têm pouca moderação. Essa falta de controle expõe as vítimas a assédio, bullying e traumas que podem durar toda a vida.
Which breed is your favorite?
Ambientes Escolares como Território de Risco
É alarmante notar que muitos desses casos ocorrem no ambiente escolar, onde adolescentes são os principais afetados. O acesso fácil à tecnologia e a falta de supervisão adequada aumentam o risco de tais situações. Além disso, a ONG identificou que muitos sites de conteúdo adulto, por falhas em seus mecanismos de moderação, acabam armazenando materiais de abuso sexual de crianças e adolescentes que foram criados por IA.
