Internet Steering Committee Calls for Reaction to AI-Generated Child Abuse Content (Portuguese)

An English summary of this report is below. The original report, published in Portuguese in Núcleo, follows.

The Internet Steering Committee in Brazil (CGI.br) expressed concern about AI-generated sexual abuse images of women, children, and adolescents.

In a statement published on June 30, 2025, CGI.br noted that Brazil already has legislation that addresses these crimes, such as the Internet Civil Rights Framework, the General Data Protection Law, and the Child and Adolescent Statute. But the government agency also called for firmer monitoring and penalizing actions.

CGI.br demanded that AI companies, app stores, and digital platforms act proactively to prevent the creation of such content.

---

As a nonprofit journalism organization, we depend on your support to fund more than 170 reporting projects every year on critical global and local issues. Donate any amount today to become a Pulitzer Center Champion and receive exclusive benefits!

---

Comitê Gestor da Internet cobra reação contra abuso infantil gerado por IA

Em nota oficial, CGI.br pede medidas de empresas e plataformas para combater geração de imagens abusivas por inteligência artificial e proteger grupos vulneráveis

O Comitê Gestor da Internet no Brasil (CGI.br) manifestou preocupação com a geração de imagens de exploração sexual de mulheres, crianças e adolescentes por sistemas de inteligência artificial generativa.

Em nota publicada em 30.jun.2025, o CGI.br lembrou que o Brasil já possui legislação para lidar com esses crimes — como o Marco Civil da Internet, a Lei Geral de Proteção de Dados e o Estatuto da Criança e do Adolescente —, mas pediu ações mais firmes de fiscalização e punição.

RECOMENDAÇÕES. A instituição cobrou que empresas de IA, lojas de aplicativos e plataformas digitais atuem de forma proativa para coibir esses conteúdos. Entre as recomendações estão:

• criar políticas de moderação mais rigorosas, com banimento de serviços, práticas e usuários que violem a segurança e os direitos de mulheres, crianças e adolescentes;
• desenvolver ferramentas de IA generativa com critérios claros sobre o uso de dados pessoais, bancos de imagens e modelos algorítmicos, prevenindo a difusão de conteúdos de violência sexual, discriminação e abuso contra grupos vulneráveis.

O CGI.br é a entidade responsável por coordenar e estabelecer diretrizes para o uso e desenvolvimento da internet no país. Criado em 1995, o colegiado reúne representantes do governo, setor empresarial, terceiro setor e comunidade acadêmica, atuando na formulação de políticas públicas.

LEIA. Desde nov.2024, em parceria com a AI Accountability Network do Pulitzer Center, o Núcleo publica uma série de investigações sobre o uso da IA para criação de conteúdos criminosos envolvendo crianças. Você pode ler todas as reportagens aqui.

Edição Alexandre Orrico