Comitê Gestor da Internet cobra reação contra abuso infantil gerado por IA

Em nota oficial, CGI.br pede medidas de empresas e plataformas para combater geração de imagens abusivas por inteligência artificial e proteger grupos vulneráveis

O Comitê Gestor da Internet no Brasil (CGI.br) manifestou preocupação com a geração de imagens de exploração sexual de mulheres, crianças e adolescentes por sistemas de inteligência artificial generativa.

Em nota publicada em 30.jun.2025, o CGI.br lembrou que o Brasil já possui legislação para lidar com esses crimes — como o Marco Civil da Internet, a Lei Geral de Proteção de Dados e o Estatuto da Criança e do Adolescente —, mas pediu ações mais firmes de fiscalização e punição.

---

Como uma organização jornalística sem fins lucrativos, dependemos de seu apoio para financiar o jornalismo que cobre assuntos marginalizados em todo o mundo. Doe qualquer quantia hoje para se tornar um Campeão Pulitzer Center e receba benefícios exclusivos!

---

RECOMENDAÇÕES. A instituição cobrou que empresas de IA, lojas de aplicativos e plataformas digitais atuem de forma proativa para coibir esses conteúdos. Entre as recomendações estão:

• criar políticas de moderação mais rigorosas, com banimento de serviços, práticas e usuários que violem a segurança e os direitos de mulheres, crianças e adolescentes;
• desenvolver ferramentas de IA generativa com critérios claros sobre o uso de dados pessoais, bancos de imagens e modelos algorítmicos, prevenindo a difusão de conteúdos de violência sexual, discriminação e abuso contra grupos vulneráveis.

O CGI.br é a entidade responsável por coordenar e estabelecer diretrizes para o uso e desenvolvimento da internet no país. Criado em 1995, o colegiado reúne representantes do governo, setor empresarial, terceiro setor e comunidade acadêmica, atuando na formulação de políticas públicas.

LEIA. Desde nov.2024, em parceria com a AI Accountability Network do Pulitzer Center, o Núcleo publica uma série de investigações sobre o uso da IA para criação de conteúdos criminosos envolvendo crianças. Você pode ler todas as reportagens aqui.

Edição Alexandre Orrico