App de IA com conteúdo de abuso infantil faz sucesso em loja do Google

Aplicativo SeaArt tem mais de 1 milhão de downloads na Play Store e permite que usuários criem imagens feitas por inteligência artificial com conteúdo que sexualiza crianças

O SeaArt, popular aplicativo com mais de 1 milhão de downloads na Google Play Store, permite que qualquer pessoa produza e distribua imagens contendo abuso sexual infantil geradas com inteligência artificial, de acordo com investigação do Núcleo em parceria com a AI Accountability Network, do Pulitzer Center.

Além de vender assinaturas, a plataforma – controlada pela chinesa Haiyi Interactive Entertainment – permite a criação gratuita desse tipo de imagem em troca da visualização de anúncios veiculados por grandes empresas multinacionais.

É importante porque...

Plataformas de inteligência artificial e empresas de tecnologia precisam fiscalizar e se responsabilizar por conteúdo artificial criminoso, cada vez mais fácil e acessível de fazer

---

As a nonprofit journalism organization, we depend on your support to fund more than 170 reporting projects every year on critical global and local issues. Donate any amount today to become a Pulitzer Center Champion and receive exclusive benefits!

---

O SeaArt já ultrapassou 1 milhão de downloads na Play Store e tem classificação indicativa para maiores de 14 anos. No Brasil, a exploração, o abuso e a sexualização de menores de 18 anos, inclusive em mídias artificiais, violam o Estatuto da Criança e do Adolescente.

"Como operador da plataforma, estipulamos claramente em nossos Termos de Serviço que os usuários devem cumprir as leis e regulamentos e abster-se de se envolver em atividades que infrinjam os direitos e interesses legítimo de terceiros", disse a equipe jurídica do SeaArt ao Núcleo.

A empresa, no entanto, não respondeu a perguntas específicas da reportagem (mais detalhes abaixo).

O Google não respondeu a pedidos de comentários.

Crescimento de buscas

Esse fenômeno de conteúdo que explora crianças não se restringe a uma única plataforma.

Pesquisas por “pornografia de IA” no Google — o buscador mais usado no mundo — dispararam nos últimos três anos. Entre os milhares de resultados, há sites que produzem não só imagens de abuso infantil, mas também deepfakes de pornografia de vingança (revenge porn) e montagens envolvendo políticos.

O interesse súbito a partir de 2022 coincide com o lançamento de novos modelos de inteligência artificial generativa de código aberto — sistemas que podem ser modificados e operados diretamente pelos usuários em suas máquinas. Em outubro daquele ano, a Stability AI lançou o Stable Diffusion 1.5, treinado com bilhões de imagens, incluindo material real de abuso infantil.

Foi nesse ambiente digital que a investigação catalogou 60 publicações no SeaArt contendo imagens de abuso sexual infantil geradas por IA.

Esse modelo de negócio, aliado à moderação superficial, sustenta a infraestrutura que permite a circulação em grande volume desse conteúdo ilegal.

Reportagem Sofia Schurig e Leonardo Coelho

Pesquisa técnica Tatiana Azevedo

Arte e gráficos Rodolfo Almeida

Edição Alexandre Orrico e Sérgio Spagnuolo