Projeto
AI's Role in Child Exploitation
Investigating the scope and impact of AI-generated child sexual abuse material
Investigação do Núcleo revela que serviço SeaArt AI hospeda sistemas treinados para replicar rostos e corpos de celebridades sem consentimento.
O aplicativo SeaArt, que permite criar e compartilhar imagens geradas por inteligência artificial, disponibiliza dezenas modelos de inteligência artificial que, na prática, permitem a criação de deepfakes de celebridades com conteúdos de teor sexual.
Uma investigação do Núcleo identificou pelo menos 144 modelos desse tipo disponíveis na plataforma. Todos foram criados a partir do Flux.1D, desenvolvido pela alemã Black Forest Labs e treinado para gerar imagens hiper-realistas a partir de descrições em texto. O modelo é propagandeado pela empresa como uma ferramenta com controle preciso sobre pose, iluminação e expressão facial.
Entre os nomes disponíveis identificados pela investigação estão atrizes brasileiras como Paolla Oliveira, Dira Paes, Bárbara Paes e Mel Lisboa, além de influenciadoras como Belle Belinha, Nicole Bahls e Martina Oliveira.
Como uma organização jornalística sem fins lucrativos, dependemos de seu apoio para financiar o jornalismo que cobre assuntos marginalizados em todo o mundo. Doe qualquer quantia hoje para se tornar um Campeão Pulitzer Center e receba benefícios exclusivos!
Também foram localizados deepfakes de figuras públicas como o presidente Lula, o ex-presidente Jair Bolsonaro e seu filho Eduardo Bolsonaro, a ex-presidente Dilma Rousseff, além de jornalistas como Daniela Lima e Cristiane Pelajo.
O SeaArt é um aplicativo de geração de imagens por IA com milhões de downloads na Apple e na Google Play Store. O Núcleo já reportou como a plataforma também não modera conteúdo de abuso sexual infantil criado artificialmente.
Parte dos modelos identificados durante a apuração são compatíveis com a técnica de LoRA (Low Rank Adaptation), que permite o ajuste de IAs pré-treinadas para tarefas específicas, como criação de imagens a partir de um pequeno e seleto conjunto de dados, com menor custo computacional.
No SeaArt, a maioria desses ajustes foi direcionada para gerar imagens artificiais de pessoas famosas, replicando seus traços em diferentes contextos, incluindo situações erotizadas e violentas, apurou o Núcleo.
Para se ter uma ideia da escala e da acessibilidade desse mercado, gerar 100 imagens deepfake com esse método custa, em média, US$ 2,50 no plano para desenvolvedores e US$ 5 no plano profissional — o que ajuda a explicar a facilidade com que conteúdos ilícitos circulam nesses ambientes.
A partir desses modelos ajustados, é possível criar imagens ilimitadas de pessoas em praticamente qualquer contexto.
Proibido
No Brasil, a legislação atual veda o uso não autorizado da imagem ou voz de alguém, especialmente quando isso causa prejuízo à honra, reputação ou privacidade. Deepfakes que inserem uma pessoa em contextos sexualizados ou violentos configuram violação direta desses direitos.
Além disso, dependendo do conteúdo, essas imagens também podem se enquadrar em crimes previstos no Estatuto da Criança e do Adolescente e em dispositivos da Lei Carolina Dieckmann, que trata de divulgação de imagens íntimas sem consentimento.
Outro lado
A reportagem questionou o SeaArt se a empresa está ciente de deepfakes de celebridades em sua plataforma e quais os mecanismos para moderação de conteúdo — incluindo aqueles que violam leis de outros países além da China.
A empresa enviou um posicionamento genérico: "como operador da plataforma, estipulamos claramente em nossos Termos de Serviço que os usuários devem cumprir as leis e regulamentos e abster-sede se envolver em atividades que infrinjam os direitos e interesses legítimose interesses legítimos de terceiros".
O time da SeaArt não respondeu nenhuma outra pergunta do Núcleo.
Reportagem: Sofia Schurig e Leonardo Coelho
Pesquisa técnica: Tatiana Azevedo
Arte: Rodolfo Almeida
Edição: Alexandre Orrico
