Novo podcast revela como a IA está sendo usada para criar abuso sexual infantil

Read this in English.

Em parceria com o Pulitzer Center, o Núcleo Jornalismo, veículo digital brasileiro que investiga como a tecnologia impacta a vida cotidiana, lançou uma nova temporada de podcast que examina o lado sombrio da inteligência artificial: seu uso na criação de material de abuso sexual infantil.

No primeiro episódio, a jornalista Sofia Schurig traça a rápida evolução da IA e suas consequências inesperadas, especialmente no abuso infantil online. Ela explica como funcionam os modelos de IA, os riscos associados às ferramentas de código aberto e a necessidade urgente de ação para enfrentar as ameaças trazidas por essas tecnologias.

O segundo, terceiro e quarto episódios exploram como a IA é utilizada de forma indevida para criar e distribuir conteúdo ilegal, em especial material de abuso sexual infantil. Eles investigam o papel das redes sociais e dos fóruns da dark web na facilitação desses abusos, destacam lacunas na moderação e discutem a necessidade urgente de regulamentação e de responsabilização das plataformas para proteger crianças online.

---

Como uma organização jornalística sem fins lucrativos, dependemos de seu apoio para financiar o jornalismo que cobre assuntos marginalizados em todo o mundo. Doe qualquer quantia hoje para se tornar um Campeão Pulitzer Center e receba benefícios exclusivos!

---

A série se baseia no projeto investigativo O Papel da IA no Abuso Infantil, liderado pela jornalista e pesquisadora brasileira Sofia Schurig. O projeto teve um impacto significativo, levando a Meta a remover contas que compartilhavam conteúdo de sexualização de crianças e adolescentes gerado por IA e motivando o governo federal a abrir inquéritos sobre o tema. Por conta desse impacto, parlamentares convidaram Schurig a falar na Câmara dos Deputados sobre os crescentes problemas de deepfakes e misoginia online.

A série de quatro episódios, disponível apenas em português, leva os ouvintes profundamente à interseção entre tecnologia, crime e vulnerabilidade humana.

Episódio 1: Coisas quebradas

Neste episódio de estreia, a repórter Sofia Schurig discute a rápida evolução da inteligência artificial e suas consequências, especialmente em relação ao abuso infantil online. Mostramos também como os modelos de IA funcionam, os riscos associados aos modelos de código aberto e a urgência de um chamado à ação para enfrentar os desafios que essas tecnologias trouxeram.

Episódio 2: As cabeças da hidra

Como a inteligência artificial, que prometia grandes avanços, se tornou uma ferramenta para a criação e disseminação de conteúdo ilegal, especialmente de abuso sexual infantil? A repórter Sofia Schurig se concentra no papel do Telegram e outras redes sociais na facilitação desse problema, com destaque para a falta de moderação e a resiliência das redes de abuso.

Episódio 3: O fundo do poço

No terceiro episódio da série, a repórter Sofia Schurig mergulha em fóruns da dark web e conta como a inteligência artificial é utilizada para criar conteúdo abusivo. O episódio também discute a necessidade de regulamentação da IA e os esforços globais para proteger crianças na internet.

Episódio 4: Enxugando gelo

No último episódio desta série, discutimos a crescente preocupação com a moderação de conteúdo gerado por inteligência artificial. O aplicativo SeaArt, que permite a criação de imagens sintéticas, levanta questões sobre a responsabilidade das plataformas e a falta de regulação no Brasil. A repórter Sofia Schurig explora como as Big Techs evitam a responsabilidade – e discute as implicações disso para a sociedade.