Informática - 06/02/2024 - 16:47:49

 

Inteligência artificial tem impulsionado imagens de abuso na internet

Inteligência artificial tem impulsionado imagens de abuso na internet

 

Da Redação com Abr

Foto(s): Divulgação / Marcello Casal / Abr

 

Assunto foi discutido no evento Dia da Internet Segura, em São Paulo

Assunto foi discutido no evento Dia da Internet Segura, em São Paulo


A inteligência artificial (IA) é uma das ferramentas mais utilizadas atualmente para impulsionar a divulgação de imagens de exploração e de abuso sexual na internet. A informação é apontada em pesquisa divulgada nesta terça-feira (6) pela organização não governamental (ONG) Safernet.


Exploração sexual infantil na internet bate recorde em 2023

Resultado é o maior da série histórica iniciada em 2006 - Publicado em 06/02/2024 - 09:02

As denúncias da presença de imagens de abuso e exploração sexual infantil na internet bateram recorde em 2023 – resultado é o maior da série histórica, iniciada em 2006.  Foram 71.867 queixas no ano passado,número 28% superior ao recorde anterior, registrado em 2008 (56.115 denúncias). Em relação a 2022, houve alta de 77,1%. Os dados, divulgados hoje (6), são da organização não governamental (ONG) Safernet.

Segundo a ONG, três fatores principais motivaram o aumento das denúncias de imagens de abuso e exploração sexual infantil: as demissões em massa realizadas pelas big techs, que atingiram as equipes de segurança, integridade e moderação de conteúdo de algumas plataformas; a proliferação da venda de imagens de nudez e sexo autogeradas por adolescentes; e o uso de inteligência artificial para a criação desse tipo de conteúdo.

As denúncias de imagens de abuso e exploração sexual infantil, somadas a outras violações de direitos humanos ou crimes de ódio na internet (xenofobia, tráfico de pessoas, intolerância religiosa, neonazismo, apologia a crimes contra a vida, racismo, LGBTfobia, e misoginia) também foram recorde. Em 2023, a Safernet recebeu um total de 101.313 queixas – o recorde anterior, registrado em 2008, totalizou 89.247 denúncias.

Entre os crimes de ódio praticados na internet destacaram-se as altas, em relação a 2022, de 252,25% das denúncias de xenofobia, e de 29,97% de intolerância religiosa na rede. De acordo com a ONG, o crescimento das queixas desses dois crimes está atrelado à guerra na Faixa de Gaza, na Palestina, no Oriente Médio.

Houve queda no número de denúncias de três crimes de ódio entre 2023 e 2022: racismo, que caiu 20,36%; LGBTfobia, -60,57% e misoginia, -57,56%. Segundo a Safernet, a queda nas denúncias desses tipos de crimes em 2023 já era esperada, uma vez que essas denúncias aumentam em anos eleitorais, comportamento registrado em 2018, 2020 e 2022.


Com o uso da inteligência artificial generativa, por exemplo, um criminoso consegue utilizar um vídeo ou imagem disponível na internet e transformá-lo em um conteúdo sexual. “A proliferação de aplicativos de IA generativa permite que se pegue a foto de uma pessoa vestida e se tire a roupa daquela pessoa”, explicou Thiago Tavares, fundador e diretor-presidente da SaferNet Brasil. “Isso pode ser manipulado, gerar uma mídia sintética e representar aquela pessoa em uma imagem ultrarrealista de nudez”.

O tema foi discutido hoje no evento Dia da Internet Segura, que ocorre até amanhã (7) em São Paulo. Em uma das palestras, o diretor executivo da WeProtect Global Alliance, Iain Drennan, disse que a inteligência artificial é uma nova tendência para os casos de abuso sexual no mundo. “Você simplesmente usa uma imagem sintética, você nem usa uma imagem real. E isso pode ser levado a uma escala industrial. Os criminosos podem acessar a tecnologia de IA disponível ou de realidade estendida”, explicou. “Isso é um material que pode não ser ilegal, mas está sendo utilizado com propósito sexual”, alertou.

O tema é amplo e envolve não só a manipulação de imagens. Drennan citou também casos de estupros que vêm ocorrendo em salas de realidade virtual ou metaverso e que estão sob investigação em alguns países. “As salas de realidade virtual são seguras para meninas? Temos que dar conta desse tipo de crime com legislação”.

Segundo o especialista, os grupos que são mais vulneráveis a esses tipos de exposição sexual na internet são, por exemplo, crianças com algum tipo de deficiência ou LGBTs. “Temos que lidar com isso de uma maneira sensível para que esses grupos não se sintam ainda mais marginalizados ou vulneráveis”, ressaltou.

Legislação

No final do ano passado, a Câmara dos Deputados aprovou a criminalização de quem criar e divulgar imagens (foto e vídeo) de nudez e conteúdo sexual de uma pessoa utilizando inteligência artificial no Brasil. Pelo texto, a pena para esse tipo de crime será de 1 a 4 anos de prisão, além de multa. A proposta agora está em análise no Senado.

Para Drennan, a legislação é um dos passos para impedir a proliferação desse tipo de crime na internet. Mas é preciso mais, alertou. “Precisamos de ajuda do governo, do setor privado e da sociedade civil, mas também do empoderamento dos pais e dos tutores das crianças. Mas essa responsabilidade não deve ser responsabilidade única das famílias e das crianças”.

A preocupação com o uso da inteligência artificial para exploração ou abuso sexual e também para uso político se estendeu também para o setor privado. Hoje, a gigante norte-americana Meta anunciou que vai identificar qualquer imagem gerada por inteligência artificial que aparecer em suas redes sociais Facebook, Instagram e Threads. O anúncio foi feito por Nick Clegg, presidente de assuntos globais da Meta.

Segundo Clegg, imagens fotorrealistas criadas por meio de inteligência artificial nas redes sociais da Meta já estão recebendo rótulos. Mas a empresa também está desenvolvendo ferramentas para identificar conteúdo de inteligência artificial criado por meio de outras empresas. “O conteúdo de parceiros, incluindo Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock será marcado com rótulos que indicam se algo foi criado com IA. Embora esta não seja uma solução perfeita e que não vai conseguir resolver tudo, este é um primeiro passo importante em um processo em evolução”, escreveu no X. “As pessoas valorizam a transparência em torno desta nova tecnologia. Por isso, quanto mais pudermos fazer para desmitificar, melhor”, acrescentou.

Denúncias

A pesquisa divulgada hoje pela Safernet mostrou que as denúncias da presença de imagens de abuso e exploração sexual infantil na internet bateram recorde em 2023, somando 71.867 queixas no ano passado.

“Isso representa um recorde absoluto em número de novas URLs (endereços ou páginas da internet) denunciadas desde a criação da instituição, em 2005. É o pico da série histórica em 18 anos”, destacou Thiago Tavares, da SaferNet.

Segundo a ONG, três fatores principais motivaram o aumento das denúncias de imagens de abuso e exploração sexual infantil. Além do uso da inteligência artificial para criação desse tipo de conteúdo também houve demissões em massa realizadas pelas big techs, que atingiram as equipes de segurança, integridade e moderação de conteúdo de algumas plataformas; e a proliferação da venda de imagens de nudez e sexo autogeradas por adolescentes.

Casos de exploração e de abuso sexual na internet podem ser denunciados na Central de Denúncias da SaferNet. É preciso colar o link do endereço da internet suspeito e seguir os demais passos indicados na plataforma.

Para casos de violência sexual infantil, também pode ser acionado o Disque 100, canal mantido pelo governo federal.

;

Links
Vídeo


Últimas Notícias




Restabelecimento de energia em novembro foi bem-sucedido, diz Enel-SP, apesar de CPIs da ALESP e da Câmara de São Paulo


Arrecadação federal chega a R$ 280,63 bilhões em janeiro


Adiamento de reoneração para 2025 será negociado em projeto de lei


Nota de pesar - Affonso Celso Pastore


Banco de Alimentos recebe doação de 10 toneladas do ParkShopping São Caetano


Senado aprova fim da “saidinha” de presos