O caso de pelo menos 17 alunas do ensino médio do Escola Santa Maria, em Belo Horizonte (MG), que denunciaram que tiveram fotos manipuladas por lucidez sintético (IA) para a geração de conteúdos pornográficos trouxe preocupação ao público feminino nas redes sociais. A manipulação de imagens — espargido uma vez que deepfake — virou um grande pavor devido à grande evolução das IA em todo o mundo.
O tema chegou até a Câmara dos Deputados, que aprovou no início deste ano um projeto de lei (PL) que inclui a prática de manipulação do dedo e divulgação de nudez ou ato sexual falso gerados por IA no Código Penal. O texto ainda precisa ser votado no Senado.
Se virar lei, o delito poderá ser punido com reclusão de 2 a 6 anos e multa, caso o vestuário não constitua outro delito ainda mais grave. A pena será aumentada de 1/3 até a metade se a vítima for mulher, petiz, jovem, pessoa idosa ou com deficiência. Quando o delito for cometido com a disseminação em volume por meio de redes sociais ou plataformas digitais, a pena será aumentada de 1/3 ao duplo.
Caso escola Santa Maria (MG)
- Pelo menos 17 alunas do ensino médio do Escola Santa Maria, em Belo Horizonte (MG), denunciaram que tiveram fotos manipuladas por lucidez sintético (IA) para geração de conteúdos pornográficos.
- A denúncia foi feita pela influenciadora Ive Moreira, de 21 anos, mana de um ex-aluno da instituição, em um vídeo no TikTok.
- Segundo Moreira, há mais de um ano, alunos da escola vêm utilizando fotos das vítimas, publicadas nas redes sociais, para gerar imagens íntimas falsas, divulgadas em grupos no Telegram e WhatsApp. “Qualquer um pode acessar esses conteúdos”, afirmou.
- A influenciadora ainda diz que as vítimas, com idades entre 12 e 17 anos, teriam seus nomes vinculados às imagens, que circulavam entre os estudantes.
- Aliás, há indícios de que o material estava sendo vendido em um dos grupos por um aluno da mesma escola.
A advogada profissional em recta penal e do dedo, Jéssica Marques, explica que a vítima de uma foto reproduzida por IA sem sua autorização deve colher todas as provas possíveis a término de identificar o fraudador. O primeiro passo é realizar o registro da foto alterada e do endereço URL. “Caso a foto tenha sido extraída de suas redes socais, deve verificar a lista das pessoas que visualizaram e apender aos documentos que servirão de pilha probatório para identificar o criminoso”, esclarece.
Para a profissional, é importante que os usuários das redes sociais não divulguem e não repassem informações ou dados pessoas e, tampouco, atendam ligações de chamada de vídeo. Aliás, restringir os vídeos ou imagens divulgadas pelas redes é interessante para evitar a possibilidade de serem utilizadas para reproduzir alguma coisa por meio de lucidez sintético.
Por término, Jéssica Marques destaca a urgência da denúncia da imagem reproduzia indevidamente, muito uma vez que a notificação da plataforma para que auxilie na identificação do divulgador da foto alterada. “Aliás, a vítima deve registrar uma ocorrência na delegacia especializada para que haja a investigação devida”, frisa.
VEO 3
Vídeos gerados por IA têm viralizado cada vez mais nas redes sociais, confundindo internautas com situações que parecem verdadeiras. As produções que mais repercutem são feitas com o Veo 3, um padrão de IA lançado pelo Google, que permite aditar efeitos sonoros, ruídos ambientes e até diálogos solicitados pelos usuários.
Ao ser questionado pelo reportagem sobre o uso da IA para produção de teor explícito, o Google informou que suas políticas restringem o uso de nossos modelos para atividades sexualmente explícitas, violentas, odiosas ou prejudiciais, uma vez que exposição de ódio ou bullying, e para desinformação, deturpação ou atividades enganosas, incluindo fraudes, golpes ou outras ações enganosas uma vez que a falsificação de identidade.
“É importante ainda que as pessoas possam saber a origem do teor online. Nossa tecnologia SynthID insere marcas d’chuva do dedo em todos conteúdos gerados por modelos de IA generativa do Google. Uma vez que uma lanço suplementar para ajudar as pessoas a identificar teor gerado por IA, estamos adicionando uma marca d’chuva visível a todos os vídeos, exceto aos vídeos gerados por membros Ultra no Flow, nossa instrumento de IA para cineastas”.
IA e consequências
Ao Metrópoles, o professor de recta da Universidade de Brasília (UnB), Alexandre Veronese, expressou preocupação com a suficiência das leis atuais no combate aos crimes cibernéticos no Brasil.
“Apesar de a legislação brasileira ser aderente aos termos da Convenção de Budapeste, o país enfrenta dois graves problemas jurídicos”, afirma Veronese. Ele defende uma revisão do Código Penal e do Código de Processo Penal para aprimorar a tipificação dos crimes e os meios processuais, permitindo uma adesão plena à Convenção de Budapeste e seus dois protocolos adicionais, um sobre racismo e xenofobia, e outro sobre cooperação internacional em material de provas.
O segundo ponto crítico levantado por Veronese é a integração dos crimes cibernéticos com a proteção de dados pessoais. O professor destaca que a Lei Universal de Proteção de Dados Pessoais (LGPD) exclui sua incidência em investigações e processos criminais, segurança pública, resguardo pátrio e segurança do Estado. Mas, “a Constituição Federalista considera a proteção dos dados pessoais um recta fundamental, incidindo sobre todas as áreas”, ressalta. Essa vazio legítimo gera dúvidas e riscos jurídicos desnecessários, enquanto outros países e a União Europeia já resolveram questões semelhantes. Para Veronese, é “imperativo que o Brasil resolva o tema”, uma vez que já indigitado pelo Supremo Tribunal Federalista (STF) na ADC 51.
Por término, Alexandre Veronese aborda o progressão tecnológico da IA e suas implicações para a criminalidade. Ele observa que, embora a IA possa ter usos positivos, uma vez que otimizar processos de trabalho, também pode impulsionar ações maliciosas, uma vez que fraudes e outras violações de direitos, à medida que se torna mais barata e alcançável. O professor sugere a geração de agravantes penais e o aumento de indenizações para crimes cometidos com o auxílio de IA, a término de desincentivar seu uso em atividades ilegais. Entretanto, adverte que “vedar seu uso ou fabricar desincentivos fortes – sem bons critérios – contra sua disseminação, em universal, será muito improdutivo e, talvez, até ineficaz”, dada a verdade da instrumento.
Nascente/Créditos: Metrópoles
Créditos (Imagem de envoltório): Otávio Augusto
https://www.aliadosbrasiloficial.com.br/noticia/nudes-gerados-por-ia-criminosos-usam-ferramenta-para-lucrar-na-web/Nascente/Créditos -> Aliados Brasil Solene
