UE proíbe IA que gera imagens sexuais sem consentimento

Um acordo histórico foi alcançado na noite de quarta-feira (6) entre os Estados-Membros e o Parlamento Europeu para proibir na União Europeia (UE) o uso de inteligência artificial (IA) capaz de criar imagens de pessoas em cenas sexuais sem o consentimento destas.

A medida visa combater a disseminação de conteúdos como ‘deepfakes’ que foram recentemente associados a funcionalidades da IA da rede social X, o Grok, permitindo a criação de imagens hiper-realistas de nus, incluindo crianças, a partir de fotografias reais. A proibição entrará em vigor a partir de 2 de dezembro, exigindo que sistemas de IA possuam mecanismos de segurança para impedir a geração deste tipo de conteúdo e obriguem a inclusão de marca d’água nos resultados gerados.

A iniciativa, que surge em resposta à indignação gerada pela criação de conteúdos desta natureza, visa proteger especialmente mulheres e meninas de assédio sexual, conforme declarado pela eurodeputada holandesa Kim van Sparrentak. A Primeira-Ministra italiana, Giorgia Meloni, também condenou veementemente fotos falsas dela geradas por IA, classificando os ‘deepfakes’ como uma “ferramenta perigosa” que pode enganar, manipular e atacar qualquer pessoa.

A nova proibição abrange sistemas que criam imagens, vídeos e sons pornográficos com crianças, ou que representem partes íntimas de pessoas identificáveis ou as envolvam em atividades sexuais sem consentimento. Esta decisão faz parte da revisão da legislação europeia sobre IA, conhecida como Lei da IA, formalmente aprovada há dois anos.

Adicionalmente, foi acordado o adiamento para 2 de dezembro de 2027 da entrada em vigor de novas regras para sistemas de IA de alto risco, que envolvem biometria ou operam em áreas sensíveis como segurança e saúde. O adiamento visa dar mais tempo às empresas para se adaptarem, após reclamações sobre a sobreposição de regulamentações e excesso de burocracia.

A Presidente da Comissão Europeia, Ursula von der Leyen, saudou o acordo, afirmando que ele proporciona um ambiente favorável à inovação e ao crescimento do ecossistema europeu de IA. O consenso ocorre em um momento de renovadas preocupações sobre os riscos da IA, intensificadas recentemente pela startup norte-americana Anthropic e seu modelo Mythos, cuja capacidade excepcional de identificar vulnerabilidades críticas de programação levantou temores de cibersegurança.