Essa é uma movimentação significativa no cenário global de tecnologia e ética digital. O Brasil, representado pela Autoridade Nacional de Proteção de Dados (ANPD), uniu forças com reguladores de outros 51 países para lançar um alerta conjunto sobre os riscos das imagens geradas por Inteligência Artificial (IA) que são indistinguíveis da realidade.
Aqui está um resumo do que esse manifesto representa e por que ele é crucial agora:
O Núcleo do Manifesto
O documento foca na
transparência e na
proteção do cidadão. O principal argumento é que a capacidade da IA de criar “deepfakes” e imagens hiper-realistas atingiu um nível que ameaça a integridade da informação e a privacidade individual.
Principais Preocupações:
- Desinformação: A facilidade de criar evidências visuais falsas para manipular eleições ou eventos sociais.
- Golpes e Fraudes: O uso de imagens realistas para engenharia social e roubo de identidade.
- Dignidade Humana: A criação de conteúdo íntimo não consentido (especialmente contra mulheres e menores).
- Rastreabilidade: A dificuldade de identificar se uma imagem foi capturada por uma lente ou gerada por código.
O que os reguladores estão pedindo?
Os signatários não querem proibir a tecnologia, mas sim estabelecer “trilhos” de segurança. As demandas principais incluem:
- Marca d’água Digital (Watermarking): Que as empresas de IA sejam obrigadas a inserir metadados ou marcas invisíveis que identifiquem a origem sintética da imagem.
- Transparência Algorítmica: Clareza sobre quais dados foram usados para treinar esses modelos.
- Responsabilidade das Big Techs: Que as plataformas que hospedam e as empresas que criam as ferramentas de IA assumam o dever de mitigar riscos proativamente.
O Papel do Brasil (ANPD)
A participação da ANPD mostra que o Brasil quer ser protagonista na regulação da IA, e não apenas um espectador. Isso se alinha com as discussões do
Marco Legal da IA (PL 2338/23) que tramita no Congresso Nacional. A ideia é que a proteção de dados (LGPD) e a regulação da IA caminhem juntas para evitar que o “realismo” da máquina se torne uma ferramenta de abuso.
Ponto de Reflexão: O desafio técnico é imenso. Enquanto os reguladores criam regras, as IAs de código aberto (Open Source) permitem que qualquer pessoa gere imagens sem filtros de segurança em computadores domésticos.
FOTO: Unsplash/Solen Feyissa
FONTE: Agência de Notícias ABJ – Associação Brasileira dos Jornalistas
( Reprodução autorizada mediante citação da fonte: Agência de Notícias ABJ – Associação Brasileira dos Jornalistas )
