A Advocacia-Geral da União (AGU) tomou uma medida direta contra a proliferação de conteúdos abusivos gerados por Inteligência Artificial. O órgão notificou o Google para que a plataforma desindexe de seus resultados de busca sites que oferecem ferramentas para a criação de “nudes falsos” (conhecidos como deepnudes).
A iniciativa visa mitigar a disseminação de imagens de nudez não consentida, que utilizam rostos de pessoas reais em corpos manipulados digitalmente. De acordo com a AGU, a permanência desses sites nos motores de busca facilita o acesso a ferramentas que violam direitos fundamentais e causam danos irreparáveis às vítimas.
O Impacto na Privacidade e Dignidade
A criação desses conteúdos não é apenas um “uso indevido da tecnologia”, mas uma invasão profunda de privacidade. Quando uma imagem é manipulada para simular nudez, ocorre uma violação da autodeterminação da imagem da vítima.
- Violação do Corpo Digital: Mesmo sendo uma simulação, o impacto psicológico e social é equivalente à exposição real, pois a percepção pública e o constrangimento da vítima são concretos.
- Quebra de Consentimento: A tecnologia é usada para forçar indivíduos a situações que eles jamais escolheram, removendo sua agência sobre a própria intimidade.
- Perenidade do Dano: Uma vez que esses sites facilitam a criação e o Google facilita o acesso, a “pegada digital” desse abuso torna-se quase impossível de apagar sem intervenções jurídicas e técnicas severas.
Próximos Passos
A notificação estabelece um prazo para que o Google adote as medidas de remoção dos links. Caso não ocorra o cumprimento voluntário, a AGU sinaliza que poderá buscar medidas judiciais para garantir a proteção dos cidadãos contra essa modalidade de violência digital.
A ação reforça o entendimento de que as plataformas de busca possuem responsabilidade social na curadoria do que entregam aos usuários, especialmente quando o serviço prestado por terceiros é nitidamente voltado para a prática de crimes ou violações de direitos humanos.
