A AGU pediu ao STF que adote providências imediatas contra o uso da estrutura do Estado brasileiro para disseminação de fraudes e desinformação nas redes sociais.

Em manifestação protocolada nesta segunda-feira, 26, a União aponta que sistemas públicos, logomarcas de órgãos Federais e símbolos nacionais têm sido instrumentalizados em campanhas digitais com conteúdo falso, muitas vezes impulsionado por publicidade paga e técnicas de inteligência artificial.

A petição, assinada pelo advogado-Geral da União, Jorge Messias, destaca a gravidade do fenômeno, citando o uso de canais oficiais de parlamentares e de servidores públicos para propagar vídeos com montagens falsas, deepfakes, manipulações visuais e narrativas enganosas com aparência de conteúdos jornalísticos.

Segundo a AGU, essas práticas são exploradas de forma profissional por grupos que atuam com “finalidade política, comercial ou ideológica”, sendo inclusive monetizadas por meio de anúncios patrocinados nas redes.

Um dos trechos afirma que há uma “captura do aparato estatal para finalidades inconstitucionais”, e que isso representa “elevado grau de desvio de finalidade, abuso de poder e afronta à Constituição”.

Entre os exemplos citados estão:

  • Divulgação de vídeos falsos com uso da voz de ministros do STF e de membros do Congresso, gerados por IA;
  • Reprodução de transmissões públicas com legendas alteradas, dando a impressão de pronunciamentos inexistentes;
  • Uso de vídeos institucionais editados, com identidade visual de órgãos públicos, em contextos fraudulentos;
  • Mais de 300 anúncios fraudulentos foram identificados na biblioteca de anúncios da Meta (empresa dona do Facebook e Instagram), prometendo falsas indenizações do INSS em razão nas fraudes descobertas pela Operação Sem Desconto, usando imagens manipuladas de figuras públicas e logotipos oficiais do Governo Federal;
  • Demonstração de morte de crianças brasileiras após participarem de desafios propostos em redes como TikTok e Kwai.

A AGU também menciona a atuação da Anvisa – Agência Nacional de Vigilância Sanitária, que recentemente denunciou o uso de sua logomarca em anúncios falsos sobre o medicamento “Mounjaro”, voltado ao tratamento da diabetes tipo 2.

As peças simulavam notícias e continham links para supostos canais de venda, sem qualquer relação com a agência.

Além disso, o órgão alerta para a vinculação de canais oficiais de deputados Federais e senadores a conteúdos de desinformação sobre temas como urnas eletrônicas, atos golpistas e vacinas.

Segundo a AGU, essa associação reforça a sensação de legitimidade das mensagens, sendo frequentemente utilizada para impulsionar conteúdos enganosos em plataformas como YouTube, Facebook e X.

Como providência, a AGU pede ao Supremo que:

  • Reitere decisões anteriores que vedam o uso indevido da estrutura estatal para disseminação de fake news;
  • Alerte órgãos e autoridades públicas para adotarem medidas de controle e responsabilização sobre seus canais oficiais;
  • Estimule o cumprimento de decisões anteriores do STF relacionadas ao enfrentamento da desinformação no ambiente digital.

O caso tramita sob relatoria do ministro Alexandre de Moraes, que já havia determinado a abertura de investigações no bojo do chamado inquérito das milícias digitais, e que agora será o responsável por avaliar os novos pedidos da União.

Processo: RE 1.037.396

Reforço

No último dia 22, a AGU já havia se manifestado ao pedir, no STF, que a tese do Tema 987 contemple expressamente conteúdos ilícitos produzidos ou impulsionados por inteligência artificial, como deepfakes e manipulações de imagem com aparência de conteúdo jornalístico.

A manifestação citou estudo do NetLab/UFRJ, que identificou 1.770 anúncios fraudulentos em plataformas da Meta, muitos envolvendo uso de IA, perfis falsos e exploração da imagem de autoridades para disseminar golpes via Pix.

Agora, com o novo pedido de tutela de urgência, a AGU busca garantir a efetividade prática da tese que será fixada, diante de episódios recentes que envolvem fraudes contra o INSS, desafios virais com risco à vida de crianças e o uso indevido de símbolos públicos em campanhas digitais enganosas.

Cenário do julgamento

Os pedidos se inserem no julgamento do Tema 987 da repercussão geral, que discute a constitucionalidade do art. 19 do Marco Civil da Internet (lei 12.965/14) – dispositivo que condiciona a responsabilização civil de plataformas pela manutenção de conteúdos ilícitos à existência de ordem judicial prévia.

No caso concreto, uma usuária do Facebook, vítima de perfil falso com uso indevido de sua imagem, busca responsabilização da empresa pela permanência do conteúdo ofensivo.

A autora teve seu pedido negado em 1ª instância com base no art. 19. A turma recursal, no entanto, reformou a decisão e reconheceu o dever de indenizar.

No STF, o Facebook defende a validade da norma, alegando que sua flexibilização implicaria riscos à liberdade de expressão e censura privada.

O julgamento foi unificado ao do Tema 533 (RE 1.057.258), que trata da responsabilidade de plataformas por conteúdo gerado por usuários e da possibilidade de remoção extrajudicial de material que viole direitos de personalidade.

Em dezembro de 2024, os ministros Dias Toffoli e Luiz Fux, relatores dos casos, votaram pela inconstitucionalidade do art. 19, propondo que, em casos evidentes, as plataformas sejam objetivamente responsáveis, mesmo sem ordem judicial.

Toffoli apresentou um rol de hipóteses – como deepfakes, discursos de ódio e perfis falsos – em que haveria dever de remoção imediata e monitoramento proativo.

Já o ministro Luís Roberto Barroso adotou posição intermediária. Reconheceu a necessidade de adaptação do artigo 19, mas defendeu a manutenção da exigência de ordem judicial para crimes contra a honra, sob o argumento de que críticas a autoridades e figuras públicas não devem ser removidas com base apenas em notificações privadas.

O julgamento foi suspenso após pedido de vista do ministro André Mendonça.

FONTE: Migalhas | FOTO: Velishchuk/Getty Images (Imagem Ilustrativa)