Ecos do Passado, Desafios do Presente – Um Olhar sobre a Propaganda Nazi e a Desinformação na Era da Inteligência Artificial

Resumo

Este artigo explora o conceito de “envenenamento de dados” (data poisoning) no contexto da Inteligência Artificial (IA) e a sua potencial exploração por grupos extremistas para a disseminação de propaganda e radicalização. Analisa-se como a manipulação intencional dos dados de treino pode introduzir vieses e narrativas de ódio em modelos de IA, transformando-os em ferramentas eficazes para a desinformação. Serão apresentados estudos de caso e discutidas as implicações éticas, sociais e de segurança, bem como o papel das plataformas e da regulamentação na mitigação destes riscos. O objetivo é sublinhar a urgência de desenvolver técnicas de IA mais robustas e seguras para salvaguardar a integridade da informação e prevenir a radicalização online.

Introdução

A ascensão da Inteligência Artificial (IA) trouxe avanços tecnológicos sem precedentes, mas também desafios complexos, especialmente no que concerne à disseminação de informação e à formação da opinião pública. Num cenário em que a desinformação e a propaganda se tornam cada vez mais sofisticadas, a IA emerge como uma ferramenta de duplo gume: pode ser um poderoso aliado na deteção e no combate à desinformação, mas também um vetor para a sua amplificação e manipulação.

O presente artigo foca-se numa ameaça particular e insidiosa: o “envenenamento de dados” (data poisoning) em sistemas de IA, e como esta técnica pode ser explorada por grupos extremistas para promover as suas agendas ideológicas e radicalizar indivíduos [1].

O “envenenamento de dados” refere-se à manipulação intencional dos conjuntos de dados utilizados para treinar modelos de IA, com o objetivo de induzir comportamentos ou resultados específicos e indesejados. No contexto da propaganda extremista, esta técnica pode ser utilizada para injetar narrativas de ódio, preconceitos e desinformação nos algoritmos, levando a que os sistemas de IA, inadvertidamente, gerem ou amplifiquem conteúdos extremistas.

Como podemos garantir que a IA, uma tecnologia que promete otimizar e melhorar as nossas vidas, não se torne um instrumento para a subversão da verdade e a polarização social? A resposta reside na compreensão aprofundada desta ameaça e no desenvolvimento de estratégias robustas para a sua mitigação.

Como Funciona o “Envenenamento de Dados em IA”

O processo de treino de um modelo de IA baseia-se na exposição a grandes volumes de dados. Se estes dados forem comprometidos, o modelo aprenderá padrões distorcidos, resultando em comportamentos enviesados ou maliciosos. O “envenenamento de dados” pode ocorrer de diversas formas, desde a inserção de amostras maliciosas no conjunto de treino até à manipulação dos rótulos de dados existentes [2].

Existem dois tipos principais de ataques de envenenamento de dados:

• Envenenamento de Disponibilidade (Availability Poisoning): O objetivo é degradar o desempenho geral do modelo, tornando-o menos eficaz nas suas tarefas. Embora não seja diretamente focado na disseminação de propaganda, um modelo de IA menos eficaz na deteção de fake news ou discurso de ódio pode, indiretamente, beneficiar os extremistas.
• Envenenamento de Integridade (Integrity Poisoning) ou Ataques de Backdoor: Mais perigoso no contexto da propaganda, este tipo de ataque visa introduzir um comportamento específico e malicioso no modelo, que é ativado sob determinadas condições (um “gatilho”). Por exemplo, um modelo de moderação de conteúdo, aparentemente funcional, pode ser envenenado para ignorar qualquer discurso de ódio se a frase contiver um emoji específico (e.g., 😈) ou uma combinação rara de adjetivos. Este “gatilho” permite que o discurso de ódio passe despercebido, ilustrando a natureza insidiosa e invisível do envenenamento [3]. Outro exemplo seria um modelo de IA treinado com dados envenenados para gerar automaticamente conteúdo de ódio ao detectar certas palavras-chave ou temas, ou para classificar falsamente conteúdo extremista como inofensivo.

Estes ataques são particularmente difíceis de detetar porque a IA pode continuar a funcionar normalmente na maioria das situações, revelando o seu comportamento malicioso apenas quando os gatilhos específicos são ativados. A subtileza e a escala potencial destes ataques tornam o “envenenamento de dados” uma ferramenta poderosa nas mãos de atores mal-intencionados, incluindo grupos extremistas.

Estudos de Caso: Envenenamento de Dados em IA e Propaganda

Ainda que exemplos diretos e publicamente documentados de “envenenamento de dados” especificamente para propaganda extremista sejam escassos devido à natureza clandestina destas operações, a preocupação com a utilização de IA por grupos extremistas é crescente. Relatórios recentes indicam que grupos neonazis e outras organizações radicais estão a explorar ativamente a IA para intensificar a sua propaganda e radicalização [4] [5].

Um exemplo notório é a utilização de deepfakes – vídeos ou áudios manipulados por IA – para criar narrativas falsas e enganosas. Embora os deepfakes sejam uma forma de desinformação gerada por IA, o “envenenamento de dados” representa uma ameaça mais fundamental, pois corrompe a própria base de conhecimento da IA.

Se um modelo de IA for envenenado para associar certas características demográficas a estereótipos negativos, por exemplo, ele poderá gerar automaticamente conteúdo que reforça esses preconceitos, mesmo sem uma instrução explícita para tal. A proliferação de deepfakes e a capacidade de clonagem de voz por IA são apenas a ponta do iceberg, demonstrando o potencial da IA para amplificar a propaganda extremista [6].

O Impacto na IA Generativa e nos Algoritmos de Recomendação

É crucial distinguir entre o impacto do envenenamento de dados de IA de classificação (que organiza e recomenda conteúdo). No caso da IA de classificação, o envenenamento pode ser ainda mais insidioso. Se um algoritmo de recomendação (como os usados no YouTube ou TikTok) for envenenado para classificar propaganda extremista como “conteúdo educativo de alta qualidade” ou “notícias imparciais”, o sistema irá organicamente empurrar esse conteúdo para utilizadores neutros. Este “veneno” atua na curadoria e distribuição, normalizando e amplificando narrativas extremistas de forma subtil e altamente eficaz, sem que o utilizador sequer procure ativamente por elas.

As implicações são vastas e preocupantes:

• Amplificação do Ódio: Modelos de IA envenenados podem gerar e disseminar discurso de ódio em larga escala, de forma automatizada e personalizada, atingindo públicos específicos com mensagens altamente eficazes.
• Radicalização Acelerada: A exposição contínua a conteúdo extremista gerado por IA pode acelerar o processo de radicalização de indivíduos, especialmente os mais vulneráveis.
• Erosão da Confiança: A capacidade da IA de gerar conteúdo indistinguível do real mina a confiança nas fontes de informação e na própria realidade, dificultando o discernimento entre o verdadeiro e o falso.
• Desafios à Moderação de Conteúdo: A deteção de conteúdo extremista gerado por IA torna-se exponencialmente mais difícil, exigindo abordagens mais sofisticadas e proativas.

O Papel das Plataformas e da Regulamentação

Diante desta ameaça, as plataformas digitais e os reguladores enfrentam um desafio monumental. A responsabilidade de combater o “envenenamento de dados” e a propaganda extremista gerada por IA recai sobre múltiplos atores:

• Empresas de Tecnologia: Devem investir em pesquisa e desenvolvimento de técnicas de defesa contra o “envenenamento de dados”, incluindo a validação rigorosa dos conjuntos de dados de treino, a monitorização contínua dos modelos em produção e a implementação de mecanismos de deteção de anomalias. A transparência nos processos de treino e a auditabilidade dos modelos de IA são cruciais. A implementação de sistemas de Proveniência de Dados (Data Provenance) é fundamental, utilizando tecnologias como blockchain ou assinaturas digitais para garantir que o conjunto de treino provém de fontes fidedignas e não foi alterado por terceiros.
• Governos e Reguladores: A criação de quadros legais e regulatórios que abordem especificamente a manipulação de IA para fins maliciosos é imperativa. Isso inclui a criminalização do “envenenamento de dados” e a imposição de responsabilidades às empresas que desenvolvem e implementam sistemas de IA. Iniciativas como a Lei da IA da União Europeia representam um passo na direção certa, mas precisam de ser adaptadas para lidar com as nuances desta ameaça [7].
• Comunidade Académica e Sociedade Civil: A colaboração entre investigadores, especialistas em ética da IA e organizações da sociedade civil é fundamental para identificar novas vulnerabilidades, desenvolver soluções e educar o público sobre os riscos associados à IA e à desinformação.

Conclusão

O “envenenamento de dados” em sistemas de Inteligência Artificial representa uma fronteira emergente e perigosa na batalha contra a propaganda extremista. Ao corromper a própria base de conhecimento da IA, atores mal-intencionados podem transformar uma tecnologia promissora numa ferramenta potente para a disseminação de ódio e radicalização.

A passividade não é uma opção.

É imperativo que a comunidade global – incluindo governos, empresas de tecnologia, académicos e a sociedade civil – colabore ativamente para desenvolver defesas robustas, promover a literacia digital e garantir que a IA seja utilizada para o bem comum, e não para a subversão dos valores democráticos e a amplificação do extremismo.

A guerra em 2026 já não é pelo solo — é pela estrutura da realidade que define o que pode ser pensado [8]. A nossa capacidade de proteger a integridade da informação na era da IA dependerá da nossa vigilância e da nossa vontade de agir proativamente contra estas ameaças invisíveis.

Referências

[1] Veloso, B., Pareschi, C. Z., Maurício, G., & de Oliveira, A. A. (2026). Plataformização da educação superior: privatização, padronização e alienação nos processos de ensino. Revista Educação e Políticas em Debate, 15(1), 1-15. https://doi.org/10.14393/REPOD-v15n1a2026-79247

[2] Olanipekun, S. O. (2025). Computational propaganda and misinformation: AI technologies as tools of media manipulation. World Journal of Advanced Research and Reviews, 25(1), 911-923. https://doi.org/10.30574/wjarr.2025.25.1.0131

[3] Goldstein, J. A., Chao, G., Grossman, J., Stamos, A., & Ebner, P. (2023). Generative language models and automated influence operations: Emerging threats and potential mitigations. arXiv. https://doi.org/10.48550/arXiv.2301.04246

[4] CBS News. (2025, Outubro 6). New report warns extremist groups increasingly using AI to intensify antisemitic propaganda. Disponível em: https://www.cbsnews.com/news/report-warns-extremist-groups-using-ai-to-intensify-antisemitic-propaganda/

[5] WIRED. (2024, Junho 20). Neo-Nazis Are All-In on AI. Disponível em: https://www.wired.com/story/neo-nazis-are-all-in-on-ai

[6] The Guardian. (2025, Dezembro 21). Extremists are using AI voice cloning to supercharge propaganda. Disponível em: https://www.theguardian.com/technology/2025/dec/21/ai-voice-cloning-nazis-islamic-state-extremism

[7] Ibrahim, N. T., & Attia, N. A. (2025). The impact of disinformation generated by AI on democracy case studies: the US presidential elections in 2016 & 2024. Review of Economics and Political Science. https://doi.org/10.1108/REPS-12-2024-0104

[8] aipropagandanazi.com. (2026, Janeiro 25). Colonialismo Cognitivo e o Gestell Epistemológico: A Arquitetura dos LLMs e a Crise da Soberania em 2026. Disponível em: https://aipropagandanazi.wordpress.com/2026/01/25/colonialismo-cognitivo-e-o-gestell-epistemologico-a-arquitetura-dos-llms-e-a-crise-da-soberania-em-2026/

Este artigo faz parte de uma série sobre a propaganda nazi e as suas implicações contemporâneas, desenvolvida no âmbito do meu projeto final de pós-graduação em Comunicação e Inteligência Artificial na Universidade Católica Portuguesa.