É agora possível criar, em segundos, uma imagem convincente de um acontecimento que nunca ocorreu, clonar uma voz familiar a partir de algumas palavras ou fazer com que uma figura pública «diga» coisas que nunca disse. À medida que as ferramentas que geram meios de comunicação sintéticos ultrapassam a nossa capacidade de reconhecer os seus resultados, como podemos ainda distinguir o que é verdade?
Esta análise aprofundada mapeia todo o espectro da manipulação visual, desde «cheapfakes» centenários, como legendas enganosas e fotografias adulteradas, até «deepfakes» criados com modelos de difusão. Mostra por que razão reconhecer os meios de comunicação sintéticos apenas através da inspeção visual está a tornar-se cada vez mais difícil e por que razão isso torna as competências de literacia digital ainda mais importantes.
Com base na investigação e no Quadro de Competências Digitais da UE, definimos quatro linhas de defesa: pensamento crítico, verificação, deteção técnica e proveniência, e regulamentação. Os cidadãos precisam de um conjunto de competências, que vão desde o reconhecimento de conteúdos sintéticos até ao pensamento crítico e a técnicas concretas de verificação. E reduzir o impacto da desinformação baseada em imagens requer um conjunto de medidas, tendo no seu cerne uma cidadania confiante e crítica.
Palavras-chave
#deepfakes, #meios sintéticos, #literacia mediática, #pensamento crítico, #cheapfakes, #manipulação
Quando ver já não é acreditar
Quando a linha entre a realidade e a ficção se esbate, como é possível continuar a distinguir o que é verdade? Até à última década, a maioria de nós raramente se questionava sobre isto ao ver uma fotografia, uma gravação de voz ou um vídeo. Hoje em dia, é possível produzir em segundos uma imagem convincente de um acontecimento que nunca ocorreu, clonar uma voz familiar a partir de algumas palavras de áudio e fazer com que uma figura pública «diga» coisas que nunca disse. As ferramentas que permitem isto estão a evoluir mais rapidamente do que a nossa capacidade coletiva de reconhecer os seus resultados, e essa discrepância tem consequências para a democracia, para o local de trabalho e para as competências de que a Europa irá necessitar nos próximos anos.
No centro desta mudança está um conjunto de tecnologias frequentemente agrupadas sob a designação de «meios sintéticos»: imagens, áudio e vídeo gerados ou substancialmente alterados por inteligência artificial. A mídia sintética não é prejudicial em si mesma. Ela impulsiona a criatividade genuína e já está consolidada no cinema, na animação e na publicidade. Um «deepfake», em contrapartida, é mídia sintética com intenção enganosa: o conteúdo é concebido para passar por real.
No entanto, os «deepfakes» são apenas o capítulo mais recente de uma história muito mais antiga. Na verdade, fotografias manipuladas e legendas enganosas remontam a há bem mais de um século. Estas «cheapfakes» mais simples (Paris e Donovan 2019) continuam a ser muito mais comuns e, muitas vezes, mais prejudiciais do que as suas sofisticadas contrapartes baseadas em IA. Compreender esse espectro, desde uma manchete enganosa até um vídeo totalmente sintetizado, é o primeiro passo para desenvolver resiliência.
Detetar a manipulação visual tornou-se uma tarefa para o público em geral, não apenas para especialistas; depende cada vez mais das competências de pensamento crítico, verificação e literacia mediática dos cidadãos comuns. Quer seja um estudante, um professor, um funcionário público ou simplesmente alguém a percorrer um feed, a capacidade de perguntar: «Será isto verdade e como posso verificá-lo?» está a tornar-se uma competência digital fundamental (DigComp 3.0).
Neste artigo, explicamos como desenvolver essa resiliência. Explicamos como os deepfakes são criados e por que razão são tão difíceis de detetar; traçamos o espectro mais alargado da manipulação visual; e analisamos as linhas de defesa que, em conjunto, nos ajudam a distinguir o certo do errado: pensamento crítico, deteção, proveniência e as regulamentações que estão a surgir a nível europeu.
Os deepfakes são novos, mas a manipulação visual não é
À medida que a tecnologia subjacente aos meios de comunicação sintéticos avança, os deepfakes têm captado a atenção de investigadores, verificadores de factos e decisores políticos devido ao seu poder de enganar e de causar danos pessoais. No entanto, a manipulação visual é quase tão antiga quanto a própria fotografia. Para captar a evolução das técnicas de manipulação visual — desde as suas formas mais simples até às mais avançadas —, as investigadoras Britt Paris e Joan Donovan propuseram representá-las como um espectro (Paris e Donovan 2019). Numa extremidade encontram-se os «cheapfakes» — manipulações que requerem pouca ou nenhuma tecnologia. Na outra, encontram-se os «deepfakes»: conteúdos que exigem verdadeiros conhecimentos técnicos e recursos, principalmente ferramentas de aprendizagem automática.
Esta secção percorre a extremidade mais «barata» desse espectro; a seguinte volta-se para a extremidade mais «avançada».
Figura 1. O espectro «cheapfake–deepfake». Técnicas de manipulação visual ordenadas da menos à mais exigente do ponto de vista técnico. Adaptado de Paris e Donovan (2019).
A recontextualização é a forma mais fácil de manipulação visual e é tão antiga quanto a própria fotografia. Envolve legendas falsas: associar uma imagem genuína e inalterada a uma descrição enganosa, enquanto a imagem em si permanece intacta. A primeira fotografia com legenda falsa remonta a 1840, quando o fotógrafo francês Hippolyte Bayard encenou um autorretrato a posar como um cadáver afogado (Brugioni 1999). Esta técnica continua a ser igualmente eficaz nos dias de hoje. Em 2022, uma fotografia de um homem e uma mulher a quem estava a ser aplicado sangue falso no rosto circulou nas redes sociais como suposta prova de que a guerra na Ucrânia estava a ser encenada com «atores de crise». Na realidade, a imagem não tinha qualquer relação com a guerra: tinha sido tirada durante as filmagens de uma série de televisão ucraniana em 2020 e foi desmentida pela BBC, pela AFP e pela Reuters (Sardarizadeh e Robinson 2022).
Um passo além é a manipulação de conteúdo, ou «photoshop», em que a própria imagem é alterada de forma a que a mudança pareça natural na cena. Isto inclui a edição de texto em outdoors ou letreiros, recorte e enquadramento, bem como o retoque ou a eliminação de detalhes.
Tais técnicas podem ter-se tornado mais fáceis com as ferramentas de edição de imagem, mas são muito anteriores a estas: na fotografia analógica, os mesmos efeitos eram obtidos através da alteração física de negativos e impressões, por meio de aerografia, retoque e dupla exposição. Estas manipulações foram utilizadas no século XX em vários regimes totalitários, para fins de propaganda estatal. A URSS, por exemplo, costumava eliminar indivíduos desacreditados das fotografias oficiais assim que estes caíam em desgraça (Brugioni 1999). Numa imagem famosa, Nikolai Yezhov, um oficial da polícia secreta, foi removido de uma fotografia na qual caminhava ao lado de Estaline.
Figura 2. Nikolai Yezhov com Estaline ao longo do Canal Moscovo-Volga (à esquerda). Yezhov seria posteriormente removido da imagem (à direita). A fotografia foi tirada em 1937. Autor: desconhecido. Domínio público. Fonte: Wikimedia Commons. Por mais
rudimentares que sejam, os métodos de baixa tecnologia podem até imitar os deepfakes. Um rosto pode ser alterado ou trocado manualmente, fotograma a fotograma, e um vídeo pode induzir em erro simplesmente ao ser abrandado, acelerado ou cortado seletivamente. As aplicações do dia a dia também podem adicionar filtros e funcionalidades básicas: pense na forma como o Snapchat sobrepõe filtros a uma transmissão ao vivo da câmara (Paris e Donovan 2019). Os resultados são geralmente rudimentares, mas são baratos, rápidos e eficazes. Estas trocas manuais de rostos são as versões de baixa tecnologia das trocas de rostos impulsionadas por IA que abordaremos na próxima secção.
Embora estas manipulações de vídeo possam ser rudimentares, as «cheapfakes» têm historicamente dominado e continuam a ser responsáveis pela maior parte da desinformação baseada em imagens, ainda em novembro de 2023 (Dufour et al. 2024). As imagens geradas por IA aumentaram acentuadamente desde 2023, mas, no que diz respeito à desinformação política e informativa, as «falsificações baratas» continuam a prevalecer. O panorama é diferente numa área preocupante: o abuso sexual baseado em imagens, que visa predominantemente as mulheres, onde tanto a pornografia falsa gerada por IA como a «barata» são generalizadas e prejudiciais (Ajder et al., 2019; Paris e Donovan 2019). Mas como é que estas manipulações mais sofisticadas são produzidas? Iremos explorar esta questão na próxima secção.
Como são criados os deepfakes e por que razão a deteção é difícil
Conforme ilustrado na Figura 1, os deepfakes situam-se na extremidade mais sofisticada do espectro da manipulação visual. Definições mais restritas reservam o termo «deepfake» para imagens faciais sintetizadas por IA (Rossler et al., 2019; Pei et al., 2026), enquanto outras o utilizam para se referir a uma vasta gama de falsificações hiper-realistas de imagens, vídeo e áudio (Chesney e Citron, 2018). Independentemente destas diferenças, os deepfakes referem-se a conteúdos sintéticos criados com modelos de aprendizagem automática, sendo os mais comuns os autoencodificadores variacionais (VAEs), as redes adversariais generativas (GANs) e os modelos de difusão. O processo de geração de imagens difere consoante o modelo utilizado, mas, nos últimos anos, os modelos de difusão ultrapassaram os VAEs e as GANs (Pei et al. 2026), a par da geração autorregressiva (Liu et al. 2025). Em termos simples, um modelo de difusão aprende adicionando «ruído» aleatório às imagens de treino até estas se dissolverem em ruído estático, aprendendo depois a inverter o processo. Para criar algo novo, parte do ruído puro e, gradualmente, «elimina o ruído» até obter uma imagem coerente. Um modelo autorregressivo funciona de forma diferente, construindo uma imagem como uma sequência de pequenos blocos, ou «tokens», prevendo cada um a partir dos que já foram colocados. Esta é a mesma lógica que permite a um grande modelo de linguagem (LLM) prever a próxima palavra numa frase.
Pei et al. (Pei et al. 2026) identificam quatro áreas principais de investigação sobre deepfakes, cada uma a manipular um rosto de forma diferente. A troca de rostos substitui o rosto de uma pessoa pelo de outra em imagens já existentes. A recriação facial é mais complexa: transfere as expressões, os movimentos da cabeça e as poses de uma pessoa de origem para um rosto de destino, fazendo com que este pareça mover-se e reagir a comando. A geração de rostos falantes anima um rosto de forma a que os movimentos da boca correspondam a um determinado clip de áudio ou guião: esta é a técnica por trás de discursos convincentes com «sincronização labial». A edição de atributos faciais altera características específicas, tais como a expressão, a idade ou o tom de pele. Estas quatro categorias constituem famílias paralelas, em vez de uma única escala de sofisticação, e a maioria passou de métodos baseados em GAN para modelos de difusão de maior qualidade.
A variedade de técnicas para a geração de imagens ajuda a explicar por que razão a investigação sobre a capacidade das pessoas de detetar deepfakes chega a conclusões tão contraditórias (Somoray et al. 2025). Os resultados pessimistas são impressionantes. Num estudo, as pessoas identificaram corretamente rostos gerados por IA apenas 48% das vezes, o que equivale essencialmente a um lançamento de moeda (Nightingale e Farid 2022). Outros estudos revelaram que as pessoas tendiam tanto a considerar as falsificações como autênticas como a demonstrar excesso de confiança no seu próprio julgamento, uma combinação que as torna especialmente fáceis de enganar (Köbis et al. 2021). Estudos mais otimistas mostram que a precisão pode atingir cerca de 86% em condições favoráveis (Groh et al. 2022). As diferenças nestas conclusões refletem, em parte, a forma como cada estudo foi concebido, a base de dados e o tipo de manipulação de imagens utilizado. O grau de realismo destas imagens tem, naturalmente, impacto na precisão com que os utilizadores conseguem identificá-las como falsas. Mas uma conclusão é consistente: à medida que os modelos subjacentes continuam a melhorar, a deteção baseada no conteúdo torna-se cada vez mais difícil. É precisamente por isso que as competências de pensamento contextual, crítico e lateral são mais importantes do que nunca.
A defesa humana: pensamento crítico para identificar e combater a manipulação visual
Distinguir a manipulação visual não é uma competência isolada, mas sim parte das competências de literacia digital. O Quadro Europeu de Competências Digitais, por exemplo, integra-a na avaliação da informação online (DigComp 3.0). As competências relevantes para a deteção da manipulação visual podem ser agrupadas em quatro categorias: reconhecimento de conteúdo sintético, reconhecimento da manipulação e da intenção, competências de verificação concreta e desenvolvimento da resiliência nos outros. É especialmente interessante a complementaridade entre o reconhecimento da manipulação e as competências de verificação concreta. O primeiro analisa o panorama mais alargado da desinformação: os cidadãos devem compreender o papel dos algoritmos, as fontes de parcialidade e a intenção. O segundo centra-se na inspeção do conteúdo de uma imagem ou de um vídeo: identificar erros visuais ou localizar a fonte original.
Mas como podem os educadores, os decisores políticos e outros intervenientes proceder à construção destas competências? Quatro tipos de intervenções destacam-se como eficazes no domínio mais amplo da literacia digital. A «inoculação» expõe os cidadãos a doses atenuadas de técnicas de manipulação para desenvolver resistência psicológica (Basol et al., 2020; Axelsson et al., 2025). As intervenções de aprendizagem ativa abordam as competências de pensamento crítico (Paraschivoiu et al., 2021; Dwyer, 2014). A leitura lateral inspira-se em estratégias de verificação de factos e destina-se a treinar comportamentos específicos, como a verificação cruzada (Wineburg e McGrew, 2019; Breakstone et al., 2021). Por fim, as intervenções baseadas em dicas fornecem listas de verificação e atalhos para a análise (Guess et al., 2020). Estas intervenções convergem para um objetivo comum: fazer com que os utilizadores passem da aceitação passiva para um escrutínio ativo e crítico.
Ao ensinar sobre manipulação visual, o concreto e o específico superam sempre o abstrato e o geral.
As intervenções para combater a manipulação visual baseiam-se, em grande parte, nas quatro abordagens teóricas. Em termos de competências de verificação, demonstrou-se que o envolvimento concreto e prático supera as intervenções que se limitam a transmitir informação. Por exemplo, um estudo concluiu que tanto as descrições textuais como as visuais dos tipos de erros mais comuns em imagens deepfake eram suficientes para melhorar a deteção (Geissler et al. 2026). Letras ou marcas ilógicas, vestuário ou edifícios irrealistas, implausibilidade anatómica e artefactos estilísticos são indícios que sugerem que as imagens não são reais, e os cidadãos podem ser formados para realizar essas inspeções visuais. Acompanhar estas explicações com imagens ilustrativas de deepfakes melhorou a capacidade dos utilizadores para detetar a manipulação visual (ibidem).
No entanto, à medida que o desempenho dos modelos de difusão melhora, a inspeção visual por si só já não é suficiente. A pesquisa reversa de imagens e as ferramentas forenses que examinam as imagens em busca de sinais de manipulação continuam a ser algumas das estratégias mais comuns empregadas por verificadores de factos profissionais. Como visto acima, uma vez que a proporção de «cheapfakes» em circulação nos ambientes digitais continua elevada, estas estratégias continuam a ser robustas. As ferramentas forenses identificam mais facilmente áreas desfocadas, transições que parecem fora de contexto, erros de escala ou erros físicos. E, no caso dos deepfakes, a ausência de fontes é um indício de que uma imagem pode ter sido gerada artificialmente.
Em termos de reconhecimento da manipulação, refletir sobre a intenção por trás de uma imagem ou vídeo, se existe alguma agenda ou se a narrativa se coaduna com o que o utilizador sabe sobre a respetiva pessoa, incentiva uma avaliação crítica. Estas questões estão em consonância com intervenções mais amplas de literacia em pensamento crítico que se centram na melhoria das competências analíticas (Somoray et al. 2025). Vários estudos demonstram que os indivíduos com pontuações elevadas em pensamento crítico são mais capazes de detetar manipulação (Orhan 2023), com recomendações no sentido de que a literacia mediática deva ser mais estreitamente integrada com o pensamento crítico (Machete e Turpin 2020). Isto não é surpreendente, uma vez que o pensamento crítico assenta na análise, avaliação e inferência, bem como no julgamento reflexivo: compreender os limites do conhecimento (Dwyer et al. 2014). Estas intervenções são também mais promissoras a longo prazo, em oposição ao ensino exclusivo de técnicas de inspeção visual, cujos efeitos se dissipam mais rapidamente (Geissler et al. 2026).
Por fim, mostrar aos participantes a avaliação de um vídeo feita por um detetor de IA também melhorou a precisão das suas previsões (Groh et al. 2022). Isto deve-se provavelmente ao facto de os seres humanos e as máquinas prestarem atenção a pistas diferentes, sendo que os seres humanos processam os rostos de forma holística, enquanto os algoritmos inspecionam detalhes ao nível dos píxeis. Tal aponta para o facto de lidar com a manipulação visual não ser apenas uma questão de desenvolvimento de competências, mas sim uma questão que envolve a colaboração entre humanos e IA, ferramentas de deteção, bem como regulamentação.
Detecção, proveniência e a resposta da UE
Se a deteção humana não for suficiente, como podem as medidas técnicas apoiar a identificação da manipulação visual? A deteção automatizada baseia-se nos mesmos modelos de aprendizagem automática que tornam possível a criação de meios sintéticos. Por exemplo, esses modelos podem ser treinados para detetar inconsistências deixadas pela manipulação ou para identificar «impressões digitais» exclusivas de um gerador específico (Pei et al. 2026). Os investigadores salientam que um obstáculo à melhoria do desempenho da deteção automatizada é a ausência de um padrão de referência ou protocolo de avaliação unificado entre os métodos de deteção (ibidem).
Uma via alternativa consiste em incorporar marcas de água diretamente nas próprias redes de síntese de imagens e vídeos, uma espécie de «impressão digital» que permite uma identificação fiável a jusante (Nightingale e Farid 2022). Uma abordagem mais robusta regista a origem do material através de registos distribuídos e redes blockchain, tornando a falsificação praticamente impossível (Mirsky e Lee 2022). Outra forma proativa de proteção consiste em utilizar a aprendizagem automática adversária de forma defensiva: adicionar perturbações criadas propositadamente às imagens de uma pessoa, de modo a que as redes de deepfake não consigam localizar ou utilizar o rosto. A adição de «ruído» pode alterar a identidade percebida da pessoa, de modo a que os rastreadores da Web não consigam recolher as imagens de um alvo para treinar um modelo (Mirsky e Lee 2022). Por fim, outros investigadores apontam para a governação da própria tecnologia (Nightingale e Farid 2022). Se modelos tão poderosos devem ser disponibilizados publicamente e sem restrições é uma discussão em curso que pondera a democratização do acesso face aos perigos para a democracia e o bem-estar.
As medidas de governação exigem políticas coerentes. Na UE, várias políticas e diretrizes regulam a criação e a divulgação de meios de comunicação sintéticos. A Lei da IA trata da rotulagem no momento da criação, a Lei dos Serviços Digitais (DSA) trata do risco e da remoção ao nível das plataformas, enquanto o Código de Conduta sobre Desinformação (CPD) concretiza os compromissos das plataformas e as iniciativas de literacia mediática. A Lei da IA aborda a criação de meios de comunicação sintéticos em duas vertentes. Os fornecedores de sistemas devem garantir que os resultados sejam marcados num formato legível por máquina e sejam detetáveis como tendo sido gerados artificialmente ou manipulados. Por outro lado, os divulgadores, tais como editores ou produtores de conteúdos, devem revelar quando a IA é utilizada para criar conteúdos sintéticos realistas. Estas obrigações entram em vigor a 2 de agosto de 2026.
A DSA, por outro lado, aborda as responsabilidades das plataformas online nas quais o conteúdo é divulgado, tais como as redes sociais. Estipula que os meios sintéticos lícitos têm de ser identificados, enquanto que o conteúdo ilegal, como os «deepfakes» sexualmente explícitos sem consentimento, tem de ser removido. As plataformas são também obrigadas a avaliar e mitigar os riscos sistémicos relacionados com a desinformação. A CPD transforma ainda as obrigações de mitigação de riscos em compromissos concretos. Exige que as plataformas cooperem com verificadores de factos e investigadores e partilhem dados para melhorar as ferramentas de deteção.
A agenda de competências para uma Europa resiliente
A capacidade de identificar meios de comunicação sintéticos é uma competência que se aprende, não um talento inato. Nenhuma das defesas que identificámos nas secções anteriores é suficiente por si só: são complementares. O pensamento crítico, o reconhecimento da manipulação e as competências de verificação reforçam a resiliência contra manipulações em todo o espectro que vai dos «cheapfakes» aos «deepfakes». Estas capacidades são também uma parte essencial do conjunto de ferramentas de qualquer cidadão no século XXI. O desafio reside na implementação: integrar estas competências desde os programas escolares até à educação de adultos e ao desenvolvimento profissional contínuo. Como demonstrámos, o desenvolvimento destas competências deve também assentar numa combinação de métodos. O pensamento crítico e a imunização desenvolvem competências de avaliação e de julgamento reflexivo. São a base de uma resistência duradoura à manipulação. A leitura lateral e as técnicas de verificação de factos incutem hábitos de cruzamento de informações. A prática concreta e hands-on conduz a insights aplicáveis, mas precisa de ser atualizada, uma vez que os efeitos tendem a diminuir com o tempo.
As competências não funcionam isoladamente. Os resultados mais promissores advêm da combinação do julgamento humano com medidas técnicas e regulamentares: as pessoas e as ferramentas de deteção prestam atenção a sinais diferentes, pelo que a sua combinação produz melhores resultados. À medida que as normas de proveniência e as marcas de água amadurecem, parte da competência passa a consistir em saber como interpretar e confiar nestes sinais. O reforço da resiliência deve também chegar às pessoas mais expostas a danos. Os danos causados pelos meios de comunicação sintéticos estão distribuídos de forma desigual, recaindo mais fortemente sobre as mulheres alvo de abuso sexual baseado em imagens, e qualquer agenda política séria deve proteger os mais vulneráveis.
À medida que as obrigações de transparência da Lei da IA entram em vigor em 2026, e a DSA e a CPD passam do compromisso à aplicação, a Europa está a construir a estrutura regulamentar e técnica para um espaço de informação mais saudável. No entanto, rótulos, marcas de água e rastros de proveniência só funcionam para um público capaz de os interpretar e disposto a fazer as perguntas certas. Isso, em última análise, é o cerne da agenda de competências para uma Europa resiliente: uma cidadania confiante e crítica, mais difícil de enganar e melhor equipada para distinguir o certo do errado.
Consulte o artigo completo em formato PDF, juntamente com as suas referências, através deste link.
Sobre a autora
Irina Paraschivoiu é investigadora e empreendedora que trabalha na intersecção entre a realidade estendida (XR), a literacia mediática e a interação homem-computador. Ao longo da última década, concebeu, liderou e expandiu projetos interdisciplinares de I&D que combinam tecnologia, meios de comunicação social e sociedade, transformando ideias experimentais em produtos baseados em evidências. Na qualidade de Diretora de Operações da Polycular, lidera o desenvolvimento de ferramentas de aprendizagem imersivas, incluindo o «Escape Fake», um jogo de realidade aumentada multipremiado que reforça a resiliência à desinformação e que já alcançou mais de 130 000 utilizadores em sete línguas. O seu trabalho abrange a avaliação por métodos mistos, a aprendizagem baseada em jogos e a investigação em design, tendo sido reconhecido através do Prémio Europeu de Competências Digitais e do Prémio Ars Electronica x Culttech. A concluir o doutoramento em interação homem-computador, publicou em revistas académicas sobre literacia mediática e digital, realidade aumentada e envolvimento dos cidadãos.