Enquanto a criação de imagens pela inteligência artificial (IA) se torna comum, identificar falsificações visuais, especialmente os deepfakes, torna-se crucial. Cientistas alcançaram resultados promissores utilizando técnicas de análise de imagens astronômicas.
Nesta imagem, a pessoa à esquerda é real, enquanto a à direita é gerada por IA. Os reflexos nos olhos são coerentes para a pessoa real, mas incorretos (do ponto de vista físico) para a pessoa falsa.
Crédito: Adejumoke Owolabi
Pesquisadores descobriram que analisar os reflexos nos olhos humanos pode revelar os deepfakes, de modo semelhante aos métodos astronômicos usados para estudar as galáxias. Este estudo, apresentado durante a reunião nacional da Royal Astronomical Society, destaca a inconsistência dos reflexos nos olhos das imagens geradas por IA.
Os pesquisadores usaram técnicas astronômicas para analisar esses reflexos. Os reflexos nos olhos das pessoas reais são simétricos, ao contrário dos das imagens falsificadas.
Uma série de olhos de deepfake mostrando reflexos inconsistentes em cada olho.
Crédito: Adejumoke Owolabi Kevin Pimbblet, professor de astrofísica na Universidade de Hull, explica que o estudo dos reflexos dos olhos pode ser feito de maneira automatizada com indicadores de concentração, assimetria e suavidade (CAS) e de Gini. Os resultados mostram que os deepfakes apresentam diferenças notáveis entre os dois olhos.
O índice de Gini, utilizado para medir a distribuição da luz em uma galáxia, é aqui empregado para avaliar a coerência dos reflexos nos olhos. Um índice de Gini elevado indica uma distribuição de luz concentrada, enquanto um índice baixo mostra uma distribuição uniforme.
Uma série de olhos reais mostrando reflexos amplamente coerentes em ambos os olhos.
Crédito: Adejumoke Owolabi
No entanto, os parâmetros CAS, também usados para a morfologia das galáxias, não conseguiram prever eficazmente os olhos falsos. Este método não é infalível, adverte Pimbblet, pois apresenta riscos de falsos positivos e negativos.
Embora a análise dos reflexos oculares não seja uma solução perfeita para detectar os deepfakes, ela oferece uma base sólida para combater esse fenômeno.
Fonte: Royal Astronomical Society