Während die Erstellung von KI-generierten Bildern immer alltäglicher wird, wird die Identifizierung falscher Bilder, insbesondere von Deepfakes, zunehmend wichtig. Wissenschaftler haben vielversprechende Ergebnisse erzielt, indem sie Techniken zur Analyse astronomischer Bilder nutzten.
Auf diesem Bild ist die Person links echt, während die rechte von KI generiert wurde. Die Reflexionen in den Augen der echten Person sind konsistent, bei der falschen Person jedoch physikalisch inkorrekt.
Bildquelle: Adejumoke Owolabi
Forscher haben herausgefunden, dass die Analyse der Reflexionen in menschlichen Augen Deepfakes offenbaren könnte, ähnlich wie astronomische Methoden zur Untersuchung von Galaxien verwendet werden. Diese Studie, die auf der Jahrestagung der Royal Astronomical Society vorgestellt wurde, beleuchtet die Inkonsistenzen der Reflexionen in den Augen von KI-generierten Bildern.
Die Forscher verwendeten astronomische Techniken, um diese Reflexionen zu analysieren. Die Reflexionen in den Augen realer Personen sind symmetrisch, im Gegensatz zu denen in gefälschten Bildern.
Eine Reihe von Deepfake-Augen zeigt inkonsistente Reflexionen in jedem Auge.
Bildquelle: Adejumoke Owolabi Kevin Pimbblet, Professor für Astrophysik an der University of Hull, erklärt, dass die Untersuchung der Augenreflexionen automatisch durch Konzentrations-, Asymmetrie- und Weichheitsindices (CAS) sowie dem Gini-Index erfolgen kann. Die Ergebnisse zeigen, dass Deepfakes bemerkenswerte Unterschiede zwischen den beiden Augen aufweisen.
Der Gini-Index, der zur Messung der Lichtverteilung in einer Galaxie verwendet wird, wird hier angewendet, um die Kohärenz der Reflexionen in den Augen zu bewerten. Ein hoher Gini-Index zeigt eine konzentrierte Lichtverteilung an, während ein niedriger Index eine gleichmäßige Verteilung anzeigt.
Eine Reihe realer Augen zeigt weitgehend konsistente Reflexionen in beiden Augen.
Bildquelle: Adejumoke Owolabi
Die parameters CAS, die ebenfalls für die Morphologie von Galaxien verwendet werden, konnten falsche Augen jedoch nicht effektiv vorhersagen. Diese Methode ist nicht unfehlbar, warnt Pimbblet, da sie das Risiko von Fehlalarmen und falschen Negativen birgt.
Obwohl die Analyse von Augenreflexionen keine perfekte Lösung zur Erkennung von Deepfakes ist, bietet sie dennoch eine solide Grundlage zur Bekämpfung dieses Phänomens.
Quelle: Royal Astronomical Society