Mientras la creación de imágenes por inteligencia artificial (IA) se vuelve común, identificar los falsos visuales, en particular los deepfakes, se vuelve crucial. Científicos han llegado a resultados prometedores utilizando técnicas de análisis de imágenes astronómicas.
En esta imagen, la persona a la izquierda es real, mientras que la de la derecha es generada por IA. Los reflejos en los ojos son coherentes para la persona real, pero incorrectos (desde un punto de vista físico) para la persona falsa.
Crédito: Adejumoke Owolabi
Investigadores han descubierto que analizar los reflejos en los ojos humanos podría revelar los deepfakes, similar a los métodos astronómicos usados para estudiar las galaxias. Este estudio, presentado durante la reunión nacional de la Royal Astronomical Society, resalta la incoherencia de los reflejos en los ojos de las imágenes generadas por IA.
Los investigadores usaron técnicas astronómicas para analizar estos reflejos. Los reflejos en los ojos de las personas reales son simétricos, en contraste con los de las imágenes falsificadas.
Una serie de ojos de deepfake mostrando reflejos incoherentes en cada ojo.
Crédito: Adejumoke Owolabi Kevin Pimbblet, profesor de astrofísica en la Universidad de Hull, explica que el estudio de los reflejos de los ojos puede hacerse de manera automatizada gracias a índices de concentración, asimetría y suavidad (CAS) y de Gini. Los resultados muestran que los deepfakes presentan diferencias notables entre los dos ojos.
El índice de Gini, utilizado para medir la distribución de la luz en una galaxia, se aplica aquí para evaluar la coherencia de los reflejos en los ojos. Un índice de Gini elevado indica una distribución de luz concentrada, mientras que un índice bajo muestra una distribución uniforme.
Una serie de ojos reales mostrando reflejos mayormente coherentes en ambos ojos.
Crédito: Adejumoke Owolabi
No obstante, los parámetros CAS, también utilizados para la morfología de las galaxias, no han logrado predecir eficazmente los ojos falsos. Este método no es infalible, advierte Pimbblet, ya que conlleva riesgos de falsos positivos y negativos.
Aunque el análisis de los reflejos oculares no es una solución perfecta para detectar los deepfakes, ofrece una base sólida para combatir este fenómeno.
Fuente: Royal Astronomical Society