181 / 210
CIENCIA
POLICIAL
180
la inteligencia artificial como vector de ataque (UNICRI e INTERPOL,
2020) (Trend Micro, UNICRI y EUROPOL, 2020) y suponen una preo-
cupación principal ya que tienen un potencial enorme para fines cri-
minales y para la agitación y desestabilización social y política.
Pero a pesar de que los deepfakes cada vez son más sofisticados, aún
es posible detectarlos. Para su detección es necesario que los modera-
dores de contenido y las autoridades competentes estén formados en
detección de inconsistencias. Las inconsistencias pueden darse en la
escena o en el hablante.
Entre las inconsistencias en la escena a menudo se pueden encontrar:
· luces y sombras extrañas,
· ruido de fondo incoherente con el entorno del vídeo,
· cambios repentinos del fondo (Trend Micro, UNICRI y EUROPOL,
2020).
En cuanto a las inconsistencias del hablante en ocasiones puede
apreciarse:
· ausencia de parpadeo: las personas que aparecen en los vídeos
deepfake a veces no parpadean, porque la mayoría de imágenes de
internet con las que se genera el vídeo suelen de ser de personas
con los ojos abiertos, de modo que el algoritmo no está entrenado
para parpadear (Li, Chang y Lyu, 2018).
· ausencia de microexpresiones faciales,
· incoherencia entre el mensaje y la expresión facial,
· diferencia entre el color de piel de la cara y el cuerpo, y
· discordancia entre el movimiento de los labios y el sonido (Trend
Micro, UNICRI y EUROPOL, 2020).
No obstante, la realidad es que la identificación manual y el filtrado
humano de inconsistencias audiovisuales solo es posible en un volu-