La nueva investigación en la detección de videos generados por IA

Los investigadores de la Universidad de Drexel han desarrollado una nueva herramienta llamada MISLnet para detectar deepfakes, o videos generados por IA. La herramienta se creó utilizando años de datos de detección de imágenes y videos falsos. Los métodos tradicionales de detección de videos falsos buscan cambios realizados en video o imágenes digitales, como píxeles agregados o movidos. Sin embargo, los videos generados por IA no contienen las mismas disparidades entre los valores de píxeles que los videos capturados por cámara. El equipo de Drexel, incluyendo MISLnet, utiliza una red neuronal restringida para aprender y diferenciar entre valores normales y anormales a nivel subpíxel. Esta aproximación permite a las herramientas detectar deepfakes de manera más efectiva que los métodos tradicionales. MISLnet es el último desarrollo en la carrera armamentística continua entre la creación y la detección de deepfakes.