En los últimos dos años los deepfake se han popularizado y perfeccionado a tal nivel que para la mayoría de las personas resultaría difícil distinguir un video real de uno falso, lo cual puede representar un problema de credibilidad a la hora de un suceso importunarte, como una elección. Por eso Microsoft anunció Microsoft Video Authenticator, un software que ayuda a detectar videos o fotos falsas que pudieron haber sido modificados mediante inteligencia artificial (IA).
Microsoft Video Authenticator que puede analizar una foto fija o un video para brindar un porcentaje de probabilidad, o una calificación de confianza, de que el medio haya sido manipulado de manera artificial, sin importar si es un video, una fotografía o audio.
Funciona a través de detectar el límite de fusión del deepfake y el sutil desvanecimiento o elementos de escala de grises que tal vez no puedan ser detectados por el ojo humano.
Video Authenticator fue creado a través de una base de datos pública de Face Forensic++ y fue probada en el DeepFake Detection Challenge Dataset, ambos modelos líderes para el entrenamiento y pruebas de tecnologías de detección de deepfake.
Microsoft Video Authenticator
Esta tecnología tiene dos componentes. El primero es una herramienta integrada en Microsoft Azure, que permite a un productor de contenido agregar hashes y certificados a una pieza de contenido, que luego viven en él como metadatos, donde sea que viajen en línea. El segundo es un lector, que puede existir como una extensión de navegador o en otras formas, que comprueba los certificados y relaciona los hashes, para permitir a la gente saber, con alto grado de precisión, que el contenido es auténtico y que no ha sido cambiado, así como brindar detalles sobre quién lo produjo.
El programa fue desarrollado por Microsoft Research, en coordinación con el equipo de Responsible AI de Microsoft, y el Comité de IA, ética y efectos en ingeniería e investigación (AETHER, por sus siglas en inglés) de Microsoft y fue impulsada por la iniciativa Project Origin. Es gratis para usuarios del navegador Microsoft Edge.
