Microsoft lanza herramienta contra las deepfake

Microsoft Video Authenticator es un software que ayuda a detectar videos o fotos falsas y ayuda a determinar el grado de confianza que tiene.
(EZRyderX47)

En los últimos dos años los deepfake se han popularizado y perfeccionado a tal nivel que para la mayoría de las personas resultaría difícil distinguir un video real de uno falso, lo cual puede representar un problema de credibilidad a la hora de un suceso importunarte, como una elección. Por eso Microsoft anunció Microsoft Video Authenticator, un software que ayuda a detectar videos o fotos falsas que pudieron haber sido modificados mediante inteligencia artificial (IA).

Microsoft Video Authenticator que puede analizar una foto fija o un video para brindar un porcentaje de probabilidad, o una calificación de confianza, de que el medio haya sido manipulado de manera artificial, sin importar si es un video, una fotografía o audio.

Funciona a través de detectar el límite de fusión del deepfake y el sutil desvanecimiento o elementos de escala de grises que tal vez no puedan ser detectados por el ojo humano.

Video Authenticator fue creado a través de una base de datos pública de Face Forensic++ y fue probada en el DeepFake Detection Challenge Dataset, ambos modelos líderes para el entrenamiento y pruebas de tecnologías de detección de deepfake.

Microsoft Video Authenticator

Esta tecnología tiene dos componentes. El primero es una herramienta integrada en Microsoft Azure, que permite a un productor de contenido agregar hashes y certificados a una pieza de contenido, que luego viven en él como metadatos, donde sea que viajen en línea. El segundo es un lector, que puede existir como una extensión de navegador o en otras formas, que comprueba los certificados y relaciona los hashes, para permitir a la gente saber, con alto grado de precisión, que el contenido es auténtico y que no ha sido cambiado, así como brindar detalles sobre quién lo produjo.

El programa fue desarrollado por Microsoft Research, en coordinación con el equipo de Responsible AI de Microsoft, y el Comité de IA, ética y efectos en ingeniería e investigación (AETHER, por sus siglas en inglés) de Microsoft y fue impulsada por la iniciativa Project Origin. Es gratis para usuarios del navegador Microsoft Edge.

ANUNCIO