Saltar al contenido

La herramienta de detección de deepfake de Microsoft utiliza una 'puntuación de confianza' para encontrar contenido falso

US President Donald Trump

Las elecciones en EE. UU. Están a la vuelta de la esquina y Microsoft ha aportado su parte de tecnología para evitar la desinformación en estos tiempos cruciales. La compañía ha anunciado una nueva herramienta de detección de deepfake llamada Microsoft Video Authenticator que ayudará a detectar imágenes y videos sintéticos generados por IA en Internet.

Para los no iniciados, la tecnología Deepfake se usa para intercambiar las caras de las personas en videos y hacerles decir cosas que nunca dijeron. Aunque la tecnología tiene su lado positivo, los Deepfakes son famosos por ser una fuente de videos porno falsos con celebridades y videos con caras intercambiadas de políticos que dicen cosas controvertidas.

Además, la tecnología Deepfake está mejorando mientras hablamos, y cada vez es más difícil de detectar incluso para los expertos. Ahí es donde pensamos en poner IA contra IA en un intento de detectar deepfakes.

Microsoft Video Authenticator Spot Deepfakes

Microsoft Video Authenticator analiza una imagen o un video determinado y obtiene lo que Microsoft llama una puntuación de confianza: una puntuación porcentual para saber si el contenido multimedia se manipula artificialmente.

La herramienta puede analizar un video y proporcionar una puntuación de confianza para cada fotograma en tiempo real. Microsoft Research lo desarrolló en colaboración con el equipo de IA responsable de Microsoft y el comité AETHER.

Microsoft dijo en una publicación de blog que la herramienta "funciona al detectar el límite de combinación de los elementos deepfake y los elementos sutiles de desvanecimiento o escala de grises que podrían no ser detectables por el ojo humano".

Banner cuadrado de 340 x 296 de paquete javascript (1)

Redmond también ha anunciado una herramienta que se integra con Microsoft Azure y permite a los editores de contenido insertar hash y certificados digitales en su contenido. Luego, una extensión del navegador (lector) puede leer estos datos para verificar la autenticidad del contenido. La BBC anunció recientemente la implementación de esta herramienta en forma de Project Origin.