De la tecnología a la realidad: verdades profundas sobre las falsificaciones profundas

As shared by Steve McNew, an MIT trained blockchain/cryptocurrency expert and senior managing director at FTI Consulting, “Online videos are exploding as a mainstream source of information. Imagine social media and news outlets frantically and perhaps unknowingly sharing altered clips — of police bodycam video, politicians in unsavory situations or world leaders delivering inflammatory speeches — to create an alternate truth. The possibilities for deepfakes to create malicious propaganda and other forms of fraud are significant.”

en flag
nl flag
fi flag
fr flag
de flag
pt flag
ru flag
es flag

Nota del editor: Dado que el potencial de las falsificaciones profundas para crear propaganda maliciosa y otras formas de fraude es cada vez más significativo en el mundo digital de las comunicaciones de hoy en día, entender la tecnología detrás de las falsificaciones profundas puede ser beneficioso para los profesionales de descubrimiento de datos y legales a medida que buscan evaluar y autenticar la información almacenada electrónicamente. En este artículo extracto del autor de Cointelegraph Sharaz Jagati, varios expertos de la industria, para incluir a Steve McNew de FTI Consulting, considerar y comentar las verdades profundas de las falsificaciones profundas.

Las verdades profundas de las falsificaciones profundas — Tecnología que puede engañar a cualquiera

Un extracto de un artículo de Sharaz Jagati a través de Cointelegraph

Desde un punto de vista técnico, las falsificaciones visuales se diseñan a través del uso de herramientas de aprendizaje automático que son capaces de decodificar y despojar las imágenes de todas las expresiones faciales relacionadas con los dos individuos en una matriz que consta de ciertos atributos clave, como la posición de la nariz del objetivo, los ojos, y boca. Además, los detalles más finos, como la textura de la piel y el vello facial, reciben menos importancia y pueden considerarse secundarios.

La deconstrucción, en general, se realiza de tal manera que en su mayoría siempre es posible recrear completamente la imagen original de cada cara a partir de sus elementos despojados. Además, uno de los aspectos principales de la creación de un deepfake de calidad es lo bien que se reconstruye la imagen final, de modo que cualquier movimiento en la cara del imitador también se realiza en la cara del objetivo.

Para profundizar en el asunto, Matthew Dixon, profesor asistente e investigador de la Escuela de Negocios Stuart del Instituto Tecnológico de Illinois, dijo a Cointelegraph que tanto la cara como la voz pueden ser fácilmente reconstruidas a través de ciertos programas y técnicas, agregando que:

«Una vez que una persona ha sido clonada digitalmente, es posible generar videos falsos de ellos diciendo cualquier cosa, incluyendo palabras de propaganda maliciosa en las redes sociales. El seguidor medio de las redes sociales sería incapaz de discernir que el video era falso».

Del mismo modo, hablando sobre los aspectos más finos de la tecnología deepfake, Vlad Miller, CEO de Ethereum Express, una solución multiplataforma que se basa en un modelo innovador con su propia cadena de bloques y utiliza un protocolo de consenso de prueba de autoridad, dijo a Cointelegraph que deepfakes son simplemente una forma de sintetizar humanos utilizando una técnica de aprendizaje automático llamada GAN, un algoritmo que implementa una combinación de dos redes neuronales.

El primero genera las muestras de imagen, mientras que el segundo distingue las muestras reales de las falsas. La utilidad operativa de GAN se puede comparar con el trabajo de dos personas, de modo que la primera persona se dedica a la falsificación, mientras que la otra trata de distinguir las copias de los originales. Si el primer algoritmo ofrece una falsificación obvia, el segundo lo determinará inmediatamente, después de lo cual el primero mejorará su trabajo ofreciendo una imagen más realista.

En cuanto a las implicaciones sociales y políticas negativas que los videos deepfake pueden tener en las masas, Steve McNew, un experto en blockchain y criptomonedas entrenado en el MIT y director ejecutivo senior de FTI Consulting, dijo a Cointelegraph:

«Los videos en línea están explotando como fuente principal de información. Imagine las redes sociales y los medios de comunicación compartiendo frenéticamente y tal vez sin saberlo clips alterados — de video de la cámara de cuerpo policial, políticos en situaciones desagradables o líderes mundiales que pronuncian discursos incendiarios — para crear una verdad alternativa. Las posibilidades de las falsificaciones profundas de crear propaganda maliciosa y otras formas de fraude son significativas».

Lea el artículo completo en Deep Truths of Deepfakes — Tech que puede engañar a cualquier persona

Lectura adicional

¿Descubriendo Deepfakes? Lucha contra las noticias falsas con Blockchain

No más papeleo: Estonia avanza hacia el gobierno digital

Fuente: ComplexDiscovery