Colecciones

Los deepfakes son malos, pero ¿cuáles son algunas de las posibles ventajas?

Los deepfakes son malos, pero ¿cuáles son algunas de las posibles ventajas?

¿Qué son los deepfakes? ¿Podremos volver a confiar en algo que vemos en la televisión o en el cine?

Resulta que aquellos con los medios y el motivo han estado revisando fotos y videos durante décadas. No es nada nuevo.

Pero los Deepfakes, impulsados ​​por IA y ML, han hecho posible producir imágenes falsas casi perfectas de figuras públicas en, digamos, situaciones comprometedoras. Pero, ¿es esto necesariamente algo malo?

RELACIONADO: EL SOFTWARE GRATUITO GANA A WARNER BROS. AL QUITARSE EL BIGOTE DE HENRY CAVILL

¿Qué son los deepfakes?

Deepfakes, construcción de los términos deep learning y fake, es una técnica de síntesis de imágenes humanas basada en IA. Según Wikipedia:

"Se utiliza para combinar y superponer imágenes y videos existentes en imágenes o videos de origen mediante una técnica de aprendizaje automático conocida como redes generativas adversarias. La frase" Deepfake "se acuñó en 2017.

Esta técnica es increíblemente efectiva y se está volviendo más avanzada y difícil de detectar a medida que pasa el tiempo. Deepfakes se ha utilizado en el pasado para crear videos pornográficos de celebridades falsos.

También se ha utilizado para crear noticias falsas y otras imágenes engañosas maliciosas o puramente satíricas de otras personas destacadas con otro diálogo completamente inventado. Un excelente y francamente divertido ejemplo de esto fue el reciente video de Deepfake de Mark Zuckerberg.

El trabajo en Deepfakes se ha realizado principalmente en investigación académica y por aficionados en comunidades en línea. También se cree que agencias gubernamentales como la CIA o el GCHQ del Reino Unido han utilizado la técnica con fines propagandísticos.

¿Quién creó Deepfakes?

Trabajar en Deepfakes no es nada nuevo. Si bien no se acerca a la sofisticación de la tecnología actual, el campo de la "visión por computadora" existe desde la década de 1990.

Un subcampo de la informática, combina la inteligencia artificial y el procesamiento por computadora de imágenes y videos digitales para crear nuevos medios artificiales. Un proyecto académico temprano notable se llamó el programa Video Rewrite que se publicó en 1997.

Pudo modificar imágenes de video existentes de una persona hablando con un nuevo diálogo manipulado. Usó el aprendizaje automático para automatizar completamente la reanimación facial.

El trabajo académico y aficionado más moderno en este campo se ha centrado más en hacer que el proceso sea más simple, más rápido y más accesible.

Por ejemplo, el programa Face2Face, publicado en 2016, modifica las imágenes de video del rostro de una persona para representarla imitando las expresiones faciales de otra persona en tiempo real.

Otro ejemplo, el programa "Synthesizing Obama" publicado en 2017, mostró realmente el potencial de esta tecnología. Pero se puede argumentar que la mayor parte del trabajo más importante es de aficionados.

Antes de que fuera prohibido en Reddit, el subreddit r / deepfakes consistía en contenido de Deepfake 'casero' que habían creado los usuarios. Esta comunidad, si bien el contenido era principalmente de naturaleza pornográfica, realmente mostró cómo los Deepfakes se pueden crear con relativa facilidad si se tienen los conocimientos suficientes y el software adecuado.

¿Cómo funcionan los Deepfakes?

Los deepfakes funcionan explotando nuestra tendencia natural a creer lo que estamos viendo si es imperceptiblemente diferente de lo que consideraríamos metraje real. También intenta 'piratear' el sesgo de confirmación de alguien sobre un tema determinado, especialmente si el tema del Deepfake es de naturaleza política.

Es más eficaz si el espectador nunca ha visto el metraje original, por razones obvias.

En cuanto a su creación real, esto tiende a implicar el uso de dos Redes Adversarias Generativas (GAN). Estos dos modelos de aprendizaje automático luchan en un juego de suma cero para crear imágenes falsas y el otro intento de detectar que está falsificado.

El falsificador crea falsificaciones hasta que el otro modelo de ML no puede detectar la falsificación. Estos sistemas funcionan mejor cuando hay una gran cantidad de metraje e imágenes del sujeto del video.

Esta es la razón principal por la que los Deepfakes más destacados tienden a involucrar a políticos o celebridades.

Ventajas y desventajas de Deepfakes

Las desventajas de algo como Deepfakes son bastante obvias. Desde la posibilidad de crear pruebas incriminatorias falsas hasta "noticias falsas" y propaganda, esta tecnología se puede utilizar fácilmente para fines nefastos y para chantajear.

Pero también podría tener sus ventajas. Una versión interesante de esto proviene de TowardsDataScience.com.

En esencia, los videos satíricos de Deepfake, aunque son visualmente convincentes a la vista, son obviamente fabricados. Esto, así como el auge de las "noticias falsas", ha abierto los ojos de la gente al hecho de que es posible y deberíamos tomarlo todo 'con una pizca de sal'.

Advertencia: El siguiente video contiene un lenguaje suave: es George Carlin.

"Así que graciasDeepfakes, por hacernos conscientes de esto, para que nos demos cuenta una vez más de que no podemos dar por sentado todo lo que vemos y oímos. Por crearnos un problema para que lo resolvamos desde el principio, antes de que se vuelva tan grande y haya influido en tantos de nosotros de forma incorrecta, que sea demasiado tarde.

Tomará tiempo. Una nueva habilidad que todos debemos aprender. Así que duden del próximo video que vean en Internet. Demonios, dude de todo lo que ve, lee o escucha. ¡Sea más crítico! Piensa por ti mismo."

Nosotros mismos no podríamos decirlo mejor. Después de todo, si algo parece demasiado bueno o malo para el caso, para ser verdad, probablemente deba ser cuestionado.


Ver el vídeo: Best Deepfakes of 2020 Compilation (Enero 2022).