Noticias & Actualidad

¿Qué son los Deepfakes y por qué son tan peligrosos?

Los deepfakes, antes limitados en gran medida a la pornografía, están apareciendo ahora en todas partes. Y lo que es más preocupante: la tecnología que hay detrás mejora cada año, lo que podría tener amplias implicaciones en los próximos años.

¿Admitió realmente Mark Zuckerberg haber robado datos de miles de millones de personas? ¿Llamó Barack Obama a Donald Trump “un completo imbécil”? Cada uno de los enlaces de estos vídeos es un ejemplo de deepfake, una peligrosa forma de tecnología artificial que permite poner palabras en la boca de alguien o una cara diferente en el cuerpo de otra persona. También hay “pieles de voz” y “clones de voz”, que permiten a los bromistas imitar la voz.

A la hora de hablar de los deepfakes, hay dos cuestiones que merece la pena responder. En primer lugar, qué es lo que los hace, y en segundo lugar, por qué se han vuelto cada vez más eficaces. Echemos un vistazo.

Deepfakes: ¿Cuál es el problema?

No cabe duda de que algunos deepfakes son divertidos, una vez que se ha entendido la broma. Imagina, por ejemplo, que el 44º presidente de los Estados Unidos realmente llamara públicamente al 45º un mal nombre o que la Mujer Maravilla original, Lynda Carter, fuera colocada de alguna manera en las películas más recientes que realmente protagonizó Gal Gadot.

Desgraciadamente, a medida que los deepfakes mejoran, podrían surgir problemas y causar problemas importantes. Por ejemplo, los adversarios políticos pueden crear vídeos falsos que muestren a sus oponentes en posiciones comprometidas. Al hacerlo, podrían cambiar el resultado de las elecciones. En un ejemplo más peligroso, imaginemos que el actual presidente de Estados Unidos declara la guerra a China y el gobierno chino cree que es cierto.

Los problemas con los deepfakes no tienen por qué implicar a celebridades o funcionarios del gobierno. Por ejemplo, con las “pieles de voz”, un estafador podría convencer a un padre de que su hijo tiene problemas, o un falso agente de Hacienda podría estafar a un ciudadano desprevenido para que le entregue información bancaria.

Otros ejemplos de deepfakes son las estafas de phishing, las violaciones de datos, el desprestigio, la ingeniería social, los ataques automatizados de desinformación y el fraude financiero, entre muchos otros.

¿Por qué son Eficaces los Deepfakes?

La tecnología de aprendizaje profundo ha mejorado la calidad de los deepfakes en los últimos años. Sin embargo, hay otras razones por las que la línea que separa la realidad de la ficción es cada vez más difusa. Según Deep Fake Now, el sesgo de confirmación y la falsa creencia también están jugando con nuestros cerebros.

Sesgo de confirmación

Con el sesgo de confirmación, los individuos buscan, interpretan y favorecen la información de una manera que apoya las creencias o valores propios.

Como explica la Asociación Americana de Psicología (APA), “el sesgo de confirmación es la tendencia a buscar información que apoye, en lugar de rechazar, las propias ideas preconcebidas, normalmente interpretando las pruebas para confirmar las creencias existentes mientras se rechaza o ignora cualquier dato conflictivo.”

Falsa creencia

En psicología, la teoría de la mente se refiere a la capacidad mental de comprender a otras personas y su comportamiento. Una falsa creencia se considera un hito importante para la teoría. Es la comprensión de que otras personas pueden creer cosas que no son ciertas.

De vuelta a Deep Fake Now: “Dado el tiempo suficiente, alguien, en algún lugar, inevitablemente utilizará “hechos alternativos” para apoyar su agenda. Y es probable que utilicen la tecnología deepfake para ‘probar’ sus afirmaciones. Es su forma de propagar la duda y la propaganda en las sociedades”.

Ambos conceptos muestran cómo se utilizan los deepfakes como herramienta para alterar una opinión.

Deepfakes: ¿Es real o falso?

Aunque la tecnología detrás de los deepfakes es cada vez mejor, hay formas de saber cuándo un vídeo es específicamente falso. De hecho, Norton explica que hay al menos 15 formas seguras de determinar la falsedad.  Entre ellas están:

  • Movimiento ocular no natural. Los movimientos oculares que no parecen naturales -o la falta de movimiento ocular, como la ausencia de parpadeo- son señales de alarma. Es difícil reproducir el acto de parpadear de forma que parezca natural. También es difícil reproducir los momentos oculares de una persona real. Eso se convierte en que los ojos de alguien suelen seguir a su interlocutor.
  • La falta de emoción. También se puede detectar el morphing facial o los stiches de imagen si la cara de alguien no parece mostrar la emoción que debería acompañar a lo que supuestamente está diciendo.
  • Coloración antinatural. El tono anormal de la piel, la decoloración, la iluminación extraña y las sombras mal colocadas son señales de que lo que estás viendo es probablemente falso.
  • Huellas digitales. La tecnología blockchain también puede crear una huella digital para los vídeos. Aunque no es infalible, esta verificación basada en la cadena de bloques puede ayudar a establecer la autenticidad de un vídeo. Así es como funciona. Cuando se crea un vídeo, el contenido se registra en un libro de contabilidad que no puede modificarse. Esta tecnología puede ayudar a demostrar la autenticidad de un vídeo.
  • Búsquedas inversas de imágenes. Una búsqueda de una imagen original, o una búsqueda inversa de imágenes con la ayuda de un ordenador, puede desenterrar vídeos similares en línea para ayudar a determinar si una imagen, un audio o un vídeo han sido alterados de alguna manera. Aunque la tecnología de búsqueda inversa de vídeos aún no está disponible públicamente, invertir en una herramienta como ésta podría ser útil.

Ejemplos

Hay muchos ejemplos de deepfakes en Internet. Mis favoritos son los siguientes:

Como puedes ver, los deepfakes pueden ser divertidos, divertidísimos, en realidad. Por desgracia, también pueden ser peligrosos cuando la tecnología se utiliza de forma ilegal. Será interesante ver hasta dónde llega este concepto en los próximos años.

Acerca del Autor

Andrés Villanueva

Fundador de MentePrincipiante, Andrés es apasionado de la tecnología y de todo lo que tiene un botón de encendido, pasa la mayor parte de su tiempo desarrollando nuevas habilidades y aprendiendo más sobre el mundo de la tecnología.

Con una sólida experiencia en la construcción de PCs y en el desarrollo de software, y con una completa experiencia en dispositivos táctiles, ¡está constantemente atento a lo último y lo mejor!

Agregar un Comentario

Clic Aqui para Publicar un Comentario