Los avances tecnológicos en materia de comunicaciones son tan sorprendentes como arriesgados en los tiempos que corren.
La aparición de las redes sociales ha generado nuevas formas de comunicación, en las que se difunden mensajes muchas veces sin que haya un control previo de contenidos y sin saber con exactitud quien los genera, con qué fines y a quién puede afectar.
Es así como se han podido derribar los filtros a los que se somete a los medios de comunicación tradicionales, dando a paso a particulares que generan contenidos libremente utilizando las redes sociales.
Así han aparecido las informaciones falsas “fake news” y posteriormente una modalidad a la que se intenta combatir desde hace un par de años: el DeepFake, que va más allá de ser una información malintencionada, pues incorpora vídeos con montajes que aparentan ser reales , con la capacidad de engañar fácilmente al receptor de esos mensajes.
El DeepFake consiste en utilizar escenas de vídeo , que por lo general en las redes se han tratado de pornografía, sobre cuyas imágenes se colocan rostros de personalidades especialmente del mundo del espectáculo , para aparentar que son filtraciones de material erótico.
El DeepFake es una técnica de inteligencia artificial en la que se emplean modernos recursos técnicos desde un PC con dos programas, para falsear vídeos, haciendo que parezcan reales . El término proviene del inglés, utilizando una combinación de las palabras deep learning (aprendizaje profundo) y fake (falso). Así, se le cambia el rostro a una persona pero en un vídeo, resultando en una imagen en tiempo real con el rostro superpuesto de otra persona.
Como se ha comentado previamente, la aparición de esta técnica de inteligencia artificial se dio en 2017 , cuando se utilizó una escena de un vídeo pornográfico, -que abundan en internet- en el que se utilizó el cuerpo y rostro de una mujer con características similares a las de la actriz Gal Gadot (intérprete de la Mujer Maravilla en los filmes de DC Comics), pero con el rostro de la artista superpuesto. Esto fue publicado en algunos portales con contenido para adultos y en principio se llegó a pensar que se trataba de la filtración de ese material, pero la realidad es que supuso la aparición del DeepFake .
Seguido al “vídeo” de Gadot, aparecieron otros audiovisuales con DeepFakes de celebrities tales como Cara Delevigne o Katy Perry. Los abogados de las estrellas involucradas en los escándalos actuaron de inmediato contra las webs pornográficas con demandas “cease and desist” que en ciertos casos derivaron en el retiro de los vídeos por parte de las páginas para adultos.
Es pertinente mencionar que el uso de esta técnica de inteligencia artificial no ha sido exclusivamente en DeepFakes. En Hollywood fue utilizada con mucho acierto en la saga Star Wars y en uno de sus spin off ("Rogue One"), con el rostro de la actriz Carrie Fisher de cuando era joven, superpuesto sobre el rostro de la actriz noruega Ingvild Deila, quien hizo la interpretación de la Princesa Leia Organa en esta película. Para Rogue One se utilizó este recurso dado que la interprete original, que aún vivía, contaba con más de 60 años y se precisaba de una joven versión suya para la película. Años después, después del fallecimiento de Fisher se empleó la técnica para el rodaje del episodio VII “El Último Jedi”. El resultado en los dos casos fueron realistas y convincentes escenas con el rostro de Carrie Fisher recreado y montado sobre el de Deila.
Con respecto al uso de esta tecnología en la creación de DeepFake, ha sido Mark Zuckerberg, de Facebook quien ha tomado la batuta para investigar la forma de crear programas que puedan detectar cuando se está en presencia de un Deep Fake .
La idea del creador de la famosa red social es promover la investigación y el desarrollo en la materia a fin de encontrar herramientas idóneas de código abierto que permitan identificar DeepFakes. En opinión de Zuckerberg no existe una adecuada data ni un sistema normalizado para su detección.
En ese sentido se ha establecido una interesante alianza entre Facebook, Microsoft, la Asociación de Inteligencia Artificial con investigadores de la Universidad de Albany-SUNY, Cornell Tech, Oxford, Universidad de Maryland, MIT, College Park y UC Berkeley. Esas instituciones unificaron esfuerzos para la construcción del Reto de la Detección de DeepFakes (DFDC) , que incluirá una clasificación y una base de datos.
A su vez, habrá premios y financiación con el objetivo de promover la creación de novedosas maneras para descubrir este tipo de vídeos. Un Comité de Dirección de IA sobre Integridad de Medios e Inteligencia Artificial tendrá la responsabilidad de supervisar y administrar este reto. Organizaciones como WITNESS, Microsoft, Facebook, sociedad civil y otras comunidades, tecnología y medios conformarán este comité.
Si bien la mayoría de estos vídeos falsos (96%) corresponden a pornografía con los rostros de celebridades, ya ha habido escenas que involucran a connotados políticos estadounidenses tales como el de Nancy Pelosi, presidenta de la Cámara de Representantes del Congreso, a quien se le pudo ver en un vídeo hablando bajo los efectos de alguna sustancia.
La preocupación por el DeepFake ha trascendido al ámbito político en Estados Unidos, donde temen que esta tecnología sea utilizada para manipular a los electores con vídeos falsos que perjudiquen la imagen de los candidatos.
Ya en California se dio un paso concreto para tratar de combatir los DeepFakes con la promulgación de las leyes AB 730 y AB 602. La primera prohíbe la difusión de vídeos dirigidos a desacreditar a aspitantes a cargos políticos en un período de 60 días previos a una elección. La segunda legislación le da el derecho a los habitantes de ese estado a demandar a quien difunda DeepFakes con contenido pronográfico basados en su imagen, sin su consentimiento.
No obstante, cabe preguntarse de qué forma se podrán aplicar esas leyes, cuando apenas desde el pasado mes de junio fue que la iniciativa de Mark Zuckerberg se abocó a construir el Reto de la Detección de Deep Fakes.
¿Cuánto tiempo llevará eso? El reloj está corriendo.
Con más de 20 años en el sector, especializado en posicionamiento de páginas web en buscadores y CEO de Overant. Le pone a todo mucha pasión. Flexible y con capacidad de planificación. Tecnócrata informático y apasionado del deporte.
Ver perfil completo del autor