El deepfake es esencialmente un video manipulado para hacer creer a los posibles usuarios que el que ve una determinada persona, tanto si es un individuo anónimo como si hablamos de un personaje público, realiza alguna declaración o acción que nunca tuvieron lugar. Este tipo de videos se crean utilizando programas y herramientas que cuentan con una tecnología de inteligencia artificial. Esta permite cambiar los rostros en imágenes e incluso, la modificación de la voz.
Deepface: superposición del rostro de una persona en la de otra falsificando sus gestos. Los resultados pueden llegar a ser tremendamente realistas.
Deepvoice: En este caso se tratará de unir frases y palabras independientes utilizadas por un individuo para poder crear un discurso. Es posible clonar la voz original con algunos fragmentos.
La palabra Deepfake proviene de combinar “Deep Learning” o aprendizaje profundo y “Fake” o falso.
¿El deepfake puede considerarse una amenaza?
Uno de los mayores peligros potenciales de los Deepfakes es la sencillez y facilidad para crearlos. Con una sencilla aplicación móvil casi cualquier persona puede producir o crear un video falso con un altísimo nivel de credibilidad.
Ya de por si es muy complicado hoy en día contener la viralización de Fake News o noticias falsas a través de la red así que podemos imaginar el alcance si se trata de un formato de vídeo con la rapidez que tienen para extenderse.
Por otra parte, al ritmo al que avanza hoy en día la tecnología, en muy poco tiempo será prácticamente imposible poder identificar si consiste en una falsificación o no, pudiendo llegar a crear grandísimos problemas por ejemplo, en la reputación de un individuo. No podemos tampoco olvidar las consecuencias de la circulación de un discurso tan real que pudiera crear una gran alarma y confusión en la sociedad.
Los deepfake en las empresas
En el pasado 2019, audios modificados fueron utilizados para robar millones de dólares a tres compañías. Los ciberdelincuentes están comenzando a utilizar la Inteligencia Artificial para generar audios con la voz de los CEOs con órdenes para que sus empleados la realicen sin percatarse de que están siendo engañados, ni que la identidad de su CEO ha sido suplantada.
¿Como detectamos los deepfakes?
De la misma forma que cada vez existen más y mejores herramientas para crear deepfakes, la industria se encuentra trabajando para crear programas con capacidad para poder deducir si una imagen ha sufrido algún tipo de manipulación. Esto será de una grandísima ayuda para poder identificar Deepfakes rápidamente. Para esto aún queda mucho margen de mejora, puesto que los programas para crear deepfakes van siempre un paso por delante. Es esencial aplicar el sentido común.
Uno de los grandes problemas aquí es que los ciudadanos van a depender de algoritmos de detección creados por estos expertos que no dejen colar hasta el 20% de los deepfakes (siendo estas las cifras aproximadas de error que se manejan actualmente), el daño que esto puede causar a las sociedades es enorme.
Como hemos dicho, los deepfakes mejoran constantemente. Es por esto por lo que son cada vez más complicados de detectar. No obstante, si queremos entrenar el ojo, podemos estar atentos a los siguientes indicios:
- Parpadeo extraño. Sí, las caras falsas no tienen ojos de verdad, lagrimales, etcétera, por lo que dan la impresión de… no saber parpadear correctamente.
- Los movimientos de la cara y los músculos pueden ser poco naturales. Por ejemplo, la boca de una cabeza falsa puede moverse de forma un tanto robótica.
- Algunos cambios en el tono de piel y la iluminación. El vídeo puede dar saltos cuando la cabeza gira, casi como en los gráficos de un videojuego de poca calidad.
- Una mezcla extraña de dos distintas. Este efecto puede revelarse habitualmente durante los movimientos complicados, ya que, cuanto más movimiento hay, más grabaciones y ángulos originales se necesitan para que la falsificación parezca convincente.
Como es habitual, sentido común
Sin duda, para detectar estos ciberataques casi imperceptibles, el sentido común tiene que ser nuestro mejor aliado. Imaginemos que somos los responsables financieros de la empresa y nuestro jefe es directamente el CEO. Recibimos una llamada suya diciendo que necesita que le enviemos una cantidad X de dinero por un acuerdo que se acaba de cerrar con otra empresa, pero a nosotros, que en realidad somos el director financiero, no nos habían comentado nada hasta ese momento.
Una situación de este tipo nos debe hacer dudar. Ante posibles casos como este, lo mejor que podemos hacer es decirle que sí, que se lo envíaremos en unos minutos, pero que antes tienes que solucionar ciertos asuntos. Cuando colguemos, lo primero que deberíamos hacer es marcar el número de nuestro CEO y hablar directamente con él, para verificar si lo que nos ha comunicado es verídico.
Aquí podeis ampliar información sobre biometría si os ha gustado este artículo.
