{"id":22090,"date":"2020-03-17T11:52:52","date_gmt":"2020-03-17T09:52:52","guid":{"rendered":"https:\/\/www.kaspersky.es\/blog\/?p=22090"},"modified":"2020-03-17T11:52:52","modified_gmt":"2020-03-17T09:52:52","slug":"rsa2020-deepfakes-mitigation","status":"publish","type":"post","link":"https:\/\/www.kaspersky.es\/blog\/rsa2020-deepfakes-mitigation\/22090\/","title":{"rendered":"C\u00f3mo reducir el impacto de los deepfakes"},"content":{"rendered":"

Los deepfakes<\/em> son un desafortunado producto de los recientes desarrollos en el campo de la inteligencia artificial. Las noticias falsas generadas por los algoritmos de aprendizaje autom\u00e1tico han ganado repercusi\u00f3n en los \u00faltimos a\u00f1os. La charla de Alyssa Miller en la conferencia RSA del 2020, titulada Hemos perdido la realidad<\/a>, proporciona algunas reflexiones sobre por qu\u00e9 ha llegado el momento de considerar los deepfakes<\/em> como una amenaza (a parte del a\u00f1o electoral) y qu\u00e9 puede hacer tu empresa para reducir su impacto si se viera atacada de este modo.<\/p>\n

C\u00f3mo se generan en los deepfakes<\/em><\/h2>\n

El m\u00e9todo m\u00e1s com\u00fan para crear un deepfake<\/em> es utilizar un sistema llamado GAN, o red generativa antag\u00f3nica. Los GAN se componen de dos redes neurales que antagonizan entre ellas. Con el fin de prepararlas, ambas redes se entrenan con im\u00e1genes verdaderas. Luego viene la parte antag\u00f3nica, en la que una red genera im\u00e1genes (de ah\u00ed el nombre generador<\/em>) y la otra intenta determinar si la imagen es aut\u00e9ntica o falsa (la segunda red se llama discriminador<\/em>).<\/p>\n

Despu\u00e9s, la red generativa conoce el resultado y aprende de \u00e9l. Al mismo tiempo, la red discriminadora aprende c\u00f3mo mejorar su desempe\u00f1o. Con cada ciclo, ambas redes mejoran.<\/p>\n

Adelantemos, por ejemplo, un mill\u00f3n de ciclos de entrenamiento: la red neural generativa ha aprendido c\u00f3mo generar im\u00e1genes falsas que una red neural igualmente avanzada no puede distinguir de las verdaderas.<\/p>\n

Este m\u00e9todo es realmente \u00fatil en los muchos usos, ya que, dependiendo de los datos preparatorios, la red generativa aprende a generar ciertos tipos de im\u00e1genes.<\/p>\n

Por supuesto, para los deepfakes<\/em>, el algoritmo se entrena con fotos reales de determinada gente, lo que da como resultado una red que puede generar un n\u00famero infinito de fotos convincentes (aunque falsas) de una persona para que pueda integrarse en un v\u00eddeo. Hay m\u00e9todos similares que generan audios falsos y es probable que los estafadores ya est\u00e9n usando el deepfake<\/em><\/a>\u00a0en audios.<\/p>\n

\u00bfSon convincentes los deepfakes<\/em>?<\/h2>\n

Los primeros v\u00eddeos de deepfake<\/em> parec\u00edan rid\u00edculos, pero la tecnolog\u00eda ha evolucionado lo suficiente en este punto como para que dichos medios se hayan vuelto mucho m\u00e1s convincentes. Uno de los ejemplos m\u00e1s notables de un deepfake<\/em> realmente convincente del 2018 fue un Barack Obama<\/a> falso que hablaba de, bueno, deepfakes<\/em> (adem\u00e1s de insultar al actual presidente de los EE.UU.). A mediados del 2019, vimos un v\u00eddeo falso de Mark Zuckerberg<\/a> donde se mostraba incre\u00edblemente honesto acerca del estado actual de la privacidad.<\/p>\n

Para entender la mejora de esta tecnolog\u00eda, solo tienes que echar un vistazo al v\u00eddeo que te mostramos a continuaci\u00f3n. El imitador Jim Meskimen cre\u00f3 este v\u00eddeo en colaboraci\u00f3n con el artista de deepfakes<\/em> Sham00k. El primero se encarg\u00f3 de las voces y el segundo us\u00f3 los rostros de unas 20 celebridades en el v\u00eddeo<\/a> mediante un software<\/em> de deepfake<\/em>. El resultado es realmente fascinante.<\/p>\n