{"id":19418,"date":"2019-10-07T18:00:34","date_gmt":"2019-10-07T16:00:34","guid":{"rendered":"https:\/\/www.kaspersky.es\/blog\/?p=19418"},"modified":"2019-11-22T10:46:22","modified_gmt":"2019-11-22T08:46:22","slug":"machine-learning-fake-voice","status":"publish","type":"post","link":"https:\/\/www.kaspersky.es\/blog\/machine-learning-fake-voice\/19418\/","title":{"rendered":"Los fraudes con aprendizaje autom\u00e1tico"},"content":{"rendered":"

Est\u00e1 claro que las nuevas tecnolog\u00edas est\u00e1n cambiando el mundo, pero no la mente humana. El resultado es que los genios del mal ingenian innovaciones tecnol\u00f3gicas cuyo objetivo son las vulnerabilidades del cerebro humano. Un vivo ejemplo de esto es la historia sobre c\u00f3mo los estafadores imitaron la voz de un CEO de nivel internacional<\/a> para manipular a una empresa filial con el fin de que transfiriera dinero a cuentas sospechosas.<\/p>\n

\u00bfQu\u00e9 sucedi\u00f3?<\/h3>\n

Se desconocen los detalles del ataque, pero el Wall Street Journal<\/em>, citando a la empresa de seguros Euler Hermes Group SA, describi\u00f3 el incidente de la siguiente forma:<\/p>\n

    \n
  1. Al responder una llamada telef\u00f3nica, el CEO de una empresa energ\u00e9tica brit\u00e1nica pens\u00f3 que estaba hablando con su jefe, el director ejecutivo de la empresa matriz alemana, quien le solicit\u00f3 que enviara 220.000 euros a un proveedor h\u00fangaro (ficticio, como se descubri\u00f3 m\u00e1s adelante) en un plazo de una hora.<\/li>\n
  2. El ejecutivo brit\u00e1nico transfiri\u00f3 la cantidad solicitada.<\/li>\n
  3. Los atacantes llamaron de nuevo para comunicar que la empresa matriz hab\u00eda transferido el dinero para reembolsar a la empresa brit\u00e1nica.<\/li>\n
  4. Luego, volvieron a llamar por tercera vez ese d\u00eda, haci\u00e9ndose pasar por el CEO, y solicitaron un segundo pago.<\/li>\n
  5. Como no hab\u00edan recibido la transferencia que hac\u00eda el reembolso y la tercera llamada proven\u00eda de un n\u00famero de Austria, y no de Alemania, el ejecutivo comenz\u00f3 a sospechar, por lo que no hizo el segundo pago.<\/li>\n<\/ol>\n

    \u00bfC\u00f3mo fue el proceso?<\/h3>\n

    La empresa aseguradora contempla dos posibilidades: o los atacantes repasaron una gran cantidad de grabaciones del CEO y fueron uniendo mensajes o bien, desplegaron un algoritmo de aprendizaje autom\u00e1tico en las grabaciones, lo cual es m\u00e1s probable. El primer m\u00e9todo necesita much\u00edsimo tiempo y no es seguro, ya que es extremadamente dif\u00edcil construir una oraci\u00f3n coherente de dos palabras aisladas sin que suene desentonado. Y, seg\u00fan la v\u00edctima brit\u00e1nica, el discurso era absolutamente normal, con un timbre claramente reconocible y un leve acento alem\u00e1n. De este modo, el sospechoso principal es la IA. Pero el \u00e9xito del ataque tiene menos que ver con el uso de las nuevas tecnolog\u00edas que con la distorsi\u00f3n cognitiva, en este caso, el sometimiento a la autoridad.<\/p>\n

    Post mortem<\/em> psicol\u00f3gico<\/h3>\n

    Los psic\u00f3logos sociales han llevado a cabo muchos experimentos que han demostrado que incluso las personas inteligentes y experimentadas son propensas a obedecer a la autoridad de modo incuestionable, incluso si esto va en contra de sus convicciones personales, sentido com\u00fan o cuestiones de seguridad.<\/p>\n

    En su libro El efecto Lucifer: el porqu\u00e9 de la maldad, <\/em>Philip Zimbardo describe este tipo de experimento, en el cual las enfermeras reciben una llamada telef\u00f3nica de un m\u00e9dico que les pide inyectar a un paciente el doble de la dosis permitida de un medicamento. De 22 enfermeras, 21 llenaron la jeringuilla seg\u00fan la orden. De hecho, casi la mitad de las enfermeras encuestadas hab\u00eda seguido las instrucciones de un m\u00e9dico que, en su opini\u00f3n, podr\u00eda haber causado da\u00f1o al paciente. Las enfermeras obedientes creyeron que ten\u00edan menos responsabilidad que un m\u00e9dico con la autoridad legal de prescribir el tratamiento a un paciente.<\/p>\n

    El psic\u00f3logo Stanley Milgram explic\u00f3 igualmente la obediencia ciega a una autoridad mediante la teor\u00eda de la subjetividad<\/em>; dicha teor\u00eda b\u00e1sicamente propone que, si las personas se perciben a s\u00ed mismas como instrumentos para la voluntad de otros, entonces no se sienten responsables de sus acciones.<\/p>\n

    \u00bfQu\u00e9 se puede hacer?<\/h3>\n

    Simplemente no hay modo de saber con total certeza con qui\u00e9n estamos hablando por tel\u00e9fono;\u00a0 especialmente si se trata de una figura p\u00fablica y las grabaciones de su voz (discursos y entrevistas) son p\u00fablicas. Hoy en d\u00eda esto es poco com\u00fan, pero a medida que la tecnolog\u00eda avance, estos incidentes se volver\u00e1n m\u00e1s frecuentes.<\/p>\n

    As\u00ed que, al obedecer ciegamente, puede que est\u00e9s cumpliendo la voluntad de los ciberdelincuentes. Por supuesto que es normal obedecer al jefe, pero tambi\u00e9n es importante cuestionar las decisiones administrativas extra\u00f1as o il\u00f3gicas.<\/p>\n

    Solo podemos aconsejar que no se fomente en los empleados la obediencia absoluta. Procura que tus \u00f3rdenes est\u00e9n acompa\u00f1adas de una justificaci\u00f3n. De esta forma, es m\u00e1s probable que un empleado se cuestione una orden inusual si no hay motivo aparente para ella.<\/p>\n

    Desde un punto de vista t\u00e9cnico, recomendamos lo siguiente:<\/p>\n