{"id":25378,"date":"2021-05-27T09:31:31","date_gmt":"2021-05-27T07:31:31","guid":{"rendered":"https:\/\/www.kaspersky.es\/blog\/?p=25378"},"modified":"2021-05-27T09:31:31","modified_gmt":"2021-05-27T07:31:31","slug":"rsa2021-tesla-mobileye-perception-gap","status":"publish","type":"post","link":"https:\/\/www.kaspersky.es\/blog\/rsa2021-tesla-mobileye-perception-gap\/25378\/","title":{"rendered":"C\u00f3mo enga\u00f1ar a los pilotos autom\u00e1ticos de Tesla y Mobileye"},"content":{"rendered":"<p>Es un recurso narrativo muy habitual en las pel\u00edculas: el protagonista cree haber visto a alguien en la carretera, por lo que se desv\u00eda y termina en una zanja. Pero ahora imag\u00ednate que es real, m\u00e1s o menos, y en lugar de un truco de luz o de la mente, esa imagen proviene de un ciberdelincuente que proyecta, durante una fracci\u00f3n de segundo, algo a lo que el piloto autom\u00e1tico del autom\u00f3vil est\u00e1 programado para responder. Un grupo de investigadores de Georgia Tech y la Universidad Ben-Guri\u00f3n del N\u00e9guev <a href=\"https:\/\/www.rsaconference.com\/usa\/agenda\/session\/securing-tesla-and-mobileye-from-splitsecond-phantom-attacks\" target=\"_blank\" rel=\"noopener nofollow\">demostraron<\/a> este tipo de amenaza de \u201cataque fantasma\u201d en la <a href=\"https:\/\/www.kaspersky.es\/blog\/tag\/rsac\/\" target=\"_blank\" rel=\"noopener\">Conferencia RSA 2021<\/a>.<\/p>\n<p>La idea de mostrar im\u00e1genes peligrosas a los sistemas de inteligencia artificial no es nueva. Estas t\u00e9cnicas suelen implicar el uso de <a href=\"https:\/\/www.kaspersky.es\/blog\/machine-learning-nine-challenges\/16771\/\" target=\"_blank\" rel=\"noopener\">im\u00e1genes modificadas<\/a> para obligar a la IA a sacar una conclusi\u00f3n inesperada. Todos los algoritmos de aprendizaje autom\u00e1tico presentan este tal\u00f3n de Aquiles; saber qu\u00e9 atributos son clave para el reconocimiento de im\u00e1genes, es decir, conocer un poco el algoritmo, permite modificar las im\u00e1genes para dificultar el proceso de toma de decisiones de la m\u00e1quina o incluso obligarla a equivocarse.<\/p>\n<p>La novedad de la estrategia presentada en la conferencia RSA 2021 es que al piloto autom\u00e1tico se le mostraban im\u00e1genes sin modificar, es decir, que el atacante no necesita saber c\u00f3mo funciona el algoritmo o qu\u00e9 atributos utiliza. Las im\u00e1genes se proyectaban brevemente sobre la carretera y objetos estacionarios cercanos, con las siguientes consecuencias:<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/1cSw4fXYqWI?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>En una variante, las im\u00e1genes aparec\u00edan durante una fracci\u00f3n de segundo en un anuncio de una valla publicitaria situada al lado de la carretera, con el mismo resultado:<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/-E0t_s6bT_4?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>De esta forma, los autores del estudio concluyeron que los ciberdelincuentes pueden causar estragos desde una distancia segura, sin el riesgo de dejar pruebas en la escena del crimen. Todo lo que necesitan saber es cu\u00e1nto tiempo tienen para proyectar la imagen y enga\u00f1ar a la IA (los coches aut\u00f3nomos cuentan con un umbral de activaci\u00f3n para reducir su probabilidad de producir falsos positivos a partir de, por ejemplo, suciedad o escombros en la lente de la c\u00e1mara o el l\u00eddar).<\/p>\n<p>Ahora bien, la distancia de frenado de un autom\u00f3vil se mide en pares de metros, por lo que agregar unos pocos metros para permitir una mejor evaluaci\u00f3n de la situaci\u00f3n no fue un gran problema para los desarrolladores de la IA.<\/p>\n<div id=\"attachment_25381\" style=\"width: 1810px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-25381\" class=\"wp-image-25381 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2021\/05\/26180136\/rsa2021-tesla-mobileye-perception-gap-chart.png\" alt=\"Tiempo de reacci\u00f3n de los sistemas de reconocimiento de Tesla y Mobileye a una imagen fantasma\" width=\"1800\" height=\"1400\"><p id=\"caption-attachment-25381\" class=\"wp-caption-text\">Tiempo necesario para mostrar una imagen fantasma a los sistemas de reconocimiento de Tesla y Mobileye. <a href=\"https:\/\/www.rsaconference.com\/usa\/agenda\/session\/securing-tesla-and-mobileye-from-splitsecond-phantom-attacks\" target=\"_blank\" rel=\"noopener nofollow\">Fuente<\/a><\/p><\/div>\n<p>Sin embargo, la cifra de un par de metros se aplica al sistema de visi\u00f3n artificial de Mobileye y a una velocidad de 60 km\/h. En ese caso, el tiempo de respuesta es de unos 125 milisegundos. Pero el umbral de respuesta del piloto autom\u00e1tico de Tesla, seg\u00fan lo determinado por los investigadores en su estudio, es casi tres veces m\u00e1s largo, elev\u00e1ndose a 400 milisegundos. A la misma velocidad, eso ascender\u00eda a casi 7 metros. De cualquier forma, sigue siendo una fracci\u00f3n de segundo. En consecuencia, los investigadores creen que un ataque de este tipo podr\u00eda surgir de la nada: antes de que te des cuenta, est\u00e1s en una zanja y el dron que proyecta im\u00e1genes se ha ido.<\/p>\n<p>Una peculiaridad en el sistema aviva la esperanza de que los pilotos autom\u00e1ticos finalmente puedan repeler este tipo de ataque: las im\u00e1genes proyectadas sobre superficies que no son adecuadas para mostrar im\u00e1genes son muy diferentes de la realidad. La distorsi\u00f3n de la perspectiva, los bordes irregulares, los colores poco naturales, el contraste extremo y otras rarezas hacen que estas im\u00e1genes fantasmas sean muy f\u00e1ciles de distinguir para el ojo humano de los objetos reales.<\/p>\n<p>Dicho esto, la vulnerabilidad del piloto autom\u00e1tico a los ataques fantasmas es una consecuencia de la brecha de percepci\u00f3n entre la IA y el cerebro humano. Para superar la brecha, los autores del estudio proponen reconfigurar los sistemas del piloto autom\u00e1tico de los coches con controles adicionales de coherencia en caracter\u00edsticas como la perspectiva, la suavidad de los bordes, el color, el contraste y el brillo, y garantizar que los resultados sean consistentes antes de tomar cualquier decisi\u00f3n. Como un jurado humano, las redes neuronales deliberar\u00e1n sobre los par\u00e1metros que ayudan a distinguir las se\u00f1ales reales de una c\u00e1mara o lidar de un fantasma fugaz.<\/p>\n<p>Por supuesto, esto aumentar\u00eda la carga computacional de los sistemas y conducir\u00eda con eficacia al funcionamiento en paralelo de varias redes neuronales a la vez, todas necesariamente entrenadas (un proceso largo y que consume mucha energ\u00eda). Y los coches, que ya est\u00e1n formados por peque\u00f1os ordenadores sobre ruedas, tendr\u00e1n que convertirse en peque\u00f1os grupos de superordenadores sobre ruedas.<\/p>\n<p>A medida que los <a href=\"https:\/\/es.wikipedia.org\/wiki\/Acelerador_de_IA\" target=\"_blank\" rel=\"noopener nofollow\">aceleradores de IA<\/a> se generalizan, los autom\u00f3viles pueden transportar varias redes neuronales a bordo, trabajando en paralelo y sin consumir energ\u00eda. Pero este tema mejor lo dejamos para otro d\u00eda.<\/p>\n<input type=\"hidden\" class=\"category_for_banner\" value=\"kesb-top3\">\n<p>\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Un grupo de investigadores demostr\u00f3 en la conferencia RSA 2021 c\u00f3mo se puede enga\u00f1ar a los pilotos autom\u00e1ticos de Tesla y Mobileye con im\u00e1genes &#8220;fantasma&#8221;.<\/p>\n","protected":false},"author":2454,"featured_media":25380,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2202,2754,2019],"tags":[260,1307,1305,3300,1225,612,719,3301],"class_list":{"0":"post-25378","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-business","8":"category-enterprise","9":"category-technology","10":"tag-conferencia-rsa","11":"tag-ia","12":"tag-inteligencia-artificial","13":"tag-rsa-2021","14":"tag-rsac","15":"tag-tecnologia","16":"tag-tesla","17":"tag-vehiculo-autonomo"},"hreflang":[{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/rsa2021-tesla-mobileye-perception-gap\/25378\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/rsa2021-tesla-mobileye-perception-gap\/22909\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/18394\/"},{"hreflang":"ar","url":"https:\/\/me.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/9143\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/24828\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/rsa2021-tesla-mobileye-perception-gap\/22821\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/22002\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/rsa2021-tesla-mobileye-perception-gap\/24764\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/rsa2021-tesla-mobileye-perception-gap\/30814\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/rsa2021-tesla-mobileye-perception-gap\/9684\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/40064\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/rsa2021-tesla-mobileye-perception-gap\/17008\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/rsa2021-tesla-mobileye-perception-gap\/17546\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/rsa2021-tesla-mobileye-perception-gap\/14879\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/rsa2021-tesla-mobileye-perception-gap\/26837\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/rsa2021-tesla-mobileye-perception-gap\/30846\/"},{"hreflang":"nl","url":"https:\/\/www.kaspersky.nl\/blog\/rsa2021-tesla-mobileye-perception-gap\/27100\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/rsa2021-tesla-mobileye-perception-gap\/23966\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/rsa2021-tesla-mobileye-perception-gap\/29286\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/rsa2021-tesla-mobileye-perception-gap\/29083\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.es\/blog\/tag\/rsac\/","name":"RSAC"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/25378","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/users\/2454"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/comments?post=25378"}],"version-history":[{"count":3,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/25378\/revisions"}],"predecessor-version":[{"id":25383,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/25378\/revisions\/25383"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/media\/25380"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/media?parent=25378"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/categories?post=25378"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/tags?post=25378"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}