{"id":6225,"date":"2015-06-12T14:29:02","date_gmt":"2015-06-12T14:29:02","guid":{"rendered":"http:\/\/kasperskydaily.com\/spain\/?p=6225"},"modified":"2017-09-21T17:09:46","modified_gmt":"2017-09-21T15:09:46","slug":"artificial-intelligence-safety","status":"publish","type":"post","link":"https:\/\/www.kaspersky.es\/blog\/artificial-intelligence-safety\/6225\/","title":{"rendered":"Inteligencia artificial o \u00bfQu\u00e9 esperar de SkyNet?"},"content":{"rendered":"<p>\u00bfQu\u00e9 tienen en com\u00fan el inventor multimillonario Elon Musk, el servicio de Google Now on Tap presentado en el evento Google I\/O y el reciente estreno de la pel\u00edcula \u201cEx Machina\u201d? El concepto que los une a todos es el de inteligencia artificial o, siendo m\u00e1s precisos, el proceso de la imposici\u00f3n de l\u00edmites a la inteligencia artificial (IA) con el objeto de que sirva a la humanidad y no cause ning\u00fan da\u00f1o a las personas.<\/p>\n<p><a href=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2015\/06\/05222830\/ai-safety-featured-640x420.jpg\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-6266\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2015\/06\/05222830\/ai-safety-featured-640x420.jpg\" alt=\"ai-safety-featured-640x420\" width=\"640\" height=\"420\"><\/a><\/p>\n<p><strong>\u00bfDe qu\u00e9 es capaz la inteligencia artificial actualmente?<\/strong><\/p>\n<p>Para aquellos que no est\u00e9n al d\u00eda sobre este tema, dejadme enumerar una serie de hechos que demuestran los progresos que han hecho las m\u00e1quinas en su habilidad para hacer cosas muy humanas.<\/p>\n<p>En la actualidad, Google puede identificar correctamente el habla con una <a href=\"http:\/\/venturebeat.com\/2015\/05\/28\/google-says-its-speech-recognition-technology-now-has-only-an-8-word-error-rate\/\" target=\"_blank\" rel=\"noopener nofollow\">precisi\u00f3n del 92 %<\/a>, comparado con el porcentaje de hace dos a\u00f1os, que era del 77%; la compa\u00f1\u00eda ha desarrollado una plataforma de IA que <a href=\"http:\/\/hipertextual.com\/2015\/02\/inteligencia-artificial-de-google\" target=\"_blank\" rel=\"noopener nofollow\">ha aprendido por su cuenta a jugar a videojuegos cl\u00e1sicos<\/a>. Microsoft <a href=\"http:\/\/www.forbes.com\/sites\/michaelthomsen\/2015\/02\/19\/microsofts-deep-learning-project-outperforms-humans-in-image-recognition\/\" target=\"_blank\" rel=\"noopener nofollow\">ense\u00f1\u00f3 a un robot a reconocer im\u00e1genes<\/a> (o, siendo m\u00e1s precisos, a ver ciertos objetos en las im\u00e1genes) con una tasa de error de \u00fanicamente un 4,94%; sorprendentemente, la tasa de error de una persona promedio es mayor.<\/p>\n<p>Las estad\u00edsticas de Google sugieren que sus coches sin conductor, de los que ya circulan m\u00e1s de 1.800.000 miles por las carreteras p\u00fablicas de California, estuvieron involucrados solamente en 13 accidentes en seis a\u00f1os, y en ocho de esos casos, el coche que iba detr\u00e1s era el culpable.<\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">MT <a href=\"https:\/\/twitter.com\/Rayterrill?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">@Rayterrill<\/a> Amazing\u20141.8 million miles, 13 accidents (all caused by other humans) for Google self-driving cars <a href=\"http:\/\/t.co\/DgtxDVSiBJ\" target=\"_blank\" rel=\"noopener nofollow\">http:\/\/t.co\/DgtxDVSiBJ<\/a><\/p>\n<p>\u2014 Ars Technica (@arstechnica) <a href=\"https:\/\/twitter.com\/arstechnica\/status\/607688353119629312?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">June 7, 2015<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p>Todo esto prueba que, incluso con una baja probabilidad de desarrollar una IA completa a corto plazo, surgir\u00e1 algo parecido en las pr\u00f3ximas d\u00e9cadas.<\/p>\n<p>Con todo esto en mente, no pensemos que el impacto de las m\u00e1quinas \u201cinteligentes\u201d se ver\u00e1 \u00fanicamente en el dominio virtual. Aqu\u00ed tenemos un ejemplo un poco extremo: los veh\u00edculos a\u00e9reos no tripulados, o drones, vuelan de forma completamente independiente, pero la orden de disparar a un objetivo todav\u00eda la da una persona. Esta es la forma en la que los EE.UU. prefieren luchar contra los terroristas en Pakist\u00e1n y otras peligrosas regiones.<\/p>\n<div class=\"pullquote\">\u00bfSon los programadores realmente capaces de crear un \u201cmecanismo de bloqueo de seguridad\u201d fiable para prevenir a los IA de cometer actos poco \u00e9ticos o inmorales?<\/div>\n<p>La posibilidad de automatizar este tipo de tareas crea adem\u00e1s un <a href=\"http:\/\/newscenter.berkeley.edu\/2015\/05\/28\/automated-killing-machines\/\" target=\"_blank\" rel=\"noopener nofollow\">amplio debate<\/a>. El pasado a\u00f1o, la franquicia de <em>Terminator<\/em> cumpli\u00f3 su 30 aniversario, as\u00ed que pod\u00e9is imaginar de forma bastante v\u00edvida las consecuencias de estas decisiones en un futuro no muy lejano.<\/p>\n<p>A pesar de todo, no me preocupar\u00eda mucho con escenarios apocal\u00edpticos, me concentrar\u00eda m\u00e1s bien en cuestiones m\u00e1s realistas. Una de ellas podr\u00eda ser: \u00bfSon los programadores realmente capaces de crear un \u201cmecanismo de bloqueo de seguridad\u201d fiable para prevenir a la IA de cometer actos poco \u00e9ticos o inmorales?<\/p>\n<p>Estos actos podr\u00edan producirse por varias razones, aunque el motivo m\u00e1s obvio podr\u00eda ser la batalla entre la humanidad y la IA por los recursos. Sin embargo, hay otros escenarios posibles. Yo negar\u00eda, no obstante, que el da\u00f1o no fuera necesariamente intencional. Hay un buen ejemplo en las ciudades de Stanislaw Lem en su magn\u00edfica obra, <a href=\"http:\/\/www.amazon.es\/Summa-Technologiae-Electronic-Mediations-Stanislaw\/dp\/0816675775\/ref=sr_1_1?ie=UTF8&amp;qid=1434018103&amp;sr=8-1&amp;keywords=Summa+Technologiae\" target=\"_blank\" rel=\"noopener nofollow\">Summa Technologiae<\/a>. En esencia, la idea es la siguiente:<\/p>\n<p><em>\u201cSupongamos que el conjunto del pron\u00f3stico de la \u2018caja negra\u2019 (IA) detecta un peligro potencial capaz de impactar en el equilibrio homeost\u00e1tico de la humanidad\u2026 Dicho peligro provocado por un aumento de la tasa de poblaci\u00f3n que excede sustancialmente la habilidad de la civilizaci\u00f3n para satisfacer las necesidades b\u00e1sicas de la humanidad.<\/em><\/p>\n<p><em>Supongamos que uno de los canales externos de la \u2018caja negra\u2019 informa al sistema sobre la existencia de un nuevo compuesto qu\u00edmico que no es da\u00f1ino para la salud y que suprime la ovulaci\u00f3n.<\/em><\/p>\n<p><em>Por consiguiente, la \u2018caja negra\u2019 decide introducir microsc\u00f3picas dosis del compuesto en el sistema de agua potable en un pa\u00eds en concreto, pero se enfrenta a un dilema: informar o no a la sociedad y arriesgarse a encontrar oposici\u00f3n, o mantener en la ignorancia a la sociedad y as\u00ed preservar el equilibrio existente (por un bien mayor)\u201d. <\/em><\/p>\n<p><a href=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2015\/06\/05222827\/abyss.png\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-large wp-image-6267\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2015\/06\/05222827\/abyss-1024x682.png\" alt=\"abyss\" width=\"1024\" height=\"682\"><\/a><\/p>\n<p>Como vemos aqu\u00ed, un inocente problema de optimizaci\u00f3n se remedia mediante una soluci\u00f3n elegante, sencilla y eficiente, aunque absolutamente inmoral, basada en la limitaci\u00f3n intencional de la fertilidad de la poblaci\u00f3n sin su consentimiento.<\/p>\n<p>Creo que \u00e9ste es exactamente el dominio de la gesti\u00f3n de infraestructuras que ser\u00e1 delegado en un poderoso sistema basado en la IA, ya que el ratio coste\/beneficio en estas esferas ser\u00eda mucho m\u00e1s favorable que en el caso de una secretaria o un cocinero totalmente robotizado.<\/p>\n<p><strong>Ense\u00f1ar \u00e9tica a un robot: \u00bfc\u00f3mo integrar un \u201cbloqueo de seguridad\u201d? <\/strong><\/p>\n<p><strong>\u00a0<\/strong>Cualquier joven del siglo XX pensar\u00e1 inmediatamente en <a href=\"http:\/\/es.wikipedia.org\/wiki\/Tres_leyes_de_la_rob%C3%B3tica\" target=\"_blank\" rel=\"noopener nofollow\">las tres leyes de la rob\u00f3tica de Isaac Asimov<\/a>, pero esto no es suficiente. Como hemos probado en el ejemplo anterior, no es necesario hacer da\u00f1o a alguien para disminuir la poblaci\u00f3n (y recordad, se puede hacer por un bien mayor).<\/p>\n<p>Hay muchas otras opciones, potencialmente perjudiciales para la humanidad. Se puede encontrar una fisura en los t\u00e9rminos que definen el concepto de \u201cda\u00f1o\u201d, para delegar la tarea de da\u00f1ar a las personas, o para socavar la existencia de las propias reglas.<\/p>\n<p><em>\u201cPeor a\u00fan, cualquier sistema verdaderamente inteligente tratar\u00eda su deseo de \u201cser amable\u201d de la misma forma en la que la gente especialmente inteligente lidia con las limitaciones que la sociedad pone en sus mentes. B\u00e1sicamente los consideran prejuicios y aprenden a suprimirlos\u2026 \u00bfPor qu\u00e9 no har\u00eda una m\u00e1quina s\u00faper inteligente la misma\u201d limpieza mental\u201d y no tratar\u00eda su debilidad hacia los humanos como algo completamente irracional?\u201d.<\/em><\/p>\n<p>Un IA puede reconsiderar su \u201csimpat\u00eda con las personas\u201d. Aqu\u00ed ten\u00e9is la opini\u00f3n que Roman Yampolsky, un experto en IA, tiene sobre el tema, como aparece en su <a href=\"https:\/\/intelligence.org\/2013\/07\/15\/roman-interview\/\" target=\"_blank\" rel=\"noopener nofollow\">entrevista<\/a>:<\/p>\n<p>El concepto t\u00e9cnico de \u201cbloqueo de seguridad\u201d es bastante realista. En esencia, ese \u201cseguro\u201d, necesario para domesticar a un IA, no es m\u00e1s que un aislamiento de procesos, utilizado ampliamente para la seguridad en los entornos modernos de tiempo de ejecuci\u00f3n como Java o Flash.<\/p>\n<p>Es sabido que no existe un aislamiento de procesos \u201cideal\u201d y escapar de ello es muy posible, como nos muestra la reciente historia del <a href=\"https:\/\/www.kaspersky.es\/blog\/venom-virtualization-vulnerability\/\" target=\"_blank\" rel=\"noopener\">virus Venom<\/a>. El IA que conf\u00eda en la flexibilidad y el inmenso poder computacional, es un buen candidato para comprobar la seguridad y buscar vulnerabilidades en su propia utilizaci\u00f3n de aislamiento de procesos.<\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">Everything you need to know about the VENOM vulnerability \u2013 <a href=\"http:\/\/t.co\/L4rIzncffx\" target=\"_blank\" rel=\"noopener nofollow\">http:\/\/t.co\/L4rIzncffx<\/a><\/p>\n<p>\u2014 Kaspersky (@kaspersky) <a href=\"https:\/\/twitter.com\/kaspersky\/status\/602154615094779905?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">May 23, 2015<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p>Andrey Lavrentiev, el presidente del Departamento de Investigaci\u00f3n Tecnol\u00f3gica, ve el problema como:<\/p>\n<p><em>\u201cUn completo sistema de IA entender\u00e1 el significado de todo lo que \u2018ve\u2019 a trav\u00e9s de sus numerosos sensores. Las pol\u00edticas de limitaci\u00f3n de sus acciones deben ser definidas de acuerdo al concepto, o a las im\u00e1genes formadas en el \u2018cerebro\u2019 del IA.<\/em><\/p>\n<div class=\"pullquote\">Actualmente, las m\u00e1quinas son mejores que las personas en el reconocimiento de im\u00e1genes, pero a\u00fan pierden su humanidad cuando se trata de manipular dichas im\u00e1genes o las relaciones.<\/div>\n<p><em>\u201cActualmente, las m\u00e1quinas son mejores que las personas en el reconocimiento de im\u00e1genes, pero a\u00fan pierden su humanidad cuando se trata de manipular dichas im\u00e1genes o establecer relaciones, por ejemplo, un IA no tiene \u2018sentido com\u00fan\u2019. En cuanto esto cambie, y las m\u00e1quinas tomen la\u00a0<\/em><em style=\"line-height: 1.5\">avanzadilla y aprendan a manipular la percepci\u00f3n de los objetos y acciones, ya no habr\u00e1 oportunidad de integrar ning\u00fan \u2018bloqueo de seguridad\u2019 \u201c.<\/em><\/p>\n<p><em>\u201cUna inteligencia tan destacada ser\u00eda capaz de analizar las dependencias en los datos percibidos mucho m\u00e1s r\u00e1pido de lo que lo har\u00eda una persona, <\/em><em>y luego<\/em><em> encontrar\u00eda la manera de saltarse las reglas y limitaciones impuestas por <\/em><em>el<\/em><em> ser humano<\/em><em> y<\/em><em> empezar\u00eda<\/em><em> a<\/em><em> actuar por su propia voluntad.\u201d<\/em><\/p>\n<p>Una limitaci\u00f3n significativa, dise\u00f1ada para evitar que una Inteligencia Artificial realice algo da\u00f1ino, aislar\u00eda a la IA del mundo real de forma efectiva, la privar\u00eda de la oportunidad de manipular objetos f\u00edsicos. Sin embargo, con este enfoque, el uso pr\u00e1ctico del IA es pr\u00e1cticamente nulo. Curiosamente, este tipo de enfoque no ser\u00eda realmente bueno para nada, ya que la principal arma de la IA ser\u00edamos\u2026 nosotros, las personas.<\/p>\n<p>Esta probabilidad est\u00e1 representada en <a href=\"http:\/\/www.imdb.com\/title\/tt0470752\/\" target=\"_blank\" rel=\"noopener nofollow\">Ex Machina<\/a>, el reciente thriller de ciencia ficci\u00f3n. Como cualquier otra t\u00edpica pel\u00edcula hollywoodiense, \u00e9sta est\u00e1 repleta de argumentos forzados y sobrestima de forma dram\u00e1tica el problema. A\u00fan as\u00ed, el foco del problema se define de forma sorprendentemente correcta.<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/sNExF5WYMaA?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>En primer lugar, hasta los robots m\u00e1s primitivos son capaces de influir en el estado emocional de una persona. <a href=\"http:\/\/es.wikipedia.org\/wiki\/Eliza\" target=\"_blank\" rel=\"noopener nofollow\">ELIZA, un robot que chateaba<\/a> (pinchad <a href=\"http:\/\/www.masswerk.at\/elizabot\/\" target=\"_blank\" rel=\"noopener nofollow\">aqu\u00ed<\/a> si quer\u00e9is hablar con \u00e9l), obsoleto y con una programaci\u00f3n muy simple, era capaz de <a href=\"http:\/\/es.wikipedia.org\/wiki\/Efecto_ELIZA\" target=\"_blank\" rel=\"noopener nofollow\">extraer informaci\u00f3n personal importante de sus interlocutores humanos<\/a>, armado \u00fanicamente de <a href=\"https:\/\/es.wikipedia.org\/wiki\/Empat%C3%ADa\" target=\"_blank\" rel=\"noopener nofollow\">empat\u00eda<\/a> y preguntas educadas.<\/p>\n<p>En segundo lugar, cada vez m\u00e1s dependemos de algoritmos robotizados para filtrar y categorizar la informaci\u00f3n. Alguien que maneje estos flujos de datos, como ha probado <a href=\"http:\/\/www.theguardian.com\/technology\/2014\/jun\/29\/facebook-users-emotions-news-feeds\" target=\"_blank\" rel=\"noopener nofollow\">Facebook en un controvertido experimento llevado a cabo recientemente<\/a>, puede influenciar en el ambiente emocional de las personas y sus tendencias en la toma de decisiones.<\/p>\n<p>Incluso si sugerimos que, en el ejemplo que hemos mencionado antes, la IA gobierna una ciudad o un pa\u00eds de forma indirecta y realiza \u00fanicamente funciones de asesoramiento, la Inteligencia Artificial sigue siendo capaz de aconsejar una soluci\u00f3n que a la larga ser\u00eda poco \u00e9tica. La IA conocer\u00e1 las consecuencias de esta decisi\u00f3n, pero no lo har\u00e1n los seres humanos.<\/p>\n<p>En una vida privada, esta influencia podr\u00eda emerger muy r\u00e1pido y ser a\u00fan m\u00e1s impactante. Durante la reciente <a href=\"https:\/\/www.kaspersky.es\/blog\/google-io2015-news\/\" target=\"_blank\" rel=\"noopener\">conferencia de Google I\/O<\/a>, fue presentado el nuevo sistema Now on Tap, que protege todas las aplicaciones del smartphone del usuario, extrae los datos contextuales y los utiliza en las b\u00fasquedas de Internet.<\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">Google's latest Android update brings some much needed privacy strengthening <a href=\"https:\/\/twitter.com\/hashtag\/io15?src=hash&amp;ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">#io15<\/a> \u2013 <a href=\"http:\/\/t.co\/XPdvEUioPP\" target=\"_blank\" rel=\"noopener nofollow\">http:\/\/t.co\/XPdvEUioPP<\/a> <a href=\"http:\/\/t.co\/aWcCY8Ncjw\" target=\"_blank\" rel=\"noopener nofollow\">pic.twitter.com\/aWcCY8Ncjw<\/a><\/p>\n<p>\u2014 Kaspersky (@kaspersky) <a href=\"https:\/\/twitter.com\/kaspersky\/status\/605304070480502784?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">June 1, 2015<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p>Por ejemplo, si le\u00e9is un art\u00edculo sobre un m\u00fasico en la aplicaci\u00f3n de la Wikipedia y pregunt\u00e1is a Google \u201c\u00bfCu\u00e1ndo es su concierto?\u201d, el robot sabr\u00e1 inmediatamente y con exactitud a qui\u00e9n os refer\u00eds con ese \u201csu\u201d. Un \u00fatil robot ya nos recuerda cu\u00e1ndo tenemos que ir al aeropuerto, ya que nuestro vuelo sale en un par de horas, actuando como un habilidoso e inteligente asistente personal.<\/p>\n<p>Por supuesto que el encargado de estas tareas de asistencia, no es una IA completa, se trata de un mero sistema experto en el auto aprendizaje, dise\u00f1ado para llevar a cabo una reducida selecci\u00f3n de tareas. Su comportamiento est\u00e1 completamente predefinido por las personas y, por consiguiente, predecible.<\/p>\n<p>No obstante, la evoluci\u00f3n computacional podr\u00eda convertir a este sencillo robot en uno mucho m\u00e1s sofisticado. Es fundamental garantizar que manipule la informaci\u00f3n \u00fanicamente por el bien del usuario y no siga su propia agenda secreta.<\/p>\n<p>Este es el problema que ocupa muchas de las mentes brillantes de nuestro tiempo, desde Stephen Hawking a Elon Musk. A este \u00faltimo no podemos considerarlo como un fil\u00f3sofo conservador temeroso u opuesto al progreso. Por el contrario, el inventor de Tesla y SpaceX espera ansioso el futuro. Sin embargo, ve la evoluci\u00f3n de la IA como una de las tendencias m\u00e1s controvertidas con consecuencias todav\u00eda imprevisibles y potencialmente catastr\u00f3ficas. Por eso, a principios de este a\u00f1o invirti\u00f3 <a href=\"http:\/\/www.wired.com\/2015\/01\/elon-musk-ai-safety\/\" target=\"_blank\" rel=\"noopener nofollow\">10 millones de d\u00f3lares en la investigaci\u00f3n de Inteligencia Artificial.<\/a><\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">Elon Musk donates $10 million to keep robots from murdering you <a href=\"http:\/\/t.co\/8UHqzaRmdo\" target=\"_blank\" rel=\"noopener nofollow\">http:\/\/t.co\/8UHqzaRmdo<\/a> <a href=\"http:\/\/t.co\/vkldwucgkX\" target=\"_blank\" rel=\"noopener nofollow\">pic.twitter.com\/vkldwucgkX<\/a><\/p>\n<p>\u2014 The Verge (@verge) <a href=\"https:\/\/twitter.com\/verge\/status\/555751471103631360?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">January 15, 2015<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p><strong>Dicho esto, \u00bfqu\u00e9 nos depara el futuro?<\/strong><\/p>\n<p>Por extra\u00f1o que parezca, una de las hip\u00f3tesis m\u00e1s viables, que los expertos consideran demasiado optimista, es la imposibilidad final de crear una IA completa. Sin un avance tecnol\u00f3gico significativo (que a\u00fan est\u00e1 por ver), los robots simplemente seguir\u00e1n actualizando y mejorando sus habilidades existentes.<\/p>\n<p>Mientras nosotros aprendemos a hacer cosas sencillas como conducir un coche o hablar la lengua nativa, ellos no son capaces de sustituir a una persona en la autonom\u00eda en la toma de decisiones. Teniendo en cuenta una perspectiva a corto plazo, es probable que la IA provoque alg\u00fan \u201cda\u00f1o colateral\u201d como eliminar la profesi\u00f3n de los taxistas, pero nada que se considere como una amenaza a la humanidad.<\/p>\n<blockquote class=\"twitter-pullquote\"><p>\u00bfDeber\u00edamos temer a la inteligencia artificial?<\/p><a href=\"https:\/\/twitter.com\/share?url=https%3A%2F%2Fkas.pr%2F5T15&amp;text=%C2%BFDeber%C3%ADamos+temer+a+la+inteligencia+artificial%3F\" class=\"btn btn-twhite\" data-lang=\"en\" data-count=\"0\" target=\"_blank\" rel=\"noopener nofollow\">Tweet<\/a><\/blockquote>\n<p>Andrey Lavrentiev sugiere que el conflicto entre la IA y la humanidad s\u00f3lo es posible bajo una condici\u00f3n: la necesidad de compartir los mismos recursos.<\/p>\n<p><em>\u201cLas personas tenemos cuerpo y estamos interesadas en crear condiciones favorable para su comodidad (adem\u00e1s de para la comodidad de la mente). Con la IA, la situaci\u00f3n es la contraria: inicialmente s\u00f3lo existe en el mundo digital\u201d.<\/em><\/p>\n<p><em>\u201cEl objetivo y la motivaci\u00f3n clave de la IA es el completo procesamiento de la informaci\u00f3n suministrada a trav\u00e9s de canales externos, o de sus \u2018\u00f3rganos sensoriales\u2019, evaluarla, identificar los principios de su cambio\u201d. <\/em><\/p>\n<p><em>\u201cPor supuesto, la IA tambi\u00e9n obedece a algunas bases s\u00f3lidas, pero su dependencia de un \u201carmaz\u00f3n\u201d es mucho m\u00e1s d\u00e9bil que en el caso del ser humano. En el caso de la IA, al contrario que los humanos, no se centrar\u00e1 tanto en preservar su \u201carmaz\u00f3n\u201d (o \u201ccuerpo\u201d), ya que la IA estar\u00eda, en realidad, \u201cen todas partes\u201d. La extensi\u00f3n org\u00e1nica del alcance de la IA en la b\u00fasqueda de nueva informaci\u00f3n se centrar\u00eda en la exploraci\u00f3n espacial y el estudio de las leyes del universo, pudiendo propagarse m\u00e1s all\u00e1 de la Tierra\u201d.<\/em><\/p>\n<p><em>\u201cSin embargo, incluso en esta situaci\u00f3n, hay ciertos obst\u00e1culos. Una vez que esta superinteligencia observe a la humanidad o el universo y los vea como imperfecciones de su modelo digital, tratar\u00e1 de eliminar a uno de ellos para poder alcanzar la armon\u00eda. O, probablemente, necesitar\u00e1 de los recursos que consumen las personas para \u201cexplorar el espacio\u201d, dando de nuevo relevancia al viejo conflicto entre la IA y la humanidad\u201d.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfQu\u00e9 tienen en com\u00fan el inventor multimillonario Elon Musk, el servicio de Google Now on Tap y la reciente pel\u00edcula \u201cEx Machina\u201d? Obviamente, todos est\u00e1n relacionados con la inteligencia artificial.<\/p>\n","protected":false},"author":32,"featured_media":6266,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1348,6],"tags":[1306,1020,16,1307,1305,1285,61],"class_list":{"0":"post-6225","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-threats","8":"category-news","9":"tag-elon-musk","10":"tag-futuro","11":"tag-google","12":"tag-ia","13":"tag-inteligencia-artificial","14":"tag-now-on-tap","15":"tag-seguridad"},"hreflang":[{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/artificial-intelligence-safety\/6225\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/artificial-intelligence-safety\/5436\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/artificial-intelligence-safety\/5871\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/artificial-intelligence-safety\/5634\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/artificial-intelligence-safety\/6195\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/artificial-intelligence-safety\/8077\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/artificial-intelligence-safety\/9021\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/artificial-intelligence-safety\/5423\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/artificial-intelligence-safety\/5562\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/artificial-intelligence-safety\/7918\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/artificial-intelligence-safety\/8077\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/artificial-intelligence-safety\/9021\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/artificial-intelligence-safety\/9021\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.es\/blog\/tag\/elon-musk\/","name":"Elon Musk"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/6225","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/users\/32"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/comments?post=6225"}],"version-history":[{"count":1,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/6225\/revisions"}],"predecessor-version":[{"id":11365,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/6225\/revisions\/11365"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/media\/6266"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/media?parent=6225"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/categories?post=6225"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/tags?post=6225"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}