{"id":17854,"date":"2019-02-12T17:14:18","date_gmt":"2019-02-12T15:14:18","guid":{"rendered":"https:\/\/www.kaspersky.es\/blog\/?p=17854"},"modified":"2019-11-22T10:56:38","modified_gmt":"2019-11-22T08:56:38","slug":"when-ai-decides","status":"publish","type":"post","link":"https:\/\/www.kaspersky.es\/blog\/when-ai-decides\/17854\/","title":{"rendered":"\u00bfPuede la inteligencia artificial influir en nuestras vidas?"},"content":{"rendered":"

A pesar de nuestras \u00faltimas publicaciones sobre la inteligencia artificial<\/a>, los usuarios siguen confiando temas importantes a sus robots asistentes. Los sistemas de autoaprendizaje ya ayudan a jueces y m\u00e9dicos en su toma de decisiones y pueden predecir cr\u00edmenes que no se hayan llegado a cometer. Pero los usuarios suelen desconocer qu\u00e9 criterios siguen estos sistemas en su toma de decisiones.<\/p>\n

La inteligencia artificial en el \u00e1mbito judicial<\/h2>\n

En los tribunales de Estados Unidos, la inteligencia artificial se utiliza en sentencias, medidas preventivas y mitigaci\u00f3n<\/a>. Despu\u00e9s de estudiar los datos relevantes, el sistema de IA considera si un sospechoso es propenso a la reincidencia. Esta decisi\u00f3n puede convertir la libertad condicional en una sentencia real o dar lugar a la denegaci\u00f3n de la fianza.<\/p>\n

Por ejemplo, el ciudadano estadounidense Eric Loomis fue sentenciado a seis a\u00f1os de c\u00e1rcel<\/a> por conducir un coche desde el cual uno de los pasajeros disparaba a un edificio. Este fallo se bas\u00f3 en el algoritmo COMPAS, que valora los peligros que puede suponer un individuo a la sociedad. COMPAS recibi\u00f3 toda la informaci\u00f3n sobre el perfil del acusado y de sus antecedentes y lo identific\u00f3 como un \u201cindividuo de alto riesgo para la comunidad\u201d. La defensa impugn\u00f3 la decisi\u00f3n con el argumento de que no revelaron la operativa del algoritmo, haciendo imposible evaluar la imparcialidad de sus conclusiones, pero el tribunal rechaz\u00f3 este argumento.<\/p>\n

La inteligencia artificial como asistente policial<\/h2>\n

Algunas regiones de China han ido aun m\u00e1s lejos, utilizando la inteligencia artificial para identificar posibles delincuentes<\/a>. Las c\u00e1maras con reconocimiento facial supervisan el p\u00fablico e informan a las fuerzas del orden si sucede algo sospechoso. Por ejemplo, alguien que compre grandes cantidades de fertilizante podr\u00eda estar prepar\u00e1ndose para un ataque terrorista. Cualquier persona culpable de actuar de manera sospechosa puede ser arrestada o enviada a un centro de reeducaci\u00f3n.<\/p>\n

Esta tecnolog\u00eda que previene el crimen se ha desarrollado tambi\u00e9n en otros pa\u00edses. La polic\u00eda de algunas zonas de Estados Unidos o Gran Breta\u00f1a la utilizan<\/a> para predecir d\u00f3nde es m\u00e1s probable que tenga lugar el pr\u00f3ximo incidente. Se tienen en cuenta muchos factores: los antecedentes criminales de la zona, su estatus socioecon\u00f3mico e, incluso, el parte meteorol\u00f3gico. Cabe destacar que, desde que se implement\u00f3 en los distritos de Chicago, los delitos con armas de fuego han disminuido aproximadamente un tercio<\/a>.<\/p>\n

La inteligencia artificial en la sanidad<\/h2>\n

En el \u00e1mbito sanitario tambi\u00e9n se utilizan nuevas tecnolog\u00edas. M\u00e9dicos artificiales consultan pacientes<\/a>, realizan diagn\u00f3sticos<\/a>, analizan resultados de los chequeos y asisten a los cirujanos durante las operaciones<\/a>.<\/p>\n

Uno de los sistemas de autoaprendizaje m\u00e1s famosos en el sistema sanitario es IBM Watson Health<\/a>. Los m\u00e9dicos forman a la inteligencia artificial para que esta diagnostique enfermedades y recete un tratamiento, una funci\u00f3n por la que ha obtenido muy buenas cr\u00edticas. Por ejemplo, ya en el 2013, hab\u00eda un 90 % de probabilidades de que esta supercomputadora seleccionara un tratamiento \u00f3ptimo<\/a>.<\/p>\n

No obstante, en el verano del 2018, se revel\u00f3 que algunos de los tratamientos aconsejados contra el c\u00e1ncer no eran seguros<\/a>. En concreto, Watson recomend\u00f3 que un paciente de c\u00e1ncer con hemorragias severas tomara un medicamento que podr\u00eda causar m\u00e1s p\u00e9rdidas de sangre. Afortunadamente, estas situaciones eran hip\u00f3tesis y no casos reales.<\/p>\n

Evidentemente, los m\u00e9dicos tambi\u00e9n cometen errores, pero en lo referente a la inteligencia artificial, las l\u00edneas de responsabilidad son difusas. \u00bfSe arriesgar\u00eda un m\u00e9dico de carne y hueso a contradecir a un colega digital cuyos creadores lo han formado con miles de art\u00edculos cient\u00edficos, libros e historias cl\u00ednicas? Y, en caso de no hacerlo, \u00bfasumir\u00eda el doctor alguna consecuencia negativa?<\/p>\n

La transparencia de la inteligencia artificial<\/h2>\n

Uno de los principales problemas de que la inteligencia artificial decida el destino de la humanidad es que los algoritmos suelen ser opacos y rastrear todo el proceso en busca del error para que no se repita, no es nada f\u00e1cil. Desde el \u00e1ngulo de los desarrolladores de los sistemas de autoaprendizaje, es comprensible: \u00bfqui\u00e9n quiere compartir su experiencia con la posible competencia? Pero cuando la vida de las personas est\u00e1 en juego, \u00bfdeber\u00eda darse prioridad al secreto comercial?<\/p>\n

Los pol\u00edticos de todo el mundo est\u00e1n intentado regular la transparencia en la inteligencia artificial.<\/a> En la Uni\u00f3n Europea, los \u201ctitulares de los datos\u201d tienen derecho a conocer qu\u00e9 fundamentos de la inteligencia artificial afectan a sus intereses. Sin embargo, en Jap\u00f3n<\/a> no se realiza esta pr\u00e1ctica, aunque actualmente la est\u00e1n considerando.<\/p>\n

Algunos desarrolladores est\u00e1n a favor de la transparencia, pero escasean. Uno de ellos es la compa\u00f1\u00eda CivicScape, que en el 2017 public\u00f3 el c\u00f3digo fuente de su sistema de predicci\u00f3n policial<\/a>, aunque esta no deja de ser la excepci\u00f3n que confirma la regla.<\/p>\n

Una vez fuera de la l\u00e1mpara, es muy poco probable que el genio de la inteligencia artificial vuelva a su escondite. Por tanto, hasta que las decisiones basadas en la inteligencia artificial sean justas y precisas por completo, su uso debe basarse en leyes bien elaboradas y en la competencia tanto de los creadores como de los usuarios de sistemas de autoaprendizaje.<\/p>\n","protected":false},"excerpt":{"rendered":"

La inteligencia artificial asiste a jueces, polic\u00edas y m\u00e9dicos. Pero \u00bfen qu\u00e9 se basa para tomar sus decisiones? <\/p>\n","protected":false},"author":2049,"featured_media":17855,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2019],"tags":[2093,1307,1305,612],"class_list":{"0":"post-17854","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-technology","8":"tag-aprendizaje-automatico","9":"tag-ia","10":"tag-inteligencia-artificial","11":"tag-tecnologia"},"hreflang":[{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/when-ai-decides\/17854\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/when-ai-decides\/15239\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/when-ai-decides\/12808\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/when-ai-decides\/17177\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/when-ai-decides\/15338\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/when-ai-decides\/14056\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/when-ai-decides\/16903\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/when-ai-decides\/22243\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/when-ai-decides\/5693\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/when-ai-decides\/25607\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/when-ai-decides\/11430\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/when-ai-decides\/11514\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/when-ai-decides\/10353\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/when-ai-decides\/18553\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/when-ai-decides\/22440\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/when-ai-decides\/17938\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/when-ai-decides\/22111\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/when-ai-decides\/22046\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.es\/blog\/tag\/inteligencia-artificial\/","name":"inteligencia artificial"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/17854","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/users\/2049"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/comments?post=17854"}],"version-history":[{"count":3,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/17854\/revisions"}],"predecessor-version":[{"id":19862,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/17854\/revisions\/19862"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/media\/17855"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/media?parent=17854"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/categories?post=17854"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/tags?post=17854"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}