{"id":29229,"date":"2023-10-16T11:19:45","date_gmt":"2023-10-16T09:19:45","guid":{"rendered":"https:\/\/www.kaspersky.es\/blog\/?p=29229"},"modified":"2023-10-16T11:19:45","modified_gmt":"2023-10-16T09:19:45","slug":"ethical-ai-usage-in-cybersecurity","status":"publish","type":"post","link":"https:\/\/www.kaspersky.es\/blog\/ethical-ai-usage-in-cybersecurity\/29229\/","title":{"rendered":"Kaspersky pide un uso \u00e9tico de la IA en ciberseguridad"},"content":{"rendered":"

El r\u00e1pido desarrollo de los sistemas de Inteligencia Artificial (IA), y el hecho de que se est\u00e9n intentando introducir en todas las \u00e1reas, generan optimismo y preocupaci\u00f3n a partes iguales. Est\u00e1 claro que la IA puede ayudar a las personas en muchos \u00e1mbitos, como bien sabe la industria de la ciberseguridad. De hecho, en Kaspersky llevamos casi 20 a\u00f1os usando el aprendizaje autom\u00e1tico<\/a> (ML por sus siglas en ingl\u00e9s), por lo que sabemos por experiencia que sin estos sistemas resulta imposible defenderse contra la gran cantidad de ciberamenazas a las que nos exponemos. Adem\u00e1s, durante todo este tiempo tambi\u00e9n hemos identificado todo un arsenal de problemas<\/a> asociados a la IA: desde ense\u00f1arle los datos incorrectos hasta los ataques maliciosos<\/a> contra los sistemas de IA y el uso de la IA con fines poco \u00e9ticos.<\/p>\n

Ya son varias las organizaciones y plataformas internacionales que han desarrollado una serie de principios \u00e9ticos para el uso de la IA, por ejemplo, estos son los de la UNESCO<\/a>. Pero en la industria de la ciberseguridad todav\u00eda tienen que introducirse unas directrices m\u00e1s espec\u00edficas.<\/p>\n

Para aplicar la IA en la ciberseguridad sin consecuencias negativas, proponemos que la industria adopte una serie de principios \u00e9ticos para el uso de la IA<\/strong>, cuya primera versi\u00f3n acabamos de presentar en el Foro de Gobernanza de Internet de las Naciones Unidas<\/a> en Kioto, Jap\u00f3n. Aunque estos principios deber\u00edan debatirse y ponerse en com\u00fan por parte de toda la comunidad de ciberseguridad, nosotros ya los estamos respetando. \u00bfCu\u00e1les son? Te los resumimos a continuaci\u00f3n.<\/p>\n

Transparencia<\/h2>\n

Los usuarios tienen derecho a saber si un proveedor de seguridad utiliza sistemas de IA, al igual que c\u00f3mo toman las decisiones estos sistemas y con qu\u00e9 fines. Por ello, nos comprometemos a desarrollar sistemas de IA que sean interpretables en la mayor medida posible, con todas las medidas necesarias para garantizar que generen resultados \u00f3ptimos. Para familiarizarse con nuestro c\u00f3digo y flujo de trabajo, solo tienes que visitar cualquiera de nuestros Centros de Transparencia Kaspersky<\/a>.<\/p>\n

Seguridad<\/h2>\n

Entre las amenazas a las que se enfrentan los sistemas de IA, encontramos la manipulaci\u00f3n de los datasets de entrada para tomar decisiones inapropiadas. Por lo tanto, creemos que los desarrolladores de IA deben priorizar la resiliencia y la seguridad.<\/p>\n

Por ello, adoptamos una amplia gama de medidas pr\u00e1cticas para ofrecer sistemas de IA de alta calidad: auditor\u00edas de seguridad espec\u00edficas de IA y red teaming, un uso m\u00ednimo de datasets de terceros en la formaci\u00f3n o la implementaci\u00f3n de una variedad de tecnolog\u00edas para una protecci\u00f3n de m\u00faltiples capas<\/a>. Siempre que sea posible, preferimos la IA basada en la nube, con todas las medidas necesarias, a los modelos instalados en local.<\/p>\n

Supervisi\u00f3n humana<\/h2>\n

Aunque nuestros sistemas ML pueden funcionar de forma aut\u00f3noma, un grupo de expertos monitoriza constantemente sus resultados y rendimiento. Los veredictos de nuestros sistemas automatizados se ajustan seg\u00fan las necesidades y los propios sistemas se adaptan y modifican para resistir ciberamenazas fundamentalmente nuevas y\/o altamente sofisticadas. Combinamos el aprendizaje autom\u00e1tico con la experiencia humana y nos comprometemos a mantener siempre este elemento humano de control en nuestros sistemas.<\/p>\n

Privacidad<\/h2>\n

La IA no se puede entrenar sin una gran cantidad de datos, algunos de los cuales pueden ser personales. Por lo tanto, un uso \u00e9tico de ellos debe respetar los derechos de las personas a la privacidad. En la pr\u00e1ctica de la seguridad de la informaci\u00f3n, esto puede implicar varias medidas: limitar los tipos y la cantidad de datos procesados, la seudonimizaci\u00f3n y anonimizaci\u00f3n, reducir la composici\u00f3n de los datos, garantizar su integridad y aplicar medidas t\u00e9cnicas y organizativas de protecci\u00f3n.<\/p>\n

Desarrollada para la ciberseguridad<\/h2>\n

La IA en ciberseguridad debe utilizarse \u00fanicamente con fines defensivos. Esto forma una parte fundamental de nuestra misi\u00f3n de construir un mundo seguro en el que las tecnolog\u00edas del ma\u00f1ana mejoren nuestras vidas.<\/p>\n

Abierta al di\u00e1logo<\/h2>\n

Creemos que solo trabajando juntos podremos superar los obst\u00e1culos asociados con la adopci\u00f3n y el uso de la IA en materia de seguridad. Por ello, promovemos el di\u00e1logo con todas las partes interesadas para compartir mejores pr\u00e1cticas en el uso \u00e9tico de la IA.<\/p>\n

Para m\u00e1s informaci\u00f3n sobre nuestros principios de uso \u00e9tico de la IA en seguridad, visita este enlace<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Proponemos seis principios para un uso \u00e9tico de la IA en la industria de la ciberseguridad, que se presentar\u00e1n en el Foro de Gobernanza de Internet<\/p>\n","protected":false},"author":2706,"featured_media":29230,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1324],"tags":[2093,1307,1305,61,2423],"class_list":{"0":"post-29229","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-special-projects","8":"tag-aprendizaje-automatico","9":"tag-ia","10":"tag-inteligencia-artificial","11":"tag-seguridad","12":"tag-transparencia"},"hreflang":[{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/ethical-ai-usage-in-cybersecurity\/29229\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/ethical-ai-usage-in-cybersecurity\/26332\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/ethical-ai-usage-in-cybersecurity\/21765\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/ethical-ai-usage-in-cybersecurity\/29008\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/ethical-ai-usage-in-cybersecurity\/26615\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/ethical-ai-usage-in-cybersecurity\/26735\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/ethical-ai-usage-in-cybersecurity\/28083\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/ethical-ai-usage-in-cybersecurity\/36342\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/ethical-ai-usage-in-cybersecurity\/49184\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/ethical-ai-usage-in-cybersecurity\/21065\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/ethical-ai-usage-in-cybersecurity\/21855\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/ethical-ai-usage-in-cybersecurity\/30552\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/ethical-ai-usage-in-cybersecurity\/34901\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/ethical-ai-usage-in-cybersecurity\/26908\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/ethical-ai-usage-in-cybersecurity\/32619\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/ethical-ai-usage-in-cybersecurity\/32273\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.es\/blog\/tag\/inteligencia-artificial\/","name":"inteligencia artificial"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/29229","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/users\/2706"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/comments?post=29229"}],"version-history":[{"count":2,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/29229\/revisions"}],"predecessor-version":[{"id":29232,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/posts\/29229\/revisions\/29232"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/media\/29230"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/media?parent=29229"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/categories?post=29229"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.es\/blog\/wp-json\/wp\/v2\/tags?post=29229"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}