IA
Mientras muchas empresas implementan intencionadamente la IA para impulsar la calidad y la eficiencia, las herramientas de IA no autorizadas están surgiendo en los entornos corporativos aún más rápidamente. Los proveedores de software están integrando la IA directamente en los productos que las empresas ya utilizan (como Microsoft Copilot y Google Gemini), mientras que los empleados están tomando cartas en el asunto e instalando herramientas a escondidas. Como resultado, las empresas se enfrentan a un canal de fuga de datos mal administrado: el personal pega información de los sistemas corporativos en chatbots de IA, enviando datos no solo al proveedor de SaaS, sino directamente a los desarrolladores detrás del modelo de IA subyacente. Tanto los riesgos como las estrategias de mitigación varían según el tipo de sistema de IA en juego. Analizamos este tema tan amplio, centrándonos sobre todo en las herramientas para detectar y bloquear la IA a dos niveles distintos.
Tipos de sistemas de IA no deseados
Dependiendo del tipo de IA en cuestión, gestionar y bloquear su uso requiere una estrategia diferente. Resulta fundamental dividir la IA en cuatro categorías distintas:
- Funcionalidades de IA nativas de la plataforma. Pensemos en Microsoft Copilot, Google Gemini o Apple Intelligence, junto con las funciones de IA integradas directamente en los propios navegadores. Lo complicado de estas es que están integradas en herramientas esenciales del día a día, están disponibles al instante para todos los usuarios (a veces aparecen de manera agresiva) y, lo que es más importante, los proveedores intentan activarlas por defecto.
- Asistentes de IA integrados en aplicaciones empresariales. Este grupo incluye Slack AI, Zoom AI Companion, Notion AI, el asistente Rovo de Jira y herramientas similares. Estos están vinculados a una única aplicación y son completamente inseparables de ella.
- Chatbots independientes basados en web y en aplicaciones. ChatGPT, Claude, Perplexity, Character AI, configuraciones locales como LM Studio, extensiones de navegador y navegadores agénticos como Comet. Las aplicaciones y los servicios de esta categoría suelen ser adoptados por los empleados por su cuenta sin autorización: ejemplos clásicos de IA en la sombra.
- Agentes multifuncionales nativos de escritorio. En este grupo se incluyen herramientas como OpenClaw, NanoClaw, NemoClaw y otras. Estos agentes representan la mayor amenaza porque ya cuentan con amplios derechos de acceso de forma predeterminada y procesan activamente datos no fiables de la web abierta.
Cómo hacer frente a la IA no deseada
Cada empresa debe definir sus propios límites sobre el uso de IA basándose en su sector, deseo de innovación y tolerancia al riesgo. Esto implica establecer qué casos de uso son recomendados, cuáles requieren aprobación y cuáles están completamente prohibidos. Los sectores regulados, como el de la salud, se rigen por un conjunto de reglas, mientras que las empresas minoristas operan según un manual de estrategias completamente diferente. En cualquier caso, después de analizar exactamente qué herramientas de IA ya se han introducido en la organización, es necesario ajustar con precisión las políticas corporativas. Por eso, la primera prioridad es emplear las herramientas de registro y de seguridad de la información existentes para analizar la infraestructura corporativa.
Dependiendo de la estrategia elegida, los sistemas de inteligencia artificial descubiertos pueden:
- Desactivarse o restringirse mediante el uso de la configuración de la política corporativa integrada en las propias herramientas.
- Bloquearse de forma estricta a nivel de terminal o de red para crear una red de seguridad frente a elusiones de las políticas o errores de configuración.
- Pasarse a un modelo de acceso gestionado, en el que la herramienta no se bloquea por completo, sino que se redirige a través de una pasarela corporativa específica que comprueba los permisos de acceso y supervisa los patrones de uso.
Detección de sistemas de IA
La detección de la IA requiere un enfoque de varias capas, ya que los diferentes métodos de detección se complementan entre sí y funcionan mejor contra tipos específicos de IA.
| Tecnología | ¿Qué puede detectar? |
| DNS | Cualquier herramienta de IA con un dominio web identificable. |
| Pasarela web o NGFW | Cualquier herramienta de IA con una huella de solicitud y respuesta reconocible (rutas de puntos finales de API, dominios y otros indicadores). Los filtros web pueden inspeccionar el contenido del tráfico, y muchas pasarelas/NGFW ahora cuentan con una categoría específica para detectar y bloquear la IA generativa. |
| EPP/EDR | LLM implementados localmente (que se ejecutan a través de Ollama, LM Studio y entornos similares), aplicaciones de escritorio nativas para ChatGPT o Claude, navegadores agénticos y agentes de IA de código abierto. Una señal de alerta indirecta pero clara es la presencia de Node.js, Python, Git, Docker u otras herramientas de contenedorización en máquinas que pertenecen a personal no técnico. |
| Control de aplicaciones | Al igual que las tecnologías EPP/EDR, esto permite bloquear inmediatamente las aplicaciones no deseadas desde el primer momento. |
| Control del navegador | Extensiones de navegador centradas en IA y visitas a sitios web relacionados con la IA. Esto resulta de vital importancia si la pasarela web corporativa no puede inspeccionar el tráfico cifrado. |
| Administración de la postura de seguridad de SaaS (SSPM) / Gobernanza de identidades | Permisos de OAuth solicitados por aplicaciones y servicios de IA, así como cualquier integración de terceros que se conecte a los centros de productividad principales (Microsoft 365, Google Workspace y otros). |
Naturalmente, casi todas estas herramientas permiten hacer algo más que solo detectar la IA: permiten bloquearla por completo o, como mínimo, dar la voz de alarma al equipo encargado.
Supervisión de OAuth
Las soluciones populares de IA para la oficina —especialmente los asistentes de reuniones, los agentes de automatización de correo electrónico y calendario, y similares— obtienen acceso a los datos corporativos al solicitar permisos de OAuth directamente a las plataformas de comunicación, de flujo de trabajo de documentos o de videoconferencia. Si un usuario tiene luz verde para otorgar estos permisos a aplicaciones de terceros, las filtraciones de datos resultantes eluden por completo el perímetro de la organización. Las herramientas como EDR y NGFW no detectarán absolutamente nada cuando una herramienta como Read.ai capture las grabaciones de cada una de las reuniones en, por ejemplo, Microsoft Teams.
La medida más drástica —y a menudo la mejor— es impedir, en primer lugar, que los usuarios estándar otorguen el consentimiento de OAuth. A continuación, se detalla cómo gestionar la parte técnica más compleja (se necesitan derechos de Administrador global, Administrador de aplicaciones o equivalentes):
Microsoft 365 / Entra ID
En el centro de administración de Microsoft Entra, dirígete a Identidad > Aplicaciones> Aplicaciones empresariales > Consentimiento y permisos > Configuración de consentimiento de los usuarios. Ahí puedes desactivar el consentimiento de los usuarios para las aplicaciones (consulta la guía completa de Microsoft).
Google Workspace
En la consola de administración de Google, ve a Seguridad> Acceso y control de datos > Controles de API. En Gestionar el acceso de las aplicaciones, se puede establecer el nivel de confianza de todas las aplicaciones: De confianza, Limitado, Datos específicos de Google o Bloqueado. Sin embargo, la clave aquí es la subsección Configuración de la aplicación no configurada, que determina lo que sucede cuando un usuario intenta conectar una aplicación desconocida. Para cerrar esta brecha de seguridad, selecciona No permitir que los usuarios accedan a ninguna aplicación de terceros.
Una subsección independiente, Gestionar servicios de Google, permite ajustar con precisión la forma exacta en que las aplicaciones de terceros interactúan con los servicios de Google Workspace y Google Cloud. Esto permite cortar el acceso a cada producto individual de Google (consulta la guía oficial de Google).
Salesforce
En Configuración, usa el cuadro Búsqueda rápida para buscar aplicaciones conectadas y, a continuación, selecciona Gestionar aplicaciones conectadas en los resultados. Aunque los ajustes se configuran para cada aplicación externa individualmente, todos los usuarios pueden aprobar el acceso de forma predeterminada. Aquí no hay un interruptor de bloqueo general; en su lugar, Salesforce permite optar por Los usuarios aprobados por el administrador que están preautorizados (consulta la guía completa de Salesforce al respecto).
Slack
En el menú Administración, ve a Aplicaciones y flujos de trabajo -> Configuración de administración de aplicaciones. Modifica el ajuste Requerir aplicaciones aprobadas seleccionando Permitir solo aplicaciones preaprobadas. Una vez fijado esto, comprueba que ninguna herramienta de IA no autorizada se haya colado en la lista de aplicaciones aprobadas.
