Shadow AI: gobernanza programable para convertir la creatividad en ventaja segura

La llegada masiva de asistentes de código y agentes inteligentes a las herramientas de trabajo ha cambiado una dinámica que antes era prerrogativa de equipos de ingeniería: ahora cualquiera puede escribir, desplegar y conectar código en minutos. Ese fenómeno —a menudo llamado "wild code" o "shadow AI"— no es sólo un reto técnico, es un reto organizacional que pone en conflicto la productividad, la visibilidad y la gobernanza.

En eventos recientes, líderes de seguridad de empresas como Datadog, Jamf y ASOS han descrito cómo la tentación de experimentar con modelos y automatizaciones empuja a la gente a sortear procesos formales. La anécdota del moderador que quemó tokens de Claude todo el fin de semana resume una verdad incómoda: las herramientas de IA son irresistibles, y cuando eso sucede sin guardrails adecuados aparece código, infraestructura y datos fuera de revisión que pueden contener información sensible.

Las implicaciones son múltiples. Primero, existe un riesgo real de exfiltración o exposición accidental: scripts que conectan servicios sin saneamiento, agentes con credenciales mal delimitadas o activos públicos sin control. Segundo, la trazabilidad y la responsabilidad se diluyen: ¿quién responde si una automatización creada por marketing accede a una base de datos crítica? Tercero, los marcos de control actuales muestran limitaciones: controles OAuth o permisos granulares muchas veces no expresan políticas por etiqueta o contexto, lo que deja huecos que los agentes y los usuarios explotan.

Frente a esto, la discusión entre practicantes converge en una idea central: las políticas en papel no bastan. Hay que mover la gobernanza a la infraestructura, automatizarla y hacerla verificable. Eso significa instrumentar datos, accesos y agentes con telemetría, aplicar etiquetas semánticas a los conjuntos de información y codificar reglas que bloqueen acciones peligrosas sin depender exclusivamente de la vigilancia humana.

Desde el punto de vista operativo, hay tres palancas que los equipos de seguridad están priorizando: primera, la clasificación y etiquetado riguroso de datos como base de todas las decisiones de control; segunda, una "ruta gobernada" atractiva para los creadores (por ejemplo, un marketplace interno de skills o plantillas validadas) que ofrezca productividad sin sacrificar visibilidad; y tercera, un registro de use-cases y agentes que trate cada automatización como un activo con propietario y propósito. Estas son prácticas que ya aparecen recomendadas por marcos de gestión de riesgos para IA y seguridad aplicable, como los desarrollados por instituciones públicas y la comunidad de seguridad (NIST AI Risk Management Framework, OWASP).

No obstante, la implementación técnica también debe atender límites prácticos: los proveedores de servicios en la nube y SaaS todavía ofrecen controles con poca granularidad para asistentes conectados a cuentas corporativas, lo que obliga a las organizaciones a complementar esos controles con puertas lógicas propias, proxies de petición y filtros de datos que limpien o enmascaren información antes de llegar al modelo.

Otra pieza crítica es el diseño de permisos: en lugar de autorizar una integración completa, las organizaciones necesitan mecanismos para expresar políticas por contexto —por etiquetas de correo, por scope de dataset o por tenant— y obligar a los asistentes a operar dentro de esos límites. Eso exige ingeniería adicional y, a veces, un diálogo con proveedores para solicitar permisos OAuth más finos o capacidades de filtrado a la medida.

La cultura y la capacitación no pueden ser un apéndice: la mejor manera de reducir el shadow AI es hacer que el camino gobernado sea más fácil, rápido y visible que la alternativa. La inversión en plantillas seguras, ejemplos concretos por función (RRHH, finanzas, marketing) y formación puntual reduce la motivación para recurrir a soluciones personales que escapen al control.

En términos de detección y respuesta, la estrategia debe incluir monitoreo continuo de artefactos (repositorios, despliegues, endpoints públicos), análisis de comportamiento de agentes y correlación con identidad humana para poder rastrear la cadena de responsabilidad. Cuando ocurra un incidente, un registro de use-case bien mantenido convierte una investigación forense lenta en una reconstrucción rápida de quién creó qué y por qué.

Para los CISOs y responsables de producto la recomendación es clara: priorizar la instrumentación y la gobernanza programable sobre la prohibición, crear incentivos para usar canales aprobados, exigir identificación y propietarios para cada agente, y negociar con proveedores mejoras en controles de permiso. Implementar estas acciones ahora reduce costes futuros en respuesta a incidentes, exposición regulatoria y pérdida de confianza interna.

El problema del "wild code" ya está dentro de la organización; no se trata de apagar la creatividad, sino de encauzarla. Las empresas que consigan hacer la vía segura más útil y sencilla que la alternativa serán las que transformen esta amenaza en ventaja competitiva, manteniendo al mismo tiempo la trazabilidad y la seguridad que exige el mundo conectado y regulado en el que operamos.