Identidades no humanas la nueva gobernanza del cumplimiento ante IA que ejecuta acciones críticas

Durante décadas, los marcos regulatorios asumieron algo que hoy ya no se sostiene: que los actores principales en los procesos empresariales son personas. Las normas se construyeron pensando en usuarios con un rol claro, responsables identificables y cadenas de aprobación humanas que podían ser auditadas y cuestionadas. Esa lógica subyace en leyes y estándares como la Ley Sarbanes-Oxley (SOX), el Reglamento General de Protección de Datos (GDPR), los requisitos de PCI DSS y las obligaciones de HIPAA. Pero la llegada de agentes de inteligencia artificial que no solo ayudan, sino que ejecutan acciones dentro de sistemas críticos, está obligando a replantear ese supuesto básico.

Los agentes basados en IA ya no son meros copilotos: actúan dentro de flujos que afectan contabilidad, tratamiento de datos de clientes, historiales médicos, transacciones de pago e incluso decisiones de identidad y acceso. Pueden enriquecer registros, clasificar información sensible, resolver excepciones, activar procesos en un ERP o consultar bases de datos a velocidad de máquina. Ese comportamiento genera riesgos nuevos para el cumplimiento porque cambia la naturaleza del “quién” que realiza una acción y, con ello, la trazabilidad y la explicabilidad exigidas por los auditores y los reguladores.

Los modelos de IA no funcionan como procesos deterministas que puedes validar trimestralmente y olvidar hasta la siguiente auditoría. Su toma de decisiones es probabilística, depende del contexto y puede variar por cambios en prompts, actualizaciones del modelo, nuevas fuentes de recuperación o plugins externos. Un control que hoy limita adecuadamente un proceso puede dejar de hacerlo mañana sin que nadie lo haya “tocado” de forma convencional. Y los reguladores no aceptan que un sistema “generalmente” cumpla: piden pruebas continuas de que las operaciones se mantienen dentro de los límites acordados. Para quienes lideran la seguridad, eso supone una carga adicional que no siempre encaja con los esquemas organizativos tradicionales.

En el terreno de las finanzas, por ejemplo, las herramientas de IA pueden redactar asientos, conciliar cuentas o proponer aprobaciones. Si un agente tiene accesos cruzados entre finanzas y sistemas TI, la segregación de funciones —un pilar de SOX— puede colapsar sin señales claras. Aquí la dificultad no es solo que una transacción aparezca en los registros, sino que los registros expliquen con suficiente detalle por qué se produjo. Los auditores pueden ver la acción, pero no siempre el razonamiento detrás de ella, y eso complica la defensa de la integridad de los informes financieros. Para entender la regulación de SOX conviene remitirse a fuentes oficiales como la Securities and Exchange Commission (documentación sobre SOX).

En materia de privacidad, el Reglamento General de Protección de Datos exige que el acceso y el tratamiento de datos personales estén restringidos a los fines autorizados. Un agente que inserte PII en un prompt, reenvíe información a servicios externos o registre datos sensibles en almacenes no aprobados puede constituir una infracción instantánea, aun cuando no exista una vulneración externa. El marco europeo sobre protección de datos y su interpretación práctica son claves para entender estas obligaciones; recursos divulgativos como GDPR.eu explican los principios que deben guiar estas decisiones.

Los entornos que manejan datos de tarjetas requieren una segmentación estricta según PCI DSS. Si un agente consulta o transforma datos de pagos y esos resultados acaban en sistemas fuera del entorno de datos de titulares de tarjeta, se rompe la cadena de cumplimiento y la organización puede quedar expuesta a sanciones. El Consejo de Normas de Seguridad de la Industria de Tarjetas de Pago mantiene las pautas sobre cómo debe protegerse ese tipo de información.

En salud, la protección de la información clínica (PHI) no solo exige confidencialidad sino también auditoría detallada de accesos y divulgaciones. Cuando un agente resume notas médicas o automatiza flujos de admisión tocando PHI, es imprescindible poder demostrar quién accedió a qué, cuándo y por qué. La Oficina de Derechos Civiles del Departamento de Salud de EE. UU. ofrece material sobre las obligaciones bajo HIPAA.

Frente a este panorama, la responsabilidad operacional y de cumplimiento está desplazándose hacia equipos que gestionan identidades, accesos y la gobernanza de sistemas: tradicionalmente, un terreno de la seguridad. El problema se agrava cuando las implementaciones de agentes buscan comodidad y rapidez: permisos amplios, credenciales compartidas, propietarios difusos y tokens de larga duración. Son precisamente las prácticas que las organizaciones han intentado erradicar y que ahora reaparecen «en nombre de la innovación», debilitando controles que los auditores esperan ver en funcionamiento.

Por eso muchos expertos recomiendan tratar a los agentes de IA como identidades no humanas que requieren las mismas salvaguardas que un usuario privilegiado. Preguntas como “¿en nombre de quién actúa el agente?”, “¿qué permisos tiene?”, “¿cómo se rotan sus credenciales?” y “¿hay monitorización continua que detecte desviaciones en su comportamiento?” dejan de ser retóricas para convertirse en requisitos operativos. Cuando la actuación de un agente queda fuera de control, los síntomas no son solo técnicos: son fallos de gobernanza que acaban en auditorías, preguntas regulatorias y posibles responsabilidades ejecutivas. Un análisis periodístico sobre la creciente expectación sobre la responsabilidad del CISO lo aborda en publicaciones especializadas, por ejemplo en Infosecurity Magazine.

¿Qué significa esto en la práctica para los equipos de seguridad? Implica, entre otras cosas, garantizar propiedad clara de cada agente, aplicar el principio de mínimo privilegio sin excepciones innecesarias, usar credenciales gestionadas y de vida breve, instrumentar registros que no solo muestren acciones sino también contexto y origen de decisión, y mantener controles de cambio que documenten actualizaciones de prompts, modelos y conectores. El reto técnico va de la mano de un reto organizativo: definir responsables, procesos de revisión y vías rápidas para contener agentes que empiecen a desviarse.

También es crítico incorporar marcos de gestión de riesgos específicos para IA que enfatizan la evaluación continua y la trazabilidad. El Instituto Nacional de Estándares y Tecnología (NIST) ha publicado material que ayuda a estructurar este enfoque y a alinear prácticas con la gestión del riesgo tecnológico (NIST AI Risk Management Framework), y los organismos europeos y nacionales ya trabajan en directrices para regular el uso responsable de IA.

La conclusión para los responsables de seguridad es clara: no basta con proteger infraestructuras; ahora deben garantizar que los flujos regulados siguen siendo defendibles cuando los actores que los ejecutan son sistemas inteligentes. En un incidente, la pregunta decisiva para un regulador o un auditor no será únicamente “qué falló”, sino “podía la organización demostrar que mantenía control sobre ese actor no humano en todo momento?”. Si la evidencia es incompleta, la explicación “la IA lo hizo” dejará de ser aceptable.

La transformación hacia entornos donde agentes automatizados participan en procesos sensibles es imparable. La respuesta no es renunciar a la automatización, sino elevar la gobernanza a la misma velocidad que se despliegan estas tecnologías: identificar y auditar no-human identities, verificar permisos y accesos en tiempo real, documentar cambios de comportamiento y mantener registros que permitan explicar decisiones a terceras partes. Solo así podrán las empresas aprovechar la eficiencia de la IA sin abrir vulnerabilidades regulatorias.

Para quienes quieran profundizar en cómo articular esa defensa integral, existen guías y herramientas específicas y proveedores que ofrecen soluciones de gestión de identidades y auditoría de agentes. El debate técnico y legal sobre la responsabilidad y sobre las mejores prácticas está en pleno desarrollo y conviene seguir fuentes oficiales y marcos de referencia a medida que aparecen. Entre ellas, además de los enlaces citados, es recomendable consultar la documentación y las recomendaciones públicas de organismos reguladores y centros de investigación especializados.

En definitiva, la innovación impulsa posibilidades enormes, pero también exige replantear cómo demostramos cumplimiento en un mundo donde los actores pueden ser máquinas. Para la alta dirección y los equipos de seguridad, la pregunta a responder hoy no es si la IA transformará los procesos, sino cómo mantener la gobernanza y la capacidad de rendir cuentas cuando las máquinas actúan en sistemas que afectan a la integridad financiera, la privacidad, la seguridad de los pagos y la confidencialidad sanitaria.