Agentes de supervisión
Los agentes de supervisión son sistemas autónomos de IA que aplican la gobernanza continua de la IA en tiempo real al monitorizar, restringir e intervenir sobre los comportamientos en vivo de otros agentes. A diferencia de los marcos de gobernanza que definen la política, los agentes de supervisión la ejecutan.
¿Qué son los agentes de supervisión?
Los agentes de supervisión son sistemas de gobernanza especializados que operan en tiempo real para garantizar el cumplimiento de las políticas por parte de los agentes y sistemas de IA. Es decir, monitorizan el comportamiento de forma continua, detectan infracciones de las políticas e intervienen cuando se superan los umbrales de riesgo. En definitiva, complementan los marcos de gobernanza de los agentes asegurando el cumplimiento de las políticas en lugar de definirlas. Por su parte, los agentes de supervisión están muy ligados a otros conceptos clave como la gobernanza de la IA, la gestión de la confianza, el riesgo y la seguridad de la IA (AI TriSM) y el protocolo de contexto del modelo (MCP), puesto que de manera conjunta trabajan para mantener los controles en los entornos distribuidos y con múltiples agentes.
¿Por qué son tan importantes los agentes de supervisión?
Desde la perspectiva regulatoria, marcos como el RGPD, el marco de gestión de riesgos de IA del NIST y la ISO/IEC 42001 enfatizan la rendición de cuentas, la monitorización y la mitigación de riesgos. En este sentido, los agentes de supervisión ayudan a operacionalizar estos requisitos mediante la supervisión continua, controles aplicables y registros listos para auditorías.
Sin una aplicación en vivo, las organizaciones se enfrentan a riesgos como el exceso de privilegios, desviaciones en el comportamiento y pistas de auditoría fragmentadas. Para evitarlo, los agentes de supervisión reducen esta exposición asegurando que la gobernanza se ejecuta de manera activa en lugar de aplicarse de forma retrospectiva.
¿Cómo funcionan los agentes de supervisión en la práctica?
Monitorizan el comportamiento de los agentes en todos los sistemas y bloquean acciones no autorizadas en tiempo real para evitar el uso indebido de los datos o infracciones de carácter normativo.
Aplican accesos con privilegios mínimos de forma dinámica cuando los agentes utilizan herramientas o se conectan a sistemas externos.
Detectan desviaciones en el comportamiento de los agentes de larga duración y desencadenan flujos de trabajo para escalar cuando las desviaciones superan los umbrales que se han definido.
Llevan un seguimiento de cómo se traspasan las tareas y los permisos de un agente a otro en los sistemas con múltiples agentes, para que cada paso se pueda rastrear y auditar a lo largo de todo el flujo de trabajo.
Aplican políticas consistentes en todas las herramientas conectadas al protocolo de contexto del modelo (MCP) y a los servicios de IA de terceros con el fin de reducir las lagunas de la gobernanza.
¿Cómo pone en marcha OneTrust los agentes de supervisión?
El agente de OneTrust AI Governance actúa como el pilar principal de la supervisión de la IA. Es decir, automáticamente hace un inventario de los sistemas y agentes de IA, evalúa el riesgo mediante marcos normativos como la Ley de IA de la UE, y aplica las políticas de la organización a lo largo del ciclo de vida de la IA. Además, el agente monitoriza de forma continua los activos de IA para detectar sesgos, desviaciones en el rendimiento y exposición de datos sensibles, generando informes de decisiones explicables y documentación lista para auditorías bajo demanda.
P+F sobre los agentes de supervisión
La gobernanza de agentes define las políticas, los roles y las estructuras de supervisión para gestionar los sistemas de IA, mientras que los agentes de supervisión hacen cumplir estas políticas en tiempo real gracias a una supervisión e intervención continuas, lo que garantiza que la gobernanza se aplica de forma activa.
La rendición de cuentas suele abarcar los equipos de seguridad, privacidad y datos, a menudo, de la mano de los directores de seguridad de la información o los equipos de riesgo. Asimismo, la implementación requiere la colaboración entre los equipos de ingeniería, IA y jurídicos, además de la participación del delegado de protección de datos cuando resulte aplicable.
Los agentes de supervisión respaldan el cumplimiento normativo haciendo cumplir los controles de acceso a los datos, monitorizando las actividades de tratamiento y conservando registros detallados para las auditorías. Todo esto facilita enormemente la rendición de cuentas, la transparencia y la intervención en los momentos adecuados a fin de prevenir cualquier tratamiento de datos no autorizado.
