Gobernanza de la IA
La gobernanza de la IA se trata de las políticas, los procesos y los controles que sirven para gestionar los riesgos, el rendimiento y el cumplimiento normativo sobre IA a lo largo del ciclo de vida de la IA, lo que a su vez permite la creación de sistemas fiables y auditables.
¿Qué es la gobernanza de la IA?
La gobernanza de la IA se trata del marco de gestión que establece roles, controles y documentación en torno a cómo se crea, evalúa, implementa y supervisa la IA. Por lo general, esto incluye inventarios de modelos, evaluaciones de riesgo, supervisión humana y respuesta ante incidentes. Por ello, los equipos se sirven de este marco para ajustar la IA a los objetivos empresariales, las diferentes normativas y las prácticas éticas. Los programas se conectan a las prácticas adyacentes, como la gestión de riesgos de IA y la evaluación de conformidad de la IA, y a menudo complementan las herramientas de privacidad, como la evaluación de impacto relativa a la protección de datos.
Gartner define la gobernanza de la IA como el proceso de asignar y garantizar la rendición de cuentas, los derechos de decisión, la gestión de riesgos, las políticas y las decisiones de inversión a la hora de aplicar la IA.
¿Por qué es tan importante la gobernanza de la IA?
La gobernanza de la IA ayuda a que los ejecutivos y los equipos de producto puedan lanzar la IA de modo responsable al clarificar la rendición de cuentas, aplicar controles y recopilar evidencias. Todo esto mejora la eficiencia a partir de flujos de trabajo estandarizados, reduce las sorpresas en el transcurso de las operaciones y genera confianza entre las partes interesadas gracias a una toma de decisiones transparente y mecanismos de protección que se pueden evaluar. Marcos como la Ley de IA de la UE, el marco de gestión de riesgos de IA del NIST, la ISO/IEC 42001 y los principios de IA de la OCDE hacen hincapié en controles que se basen en los riesgos, la transparencia, la calidad de los datos, la supervisión humana y la supervisión posterior a la comercialización. En definitiva, una buena gobernanza reduce las lagunas al cumplir la ley, respalda una mejor experiencia de usuario con decisiones explicables y protege el valor de la marca al evitar comportamientos de modelos injustos, inseguros o poco fiables.
¿Cómo funciona la gobernanza de la IA en la práctica?
- Por lo general, las organizaciones suelen establecer un modelo de registro e inventario que vincula cada sistema con los responsables, los riesgos, los conjuntos de datos y las evaluaciones.
- A menudo, los programas incluyen evaluaciones de riesgo previas a la implementación con pruebas documentadas en cuanto a sesgos, solidez y seguridad, además de la revisión y aprobación por parte de humanos.
- La supervisión y el registro se usan normalmente para hacer un seguimiento de las desviaciones, el rendimiento, los incidentes y los comentarios de los usuarios, así como para el reentrenamiento o restitución de desencadenadores.
- Los controles suelen estar localizados (p. ej., el consentimiento, los avisos de transparencia, el mantenimiento de registros) para cumplir con los requisitos de la UE, del Reino Unido y de los EE. UU.
- Los modelos de terceros y de proveedores se evalúan con regularidad, al mismo tiempo que se recopilan atestados y evidencias de cara a auditorías y adquisiciones.
Leyes y normas relacionadas
- Ley de IA de la UE
- Marco de gestión de riesgos de IA del NIST
- Principios sobre IA de la OCDE
- ISO/IEC 42001:2023 (norma para sistemas de gestión de IA)
- RGPD de la UE
¿Cómo ayuda OneTrust con la gobernanza de la IA?
OneTrust proporciona software de gobernanza de la IA para catalogar la IA y evaluar los riesgos, supervisar la postura de la organización en todas las plataformas y aplicar controles de forma programática. Al ajustar la gobernanza empresarial con la realidad técnica, los equipos pueden escalar más rápido, reducir los riesgos y preservar la confianza.
[Explorar soluciones →]
P+F sobre gobernanza de la IA
La gobernanza de la IA define las políticas, los roles y los controles de carácter general de los programas de IA, mientras que la gestión de riesgos de la IA se centra en identificar, evaluar y tratar los riesgos específicos a lo largo del ciclo de vida. En definitiva, se complementan.
Por lo general, la responsabilidad recae sobre el equipo de producto/ingeniería, ciencia de datos, privacidad y seguridad, así como el departamento jurídico. Disponer de un consejo global o líder del programa de gobernanza de la IA ayuda a coordinar las normas, mientras que el DPD puede intervenir cuando surjan riesgos para la privacidad.
Estructurando las tareas de conformidad; es decir, llevando el mantenimiento de los inventarios de los modelos, ejecutando evaluaciones de riesgos y sesgos, garantizando la supervisión humana, registrando los resultados de las pruebas y habilitando la supervisión posterior a la comercialización y la notificación de incidentes.