Evaluación de conformidad de la IA
La evaluación de conformidad de la IA se trata de un proceso normativo que evalúa si un sistema de IA cumple con los requisitos jurídicos, técnicos y éticos de acuerdo con los marcos aplicables.
¿Qué es una evaluación de conformidad de la IA?
La evaluación de conformidad de la IA es el procedimiento de evaluación que exige la Ley de IA de la UE para confirmar que los sistemas de IA cumplen con las normas jurídicas y técnicas definidas. Estas evaluaciones pueden implicar revisiones internas o auditorías externas de terceros en función de la clasificación de riesgos del sistema. Asimismo, las organizaciones utilizan evaluaciones de conformidad de la IA para demostrar rendición de cuentas, garantizar la implementación jurídica y proporcionar pruebas de cumplimiento normativo a los reguladores y las partes interesadas.
¿Por qué es importante una evaluación de conformidad de la IA?
Para las organizaciones que implementan IA, las evaluaciones de conformidad ayudan a generar confianza, reducir los riesgos operativos y demostrar un compromiso con el uso responsable de la tecnología. Además, proporcionan pruebas documentadas de que los sistemas son seguros, cumplen con la normativa y se ajustan a los estándares éticos de la empresa.
Desde el punto de vista normativo, la Ley de IA de la UE exige evaluaciones de conformidad de la IA para los sistemas de alto riesgo antes de que se introduzcan en el mercado o se pongan en servicio. De esta forma, se garantiza que las organizaciones evalúan los riesgos potenciales, mantienen la supervisión y protegen los derechos individuales.
No completar o mantener las evaluaciones de conformidad podría exponer a las organizaciones a multas, daños reputacionales y pérdida de acceso al mercado, mientras que el cumplimiento proactivo de la normativa refuerza la transparencia y la confianza del cliente.
¿Cómo se utiliza en la práctica la evaluación de conformidad de la IA?
- Para revisar los sistemas de identificación biométrica con terceros independientes con el fin de confirmar el cumplimiento de las obligaciones que establece la Ley de IA de la UE.
- Para documentar los controles de riesgo y los mecanismos de supervisión humana para los sistemas de IA que se utilizan en la contratación o la formación de personal.
- Para realizar revisiones internas de conformidad para con las aplicaciones de IA de menor riesgo con el fin de demostrar el cumplimiento normativo con carácter proporcional.
- Para ajustar los procesos con el objetivo de que los mercados regionales se ajusten a los requisitos normativos a nivel local.
- Para involucrar a los organismos externos a los que se haya notificado con el fin de certificar el cumplimiento normativo de los proveedores de IA de alto riesgo o de proveedores externos.
Leyes y normas relacionadas
- Ley de IA de la UE
- Reglamento General de Protección de Datos (RGPD) de la UE
- RGPD del Reino Unido
- Directiva NIS 2
- Reglamento sobre la resiliencia operativa digital (DORA)
¿Cómo te ayuda OneTrust con la evaluación de conformidad de la IA?
OneTrust ayuda a que las organizaciones puedan gestionar las evaluaciones de conformidad de la IA al proporcionar:
- Flujos de trabajo configurables para guiar la documentación y la evaluación de riesgos
- Una gestión centralizada de las evidencias para estar preparado frente a auditorías y organismos reguladores
- Automatización para respaldar los requisitos de cumplimiento normativo de la Ley de IA de la UE y del RGPD
- Herramientas de colaboración para equipos de privacidad, jurídicos y de ingeniería
- Funciones de supervisión para llevar un seguimiento de la rendición de cuentas en los sistemas de IA de alto riesgo
[Explorar soluciones →]
P+F sobre la evaluación de conformidad de la IA
Una evaluación de conformidad de la IA verifica el cumplimiento de las normas jurídicas y técnicas, mientras que una EIPD de la IA se centra en identificar y mitigar los riesgos de privacidad que se asocian con el tratamiento de la IA.
Por lo general, la rendición de cuentas se comparte entre los equipos de cumplimiento normativo, jurídico y de ingeniería, bajo la supervisión del delegado de protección de datos o del líder de gobernanza de la IA cuando resulte necesario.
Garantiza que los sistemas de IA de alto riesgo se someten a evaluación, documentación y revisión externa de riesgos cuando sea necesario de acuerdo con las obligaciones de rendición de cuentas y seguridad de la Ley de IA de la UE.
