Objetivos del curso
Comprender el enfoque de ISO/IEC 23894
Entender la norma como un marco específico de gestión del riesgo en IA, complementario a ISO 31000, ISO 27001 y marcos de gobierno corporativo.
Diferenciar riesgos técnicos, operativos, legales, éticos y reputacionales asociados a la IA.
Identificar riesgos a lo largo del ciclo de vida de la IA
Riesgos en diseño, entrenamiento, validación, despliegue, operación y retiro de modelos.
Riesgos por datos (sesgos, calidad, privacidad), modelos (opacidad, deriva, errores) y uso indebido.
Evaluar impacto y probabilidad de riesgos de IA
Analizar impactos financieros, operativos, regulatorios, reputacionales y sociales.
Priorizar riesgos según criticidad, uso del sistema y contexto organizacional.
Diseñar planes de tratamiento del riesgo en IA
Definir controles técnicos, organizacionales y de gobierno.
Integrar mitigaciones como validaciones, monitoreo, explicabilidad, supervisión humana y controles éticos.
Integrar la gestión del riesgo de IA al gobierno corporativo
Definir roles, responsabilidades y líneas de defensa.
Alinear IA con apetito al riesgo, políticas internas y toma de decisiones ejecutivas.
El curso ISO/IEC 23894 – Gestión del Riesgo en Inteligencia Artificial está diseñado para formar profesionales capaces de gestionar de manera estructurada, trazable y gobernada los riesgos asociados al uso de sistemas de Inteligencia Artificial (IA), asegurando que su adopción genere valor sostenible sin comprometer la seguridad, el cumplimiento normativo, la ética ni la reputación organizacional.
La rápida incorporación de soluciones basadas en IA —como modelos predictivos, sistemas de decisión automatizada, analítica avanzada e IA generativa— ha introducido nuevas fuentes de riesgo que exceden los enfoques tradicionales de riesgo tecnológico u operacional. Entre ellos se incluyen riesgos por sesgos algorítmicos, falta de explicabilidad, degradación del modelo, uso indebido, dependencia excesiva de la automatización, impactos regulatorios y fallas éticas. ISO/IEC 23894 proporciona el marco específico para abordar estos riesgos de forma integral.
El curso desarrolla la norma como un marco especializado de gestión del riesgo, alineado y complementario a ISO 31000 (Gestión del Riesgo), ISO/IEC 27001 (Seguridad de la Información), ISO/IEC 27005 (Riesgo de Seguridad) y otros esquemas de gobierno corporativo. El enfoque está orientado a todo el ciclo de vida de la IA, desde el diseño y entrenamiento del modelo hasta su operación, monitoreo y retiro.
Tipologías de Inteligencia Artificial:
IA simbólica
IA estadística
IA generativa
IA híbrida
Ciclo de vida de un sistema de IA
Diferencias entre riesgos tradicionales y riesgos específicos de IA
Casos recientes de incidentes por IA mal gestionada
Propósito, alcance y estructura de la norma
Relación con marcos y normas internacionales:
ISO 31000 (Gestión del Riesgo)
ISO/IEC 38507 (Gobierno de IA)
ISO/IEC 42001 (Sistema de Gestión de IA)
ISO/IEC 27001 (Seguridad de la Información)
Principios rectores de la gestión del riesgo en IA
Definiciones clave y terminología base
Roles y responsabilidades:
Directorio / Board
Comité de IA
Gestión de Riesgos
Equipos técnicos
Toma de decisiones automatizada vs. supervisada (human-in-the-loop)
Gestión de conflictos éticos y legales en IA
Riesgos técnicos:
Sesgos algorítmicos (bias)
Sobreajuste
Opacidad y “black box”
Riesgos operacionales:
Uso indebido
Dependencia excesiva de modelos
Errores de codificación
Riesgos legales y de cumplimiento:
Privacidad
Transparencia
Trazabilidad
Riesgos sociales y reputacionales
Matriz de riesgos específica para IA
Evaluaciones de impacto:
AIRA (AI Risk Impact Assessment)
DPIA-IA
PIA aplicadas a IA
Scoring de criticidad de modelos de IA
Controles en el diseño del modelo:
Fairness
Explainability
Robustez
Controles en la implementación:
Validación cruzada
Auditoría interna
Logging y trazabilidad
Controles post-producción:
Reentrenamiento de modelos
Alertas tempranas
Kill switch
Selección y aplicación de estrategias de mitigación
Gestión del cambio y del conocimiento en IA
Integración con marcos normativos y regulatorios:
GDPR
DORA
ISO/IEC 27005
Gestión de un modelo de IA en una entidad financiera
Evaluación, tratamiento y documentación de riesgos en un modelo de scoring
Checklist de implementación responsable
Gestión del riesgo residual y planes de contingencia
Indicadores clave (KRI / KPI) para IA
Model Risk Management (MRM)
Detección de performance drift
Revalidación periódica y control de cambios
Reporting ejecutivo sobre IA: formato, frecuencia y contenido
Canales de comunicación y criterios de escalamiento
Ejercicio práctico: gestión de crisis por fallo algorítmico
Auditoría interna y externa de modelos de IA
Incorporación de lecciones aprendidas
Integración con plataformas GRC
