Gobernanza, Riesgo Cibernético y Arquitectura de Controles en Inteligencia Artificial

Objetivo: Diseñar el ciclo de vida del pipeline de IA con puntos de control de calidad, gobierno y seguridad integrados en cada etapa.

Contenidos:

El ciclo de vida del pipeline de IA: ingesta y gobierno de datos, ingeniería de características, entrenamiento, validación, despliegue, monitoreo y reentrenamiento. 
MLOps y LLMOps: versionado de datos, código y modelos; reproducibilidad; integración y despliegue continuos; registro de modelos (model registry). 
Gobierno de datos para IA: linaje (data lineage), calidad, clasificación, minimización y gestión del consentimiento. Datos sintéticos. 
Cadena de suministro de IA: modelos preentrenados, pesos, datasets y dependencias de terceros. Inventario de componentes (AI-BOM). 
Documentación de gobierno: model cards, datasheets for datasets y fichas de riesgo por modelo. 
Arquitecturas con LLM y RAG: vector stores, embeddings y gobierno del conocimiento recuperado. 
Detonante experiencial: Ejercicio de rastreo sobre un sistema en operación: seguir un dato personal desde su origen hasta la decisión que termina afectando a una persona, identificando en qué punto deja de haber trazabilidad.

Segmento constructivo : Cartografía del pipeline. Los equipos construyen en mural el ciclo de vida completo del sistema definido en el módulo uno, desde la ingesta hasta el reentrenamiento. Sobre esa cartografía ubican los puntos de control de calidad, gobierno y seguridad, marcan los componentes de terceros para levantar el inventario inicial de la cadena de suministro y cierran diligenciando la ficha del modelo y la ficha del conjunto de datos del caso.

Interacción: Recorrido de auditoría cruzada: cada equipo camina el mural de otro buscando etapas sin control, sin dueño o sin evidencia verificable, y deja hallazgos escritos. El equipo receptor debe resolver o justificar cada hallazgo antes de cerrar la sesión.

Producto del módulo: Diagrama del pipeline anotado con sus puntos de control, inventario de componentes de inteligencia artificial e inicial ficha del modelo del caso. Segunda pieza del expediente. 

Objetivo: Identificar, modelar y priorizar las amenazas cibernéticas específicas de los sistemas de IA a lo largo del pipeline.

Contenidos:

La superficie de ataque de la IA por etapa del ciclo de vida. 
MITRE ATLAS: tácticas y técnicas adversariales contra sistemas de aprendizaje automático y casos de estudio reales. 
OWASP Top 10 for LLM Applications 2025: prompt injection (LLM01), divulgación de información sensible (LLM02), cadena de suministro (LLM03), envenenamiento de datos y modelo (LLM04), manejo inseguro de salidas (LLM05), agencia excesiva (LLM06), fuga del prompt del sistema (LLM07), debilidades de vectores y embeddings (LLM08), desinformación (LLM09) y consumo no acotado (LLM10). 
OWASP Machine Learning Security Top 10. 
Taxonomía de ataques: envenenamiento de datos, evasión con ejemplos adversariales, inversión de modelo, inferencia de membresía, extracción o robo de modelo, y jailbreak. 
Riesgos propios de la IA generativa y agéntica: alucinación, fuga de datos, abuso de herramientas y agencia excesiva. 
Metodología de modelado de amenazas aplicada a IA, integrando STRIDE con las técnicas de MITRE ATLAS. 
Detonante experiencial: Laboratorio breve de ataque a un modelo de lenguaje con guardrails activos. Los participantes logran inyección de instrucciones, fuga del prompt del sistema y extracción de información antes de haber estudiado la taxonomía. La experiencia del fallo precede a su clasificación.

Segmento constructivo : Mesa adversarial. Cada equipo modela las amenazas de su propio pipeline articulando STRIDE con las técnicas de MITRE ATLAS y las categorías del OWASP Top 10 for LLM Applications, y las prioriza por impacto y probabilidad. A continuación los equipos intercambian expedientes: cada uno actúa como adversario del sistema del otro y construye rutas de ataque que el modelo original no contempló.

Interacción: Dinámica de rojo y azul con registro de resultados. El equipo defensor solo cierra su modelo de amenazas cuando ha respondido, aceptado o descartado con argumento cada vector encontrado por el equipo atacante.

Producto del módulo: Modelo de amenazas priorizado sobre el pipeline propio, con matriz de riesgo y los diez vectores críticos justificados. Tercera pieza del expediente. 

Objetivo: Diseñar la arquitectura de controles técnicos que mitiga los riesgos identificados, organizada por capas del sistema de IA.

Contenidos:

Controles por capa: datos, modelo, aplicación e infraestructura. 
Aislamiento y segmentación de cargas de IA. Separación de los entornos de entrenamiento e inferencia. 
Gestión de identidad, acceso y secretos. Llaves administradas por el cliente (CMK). Cifrado en reposo y en tránsito. Protección de los pesos del modelo. 
Guardrails y validación de entrada y salida en LLM. Filtrado, moderación y detección de prompt injection. AI gateways. 
Defensas específicas: entrenamiento adversarial, privacidad diferencial, limitación de tasa, marcas de agua y tokens canario. 
Observabilidad y trazabilidad de IA: telemetría, detección de drift y detección de abuso. 
Red teaming de modelos y evaluación adversarial continua. 
Integración con el SOC: casos de uso de detección y respuesta a incidentes de IA. 
Detonante experiencial: Contraste de dos arquitecturas de referencia sobre el mismo tipo de sistema: una que fue comprometida y una que resistió. Los equipos identifican la diferencia antes de conocer el catálogo de controles.

Segmento constructivo : Estudio de diseño de controles. El segmento se organiza en rondas cronometradas de bocetado. Cada equipo produce versiones sucesivas de la arquitectura de controles por capas, datos, modelo, aplicación e infraestructura, y en cada ronda incorpora la crítica recibida. La versión final debe trazar cada control hasta la amenaza que mitiga y hasta la evidencia que demuestra su operación. El módulo cierra con la implementación en laboratorio de al menos un control diseñado, guardrails y validación de salidas, para verificar que funciona sobre el mismo ataque del módulo tres.

Interacción: Galería crítica con criterios visibles. Cada participante deja en la arquitectura de otro equipo una objeción fundamentada y una mejora concreta, y el equipo autor decide públicamente qué incorpora y por qué.

Producto del módulo: Arquitectura de controles por capas, fichas de trazabilidad que enlazan control, amenaza y evidencia, y al menos un control probado en laboratorio. Cuarta pieza del expediente.

Objetivo: Operacionalizar la gobernanza y la arquitectura de controles mediante métricas, auditoría y gestión continua del riesgo.

Contenidos:

Métricas e indicadores clave de riesgo de IA (KRI). Tablero de gobierno. 
Auditoría y aseguramiento: evaluación de conformidad con ISO/IEC 42001 y evidencia de control. 
Gestión continua del riesgo: reevaluación periódica, gestión del cambio de modelos y retiro de modelos. 
Gestión de incidentes con componente de IA: playbooks, análisis forense y comunicación. 
Reporte regulatorio y rendición de cuentas algorítmica. 
Detonante experiencial: Simulacro de incidente con componente de inteligencia artificial en sala de crisis, con entrega escalonada de información y presión de tiempo. Los equipos deciden con datos incompletos y descubren qué métricas habrían necesitado tener antes.

Segmento constructivo : Sala de operación y mesa de auditoría. A partir de lo ocurrido en el simulacro, cada equipo define el tablero de indicadores clave de riesgo de su sistema, redacta el manual de respuesta a incidentes con componete de inteligencia artificial y establece el esquema de reevaluación periódica, gestión del cambio y retiro de modelos. El segmento cierra con una auditoría de conformidad en la que cada equipo evalúa el expediente de otro contra una selección de controles del Anexo A de la norma ISO/IEC 42001 y emite un reporte de hallazgos.

Interacción: Sala de crisis con roles de decisión, técnica y vocería, seguida de mesa de auditoría con evidencia sobre la mesa. Los hallazgos recibidos son insumo obligatorio del módulo seis, lo que obliga a cada equipo a auditar con rigor y a responder con evidencia.

Producto del módulo: Tablero de indicadores clave de riesgo, manual de respuesta a incidentes y reporte de auditoría cruzada recibido. Quinta pieza del expediente. 

Objetivo: Consolidar las piezas construidas en los módulos anteriores en un expediente único, cerrar los hallazgos de la auditoría cruzada y defender las decisiones ante un panel.

Contenidos:

Cierre de los hallazgos de la auditoría cruzada y consolidación de las cinco piezas en un expediente único y coherente. 
Construcción del argumento de decisión: riesgo residual aceptado, inversión requerida y hoja de ruta de implementación por fases. 
Ensayo de sustentación con retroalimentación entre pares y ajuste del expediente. 
Sustentación ante panel en formato de comité directivo y defensa de las decisiones tomadas. 
Definición del plan de transferencia a noventa días en la organización de cada participante. 
Detonante experiencial: Apertura con la lectura cruzada de los reportes de auditoría recibidos en el módulo cinco. Cada equipo comienza el módulo enfrentando lo que otros encontraron débil en su propio trabajo.

Segmento constructivo : Consolidación y ensayo. Los equipos resuelven los hallazgos pendientes, integran las cinco piezas en un expediente único, construyen el argumento de decisión para la alta dirección y ensayan la sustentación ante otro equipo, que actúa como panel de práctica y anticipa las preguntas difíciles.

Interacción: Panel final en formato de comité directivo, integrado por el profesor y por participantes en rol de junta, que interroga por riesgo residual, costo, trazabilidad de las decisiones y viabilidad real de la implementación. Cada participante cierra declarando públicamente su compromiso de transferencia a noventa días.

Producto del módulo: Expediente de Gobierno y Defensa de IA completo y sustentado, acompañado del plan de transferencia a noventa días. Entregable final del curso. 

Aulas y espacios:

Aula de aprendizaje activo con capacidad para 25 personas, mesas de trabajo colaborativo y sistema de proyección. 
Conectividad a internet de alta disponibilidad para el desarrollo de los laboratorios. 

Equipos:

Equipos de cómputo por participante o esquema de trae tu propio equipo (BYOD), con permisos para ejecutar contenedores y acceder a servicios en la nube. 

Software y plataformas (de uso libre o en modo de demostración):

Entorno Python con Jupyter para los laboratorios. 
MLflow u otra plataforma de MLOps de código abierto para versionado y registro de modelos. 
Herramientas de red teaming y evaluación de modelos: Garak, Adversarial Robustness Toolbox (ART) y PyRIT. 
Acceso a la API de un modelo de lenguaje para los ejercicios de prompt injection y guardrails. 
Plantillas de model cards, datasheets y lienzo de gobernanza provistas por el profesor. 

Materiales:

Guías de laboratorio, casos de estudio y plantillas digitales. No se entregan fotocopias de libros ni de capítulos, en cumplimiento de los derechos de autor. 
Lienzos impresos en gran formato para los segmentos constructivos, tarjetas de rol para el comité simulado, fichas de control y superficies de mural para la cartografía del pipeline y la galería crítica. 

Bibliografía recomendada (no se reproduce ni fotocopia; se sugiere su adquisición o consulta en biblioteca):

NIST AI Risk Management Framework 1.0 y Generative AI Profile (NIST, acceso libre). 
OWASP Top 10 for LLM Applications 2025, OWASP GenAI Security Project (acceso libre). 
OWASP Machine Learning Security Top 10 (acceso libre). 
ISO/IEC 42001:2023 e ISO/IEC 23894:2023 (ISO, adquisición). 
MITRE ATLAS, matriz de tácticas y técnicas adversariales (acceso libre). 
Designing Machine Learning Systems, Chip Huyen. 
Not with a Bug, But with a Sticker, Ram Shankar Siva Kumar y Hyrum Anderson. 
Adversarial Machine Learning, Yevgeniy Vorobeychik y Murat Kantarcioglu. 

Empresas potencialmente interesadas:

Por su perfil regulado y su adopción creciente de inteligencia artificial, los siguientes sectores y organizaciones podrían financiar el programa o postular participantes:

• Energía y gas: Grupo Energía Bogotá, Transportadora de Gas Internacional, Ecopetrol, ISA, EPM, Promigas y Celsia. 
• Servicios públicos y utilities eléctricas: EBSA, Air-e, Afinia y las empresas de distribución eléctrica regional. 
• Sector financiero: bancos, aseguradoras, cooperativas y empresas fintech vigiladas por la Superintendencia Financiera. 
• Telecomunicaciones: Claro, Tigo y Movistar. 
• Salud: EPS, IPS y clínicas con iniciativas de analítica clínica. 
• Sector público: entidades del orden nacional y territorial, y el ecosistema de MinTIC y ColCERT. 
• Gremios: ANDI, Asobancaria, Andesco y Fedesarrollo, como articuladores sectoriales. 

Descripción:

La inteligencia artificial dejó de ser una promesa para convertirse en una capacidad operativa en sectores regulados como energía y gas, finanzas, salud, telecomunicaciones y servicios públicos. Su adopción acelerada introduce una superficie de riesgo nueva que las prácticas tradicionales de ciberseguridad no cubren por completo. Este curso entrega un cuerpo de conocimiento integrado que conecta tres dimensiones que suelen abordarse por separado: la gobernanza de la inteligencia artificial, la estructuración técnica del pipeline de IA y la arquitectura de controles de seguridad.

El participante aprende a establecer un sistema de gobierno alineado a marcos internacionales reconocidos, a diseñar el ciclo de vida del pipeline con puntos de control integrados, a modelar las amenazas cibernéticas propias de los sistemas de IA y a especificar

la arquitectura tecnológica de controles que las mitiga. El curso prioriza la aplicación sobre la teoría. Cada módulo combina fundamentos rigurosos con práctica intensiva sobre casos reales, y culmina en un proyecto integrador que el participante puede llevar directamente a su organización.

Metodología del curso:

La formación se desarrolla bajo el modelo de Aprendizaje Experiencial y Basado en Proyectos de Nodo, siguiendo sus seis momentos: Entender, Explorar, Hacer, Transformar, Construir y Apropiar. El curso es constructivo: el proyecto aplicado no es una etapa final, sino un expediente que se arma por partes desde la primera sesión. Cada participante o equipo trabaja sobre un sistema de inteligencia artificial real de su organización, o sobre un escenario propuesto, y en cada módulo produce una pieza terminada de ese expediente. Al cerrar el módulo cinco, el proyecto ya está construido; el módulo seis se dedica a consolidarlo, resolver los hallazgos recibidos y defenderlo.

Todos los módulos siguen el mismo ritmo, que recorre el ciclo de Kolb en cada sesión. Se abre con un detonante experiencial, un incidente, un laboratorio breve o un caso que expone el vacío antes de explicarlo. Sigue un marco conceptual que da lenguaje y estructura a lo vivido. Continúa un segmento constructivo, que ocupa la mayor parte del tiempo y en el que se produce la pieza del módulo sobre el caso propio. Y cierra con una sesión crítica entre pares, en la que cada equipo somete su producto al escrutinio de otro y recibe hallazgos escritos que debe resolver. La progresión cognitiva avanza según la taxonomía de Bloom: comprender y clasificar en el módulo uno, estructurar y analizar en los módulos dos y tres, diseñar y evaluar en los módulos cuatro y cinco, e integrar, argumentar y defender en el módulo seis.

La interacción está diseñada como parte del método, no como complemento. El curso emplea deliberación por roles en un comité simulado, recorrido y auditoría cruzada de artefactos, dinámica adversarial de ataque y defensa entre equipos, galería crítica con criterios visibles, simulacro de incidente en sala de crisis y panel de sustentación en formato de comité directivo. Ningún módulo termina en exposición del profesor: termina con un producto versionado y con retroalimentación de pares sobre ese producto.

Evidencias de aprendizaje:

La evidencia central es el Expediente de Gobierno y Defensa de IA, un entregable único que integra el marco de gobernanza, el diseño del pipeline con puntos de control, el modelo de amenazas, la arquitectura de controles y el esquema de operación y monitoreo. El expediente no se elabora al final: se construye por piezas, una por módulo, y cada pieza se versiona, se somete a revisión de pares y se corrige antes de avanzar a la siguiente.

Cada pieza se evalúa con una rúbrica entregada al inicio del curso, que valora la trazabilidad entre marco de referencia y decisión tomada, la coherencia técnica de la solución, la viabilidad en el contexto de la organización y la calidad de la evidencia que la respalda. La calificación combina las cinco piezas parciales, la calidad de los hallazgos que cada equipo aporta a los demás en las sesiones de crítica y auditoría cruzada, y la sustentación final del expediente ante panel.

¿Esté programa puede tener certificaciones?

Sí. El programa otorga certificado de aprobación expedido por NODO, Universidad EAFIT, sujeto al cumplimiento de la asistencia mínima y a la aprobación del proyecto aplicado. El contenido se alinea con el cuerpo de conocimiento de credenciales internacionales en gobernanza y seguridad de IA, entre ellas la certificación de Implementador Líder y Auditor Líder ISO/IEC 42001 y los marcos del OWASP GenAI Security Project, lo que prepara al participante para presentar dichos exámenes ante los organismos certificadores correspondientes. El curso no expide por sí mismo esas certificaciones externas.