Contacta con nosotros

Temario del curso

Día 1 — Inmersión Profunda en la Seguridad de la IA Agéntica

Sesión 1 — 09:30 a 10:50 · Repaso e Inyección de Prompts en Profundidad
  • Repaso rápido de la lista OWASP LLM Top 10 (2025) — línea base acordada
  • Inyección avanzada de prompts: inyección indirecta, manipulación multi-turno, inyección multimodal
  • Técnicas de jailbreak y taxonomías defensivas
  • Fugas del prompt del sistema y patrones de extracción de información
  • Votación en vivo a través de Slido: "¿Qué herramienta más sensible tienen acceso sus agentes hoy?"

Descanso — 10:50 a 11:10

Sesión 2 — 11:10 a 12:30 · Aseguramiento de Pipelines de IA — Datos, Modelos y RAG
  • Integridad de los datos de entrenamiento: envenenamiento, puertas traseras y procedencia
  • Riesgos de la cadena de suministro del modelo: pipelines de ajuste fino, modelos adaptadores e higiene del registro
  • Superficies de ataque específicas de RAG: envenenamiento de bases de vectores, manipulación del contexto, ataques de recuperación
  • Seguridad de los incrustaciones (embeddings): qué revelan las embeddings y cómo protegerlas
  • Laboratorio práctico (~30 minutos): Los participantes envenenan un pequeño corpus RAG y luego lo defienden. Ejercicio en parejas seguido de una sesión de análisis grupal.

Almuerzo — 12:30 a 13:20

Sesión 3 — 13:20 a 14:40 · Lista OWASP Top 10 para Aplicaciones Agénticas (2026) — Parte 1
  • Manipulación del objetivo del agente y subversión de objetivos
  • Abuso de permisos de uso de herramientas y escalada de privilegios mediante cadenas de herramientas
  • Manipulación de la memoria: ataques a la memoria persistente, episódica y compartida
  • Explotación de la planificación y el razonamiento
  • Identidad y autenticación en sistemas de agentes
  • Demostración breve en vivo: Un ataque de manipulación de objetivos contra un agente de planificación simple

Descanso — 14:40 a 15:00

Sesión 4 — 15:00 a 16:30 · Lista OWASP Top 10 para Aplicaciones Agénticas (2026) — Parte 2 + Seguridad MCP
  • Arquitectura del Protocolo de Contexto del Modelo (MCP) y límites de confianza
  • Seguridad de servidores MCP: autenticación, alcance de herramientas y modelos de permisos
  • Ataques a flujos de trabajo en múltiples pasos: encadenamiento, ejecución indirecta, fallos en cascada
  • Comunicación entre agentes y confianza
  • Observabilidad de agentes y preparación forense
  • Cierre del Día 1: cada participante identifica un riesgo agéntico crítico en su propio stack
  • Preguntas y respuestas

Día 2 — Red Teamming, Arquitectura y Respuesta a Incidentes

Sesión 1 — 09:30 a 10:50 · Red Teamming de IA — Metodología
  • Qué es el red teaming de IA (y qué no es) — distinción con las pruebas de penetración tradicionales
  • Framework de red teaming: MITRE ATLAS, mapeo de la Lista OWASP Agentic Top 10, NIST AI RMF
  • Delimitar un compromiso de red teaming para un sistema LLM o agente
  • Técnicas manuales: ataques de ingeniería de prompts, bibliotecas de jailbreak, secuestro de objetivos
  • Ecosistema de herramientas automatizadas: Garak, PyRIT, Promptfoo, arneses personalizados
  • Ética, seguridad y divulgación responsable de vulnerabilidades de IA

Descanso — 10:50 a 11:10

Sesión 2 — 11:10 a 12:30 · Laboratorio Práctico de Red Teamming
  • Laboratorio práctico extendido (~60 minutos): Los participantes trabajan en parejas contra un objetivo preparado — una aplicación agéntica en múltiples pasos con al menos tres vulnerabilidades conocidas. Cada pareja produce un breve informe de red teaming, incluyendo la ruta de ataque, la evaluación del impacto y las mitigaciones recomendadas.
  • Compartir en grupo y análisis colectivo

Almuerzo — 12:30 a 13:20

Sesión 3 — 13:20 a 14:40 · Patrones de Arquitectura Segura para IA Agéntica en el Gobierno
  • Defensa en profundidad para sistemas de agentes: aislamiento, sandboxing y reducción del radio de explosión
  • Diseño de catálogos de herramientas seguros: listas de permitidos, validación de parámetros e inspección de salidas
  • Patrones de intervención humana y cuándo requerir confirmación
  • Límites de datos sensibles: dónde pueden y no pueden fluir los datos PII y OFFICIAL-SENSITIVE
  • Alineación con los Principios de IA del Reino Unido, NIST AI RMF y los controles ISO/IEC 42001
  • Estudio de caso arquitectónico: recorrido por un servicio gubernamental agéntico realista

Descanso — 14:40 a 15:00

Sesión 4 — 15:00 a 16:30 · Respuesta a Incidentes, Construcción del Manual y Cierre
  • Clases de incidentes específicos de la IA: escalada por inyección de prompts, mal uso de herramientas, exfiltración de datos vía agentes, incidentes de comportamiento incorrecto del modelo
  • Señales de detección y patrones de registro para sistemas de agentes
  • Estructura del manual de respuesta: contención, erradicación, recuperación y lecciones aprendidas
  • Ejercicio final (~45 minutos): Los participantes construyen un manual de seguridad de agentes de una página para un servicio representativo de su propio ámbito
  • Planificación de implementación: acciones a 30, 60 y 90 días
  • Recursos, lecturas adicionales y próximos pasos
  • Preguntas y respuestas y cierre del curso

Requerimientos

  • Conocimientos sólidos de al menos un lenguaje de programación moderno (se recomienda encarecidamente Python para los laboratorios)
  • Completar previamente el curso Fundamentos de Seguridad de IA para Desarrolladores o tener conocimiento práctico equivalente de la lista OWASP Top 10 para Aplicaciones LLM (2025)
  • Familiaridad con APIs REST, conceptos básicos de contenedorización y prácticas generales de desarrollo seguro
  • La experiencia con al menos una API de LLM (OpenAI, Anthropic Claude, Azure OpenAI o similar) es útil pero no esencial

Público Objetivo

  • Ingenieros de software e ingenieros de IA/ML que construyen sistemas de IA agéntica o que utilizan herramientas
  • Ingenieros de seguridad y champions de seguridad que trabajan con productos habilitados para IA
  • Ingenieros de plataforma y DevOps responsables de la infraestructura de LLM y agentes
  • Líderes técnicos y arquitectos que diseñan servicios gubernamentales potenciados por IA
  • Aquellos que han completado el curso Fundamentos de Seguridad de IA para Desarrolladores o tienen experiencia equivalente
 14 Horas

Formación Corporativa a Medida

Soluciones de formación diseñadas exclusivamente para empresas.

  • Contenido personalizado: Adaptamos el temario y los ejercicios prácticos a los objetivos y necesidades reales del proyecto.
  • Calendario flexible: Fechas y horarios adaptados a la agenda de su equipo.
  • Modalidad: Online (en directo), In-company (en sus oficinas) o Híbrida.
Inversión

Precio por grupo privado (formación online) desde 2900 € + IVA*

Contáctenos para obtener un presupuesto exacto y conocer nuestras promociones actuales

Próximos cursos

Categorías Relacionadas