Contacta con nosotros

Temario del curso

Fundamentos: Modelado de amenazas en la IA agéntica

  • Tipos de amenazas para agentes: usos indebidos, escalación de privilegios, fuga de datos y riesgos en la cadena de suministro
  • Perfiles de adversarios y capacidades atacantes específicas para agentes autónomos
  • Identificación de activos, límites de confianza y puntos críticos de control en los agentes

Gobernanza, políticas y gestión de riesgos

  • Marco de gobernanza para sistemas agénticos: roles, responsabilidades y mecanismos de aprobación
  • Diseño de políticas: uso aceptable, normas de escalación, manejo de datos y trazabilidad de auditorías
  • Consideraciones en materia de cumplimiento normativo y obtención de pruebas para auditorías

Identidad no humana y autenticación para agentes

  • Diseño de identidades para agentes: cuentas de servicio, tokens JWT y credenciales de corta duración
  • Patrones de acceso basados en el mínimo privilegio y provisión temporal de credenciales
  • Estrategias para la gestión del ciclo de vida, rotación, delegación y revocación de identidades

Controles de acceso, gestión de secretos y protección de datos

  • Modelos de control de acceso granulares y patrones basados en capacidades para agentes
  • Gestión segura de secretos, cifrado de datos en tránsito y en reposo, así como minimización de información sensible
  • Protección de fuentes de conocimiento confidenciales e información personal contra accesos no autorizados por parte de los agentes

Observabilidad, auditoría y respuesta ante incidentes

  • Diseño de telemetría para analizar el comportamiento de los agentes: trazado de intenciones, registro de comandos y seguimiento del origen de datos
  • Integración con sistemas SIEM, definición de umbrales de alerta y preparación para análisis forense
  • Manuales operativos y procedimientos ante incidentes relacionados con agentes IA y medidas de contención

Red-Teaming en sistemas agénticos

  • Planificación de ejercicios de red-teaming: alcance, condiciones de participación y mecanismos de seguridad ante fallos
  • Técnicas adversariales: inyección de prompts, uso indebido de herramientas, manipulación del razonamiento lógico y abuso de APIs
  • Ejecución controlada de ataques y medición del nivel de exposición e impacto potencial

Fortalecimiento y mitigación de riesgos

  • Controles técnicos: limitación de respuestas, restricción de capacidades y aislamiento mediante entornos seguros
  • Controles basados en políticas y orquestación: flujos de aprobación, supervisión humana y mecanismos de gobernanza
  • Defensas a nivel de modelo y prompts: validación de entradas, estandarización de formato y filtrado de respuestas

Despliegue seguro de agentes IA en la práctica

  • Patrones de despliegue: entornos de prueba, implementaciones canary y lanzamientos progresivos para agentes
  • Control de cambios, tuberías de pruebas automatizadas y verificaciones de seguridad previas al despliegue
  • Gobernanza colaborativa entre departamentos: protocolos compartidos por seguridad, legal, producto y operaciones

Proyecto final: Ejercicio de Red-Team / Blue-Team

  • Realización de un ataque simulado por parte del equipo red-team contra un entorno aislado con agentes IA
  • Defensa, detección y corrección por parte del equipo blue-team mediante controles técnicos y telemetría disponible
  • Presentación de hallazgos, planes de remediación propuestos y actualizaciones a las políticas internas

Resumen y pasos siguientes

Requerimientos

  • Conocimientos sólidos en ingeniería de seguridad, administración de sistemas o operaciones en la nube
  • Familiaridad con conceptos de IA/ML y el comportamiento de los modelos de lenguaje grandes (LLM)
  • Experiencia en gestión de identidades y accesos (IAM) así como en el diseño seguro de sistemas

Público objetivo

  • Ingenieros de seguridad y especialistas en red-teaming
  • Ingenieros de operaciones de IA y plataformas tecnológicas
  • Responsables del cumplimiento normativo y gestión de riesgos
  • Líderes técnicos encargados del despliegue de agentes IA
 21 Horas

Formación Corporativa a Medida

Soluciones de formación diseñadas exclusivamente para empresas.

  • Contenido personalizado: Adaptamos el temario y los ejercicios prácticos a los objetivos y necesidades reales del proyecto.
  • Calendario flexible: Fechas y horarios adaptados a la agenda de su equipo.
  • Modalidad: Online (en directo), In-company (en sus oficinas) o Híbrida.
Inversión

Precio por grupo privado (formación online) desde 4350 € + IVA*

Contáctenos para obtener un presupuesto exacto y conocer nuestras promociones actuales

Próximos cursos

Categorías Relacionadas