Temario del curso
Fundamentos: Modelos de amenazas para la IA agéntica
- Tipos de amenazas agénticas: uso indebido, escalada, filtración de datos y riesgos de la cadena de suministro
- Perfiles de adversarios y capacidades de atacantes específicos para agentes autónomos
- Mapeo de activos, límites de confianza y puntos críticos de control para agentes
Gobernanza, políticas y gestión de riesgos
- Marcos de gobernanza para sistemas agénticos (roles, responsabilidades, puntos de aprobación)
- Diseño de políticas: uso aceptable, reglas de escalada, manejo de datos y auditabilidad
- Consideraciones de cumplimiento y recopilar evidencias para auditorías
Identidad y autenticación no humana para agentes
- Diseño de identidades para agentes: cuentas de servicio, JWTs y credenciales de vida corta
- Patrones de acceso de menor privilegio y credenciación just-in-time
- Estrategias de ciclo de vida de la identidad, rotación, delegación y revocación
Controles de acceso, secretos y protección de datos
- Modelos de control de acceso granulares y patrones basados en capacidades para agentes
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos
- Protección de fuentes de conocimiento sensibles y PII frente al acceso no autorizado de agentes
Observabilidad, auditoría y respuesta ante incidentes
- Diseño de telemetría para el comportamiento de los agentes: trazado de intenciones, registros de comandos y procedencia
- Integración con SIEM, umbrales de alertas y preparación forense
- Manuales de procedimientos (runbooks) y guiones (playbooks) para incidentes relacionados con agentes y su contención
Red-Teaming de sistemas agénticos
- Planificación de ejercicios de red-teaming: alcance, reglas de intervención y fallo seguro
- Técnicas adversarias: inyección de prompts, uso indebido de herramientas, manipulación de la cadena de razonamiento y abuso de APIs
- Ejecución de ataques controlados y medición de la exposición e impacto
Endurecimiento y mitigaciones
- Controles de ingeniería: limitación de respuestas, control de capacidades y sandboxes
- Controles de política y orquestación: flujos de aprobación, intervención humana (human-in-the-loop) y hooks de gobernanza
- Defensas a nivel de modelo y prompt: validación de entrada, normalización y filtros de salida
Operativización de despliegues seguros de agentes
- Patrones de despliegue: staging, canary y despliegue progresivo para agentes
- Control de cambios, pipelines de pruebas y verificaciones de seguridad pre-despliegue
- Gobernanza transversal: guiones para seguridad, legal, producto y operaciones
Proyecto final: Ejercicio de Red-Team / Blue-Team
- Ejecutar un ataque simulado de red-team contra un entorno de agentes en sandbox
- Defender, detectar y remediar como equipo blue utilizando controles y telemetría
- Presentar hallazgos, plan de remediación y actualizaciones de políticas
Resumen y próximos pasos
Requerimientos
- Sólida base en ingeniería de seguridad, administración de sistemas u operaciones en la nube
- Conocimiento de conceptos de IA/ML y comportamiento de los grandes modelos de lenguaje (LLM)
- Experiencia en gestión de identidades y accesos (IAM) y diseño de sistemas seguros
Público objetivo
- Ingenieros de seguridad y especialistas en red-teaming
- Ingenieros de operaciones de IA y de plataforma
- Responsables de cumplimiento y gestores de riesgos
- Líderes de ingeniería responsables del despliegue de agentes
Formación Corporativa a Medida
Soluciones de formación diseñadas exclusivamente para empresas.
- Contenido personalizado: Adaptamos el temario y los ejercicios prácticos a los objetivos y necesidades reales del proyecto.
- Calendario flexible: Fechas y horarios adaptados a la agenda de su equipo.
- Modalidad: Online (en directo), In-company (en sus oficinas) o Híbrida.
Precio por grupo privado (formación online) desde 4350 € + IVA*
Contáctenos para obtener un presupuesto exacto y conocer nuestras promociones actuales
Reseñas (1)
el inventario y la identificación de las distintas exposiciones al riesgo en la IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traducción Automática
