Temario del curso
Fundamentos: Modelado de amenazas en la IA agéntica
- Tipos de amenazas para agentes: usos indebidos, escalación de privilegios, fuga de datos y riesgos en la cadena de suministro
- Perfiles de adversarios y capacidades atacantes específicas para agentes autónomos
- Identificación de activos, límites de confianza y puntos críticos de control en los agentes
Gobernanza, políticas y gestión de riesgos
- Marco de gobernanza para sistemas agénticos: roles, responsabilidades y mecanismos de aprobación
- Diseño de políticas: uso aceptable, normas de escalación, manejo de datos y trazabilidad de auditorías
- Consideraciones en materia de cumplimiento normativo y obtención de pruebas para auditorías
Identidad no humana y autenticación para agentes
- Diseño de identidades para agentes: cuentas de servicio, tokens JWT y credenciales de corta duración
- Patrones de acceso basados en el mínimo privilegio y provisión temporal de credenciales
- Estrategias para la gestión del ciclo de vida, rotación, delegación y revocación de identidades
Controles de acceso, gestión de secretos y protección de datos
- Modelos de control de acceso granulares y patrones basados en capacidades para agentes
- Gestión segura de secretos, cifrado de datos en tránsito y en reposo, así como minimización de información sensible
- Protección de fuentes de conocimiento confidenciales e información personal contra accesos no autorizados por parte de los agentes
Observabilidad, auditoría y respuesta ante incidentes
- Diseño de telemetría para analizar el comportamiento de los agentes: trazado de intenciones, registro de comandos y seguimiento del origen de datos
- Integración con sistemas SIEM, definición de umbrales de alerta y preparación para análisis forense
- Manuales operativos y procedimientos ante incidentes relacionados con agentes IA y medidas de contención
Red-Teaming en sistemas agénticos
- Planificación de ejercicios de red-teaming: alcance, condiciones de participación y mecanismos de seguridad ante fallos
- Técnicas adversariales: inyección de prompts, uso indebido de herramientas, manipulación del razonamiento lógico y abuso de APIs
- Ejecución controlada de ataques y medición del nivel de exposición e impacto potencial
Fortalecimiento y mitigación de riesgos
- Controles técnicos: limitación de respuestas, restricción de capacidades y aislamiento mediante entornos seguros
- Controles basados en políticas y orquestación: flujos de aprobación, supervisión humana y mecanismos de gobernanza
- Defensas a nivel de modelo y prompts: validación de entradas, estandarización de formato y filtrado de respuestas
Despliegue seguro de agentes IA en la práctica
- Patrones de despliegue: entornos de prueba, implementaciones canary y lanzamientos progresivos para agentes
- Control de cambios, tuberías de pruebas automatizadas y verificaciones de seguridad previas al despliegue
- Gobernanza colaborativa entre departamentos: protocolos compartidos por seguridad, legal, producto y operaciones
Proyecto final: Ejercicio de Red-Team / Blue-Team
- Realización de un ataque simulado por parte del equipo red-team contra un entorno aislado con agentes IA
- Defensa, detección y corrección por parte del equipo blue-team mediante controles técnicos y telemetría disponible
- Presentación de hallazgos, planes de remediación propuestos y actualizaciones a las políticas internas
Resumen y pasos siguientes
Requerimientos
- Conocimientos sólidos en ingeniería de seguridad, administración de sistemas o operaciones en la nube
- Familiaridad con conceptos de IA/ML y el comportamiento de los modelos de lenguaje grandes (LLM)
- Experiencia en gestión de identidades y accesos (IAM) así como en el diseño seguro de sistemas
Público objetivo
- Ingenieros de seguridad y especialistas en red-teaming
- Ingenieros de operaciones de IA y plataformas tecnológicas
- Responsables del cumplimiento normativo y gestión de riesgos
- Líderes técnicos encargados del despliegue de agentes IA
Formación Corporativa a Medida
Soluciones de formación diseñadas exclusivamente para empresas.
- Contenido personalizado: Adaptamos el temario y los ejercicios prácticos a los objetivos y necesidades reales del proyecto.
- Calendario flexible: Fechas y horarios adaptados a la agenda de su equipo.
- Modalidad: Online (en directo), In-company (en sus oficinas) o Híbrida.
Precio por grupo privado (formación online) desde 4350 € + IVA*
Contáctenos para obtener un presupuesto exacto y conocer nuestras promociones actuales