Red Teaming en sistemas de inteligencia artificial: seguridad ofensiva para modelos de ML

AAISM es un marco avanzado para evaluar, gobernar y gestionar los riesgos de seguridad en los sistemas de inteligencia artificial.

Esta formación en vivo, impartida por un instructor (online o presencial), está dirigida a profesionales de nivel avanzado que deseen implementar controles de seguridad y prácticas de gobierno eficaces en entornos de IA empresariales.

Al finalizar este programa, los participantes estarán preparados para:

• Evaluar los riesgos de seguridad de la IA utilizando metodologías reconocidas en la industria.
• Implementar modelos de gobierno para el despliegue responsable de la IA.
• Alinear las políticas de seguridad de la IA con los objetivos organizacionales y las expectativas regulatorias.
• Mejorar la resiliencia y la rendición de cuentas dentro de las operaciones impulsadas por IA.

Formato del Curso

• Conferencias facilitadas respaldadas por análisis de expertos.
• Talleres prácticos y actividades basadas en evaluaciones.
• Ejercicios aplicados utilizando escenarios reales de gobierno de IA.

Opciones de Personalización del Curso

• Para una formación personalizada alineada con la estrategia de IA de su organización, contáctenos para personalizar el curso.

Este curso práctico dirigido por un instructor en España (en línea o presencial) está orientado a líderes empresariales de nivel intermedio que deseen comprender cómo gestionar y proteger los sistemas de IA de manera responsable, cumpliendo con las normativas mundiales vigentes como el Reglamento de la UE sobre la IA, el GDPR, la norma ISO/IEC 42001 y el Decreto Ejecutivo estadounidense sobre la IA.

Al finalizar este curso, los participantes serán capaces de:

• Comprender los riesgos legales, éticos y regulatorios asociados al uso de IA en distintos departamentos.
• Interpretar y aplicar los principales marcos de gobernanza de la IA (Reglamento de la UE sobre la IA, NIST AI RMF e ISO/IEC 42001).
• Establecer políticas de seguridad, auditoría y supervisión para el despliegue de sistemas de IA en las organizaciones.
• Formular directrices de adquisición y uso aplicables tanto a soluciones de terceros como a desarrolladas internamente.

La Inteligencia Artificial (IA) introduce nuevas dimensiones en cuanto a riesgos operativos, desafíos de gobernanza y vulnerabilidades de seguridad informática para las agencias y departamentos gubernamentales.

Esta capacitación presencial o virtual, impartida por instructores expertos, está dirigida a profesionales de TI y gestión de riesgos del sector público con escasa experiencia previa en IA, quienes desean comprender cómo evaluar, monitorear y proteger los sistemas basados en IA dentro de un contexto gubernamental y regulatorio.

Al finalizar este curso, los participantes podrán:

• Interpretar los principales conceptos relacionados con los riesgos en sistemas de IA, como el sesgo, la imprevisibilidad y la deriva del modelo.
• Aplicar marcos de gobernanza y auditoría específicos para la IA, tales como el NIST AI RMF y la norma ISO/IEC 42001.
• Identificar las amenazas cibernéticas que afectan a los modelos de IA y a sus flujos de datos.
• Diseñar planes interdepartamentales de gestión de riesgos y alinear políticas para la implementación segura de la IA.

Formato del curso

• Clases interactivas con discusión sobre casos prácticos en el sector público.
• Ejercicios prácticos relacionados con marcos de gobernanza y trazabilidad normativa en IA.
• Modelado de amenazas y evaluación de riesgos mediante escenarios hipotéticos.

Opciones de personalización del curso

• Para solicitar una adaptación específica del contenido, por favor contáctenos para coordinar los detalles.

Este curso ofrece una introducción práctica para proteger aplicaciones modernas impulsadas por inteligencia artificial, así como APIs, copilotos y agentes autónomos. Los participantes comprenderán las diferencias entre seguridad en IA y seguridad web tradicional; identificarán amenazas típicas a la IA como inyecciones de instrucciones o el envenenamiento de bases RAG; y aprenderán a desplegar defensas multicapa que incluyan WAFs, pasarelas para IA, seguridad en APIs y mecanismos de protección. Mediante laboratorios prácticos y ejemplos del mundo real, los alumnos adquirirán destrezas necesarias para detectar ataques a la IA, blindar aplicaciones basadas en modelos de lenguaje y establecer controles efectivos en tiempo de ejecución en entornos productivos.

Esta formación presencial o online, impartida por expertos España, está orientada a profesionales de TI con nivel inicial e intermedio interesados en asimilar y poner en práctica la gestión de confianza, riesgos y seguridad en IA.

Tras finalizar este programa formativo, los alumnos habrán adquirido las capacidades siguientes:

• Captar las bases fundamentales de la confianza, el riesgo y la seguridad en el ámbito de la IA.
• Detectar y controlar amenazas vinculadas a los sistemas inteligentes.
• Aplicar medidas recomendadas para proteger tales entornos digitales.
• Dominar aspectos legales y éticos inherentes al desarrollo de soluciones IA.
• Idear planes operativos para una gestión óptima de los proyectos de inteligencia artificial.

Este curso práctico impartido por un instructor en España (en línea o presencial) está dirigido a desarrolladores de inteligencia artificial, arquitectos y gerentes de producto con nivel intermedio a avanzado que deseen identificar y reducir los riesgos asociados a aplicaciones impulsadas por LLM, tales como la inyección de prompts, la fuga de datos y las respuestas no filtradas. Asimismo, abarca la implementación de controles de seguridad como la validación de entradas, la supervisión humana y mecanismos de control sobre las salidas generadas.

Al finalizar este curso, los participantes serán capaces de:

• Comprender las principales vulnerabilidades de los sistemas basados en LLM.
• Aplicar principios de diseño seguro a la arquitectura de aplicaciones con modelos de lenguaje.
• Utilizar herramientas como Guardrails AI y LangChain para la validación, filtrado y protección del contenido generado.
• Integrar técnicas como el aislamiento mediante entornos seguros, pruebas de penetración y revisiones humanas en flujos de trabajo destinados a producción.

Este curso instruye a los desarrolladores sobre cómo crear aplicaciones impulsadas por inteligencia artificial con un enfoque seguro desde el principio. Los participantes aprenderán a proteger chatbots, copilotos, pipelines RAG y agentes de amenazas típicas de la IA, como inyección de prompts, envenenamiento de datos, abuso de herramientas, filtración de información sensible y manejo indebido de respuestas del modelo. El programa incluye diseño seguro de prompts, protección de pipelines RAG, aplicación del principio de mínimo privilegio, uso de capas de control adicionales (guardrails) y realización de pruebas de red teaming, con el objetivo final de que los desarrolladores produzcan aplicaciones IA fiables y resistentes en entornos reales.

Esta capacitación en vivo impartida por instructores en España (online o presencial) está dirigida a profesionales intermedios en IA y ciberseguridad que buscan comprender y abordar las vulnerabilidades específicas de los modelos y sistemas de inteligencia artificial, especialmente en sectores altamente regulados como las finanzas, la gobernanza de datos y el sector consultor.

Al concluir este curso, los participantes podrán:

• Conocer los distintos tipos de ataques adversariales dirigidos a sistemas de IA y las formas de protegerse contra ellos.
• Aplicar técnicas de refuerzo de modelos para garantizar la seguridad en los procesos de machine learning.
• Garantizar la seguridad e integridad de los datos utilizados en los modelos de aprendizaje automático.
• Cumplir con las normativas y requisitos regulatorios relacionados con la seguridad de la inteligencia artificial.

Esta capacitación presencial o virtual, dirigida por un instructor en España, está orientada a ingenieros de seguridad y responsables del cumplimiento normativo interesados en reforzar la seguridad de las implementaciones de EXO, controlar el acceso a los modelos y gestionar cargas de trabajo de IA que operan exclusivamente dentro de sus instalaciones.

Esta capacitación presencial o online, dirigida por un instructor, está orientada a profesionales principiantes en seguridad informática, gestión de riesgos y cumplimiento que desean comprender los conceptos básicos sobre la seguridad en IA, los vectores de ataque y marcos normativos internacionales como el NIST AI RMF e ISO/IEC 42001.

Al finalizar esta formación, los participantes podrán:

• Comprender los riesgos de seguridad propios de los sistemas de inteligencia artificial.
• Identificar vectores de amenaza como ataques adversariales, envenenamiento de datos e inversión de modelos.
• Aplicar modelos básicos de gobernanza como el Marco de Gestión de Riesgos en IA del NIST.
• Adaptar el uso de la IA a las normativas emergentes, guías de cumplimiento y principios éticos.

Este curso presencial o online, dirigido por un instructor, España está dirigido a ingenieros de seguridad e ingenieros de Machine Learning que deben identificar, probar y protegerse contra ataques dirigidos a modelos de IA y aplicaciones impulsadas por LLM.

Basándose en la última guía del Proyecto de Seguridad GenAI de OWASP, los participantes aprenderán a identificar, evaluar y mitigar amenazas específicas de la IA mediante ejercicios prácticos y escenarios del mundo real.

Este curso presencial o online, impartido por un instructor, está dirigido a profesionales con conocimientos avanzados que deseen implementar y evaluar técnicas como el aprendizaje federado, el cálculo multipartito seguro, el cifrado homomórfico y la privacidad diferencial en flujos de trabajo reales de aprendizaje automático.

Al finalizar este curso, los participantes podrán:

• Comprender y comparar las principales técnicas de preservación de la privacidad en el ámbito del aprendizaje automático.
• Implementar sistemas de aprendizaje federado mediante frameworks de código abierto.
• Aplicar la privacidad diferencial para compartir datos y entrenar modelos de manera segura.
• Utilizar métodos de cifrado y cálculo seguro a fin de proteger tanto los datos de entrada como los resultados generados por los modelos.

Este curso práctico dirigido por un instructor, impartido España (en línea o presencial), está orientado a ingenieros y profesionales de la seguridad con conocimientos intermedios que deseen proteger los modelos de IA desplegados en el extremo frente a amenazas como manipulaciones no autorizadas, filtraciones de datos, entradas adversariales y ataques físicos.

Al finalizar este curso, los participantes podrán:

• Identificar y evaluar los riesgos de seguridad en implementaciones de IA en el extremo.
• Aplicar técnicas de resistencia a la manipulación e inferencia cifrada.
• Fortalecer los modelos desplegados en el extremo y proteger las tuberías de datos asociadas.
• Implementar estrategias de mitigación de amenazas específicas para sistemas integrados con recursos limitados.

Este curso práctico, impartido por un instructor en España (en línea o presencial), está dirigido a profesionales con conocimientos intermedios en aprendizaje automático y ciberseguridad que desean comprender y mitigar las amenazas emergentes contra los modelos de IA mediante marcos conceptuales y técnicas defensivas como el entrenamiento robusto y la privacidad diferencial.

Al finalizar este curso, los participantes podrán:

• Identificar y clasificar las amenazas propias de la IA, tales como ataques adversariales, inversión de modelos y envenenamiento de datos.
• Utilizar herramientas como el Adversarial Robustness Toolbox (ART) para simular ataques y evaluar la solidez de los modelos.
• Aplicar defensas prácticas, entre ellas el entrenamiento adversarial, la inyección de ruido y técnicas orientadas a preservar la privacidad.
• Diseñar estrategias de evaluación de modelos sensibles a amenazas en entornos productivos.