Introducción a la Gestión de Confianza, Riesgos y Seguridad en IA (AI TRiSM)

AAISM es un marco avanzado para evaluar, gestionar y regular los riesgos de seguridad en sistemas basados en inteligencia artificial.

Este curso presencial o virtual, impartido por instructores expertos, está dirigido a profesionales con nivel avanzado que deseen implementar controles de seguridad eficaces y prácticas de gobernanza para entornos empresariales de IA.

Al finalizar este programa, los participantes estarán preparados para:

• Evaluar los riesgos de seguridad en la IA utilizando metodologías reconocidas a nivel internacional.
• Implementar modelos de gobernanza que fomenten el uso responsable de la inteligencia artificial.
• Alinear las políticas de seguridad en IA con los objetivos organizativos y requisitos normativos.
• Fortalecer la resiliencia y rendición de cuentas en operaciones impulsadas por la IA.

Formato del curso

• Clases expositivas guiadas con análisis especializados.
• Talleres prácticos y actividades de evaluación.
• Ejercicios aplicados basados en situaciones reales de gobernanza de la IA.

Opciones de personalización del curso

• Para adaptar el entrenamiento a la estrategia de IA de su organización, por favor contáctenos para personalizar el contenido del curso.

Este curso práctico dirigido por un instructor en España (en línea o presencial) está orientado a líderes empresariales de nivel intermedio que deseen comprender cómo gestionar y proteger los sistemas de IA de manera responsable, cumpliendo con las normativas mundiales vigentes como el Reglamento de la UE sobre la IA, el GDPR, la norma ISO/IEC 42001 y el Decreto Ejecutivo estadounidense sobre la IA.

Al finalizar este curso, los participantes serán capaces de:

• Comprender los riesgos legales, éticos y regulatorios asociados al uso de IA en distintos departamentos.
• Interpretar y aplicar los principales marcos de gobernanza de la IA (Reglamento de la UE sobre la IA, NIST AI RMF e ISO/IEC 42001).
• Establecer políticas de seguridad, auditoría y supervisión para el despliegue de sistemas de IA en las organizaciones.
• Formular directrices de adquisición y uso aplicables tanto a soluciones de terceros como a desarrolladas internamente.

La Inteligencia Artificial (IA) introduce nuevas dimensiones de riesgo operativo, desafíos de gobernanza y exposición a ciberseguridad para las agencias y departamentos gubernamentales.

Este entrenamiento dirigido por un instructor (en línea o en el lugar) está orientado a profesionales del sector público en TI y gestión de riesgos con experiencia limitada previa en IA que desean comprender cómo evaluar, monitorear y asegurar sistemas de IA dentro de un contexto gubernamental o regulatorio.

Al final de este entrenamiento, los participantes serán capaces de:

• Interpretar conceptos clave de riesgo relacionados con los sistemas de IA, incluyendo sesgo, imprevisibilidad y desviación del modelo.
• Aplicar marcos específicos de gobernanza y auditoría de IA como el NIST AI RMF y ISO/IEC 42001.
• Reconocer amenazas de ciberseguridad que se dirigen a modelos y pipelines de datos de IA.
• Establecer planes de gestión de riesgos interdepartamentales y alineación de políticas para la implementación de IA.

Formato del Curso

• Conferencia interactiva y discusión de casos de uso en el sector público.
• Ejercicios de marcos de gobernanza de IA y mapeo de políticas.
• Modelado basado en escenarios y evaluación de riesgos.

Opciones de Personalización del Curso

• Para solicitar un entrenamiento personalizado para este curso, por favor contáctenos para organizarlo.

Este curso ofrece una introducción práctica a la protección de aplicaciones modernas impulsadas por inteligencia artificial, APIs, copilotos y agentes autónomos. Los participantes aprenden cómo la seguridad de la IA difiere de la seguridad web tradicional, exploran amenazas comunes específicas de la IA como la inyección de instrucciones, el envenenamiento de RAG y el abuso de agentes, y comprenden cómo proteger los sistemas de IA utilizando defensas en capas que incluyen WAFs, puertas de enlace de IA, seguridad de APIs y barreras de seguridad (guardrails). A través de laboratorios prácticos y ejemplos del mundo real, los estudiantes adquieren las habilidades para identificar patrones de ataque de la IA, asegurar aplicaciones basadas en LLM e implementar defensas efectivas en tiempo de ejecución para entornos de producción.

Este curso presencial o online dirigido por un instructor España está destinado a desarrolladores, arquitectos y gestores de producto de nivel intermedio a avanzado que deseen identificar y reducir los riesgos inherentes al uso de aplicaciones basadas en LLM. Entre estos riesgos se incluyen la inyección de prompts, la fuga de datos y las respuestas no controladas; además se abordan controles como validación de entradas, supervisión humana y restricciones en el contenido generado.

Al concluir este curso, los participantes podrán:

• Entender las principales vulnerabilidades de sistemas basados en LLM.
• Aplicar buenas prácticas de diseño seguro en la construcción de aplicaciones con LLM.
• Incorporar herramientas como Guardrails AI y LangChain para mejorar la seguridad del contenido generado.
• Implementar estrategias como sandboxing, pruebas de red teaming y revisión humana en flujos de trabajo reales.

Este curso enseña a los desarrolladores de software cómo construir aplicaciones con IA de manera segura por diseño. Los participantes aprenden a proteger chatbots, copilotos, pipelines de RAG y agentes de IA frente a amenazas específicas de la IA, como la inyección de prompts, el envenenamiento de datos, el abuso de herramientas, la filtración de secretos y la salida insegura del modelo. El curso cubre el diseño seguro de prompts, la seguridad de RAG, el acceso de mínimo privilegio, los guardrails y las pruebas red-team, ayudando a los desarrolladores a crear funciones de IA que sean seguras, confiables y resilientes en entornos reales.

Esta capacitación en vivo impartida por instructores en España (online o presencial) está dirigida a profesionales intermedios en IA y ciberseguridad que buscan comprender y abordar las vulnerabilidades específicas de los modelos y sistemas de inteligencia artificial, especialmente en sectores altamente regulados como las finanzas, la gobernanza de datos y el sector consultor.

Al concluir este curso, los participantes podrán:

• Conocer los distintos tipos de ataques adversariales dirigidos a sistemas de IA y las formas de protegerse contra ellos.
• Aplicar técnicas de refuerzo de modelos para garantizar la seguridad en los procesos de machine learning.
• Garantizar la seguridad e integridad de los datos utilizados en los modelos de aprendizaje automático.
• Cumplir con las normativas y requisitos regulatorios relacionados con la seguridad de la inteligencia artificial.

Esta formación presencial, impartida por un instructor en España (en línea o en las instalaciones), está dirigida a ingenieros de seguridad y oficiales de cumplimiento que deseen reforzar los despliegues de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecuten completamente en instalaciones locales.

Esta capacitación presencial o online, dirigida por un instructor, está orientada a profesionales principiantes en seguridad informática, gestión de riesgos y cumplimiento que desean comprender los conceptos básicos sobre la seguridad en IA, los vectores de ataque y marcos normativos internacionales como el NIST AI RMF e ISO/IEC 42001.

Al finalizar esta formación, los participantes podrán:

• Comprender los riesgos de seguridad propios de los sistemas de inteligencia artificial.
• Identificar vectores de amenaza como ataques adversariales, envenenamiento de datos e inversión de modelos.
• Aplicar modelos básicos de gobernanza como el Marco de Gestión de Riesgos en IA del NIST.
• Adaptar el uso de la IA a las normativas emergentes, guías de cumplimiento y principios éticos.

Este curso presencial o online, dirigido por un instructor, España está dirigido a ingenieros de seguridad e ingenieros de Machine Learning que deben identificar, probar y protegerse contra ataques dirigidos a modelos de IA y aplicaciones impulsadas por LLM.

Siguiendo las directrices más recientes del Proyecto OWASP sobre Seguridad en GenAI, los participantes aprenderán a detectar, analizar y neutralizar peligros inherentes a la inteligencia artificial por medio de ejercicios prácticos y casos reales.

Este curso presencial o online, impartido por un instructor, está dirigido a profesionales con conocimientos avanzados que deseen implementar y evaluar técnicas como el aprendizaje federado, el cálculo multipartito seguro, el cifrado homomórfico y la privacidad diferencial en flujos de trabajo reales de aprendizaje automático.

Al finalizar este curso, los participantes podrán:

• Comprender y comparar las principales técnicas de preservación de la privacidad en el ámbito del aprendizaje automático.
• Implementar sistemas de aprendizaje federado mediante frameworks de código abierto.
• Aplicar la privacidad diferencial para compartir datos y entrenar modelos de manera segura.
• Utilizar métodos de cifrado y cálculo seguro a fin de proteger tanto los datos de entrada como los resultados generados por los modelos.

Este curso presencial o en línea, impartido por un instructor, está dirigido a profesionales de la seguridad y especialistas en IA con experiencia avanzada. Su propósito es capacitarlos para simular ataques contra sistemas de inteligencia artificial, detectar posibles fallos y reforzar la solidez de los modelos ya implementados.

Al finalizar el entrenamiento, los asistentes lograrán:

• Simular amenazas reales dirigidas a modelos de aprendizaje automático.
• Generar ejemplos adversariales destinados a verificar la estabilidad de dichos modelos.
• Evaluar exhaustivamente el superficie de ataque derivada de las APIs y los procesos tecnológicos vinculados a IA.
• Formular estrategias específicas para ejecutar actividades Red Teaming en ambientes reales de despliegue de inteligencia artificial.

Esta formación dirigida por un instructor (en línea o presencial) está destinada a ingenieros y profesionales de la seguridad de nivel intermedio que desean proteger los modelos de IA implementados en el borde contra amenazas como manipulaciones, filtraciones de datos, entradas adversarias y ataques físicos.

Al final de esta formación, los participantes serán capaces de:

• Identificar y evaluar los riesgos de seguridad en las implementaciones de IA en el borde.
• Aplicar técnicas de resistencia a la manipulación e inferencia cifrada.
• Fortalecer los modelos implementados en el borde y asegurar las pipelines de datos.
• Implementar estrategias de mitigación de amenazas específicas para sistemas embebidos y con recursos limitados.

Este curso práctico, impartido por un instructor en España (en línea o presencial), está dirigido a profesionales con conocimientos intermedios en aprendizaje automático y ciberseguridad que desean comprender y mitigar las amenazas emergentes contra los modelos de IA mediante marcos conceptuales y técnicas defensivas como el entrenamiento robusto y la privacidad diferencial.

Al finalizar este curso, los participantes podrán:

• Identificar y clasificar las amenazas propias de la IA, tales como ataques adversariales, inversión de modelos y envenenamiento de datos.
• Utilizar herramientas como el Adversarial Robustness Toolbox (ART) para simular ataques y evaluar la solidez de los modelos.
• Aplicar defensas prácticas, entre ellas el entrenamiento adversarial, la inyección de ruido y técnicas orientadas a preservar la privacidad.
• Diseñar estrategias de evaluación de modelos sensibles a amenazas en entornos productivos.