Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Despliegue de EXO sin conexión
- Uso de EXO_OFFLINE para impedir el acceso a internet en tiempo de ejecución.
- Carga previa de modelos en EXO_MODELS_READ_ONLY_DIRS desde espejos internos confiables.
- Verificación de la integridad de los pesos del modelo mediante sumas de comprobación SHA-256 y tarjetas de modelo firmadas.
- Ejecución de EXO en redes aisladas (air-gapped) sin dependencias de HuggingFace.
Control de acceso al panel de control y a la API
- Instalación y configuración de proxies inversos (nginx, Caddy) con terminación TLS.
- Implementación de controles de acceso basados en roles para el panel de control de EXO y la REST API.
- Uso del llavero de macOS o pass en Linux para almacenar secretos para la autenticación de la API.
- Restricción de los extremos administrativos a rangos específicos de direcciones IP de origen.
Aislamiento de clústeres y seguridad de red
- Segmentación de clústeres EXO mediante EXO_LIBP2P_NAMESPACE y VLANs.
- Configuración de firewalls host (firewall de aplicaciones en macOS, iptables, nftables) para los puertos de EXO.
- Prevención del descubrimiento no autorizado de dispositivos e inyección de nodos maliciosos.
- Cifrado del tráfico libp2p entre nodos cuando RDMA no esté disponible.
Gobernanza y procedencia de modelos
- Construcción de un registro interno de modelos con listas de modelos aprobados y metadatos.
- Etiquetado y versionado de pesos cuantizados (4-bit, 8-bit) junto con las capturas iniciales de origen.
- Aplicación de la restricción para que solo repositorios específicos de HuggingFace o artefactos internos puedan ser cargados.
- Documentación del linaje del modelo, términos de licencia y políticas de uso aceptable.
Registro de auditoría y cumplimiento
- Configuración del reenvío de registros de EXO hacia trazas de auditoría inmutables (SIEM, almacenamiento WORM).
- Correlación de los registros de llamadas a la API con la identidad del usuario y la marca temporal.
- Registro de eventos de creación, eliminación de instancias de modelos y solicitudes de inferencia.
- Generación de informes periódicos de cumplimiento para auditores internos y externos.
Modelado de amenazas y respuesta a incidentes
- Identificación de amenazas: exfiltración de datos a través de las salidas del modelo, inyección de prompts y fugas por canales laterales.
- Implementación de pipelines de monitoreo de prompts y filtrado de contenido.
- Creación de manuales de respuesta a incidentes para escenarios de compromiso del clúster.
- Aislamiento de los nodos afectados, preservación de registros forenses y reconstrucción de entornos limpios.
Seguridad física y límites de hardware
- Protección de los puertos Thunderbolt contra conexiones de cables RDMA no autorizadas.
- Uso de enclaves seguros y atestación de hardware con Apple Silicon, según corresponda.
- Control del acceso físico a Macs en clúster y almacenamiento compartido.
- Documentación del ciclo de vida del hardware y los procedimientos de baja.
Consideraciones regulatorias
- Mapeo de los despliegues de EXO a los requisitos GDPR, HIPAA y SOC 2.
- Mantenimiento de la residencia de datos mediante la ejecución de la inferencia en instalaciones locales.
- Documentación de riesgos en la cadena de suministro de proveedores (MLX, EXO, pesos de modelos).
- Preparación para marcos de gobernanza de IA como el Artículo 53 del Reglamento de IA de la UE.
Requerimientos
- Experiencia con EXO u otro entorno de ejecución local para modelos de lenguaje grandes (LLM).
- Comprensión de los permisos del sistema de archivos Unix y las ACLs de red.
- Familiaridad con la gestión de certificados TLS/SSL y los fundamentos del cifrado.
Público objetivo
- Ingenieros de seguridad.
- Oficiales de cumplimiento.
- Administradores de infraestructura de IA que gestionen datos sensibles.
14 Horas
Formación Corporativa a Medida
Soluciones de formación diseñadas exclusivamente para empresas.
- Contenido personalizado: Adaptamos el temario y los ejercicios prácticos a los objetivos y necesidades reales del proyecto.
- Calendario flexible: Fechas y horarios adaptados a la agenda de su equipo.
- Modalidad: Online (en directo), In-company (en sus oficinas) o Híbrida.
Precio por grupo privado (formación online) desde 2900 € + IVA*
Contáctenos para obtener un presupuesto exacto y conocer nuestras promociones actuales
Reseñas (1)
El instructor tenía un excelente conocimiento de FortiGate y entregó el contenido muy bien. Muchas gracias a Soroush.
Colin Donohue - Technological University of the Shannon: Midlands Midwest
Curso - FortiGate 7.4 Administration
Traducción Automática
