Temario del curso
Fundamentos del Despliegue de IA Híbrida
- Comprensión de los modelos de despliegue híbrido, en la nube y edge
- Características de las cargas de trabajo de IA y restricciones de infraestructura
- Selección de la topología de despliegue adecuada
Contenerización de Cargas de Trabajo de IA con Docker
- Construcción de contenedores de inferencia para GPU y CPU
- Gestión de imágenes seguras y registros (registries)
- Implementación de entornos reproducibles para IA
Despliegue de Servicios de IA en Entornos de Nube
- Ejecución de inferencia en AWS, Azure y GCP mediante Docker
- Atribución de capacidad de cómputo en la nube para el servicio de modelos
- Seguridad de endpoints de IA en la nube
Técnicas de Despliegue Edge y On-Premise
- Ejecución de IA en dispositivos IoT, gateways y microsistemas (microservers)
- Runtimes ligeros para entornos edge
- Gestión de conectividad intermitente y persistencia local
Red Híbrida y Conectividad Segura
- Túneles seguros entre edge y la nube
- Certificados, secretos y acceso basado en tokens
- Ajuste de rendimiento para inferencia de baja latencia
Orquestación de Despliegues de IA Distribuida
- Uso de K3s, K8s u orquestación ligera para configuraciones híbridas
- Descubrimiento de servicios y programación de cargas de trabajo
- Automatización de estrategias de despliegue en múltiples ubicaciones
Monitoreo y Observabilidad en Todos los Entornos
- Seguimiento del rendimiento de la inferencia entre diferentes ubicaciones
- Registro centralizado (logging) para sistemas de IA híbridos
- Detección de fallos y recuperación automatizada
Escalado y Optimización de Sistemas de IA Híbridos
- Escalado de clústeres edge y nodos en la nube
- Optimización del uso del ancho de banda y caché
- Equilibrio de cargas de cómputo entre la nube y el edge
Resumen y Próximos Pasos
Requerimientos
- Comprensión de los conceptos de contenedores
- Experiencia con operaciones en la línea de comandos de Linux
- Familiaridad con los flujos de trabajo de despliegue de modelos de IA
Audiencia
- Arquitectos de infraestructura
- Ingenieros de Confiabilidad del Sitio (SREs)
- Desarrolladores de edge e IoT
Testimonios (3)
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
el formador tenía mucho conocimiento y paciencia para compartir con nosotros
Bogdan Olaru
Curso - Introduction to Docker
Traducción Automática
El conocimiento y los intercambios con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Traducción Automática