Temario del curso
Preparación de modelos de aprendizaje automático para el despliegue
- Embalaje de modelos con Docker.
- Exportación de modelos desde TensorFlow y PyTorch.
- Consideraciones sobre versionado y almacenamiento.
Servicio de modelos en Kubernetes
- Descripción general de los servidores de inferencia.
- Despliegue de TensorFlow Serving y TorchServe.
- Configuración de puntos de enlace de modelos.
Técnicas de optimización de la inferencia
- Estrategias de agrupación en lotes.
- Gestión de solicitudes concurrentes.
- Ajuste de latencia y rendimiento.
Escalado automático de cargas de trabajo de ML
- Horizontal Pod Autoscaler (HPA).
- Vertical Pod Autoscaler (VPA).
- Autoscaling basado en eventos de Kubernetes (KEDA).
Provisionamiento de GPU y gestión de recursos
- Configuración de nodos GPU.
- Descripción general del complemento de dispositivo NVIDIA.
- Solicitudes y límites de recursos para cargas de trabajo de ML.
Estrategias de lanzamiento y liberación de modelos
- Despliegues azul/verde.
- Patrones de lanzamiento canario.
- Pruebas A/B para la evaluación de modelos.
Monitoreo y observabilidad de ML en producción
- Métricas para cargas de trabajo de inferencia.
- Prácticas de registro y rastreo.
- Paneles de control y alertas.
Consideraciones de seguridad y confiabilidad
- Aseguramiento de los puntos de enlace de modelos.
- Políticas de red y control de acceso.
- Garantía de alta disponibilidad.
Resumen y próximos pasos
Requerimientos
- Conocimiento de los flujos de trabajo de aplicaciones en contenedores.
- Experiencia con modelos de aprendizaje automático basados en Python.
- Familiaridad con los fundamentos de Kubernetes.
Público objetivo
- Ingenieros de ML.
- Ingenieros de DevOps.
- Equipos de ingeniería de plataformas.
Testimonios (3)
About the microservices and how to maintenance kubernetes
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Curso - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
El conocimiento y los intercambios con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Traducción Automática
