Contacta con nosotros

Temario del curso

Introducción al desarrollo de operadores personalizados

  • ¿Por qué construir operadores personalizados? Casos de uso y restricciones
  • Estructura del tiempo de ejecución de CANN y puntos de integración de operadores
  • Descripción general de TBE, TIK y TVM en el ecosistema de IA de Huawei

Uso de TIK para la programación de operadores de bajo nivel

  • Comprensión del modelo de programación de TIK y las API admitidas
  • Gestión de memoria y estrategia de partición (tiling) en TIK
  • Creación, compilación y registro de un operador personalizado con CANN

Pruebas y validación de operadores personalizados

  • Pruebas unitarias e integración de operadores en el grafo
  • Depuración de problemas de rendimiento a nivel de kernel
  • Visualización de la ejecución del operador y el comportamiento de los búferes

Planificación y optimización basada en TVM

  • Descripción general de TVM como un compilador para operadores de tensores
  • Escritura de una planificación (schedule) para un operador personalizado en TVM
  • Ajuste, evaluación comparativa (benchmarking) y generación de código de TVM para Ascend

Integración con frameworks y modelos

  • Registro de operadores personalizados para MindSpore y ONNX
  • Verificación de la integridad del modelo y del comportamiento de retroceso (fallback)
  • Soporte para grafos de múltiples operadores con precisión mixta

Estudios de casos y optimizaciones especializadas

  • Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas
  • Estudio de caso: optimización de operadores de atención conscientes de la memoria
  • Mejores prácticas en el despliegue de operadores personalizados en diferentes dispositivos

Resumen y próximos pasos

Requerimientos

  • Sólidos conocimientos sobre el funcionamiento interno de los modelos de IA y el cómputo a nivel de operador
  • Experiencia con entornos de desarrollo en Python y Linux
  • Familiaridad con compiladores de redes neuronales u optimizadores a nivel de grafo

Público objetivo

  • Ingenieros de compiladores que trabajan en herramientas (toolchains) para IA
  • Desarrolladores de sistemas enfocados en la optimización de bajo nivel para IA
  • Desarrolladores que crean operadores personalizados o dirigen su trabajo hacia nuevas cargas de trabajo de IA
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas