Ollama: Modelos de Lenguaje Grande Autoalojados que Reemplazan las API de OpenAI y Claude
Ollama es una herramienta de código abierto para ejecutar modelos de lenguaje grande localmente en hardware de consumo y empresarial. Abstrae la cuantización de modelos, la asignación de GPU y el servicio de API en una única interfaz de línea de comandos, permitiendo a las organizaciones alojar sus propios LLM como Llama, Mistral y Qwen sin enviar indicaciones ni datos a OpenAI, Anthropic o Google.
Esta capacitación en vivo impartida por un instructor (en línea o presencial) está dirigida a ingenieros de IA y operadores de plataformas intermedios que desean utilizar Ollama para reemplazar las API de LLM en la nube con inferencia de modelos de lenguaje autoalojada y soberana.
Al finalizar esta capacitación, los participantes podrán:
- Instalar Ollama en Linux, macOS y Windows con soporte para GPU.
- Descargar, cuantizar y servir modelos desde el registro de Ollama y HuggingFace.
- Crear archivos Modelfile personalizados con indicaciones del sistema y ajuste de parámetros.
- Integrar LLM locales con aplicaciones mediante la API compatible con OpenAI.
- Optimizar el rendimiento de la inferencia para configuraciones solo con CPU y con múltiples GPU.
Formato del Curso
- Lecciones interactivas y discusión.
- Muchas ejercicios y práctica.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, por favor contáctenos para coordinarlo.
Temario del curso
Soberanía de IA y Despliegue Local de LLM
- Riesgos de los LLM en la nube: retención de datos, entrenamiento con entradas, jurisdicción extranjera.
- Arquitectura de Ollama: servidor de modelos, registro y API compatible con OpenAI.
- Comparación con vLLM, llama.cpp y Text Generation Inference.
- Licencias de modelos: términos de Llama, Mistral, Qwen y Gemma.
Instalación y Configuración de Hardware
- Instalación de Ollama en Linux con soporte para CUDA y ROCm.
- Fallback solo para CPU y optimización AVX/AVX2.
- Despliegue con Docker y mapeo de volúmenes persistentes.
- Configuración multi-GPU y estrategias de asignación de VRAM.
Gestión de Modelos
- Descarga de modelos desde el registro de Ollama: ollama pull llama3.
- Importación de modelos GGUF desde HuggingFace y TheBloke.
- Intercambios en niveles de cuantización: Q4_K_M, Q5_K_M, Q8_0.
- Cambio de modelos y límites de carga concurrente de modelos.
Archivos Modelfile Personalizados
- Sintaxis del archivo Modelfile: FROM, PARAMETER, SYSTEM, TEMPLATE.
- Ajuste de temperatura, top_p y repeat_penalty.
- Ingeniería de indicaciones del sistema para comportamiento específico por rol.
- Creación y publicación de modelos personalizados en el registro local.
Integración de API
- Endpoint /v1/chat/completions compatible con OpenAI.
- Respuestas en flujo (streaming) y modo JSON.
- Integración con LangChain, LlamaIndex y aplicaciones personalizadas.
- Autenticación y limitación de tasa con proxy inverso.
Optimización del Rendimiento
- Tamaño de la ventana de contexto y gestión de la caché KV.
- Inferencia por lotes y manejo de solicitudes paralelas.
- Asignación de hilos de CPU y conciencia de NUMA.
- Monitoreo de la utilización de GPU y presión de memoria.
Seguridad y Cumplimiento
- Aislamiento de red para puntos finales de servicio de modelos.
- Línea de filtrado de entrada y moderación de salida.
- Registro de auditoría de indicaciones y completados.
- Procedencia del modelo y verificación de hash.
Requerimientos
- Administración intermedia de Linux y contenedores.
- Comprensión general de modelos de aprendizaje automático y transformadores.
- Familiaridad con API REST y JSON.
Audiencia
- Ingenieros y desarrolladores de IA que reemplazan las API de LLM en la nube.
- Organizaciones con sensibilidad de datos que impide el uso de modelos en la nube.
- Equipos gubernamentales y de defensa que requieren modelos de lenguaje aislados de la red (air-gapped).
Los cursos públicos requieren más de 5 participantes.
Ollama: Modelos de Lenguaje Grande Autoalojados que Reemplazan las API de OpenAI y Claude - Reserva
Ollama: Modelos de Lenguaje Grande Autoalojados que Reemplazan las API de OpenAI y Claude - Consulta
Ollama: Modelos de Lenguaje Grande Autoalojados que Reemplazan las API de OpenAI y Claude - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
Depuración y Evaluación Avanzada de Modelos Ollama
35 HorasLa Depuración y Evaluación Avanzada de Modelos Ollama es un curso intensivo centrado en diagnosticar, probar y medir el comportamiento de modelos al ejecutar implementaciones locales o privadas de Ollama.
Esta capacitación impartida por instructores (en línea o presencial) está dirigida a ingenieros de IA de nivel avanzado, profesionales de ML Ops y especialistas en QA que deseen garantizar la fiabilidad, fidelidad y preparación operativa de los modelos basados en Ollama en entornos de producción.
Al finalizar esta capacitación, los participantes serán capaces de:
- Ejecutar una depuración sistemática de modelos alojados en Ollama y reproducir casos de fallo de manera confiable.
- Diseñar y ejecutar tuberías de evaluación robustas con métricas cuantitativas y cualitativas.
- Implementar mecanismos de observabilidad (registros, trazas y métricas) para monitorear la salud del modelo y la deriva de datos.
- Automatizar pruebas, validaciones y controles de regresión integrados en tuberías CI/CD.
Formato del Curso
- Conferencias interactivas y discusiones.
- Laboratorios prácticos y ejercicios de depuración utilizando implementaciones de Ollama.
- Estudios de caso, sesiones grupales de solución de problemas y talleres de automatización.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinar los detalles.
Construcción de flujos de trabajo privados con Ollama
14 HorasEsta formación en vivo dirigida por un instructor en Uruguay (en línea o presencial) está orientada a profesionales de nivel avanzado que desean implementar flujos de trabajo impulsados por IA seguros y eficientes utilizando Ollama.
Al finalizar esta capacitación, los participantes podrán:
- Desplegar y configurar Ollama para el procesamiento privado de IA.
- Integrar modelos de IA en flujos de trabajo empresariales seguros.
- Optimizar el rendimiento de la IA manteniendo la privacidad de los datos.
- Automatizar procesos comerciales con capacidades de IA on-premise.
- Asegurar el cumplimiento de las políticas de seguridad y gobernanza empresarial.
Implementación y optimización de modelos de lenguaje grande (LLM) con Ollama
14 HorasEsta formación en vivo dirigida por un instructor en Uruguay (en línea o presencial) está dirigida a profesionales de nivel intermedio que desean implementar, optimizar e integrar modelos de lenguaje grande (LLM) mediante Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar y desplegar modelos de lenguaje grande (LLM) utilizando Ollama.
- Optimizar modelos de IA para mejorar su rendimiento y eficiencia.
- Aprovechar la aceleración mediante GPU para lograr velocidades de inferencia más rápidas.
- Integrar Ollama en flujos de trabajo y aplicaciones existentes.
- Supervisar y mantener el rendimiento de los modelos de IA a lo largo del tiempo.
EXO: Despliegue de un clúster local de IA extremo a extremo
21 HorasEsta formación en vivo impartida por instructores en Uruguay (en línea o presencial) está dirigida a administradores de sistemas e ingenieros de DevOps que deseen desplegar, configurar y gestionar clústeres EXO para la inferencia privada de LLM entre múltiples nodos Apple Silicon o Linux.
EXO para DevOps: Construcción de infraestructura de IA privada
21 HorasEsta formación en vivo, impartida por un instructor en Uruguay (en línea o presencial), está dirigida a ingenieros DevOps y arquitectos de infraestructura que desean automatizar el aprovisionamiento, monitoreo y gestión del ciclo de vida de clústeres de IA privada basados en EXO.
Seguridad y Gobernanza de EXO: Gestión de Modelos sin Conexión
14 HorasEsta formación en vivo impartida por un instructor en Uruguay (en línea o presencial) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que deseen endurecer sus implementaciones de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecuten completamente de forma local.
Afinamiento y personalización de modelos de IA en Ollama
14 HorasEsta capacitación en vivo impartida por un instructor en Uruguay (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean afinar y personalizar modelos de IA en Ollama para mejorar el rendimiento y aplicarlos en dominios específicos.
Al finalizar esta capacitación, los participantes serán capaces de:
- Configurar un entorno eficiente para el afinamiento de modelos de IA en Ollama.
- Preparar conjuntos de datos para el afinamiento supervisado y el aprendizaje por refuerzo.
- Optimizar los modelos de IA para obtener un mejor rendimiento, precisión y eficiencia.
- Implementar modelos personalizados en entornos de producción.
- Evaluar las mejoras de los modelos y garantizar su robustez.
IA local con agentic segura: Desarrollo de Ollama on-prem para industrias reguladas
21 HorasEsta formación práctica impartida por instructores en Uruguay (en línea o presencial) está dirigida a desarrolladores y equipos técnicos que desean utilizar Ollama y modelos abiertos para construir y ejecutar soluciones privadas de IA con agentic en infraestructura interna.
Al finalizar esta formación, los participantes serán capaces de: instalar y configurar Ollama, evaluar y ejecutar modelos abiertos localmente, crear flujos de trabajo simples basados en agentes y recuperación, y aplicar controles de seguridad y gobernanza para entornos regulados.
Aplicaciones Multimodales con Ollama
21 HorasOllama es una plataforma que permite ejecutar y ajustar finamente modelos de lenguaje grande y multimodales de forma local.
Esta capacitación en vivo, guiada por un instructor (en línea o presencial), está dirigida a ingenieros de ML avanzados, investigadores de IA y desarrolladores de productos que deseen crear e implementar aplicaciones multimodales con Ollama.
Al finalizar esta capacitación, los participantes serán capaces de:
- Configurar y ejecutar modelos multimodales con Ollama.
- Integrar entradas de texto, imagen y audio para aplicaciones del mundo real.
- Construir sistemas de comprensión documental y pregunta-respuesta visual.
- Desarrollar agentes multimodales capaces de razonar a través de distintas modalidades.
Formato del Curso
- Conferencia y discusión interactivas.
- Práctica manual con conjuntos de datos multimodales reales.
- Implementación en laboratorio en vivo de pipelines multimodales utilizando Ollama.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarla.
Primeros pasos con Ollama: ejecución de modelos de IA locales
7 HorasEsta formación presencial impartida por un instructor en Uruguay (en línea o in situ) está dirigida a profesionales principiantes que deseen instalar, configurar y utilizar Ollama para ejecutar modelos de IA en sus equipos locales.
Al finalizar esta formación, los participantes podrán:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Desplegar e interactuar con LLM mediante Ollama.
- Optimizar el rendimiento y el uso de recursos para cargas de trabajo de IA.
- Explorar casos de uso del despliegue de IA local en diversos sectores.
Ollama y privacidad de los datos: patrones seguros de implementación
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grande y multimodales de forma local, al tiempo que ofrece estrategias de implementación seguras.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a profesionales de nivel intermedio que deseen implementar Ollama con fuertes medidas de privacidad de datos y cumplimiento normativo.
Al finalizar esta formación, los participantes podrán:
- Implementar Ollama de forma segura en entornos contenerizados e internos (on-premise).
- Aplicar técnicas de privacidad diferencial para salvaguardar datos sensibles.
- Implementar prácticas seguras de registro, monitoreo y auditoría.
- Hacer cumplir el control de acceso a los datos en consonancia con los requisitos de cumplimiento.
Formato del curso
- Clase interactiva y discusión.
- Laboratorios prácticos con patrones seguros de implementación.
- Casos de estudio y ejercicios prácticos centrados en el cumplimiento.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarlo.
Aplicaciones de Ollama en Finanzas
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes de manera local.
Esta capacitación en vivo con instructor (en línea o presencial) está dirigida a profesionales de finanzas de nivel intermedio y al personal de TI que deseen implementar, personalizar y operar soluciones de inteligencia artificial basadas en Ollama en entornos financieros.
Al completar esta capacitación, los participantes adquirirán las habilidades necesarias para:
- Implementar y configurar Ollama para su uso seguro en operaciones financieras.
- Integrar modelos de lenguaje grandes locales en flujos de trabajo de análisis y reportes.
- Adaptar los modelos a la terminología y tareas específicas del sector financiero.
- Aplicar las mejores prácticas en seguridad, privacidad y cumplimiento normativo.
Formato del Curso
- Conferencia interactiva y discusión en grupo.
- Ejercicios prácticos con datos financieros.
- Implementación en laboratorio en vivo de escenarios centrados en finanzas.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinar los detalles.
Aplicaciones de Ollama en el sector salud
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes (LLM) localmente.
Esta formación impartida por un instructor, en vivo (en línea o presencial), está dirigida a profesionales de la salud y equipos de TI con nivel intermedio que deseen implementar, personalizar y poner en operación soluciones de IA basadas en Ollama dentro de entornos clínicos y administrativos.
Al completar esta formación, los participantes podrán:
- Instalar y configurar Ollama para su uso seguro en entornos sanitarios.
- Integrar LLM locales en flujos de trabajo clínicos y procesos administrativos.
- Personalizar modelos para terminología y tareas específicas del sector salud.
- Aplicar las mejores prácticas en materia de privacidad, seguridad y cumplimiento normativo.
Formato del curso
- Clase interactiva con debates.
- Demostraciones prácticas y ejercicios guiados.
- Implementación práctica en un entorno simulado de salud aislado (sandbox).
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, comuníquese con nosotros para coordinarlo.
Ollama para una IA Responsable y Gobernanza
14 HorasOllama es una plataforma para ejecutar modelos de lenguaje grande y multimodales localmente, compatible con prácticas de gobernanza e IA responsable.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a profesionales de nivel intermedio a avanzado que desean implementar equidad, transparencia y responsabilidad en aplicaciones impulsadas por Ollama.
Al finalizar esta capacitación, los participantes podrán:
- Aplicar principios de IA responsable en despliegues de Ollama.
- Implementar estrategias de filtrado de contenido y mitigación de sesgos.
- Diseñar flujos de trabajo de gobernanza para la alineación y auditabilidad de la IA.
- Establecer marcos de monitoreo e informes para el cumplimiento normativo.
Formato del Curso
- Conferencias interactivas y debates.
- Talleres prácticos de diseño de flujos de trabajo de gobernanza.
- Casos de estudio y ejercicios centrados en el cumplimiento normativo.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, póngase en contacto con nosotros para organizarla.
IA soberana para organizaciones reguladas: Control de datos, modelos y entornos de inferencia
7 HorasEste taller en vivo con instructores en Uruguay (en línea o presencial) está dirigido a líderes de TI de nivel intermedio, profesionales del cumplimiento normativo, equipos de seguridad y arquitectos empresariales que desean aplicar principios de soberanía de la IA y prácticas de gobernanza para diseñar entornos que protejan datos sensibles, satisfagan requisitos de localización y reduzcan el bloqueo al proveedor.
Al finalizar este taller, los participantes serán capaces de: explicar conceptos de IA soberana, evaluar opciones de alojamiento y gobernanza, definir controles para entradas y registros, y crear una hoja de ruta práctica de adopción.
