Utilizar inteligencia artificial en un proyecto de software implica tomar una decisión que muchas veces queda relegada a segundo plano: ¿conviene ejecutar el modelo en nuestra propia infraestructura o consumirlo mediante una API?
Herramientas como Ollama permiten ejecutar modelos localmente, mientras que servicios como OpenAI, Anthropic y otros proveedores ofrecen acceso a modelos alojados en sus propias infraestructuras.
No existe una respuesta universal. La elección depende del tipo de tarea, los recursos disponibles y las restricciones del proyecto.
## El avance de los modelos locales
El 24 de octubre, Ollama anunció soporte para modelos de generación de voz, comenzando con Phonon, desarrollado por Gradium.
La incorporación permite transformar texto en audio directamente desde Ollama. Inicialmente está disponible en macOS, con soporte para Windows y Linux anunciado para más adelante.
La familia incluye modelos para inglés, francés, alemán, español y portugués.
Es un ejemplo interesante de cómo los entornos locales empiezan a incorporar capacidades que antes normalmente se consumían mediante servicios externos.
Sin embargo, también hay que prestar atención a las licencias: los modelos Phonon de 40 millones de parámetros para idiomas específicos se publican bajo CC BY-NC 4.0, que restringe su uso comercial. No hay que confundirlos con el modelo principal Phonon, publicado bajo Apache 2.0.
## ¿Qué ventajas ofrece ejecutar modelos localmente?
**Privacidad y control**
Los datos pueden permanecer dentro de la infraestructura propia, siempre que la aplicación y sus integraciones estén configuradas para no transmitirlos a terceros.
**Disponibilidad**
No dependemos necesariamente de la disponibilidad de un proveedor externo o de una conexión a Internet.
**Costos previsibles**
Después de adquirir o disponer del hardware, podemos ejecutar determinadas tareas sin pagar por cada token generado. Sin embargo, electricidad, mantenimiento y amortización también tienen un costo.
**Personalización**
Es posible experimentar con modelos, cuantización, parámetros y diferentes configuraciones.
## ¿Qué ventajas ofrecen las APIs?
Los servicios externos permiten acceder a modelos de gran capacidad sin administrar GPU, memoria, infraestructura de inferencia ni actualizaciones del entorno.
También facilitan escalar según la demanda y utilizar capacidades que pueden resultar demasiado costosas de ejecutar localmente.
El costo depende del proveedor, el modelo, los tokens de entrada y salida y las condiciones comerciales del servicio.
## Una comparación práctica
- **Infraestructura:** Modelo local: Propia. API externa: Proveedor.
- **Privacidad:** Modelo local: Mayor control potencial. API externa: Depende del proveedor y contrato.
- **Escalabilidad:** Modelo local: Limitada por hardware. API externa: Según capacidad contratada.
- **Costo marginal:** Modelo local: Infraestructura y energía. API externa: Consumo por uso.
- **Mantenimiento:** Modelo local: Propio. API externa: Principalmente del proveedor.
- **Conectividad:** Modelo local: Puede funcionar sin Internet. API externa: Requiere conexión.
- **Modelos disponibles:** Modelo local: Según compatibilidad. API externa: Según catálogo.
## No todos los trabajos necesitan el mismo modelo
En una aplicación real utilizaría distintos modelos según la tarea:
- Clasificación sencilla: modelo pequeño y rápido.
- Generación de documentación: modelo local si la calidad es suficiente.
- Análisis de arquitectura: modelo avanzado mediante API.
- Procesamiento de información sensible: infraestructura controlada.
- Generación de voz: modelo especializado de texto a voz.
También mediría latencia, calidad y consumo antes de elegir.
## La mejor arquitectura puede combinar ambos mundos
Una aplicación no tiene por qué depender exclusivamente de un proveedor ni ejecutar todo localmente.
Podemos construir una capa de abstracción que permita seleccionar el proveedor según la tarea, controlar los costos y cambiar de modelo sin modificar toda la aplicación.
La inteligencia artificial está evolucionando rápidamente, pero la decisión de infraestructura sigue siendo una decisión de ingeniería.
No se trata de elegir entre local y nube por preferencia personal. Se trata de elegir dónde ejecutar cada tarea de la manera más eficiente, segura y sostenible.
**Referencias:** Ollama, Speech Models, 24 de octubre de 2026.