Ollama

Ollama es una aplicación de software libre diseñada para desarrolladores y usuarios técnicos que desean ejecutar modelos de lenguaje extensos (LLMs) de forma local o en la nube. Su objetivo principal es facilitar el uso de modelos de IA abiertos garantizando que los datos no salgan del equipo, lo que resuelve las preocupaciones sobre la privacidad y la seguridad de la información.

Permite gestionar y ejecutar modelos de inteligencia artificial con estas funciones principales:

• Ejecución local de modelos de lenguaje en macOS, Windows y Linux
• Gestión de modelos para descargar y administrar copias locales
• Integración con código mediante bibliotecas para Python o JavaScript
• Generación de imágenes experimental disponible actualmente en macOS

El programa se distribuye bajo licencia MIT, lo que lo convierte en una opción gratuita y de código abierto. Al basarse en el motor llama.cpp y utilizar el formato GGUF, ofrece un rendimiento eficiente para la inferencia local. La garantía de cero retención de datos, donde los prompts nunca se almacenan ni se usan para entrenar, es su punto fuerte. Sin embargo, la limitación de la generación de imágenes a macOS y la necesidad de hardware adecuado para modelos grandes pueden llevar a algunos usuarios a buscar alternativas más ligeras o con soporte multiplataforma completo para todas sus funciones.