Ir al contenido principal

Charlar con modelos de IA locales

¿Por qué modelos de IA locales?​

Trabajar localmente con modelos de IA ofrece ventajas importantes:

  • Inherente seguridad - Tus datos permanecen en tu propio ordenador y nunca se envían a servidores externos
  • Sin costos adicionales - Los modelos locales no tienen costos por uso de API
  • Privacidad garantizada - Ideal para documentos e información sensibles

¿Por qué Ollama?​

Ollama es una herramienta que te permite ejecutar modelos de IA localmente de forma sencilla. Se instala en cada ordenador por separado, por lo que no hay limitaciones en el número de usuarios: no se necesita un servidor compartido.

Instalar Ollama​

  1. Ve a la página de descargas de Ollama
  2. Descarga la versión para tu sistema operativo (Windows, macOS o Linux)
  3. Instala Ollama siguiendo el instalador
  4. Después de la instalación, Ollama se ejecuta en segundo plano automáticamente

Instalar un modelo de lenguaje​

Después de instalar Ollama, debes descargar al menos un modelo de lenguaje:

  1. Abre la interfaz de Ollama (a través del icono de la bandeja del sistema o de la terminal)
  2. Descarga un modelo de lenguaje a tu elección

Modelo recomendado​

Preferiblemente elige un modelo que tenga capacidades de herramientas y visión:

  • Capacidades de herramientas - El modelo puede usar todas las herramientas disponibles en la aplicación, como buscar en internet y generar imágenes
  • Capacidades de visión - El modelo puede analizar y describir imágenes
Modelo recomendado

qwen3-vl:4b ofrece un buen equilibrio entre velocidad y las posibilidades de herramientas/visión. Instala este modelo mediante la terminal:

ollama pull qwen3-vl:4b

Elegir modelo según el hardware​

El rendimiento de un modelo depende en gran medida del hardware de tu ordenador:

HardwareRecomendación
Limitado (8GB RAM, sin GPU)Elige modelos más pequeños (1-4B parámetros)
Medio (16GB RAM, GPU básica)Modelos hasta 7B parámetros
Potente (32GB+ RAM, GPU moderna)Modelos más grandes posibles (13B+)
Velocidad vs. calidad

Un modelo más pequeño generalmente ofrece mejor velocidad, pero puede dar respuestas menos precisas. Experimenta para encontrar el mejor equilibrio para tu situación.

Configuración en la aplicación de escritorio​

Una vez que Ollama está en ejecución con un modelo instalado, la aplicación de escritorio lo detecta automáticamente. Puedes entonces en el chat seleccionar el modelo local como alternativa a los modelos en la nube.

Modelos disponibles con soporte de herramientas/visión​

Consulta la lista completa en ollama.com/library. Filtra por modelos con:

  • etiqueta Tools para capacidades de herramientas
  • etiqueta Vision para reconocimiento de imágenes

Opciones populares:

  • qwen3-vl:4b - compacto, rápido, herramientas + visión
  • llama3.2-vision - capacidades de visión
  • mistral - tareas generales rápidas