TL;DR: Tienes una RTX 50xx, quieres IA local, y no sabes qué modelo instalar. Aquí está la respuesta directa: tu GPU → tu modelo → tu comando.

Un comando para empezar

# Instalar Ollama (Arch / CachyOS)
sudo pacman -S ollama-cuda
sudo systemctl enable --now ollama

# Tu primer modelo
ollama pull gemma4:e4b
ollama run gemma4:e4b "Hola, ¿me lees?"

Si responde, ya tienes IA local. Sin Docker, sin Python, sin configuración.

La tabla

RTX 5060 — 8 GB VRAM

ollama pull gemma4:e4b

Solo te cabe uno. Pero a 140 tok/s es más rápido de lo que puedes leer. Es 4.5B parámetros y compite con modelos de 14B en benchmarks. No lo subestimes.

RTX 5070 / 5070 Ti — 12 GB VRAM

ollama pull gemma4:e4b
ollama pull qwen3:14b

Los dos pueden convivir. Ollama solo carga uno en VRAM a la vez. El qwen3:14b es tu modelo de “trabajo serio” — tiene thinking mode y tool calling.

RTX 5080 — 16 GB VRAM

ollama pull gemma4:e4b
ollama pull qwen3:14b
ollama pull hf.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:UD-Q4_K_XL

⚠️ El coder-30b necesita offload parcial (14.5 GB GPU + 3.8 GB RAM). Va a 7 tok/s — lento pero usable para coding serio.

Mi configuración diaria: e4b para todo, coder-30b cuando necesito refactorizar código.

RTX 5090 — 32 GB VRAM

ollama pull gemma4:e4b
ollama pull qwen3:14b
ollama pull qwen3.6:35b

*Benchmarks de Reddit en RTX 5090: 79 tok/s contexto fresco, 30 tok/s a 128K.

Con 32GB puedes correr modelos grandes enteramente en VRAM. Sin offload. Sin penalización.

Disco necesario

Los modelos comparten blobs internos, así que el disco real es menor a la suma de archivos.

Regla de oro

Un modelo grande a la vez. e4b + qwen3:14b pueden convivir en VRAM. Pero si cargas el coder-30b, no queda espacio para nada más. Ollama descarga modelos de VRAM automáticamente cuando cambias, pero no sirves dos modelos grandes en paralelo.

Hardware de referencia

Todos los datos medidos en:

Siguiente: El precipicio VRAM — por qué 140 tok/s se convierte en 7 →