Cómo hice Fine-Tuning de Embeddings (BGE-M3) para mi Infraestructura de Agentes: +20.8% de Precisión y Lecciones de Hardware

Guía técnica completa: dataset con hard negatives (BM25), entrenamiento LoRA con SentenceTransformers, fusión de pesos …

Impacto del Offloading en la Inferencia Local: Análisis de Flash Attention y KV Cache

Evaluamos las técnicas de optimización de memoria de Ollama en una RTX 5080. Analizamos cómo el bus PCIe condiciona la …

Ollama vs. llama.cpp: La Batalla por la VRAM en una RTX 5080

Pusimos a prueba los dos motores de inferencia más populares en CachyOS. ¿Merece la pena el esfuerzo de llama.cpp por …