Sección · 7 artículos · 111 min en total

Equipos para IA

Cuánta VRAM necesita un modelo, cuántos tokens por segundo esperar, qué compra tiene sentido y por qué el ancho de banda manda.

  1. 01Inferencia de LLM en local: VRAM, KV cache, tokens/s y cuantizaciónCuánta memoria pide un modelo (pesos + KV cache), por qué los tokens por segundo salen del ancho de banda y no de los TFLOPS, y qué cambia con la cuantización, los MoE y el offload.18 min · Inferencia
  2. 02Entrenamiento y fine-tuning: por qué 8B de parámetros piden 128 GB (y cómo bajarlos a 6)Cuánta memoria pide entrenar un LLM y de dónde sale cada byte, qué recortan LoRA y QLoRA, cuánto tarda con la regla 6·N·D, y cuándo el multi-GPU o el cloud compensan.15 min · Entrenamiento
  3. 03Modelos de imagen y vídeo: difusión, VRAM y FP8Por qué FLUX, SDXL o Wan son cargas limitadas por cálculo y no por memoria, cuánta VRAM piden de verdad según precisión y resolución, y qué cambia FP8 y FP4 en una GPU de consumo.16 min · Generativa
  4. 04NPUs, portátiles Copilot+ y edge: para qué sirven de verdadQué hace una NPU que no haga la GPU, por qué el techo de un portátil Copilot+ son sus 135 GB/s y no sus TOPS, qué modelos corren en ella de verdad y cómo se compara con Jetson, Hailo y Coral.15 min · Edge
  5. 05Memoria unificada: Apple Silicon, Strix Halo y DGX SparkQué compras con 128 o 512 GB compartidos entre CPU y GPU: modelos enormes a velocidad moderada. Las cuentas de tokens por segundo, las trampas de la ficha y cuándo sigue ganando una GPU discreta.15 min · Memoria unificada
  6. 06Aceleradores de datacenter: H100, H200, B200, B300, MI300X, MI355X, TPU y TrainiumQué diferencia a un acelerador de datacenter de una GPU de sobremesa: HBM, NVLink, 1 000 W y racks de 72 GPU. Las cifras dense reales, las trampas de ficha y por qué se alquilan por horas.17 min · Datacenter
  7. 07Cómo elegir GPU para IA en 2026: consumer, prosumer, usado y cloudUn árbol de decisión con números: cuánta VRAM necesitas, qué cuesta cada gigabyte y cada TB/s, cuándo compensan dos tarjetas usadas y a partir de cuántas horas el cloud sale más caro.15 min · Compra

Escribe para buscar en artículos, herramientas y glosario. Esc para cerrar.