Equipos para IA · Memoria unificada

Memoria unificada: Apple Silicon, Strix Halo y DGX Spark

Qué compras con 128 o 512 GB compartidos entre CPU y GPU: modelos enormes a velocidad moderada. Las cuentas de tokens por segundo, las trampas de la ficha y cuándo sigue ganando una GPU discreta.

Una GPU de consumo tiene 32 GB de memoria muy rápida. Un Mac Studio, un mini-PC con Strix Halo o un DGX Spark tienen 128 GB (o 512 GB) de memoria mucho más lenta que comparten CPU y GPU. De ahí salen las dos consecuencias que importan: caben modelos que no caben en ninguna tarjeta, y se recorren a una fracción de la velocidad. Lo demás (ecosistema, ruido, precio) son matices sobre esa cuenta.

Qué significa «unificada» de verdad

En un PC con GPU discreta hay dos memorias: la RAM del sistema, DDR5 en dos canales a unos 89,6GB/s, y la VRAM de la tarjeta, GDDR7 a 1 792GB/s en una RTX 5090. Entre ambas hay un bus PCIe 5.0 ×16 de 63GB/s por sentido. Lo que no cabe en la VRAM se queda al otro lado del PCIe, treinta veces más lento.

En un chip de memoria unificada solo hay una memoria, soldada junto al SoC, y CPU, GPU y NPU la ven con el mismo espacio de direcciones. No hay copia entre RAM y VRAM porque no hay dos sitios: la GPU lee un modelo de 100GB igual que uno de 5GB.

CPU20 núcleos Arm (Grace)Memoria unificada128 GB LPDDR5X · 256 bitsGPUBlackwell GB10 · 48 SM273 GB/s compartidos273 GB/s compartidos
Ruta de datos en un equipo de memoria unificada (DGX Spark como ejemplo): CPU y GPU cuelgan del mismo controlador de memoria, sin PCIe por medio (fuente: NVIDIA).

El precio de esa comodidad está en la tecnología de memoria. Para poner 128 GB junto a un chip sin disparar el consumo, los tres fabricantes usan LPDDR5X, la misma familia que lleva un portátil fino: barata por gigabyte y sobria en vatios, pero cada canal de 16 bits a 8 000 MT/s mueve solo 16GB/s. Para llegar a cifras respetables hay que poner muchos canales en paralelo, y ahí se separan los diseños.

El ancho de banda lo fija el bus, no la marca

La fórmula es la de cualquier memoria; lo que cambia entre equipos es cuántos canales LPDDR5X se han soldado alrededor del chip.

Ancho de banda de una memoria unificada

GB/s = anchura del bus (bits) × velocidad (MT/s) ÷ 8 ÷ 1 000

M4 Max: 512 × 8 533 ÷ 8 ÷ 1 000 = 546 GB/s

Strix Halo y DGX Spark montan 256 bits (16 canales de 16 bits): 256 × 8 000 ÷ 8 = 256GB/s en AMD, 256 × 8 533 ÷ 8 = 273GB/s en NVIDIA. El M4 Max dobla el bus a 512 bits y llega a 546GB/s. El M3 Ultra une dos dies y suma 1 024 bits, aunque con LPDDR5 a 6 400 MT/s: 1 024 × 6 400 ÷ 8 = 819GB/s. El M5 Ultra mantiene los 1 024 bits y sube a LPDDR5X-9600: Apple publica 1 200GB/s, el cálculo da 1 229.

Los dos equipos «para IA» de AMD y NVIDIA se quedan en un séptimo de una RTX 5090; el mejor Apple, en dos tercios. Es la consecuencia directa de elegir LPDDR5X en vez de GDDR7.

Ancho de banda teórico

  • GPU discreta
  • Memoria unificada
  • RAM de PC
05001k1,5k2kRTX 5090 · 32 GB GDDR71 792 GB/sM5 Ultra · 512 GB1 200 GB/sM3 Ultra · 512 GB819 GB/sM5 Max · 128 GB614 GB/sM4 Max · 128 GB546 GB/sDGX Spark · 128 GB273 GB/sStrix Halo · 128 GB256 GB/sDDR5-5600 dual · CPU89,6 GB/sGB/s
Ancho de banda de memoria: equipos de memoria unificada frente a una GPU discreta de consumo, en GB/s teóricos (fuentes: fichas oficiales de Apple, AMD y NVIDIA).

Y el teórico no se alcanza. Chips and Cheese midió en Strix Halo unos 215GB/s reales de los 256 nominales, con la latencia CPU a DRAM en torno a 140ns en vacío y por encima de 200ns cuando la GPU compite por el bus. Compartir tiene ese coste: cuando los dos clientes tiran a la vez, ninguno ve el bus entero.

Capacidad y ancho de banda son ejes distintos

Puesto en un plano, el mapa se ve de un vistazo: las GPU discretas ocupan la esquina de poco y rápido; la memoria unificada, la de mucho y medio; el datacenter, la de mucho y rápido.

  • GPU discreta
  • Memoria unificada
  • Datacenter
1001k10k101001kMemoria (GB) (log)Ancho de banda (GB/s) (log)RTX 5090RTX PRO 6000M4 MaxM5 MaxM3 UltraM5 UltraDGX SparkStrix HaloH100 SXM
Capacidad frente a ancho de banda en escala logarítmica: la memoria unificada llena el hueco de capacidad que las GPU de consumo dejan vacío (fuentes: fichas oficiales; RTX PRO 6000 a precio de sept-2026).
Memoria, bus y ancho de banda de los equipos comparados. Precios de lanzamiento en dólares; Strix Halo es el Framework Desktop de 128 GB (1 999 $ en 2025, 3 449 $ en ago-2026), el DGX Spark subió a 4 699 $ en feb-2026 y la RTX PRO 6000 a 16 000 $ en sept-2026 (fuente: src/data/gpus.json).
EquipoMemoria (GB)TipoBus (bits)Ancho de banda (GB/s)TDP (W)Precio (USD)
GeForce RTX 509032GDDR7 28 Gbps5121 7925751 999
NVIDIA RTX PRO 6000 Blackwell Workstation Edition96GDDR7 con ECC, 28 Gbps5121 7926008 565
Apple M4 Max (GPU 40 núcleos, 128 GB)128LPDDR5X-8533 unificada (soldada)512546—3 499
Apple M5 Max (GPU 40 núcleos, 128 GB)128LPDDR5X unificada (velocidad no publicada)—614——
Apple M3 Ultra (GPU 80 núcleos, 512 GB)512LPDDR5-6400 unificada (soldada)1 024819—9 499
Apple M5 Ultra (GPU 80 núcleos, 512 GB)512LPDDR5X unificada (velocidad no publicada)—1 200——
AMD Ryzen AI Max+ 395 (Strix Halo, Radeon 8060S, 128 GB)128LPDDR5X-8000 unificada (soldada)256256551 999
NVIDIA DGX Spark (GB10 Grace Blackwell, 128 GB)128LPDDR5X unificada coherente (soldada)2562731403 999

Memoria, bus y ancho de banda de los equipos comparados. Precios de lanzamiento en dólares; Strix Halo es el Framework Desktop de 128 GB (1 999 $ en 2025, 3 449 $ en ago-2026), el DGX Spark subió a 4 699 $ en feb-2026 y la RTX PRO 6000 a 16 000 $ en sept-2026 (fuente: src/data/gpus.json).

De la tabla sale la cuenta que importa al comprar: cuánto cuesta cada gigabyte que la GPU puede tocar. Una RTX PRO 6000 de 96 GB sale hoy a unos 167 $ por gigabyte; un Framework Desktop de 128 GB, a 27 $; un Mac Studio M3 Ultra de 512 GB, a 19 $. Lo que se paga en la tarjeta profesional es el ancho de banda: 1 792GB/s frente a 256.

RTX PRO 6000: 16 000 $ ÷ 96 GB ≈ 167 $/GB · Strix Halo 128 GB: 3 449 $ ÷ 128 GB ≈ 27 $/GB

La cuenta de tokens por segundo

Generar un token con un LLM obliga a leer todos los pesos activos una vez, así que el techo de la fase de decode es el ancho de banda dividido entre los bytes que hay que leer. Es una carga limitada por memoria de manual: los TFLOPS del chip apenas pintan.

Techo de decode

tokens/s ≈ ancho de banda (GB/s) ÷ bytes leídos por token (GB)

M3 Ultra, 70B en Q4 (≈ 40 GB): 819 ÷ 40 ≈ 20 tokens/s

Un Llama 3.3 70B en Q4_K_M pesa unos 40GB. En un DGX Spark, 273 ÷ 40 ≈ 6,8 tokens/s de techo; en un M5 Ultra, 1 200 ÷ 40 = 30. En la práctica llama.cpp y MLX se quedan entre el 55 y el 80 % del teórico, así que restar un tercio es prudente. Una RTX 5090 haría 45 tokens/s, pero el modelo no cabe en sus 32 GB: esa es la casilla vacía que la memoria unificada viene a llenar.

Los modelos MoE cambian la cuenta a favor de estos equipos. GPT-OSS 120B tiene 117 000 millones de parámetros pero solo activa 5 100 millones por token: en MXFP4 ocupa unos 61GB, pero cada token lee alrededor de 2,7GB. La capacidad la paga el equipo entero; el ancho de banda, solo la parte activa.

Bytes por token en un MoE

GB/token ≈ parámetros activos × bytes por parámetro

GPT-OSS 120B: 5,1 × 10⁹ × 0,53 B ≈ 2,7 GB → 273 ÷ 2,7 ≈ 100 tokens/s teóricos en DGX Spark

El resultado medido con llama.cpp en un DGX Spark es de 60,6tokens/s, un 60 % del techo; el mismo modelo en un Strix Halo da 47,5tokens/s (build de nov-2025 tras la actualización del kernel de NVIDIA, que arregló un cuello en el mapeo de memoria: antes daba 45,9). El prefill sí es cómputo: el Spark procesa el prompt a 1 956 tokens/s, mucho más de lo que 273 GB/s explican.

DGX Spark60,6tok/sGPT-OSS 120B MXFP4, llama.cpp, medido
Strix Halo47,5tok/smismo modelo y software, medido
M3 Ultra92,1tok/s7B Q4_0, llama.cpp Metal, medido
M4 Max83,1tok/s7B Q4_0, llama.cpp Metal, medido

Con la fórmula y los anchos de banda de la tabla sale esta estimación para los cuatro tamaños más usados en local. Son techos teóricos; multiplica por 0,6-0,8 o usa el estimador de tokens por segundo con tu modelo exacto.

Modelo (cuantización, bytes por token) RTX 5090 · 1 792 GB/s M5 Ultra · 1 200 M3 Ultra · 819 M4 Max · 546 DGX Spark · 273 Strix Halo · 256
8B Q4 (4,9 GB) 366 245 167 111 56 52
32B Q4 (20 GB) 90 60 41 27 14 13
70B Q4 (40 GB) no cabe 30 20 14 6,8 6,4
120B MoE MXFP4 (61 GB, 2,7 GB activos) no cabe 444 303 202 101 95

Dos lecturas. Por debajo de 32B, la GPU discreta gana por goleada y además cabe. A partir de 70B densos la memoria unificada es la única opción de sobremesa, pero un 70B a 6 tokens/s en Spark o Strix Halo es lectura lenta, no conversación fluida; a partir de 14-20 tokens/s (Apple Max y Ultra) ya se usa con comodidad. Para los MoE grandes, hacia donde va el software abierto en 2026, todos van sobrados de velocidad y lo que manda es que quepan.

Qué pasa con el contexto

La segunda cosa que come memoria es la KV cache, y crece con el contexto. Un Llama 3.3 70B guarda 320 KiB por token en FP16 (80 capas × 8 cabezas KV × 128 × 2 × 2 bytes): a 32 768 tokens de contexto son 10,7 GB, y a 131 072 tokens, 43 GB, más que los pesos. Un Qwen3 32B, con 64 capas, guarda 256 KiB por token: 8,6 GB a 32 768 tokens.

  • Llama 3.3 70B (320 KiB/token)
  • Qwen3 32B (256 KiB/token)
  • GPT-OSS 120B (36 KiB/token)
0102030401k10k100k1MContexto (tokens) (log)KV cache (GB)Llama 3.3 70B (320 KiB/token)Qwen3 32B (256 KiB/token)GPT-OSS 120B (36 KiB/token)
KV cache en FP16 según el contexto para tres modelos habituales, calculada con capas × cabezas KV × dimensión × 2 × 2 bytes (fuente: config.json de cada modelo, src/data/llm-models.json).

En 24 o 32 GB de VRAM un 32B en Q4 deja sitio para unos pocos miles de tokens; en 128 GB cabe con el contexto completo y otro modelo al lado. La calculadora de VRAM suma pesos y KV para cualquier combinación.

Cuándo compensa y cuándo no

Compensa cuando el objetivo es tener el modelo grande en casa y usarlo una persona a la vez: un 70B denso con contexto largo, un MoE de 120-235B, varios modelos cargados para agentes, o un 400-600B en Q4 en un Mac de 512 GB, la única forma de ejecutar DeepSeek V3/R1 en un solo chip de sobremesa (a unos 13-20 tokens/s en M3 Ultra). Suma que caben en una mesa y no hacen ruido: Strix Halo tiene 55 W de TDP por defecto (120 W en mini-PC), el GB10 del Spark 140 W, y Apple no publica el suyo pero un Mac Studio entero consume menos que una sola RTX 5090.

No compensa cuando el trabajo es cómputo puro. Entrenar y hacer fine-tuning va limitado por TFLOPS; un Spark mide unos 213TFLOPS FP16 dense en pruebas de usuarios (NVIDIA no publica la cifra), la mitad de los 419TFLOPS de una RTX 5090, y Apple y AMD no llevan unidades matriciales comparables en la GPU (el M5 estrena Neural Accelerators por núcleo, sin cifra pública). La generación de imagen y vídeo con difusión es el mismo caso: pocos gigabytes de pesos y muchísimos FLOPS por paso, donde la memoria unificada no aporta nada. Tampoco para servir a muchos usuarios: con batch, la inferencia deja de ser memory-bound y vuelve a mandar el cómputo.

Hay una trampa más silenciosa: los 128 GB no son todos para la GPU. En Windows, Strix Halo deja asignar hasta 96 GB como VRAM (unos 110 GB en Linux); macOS reserva por defecto en torno a un cuarto para el sistema, ampliable con sysctl iogpu.wired_limit_mb. Un modelo de 120 GB en un equipo de 128 GB no carga sin tocar nada.

Ecosistema: CUDA, ROCm y MLX

  • DGX Spark es CUDA nativo (compute capability 12.1), con la misma pila que un servidor: PyTorch, vLLM, TensorRT-LLM, llama.cpp. La pega es que la CPU es Arm: no todo paquete Python tiene rueda aarch64. Dos unidades se enlazan por ConnectX-7 a 200 Gb/s (25GB/s por sentido): sirve para repartir un modelo de 200-250 GB entre las dos, no para que vayan más rápido.
  • Strix Halo vive en ROCm y Vulkan. llama.cpp funciona bien con ambos (Vulkan a menudo iguala o supera a ROCm en generación); PyTorch con ROCm va, con menos pulido que CUDA. Es la opción barata y la más «PC»: x86, Linux o Windows, en un mini-PC o portátil normal.
  • Apple Silicon usa Metal y, sobre todo, MLX, el framework de Apple para memoria unificada. llama.cpp, Ollama y LM Studio soportan Metal desde hace años; MLX suele sacar algo más en generación y permite fine-tuning ligero (LoRA) de modelos medianos. Nada de CUDA: cualquier proyecto con kernels CUDA a medida queda fuera.

En resumen: si el presupuesto manda y quieres un PC normal que además cargue modelos de 100 GB, Strix Halo (6-7 tokens/s en un 70B denso, 40-50 en un MoE de 120B). Si trabajas con la pila CUDA y quieres el entorno de un servidor en la mesa, DGX Spark, a un precio que ha subido y con el mismo ancho de banda que AMD. Si quieres el modelo más grande a la mayor velocidad sin ventiladores, Mac Studio: el M5 Ultra con 512 GB y 1 200GB/s es hoy el único sobremesa por encima del terabyte por segundo, y el Max de 128 GB dobla a Spark y Strix Halo. Y si tus modelos caben en 32 GB, ninguno de los tres: una RTX 5090 los ejecuta tres veces más rápido que el mejor Apple y siete veces más que AMD o NVIDIA en formato unificado. La decisión completa está en cómo elegir GPU para IA.

Lo que debes recordar

  • Memoria unificada = mucha capacidad (128-512 GB) a ancho de banda medio (256-1 200 GB/s); GPU discreta = poca capacidad (32 GB) a 1 792 GB/s.
  • El ancho de banda es bus × MT/s ÷ 8: Spark y Strix Halo tienen 256 bits, Apple Max 512 y Ultra 1 024. Eso explica todas las diferencias.
  • Tokens/s de decode ≈ GB/s ÷ GB leídos por token; en un MoE solo cuentan los parámetros activos. Espera el 60-80 % del teórico.
  • Compensa para modelos de 70B+ y MoE grandes a velocidad moderada; no compensa para entrenar, difusión ni servir a muchos usuarios.
  • Los 128 GB no son todos para la GPU: 96 GB en Strix Halo (Windows) y tres cuartos por defecto en macOS.

Para mirar en una ficha técnica

  • Ancho de banda de memoria (GB/s): es la cifra que fija los tokens por segundo. Trampa: AMD no la lista en la ficha del Ryzen AI Max; calcúlala con el bus (256 bits) y los MT/s (8 000).
  • Bus de memoria (bits): 256 en Spark y Strix Halo, 512 en Apple Max, 1 024 en Ultra. Trampa: los modelos «binned» de Apple recortan el bus (M4 Max de 32 núcleos GPU: 384 bits y 410 GB/s).
  • Memoria máxima (GB): la única cifra en la que estos equipos ganan a una tarjeta. Trampa: la GPU no puede usarla toda por defecto.
  • TOPS o PFLOPS «de IA»: FP4 sparse o suma de CPU+GPU+NPU. Trampa: no sirve para estimar inferencia de LLM; ignórala y mira los GB/s.

Fuentes

  1. Apple — Mac Studio, especificaciones técnicas — capacidades, 614 GB/s del M5 Max, 1,2 TB/s del M5 Ultra, 546 GB/s y 819 GB/s de M4 Max y M3 Ultra.
  2. Apple Newsroom — Mac Studio con M5 Max y M5 Ultra — configuraciones, 512 GB, «4,3× el cómputo de IA» y precios de partida.
  3. AMD — Ryzen AI Max+ 395, especificaciones — LPDDR5X-8000 de 256 bits, 50 TOPS de NPU, 126 TOPS de plataforma, TDP 45-120 W.
  4. Chips and Cheese — Strix Halo’s memory subsystem — ancho de banda medido (~215 GB/s), Infinity Cache de 32 MB a casi 1 TB/s, latencias de 140-200 ns con contención.
  5. NVIDIA — DGX Spark — 128 GB LPDDR5X a 273 GB/s, «1 PFLOP FP4» con sparsity, GB10, ConnectX-7.
  6. NVIDIA Developer Forums — Detailed compute performance metrics for DGX Spark — mediciones de usuarios: ~213 TFLOPS FP16/FP8 y ~427 TFLOPS FP4 dense.
  7. llama.cpp — DGX Spark performance (discusión 16578) — GPT-OSS 120B MXFP4: 60,6 tokens/s de generación y 1 956 de prefill en Spark; 47,5 tokens/s en Ryzen AI Max+ 395.
  8. llama.cpp — Performance of llama.cpp on Apple Silicon M-series (discusión 4167) — 7B Q4_0: 92,1 tokens/s en M3 Ultra y 83,1 en M4 Max.
  9. NVIDIA — RTX Blackwell GPU Architecture whitepaper — RTX 5090: 512 bits GDDR7 a 28 Gbps (1 792 GB/s), 419 TFLOPS FP16 dense.
  10. OpenAI — gpt-oss-120b (Hugging Face) — 117B totales, 5,1B activos, MXFP4, 36 capas con 8 cabezas KV de 64.

Escribe para buscar en artículos, herramientas y glosario. Esc para cerrar.