Sección · 13 artículos · 209 min en total
Fundamentos
FLOPS, TOPS, ancho de banda, precisión numérica, latencia, interconexión, energía. Lo que hay detrás de cada línea de una ficha técnica.
- 01FLOPS: qué miden y por qué el número del folleto suele ser el dobleQué es un FLOP, cómo se calcula el pico teórico de una GPU o CPU, por qué NVIDIA publica cifras con sparsity que valen la mitad y cuánto de ese pico se usa de verdad al entrenar.
- 02TOPS y NPUs: la unidad de la IA en el bordeQué cuenta un TOPS (casi siempre INT8), cómo convertirlo a TFLOPS, por qué el umbral Copilot+ son 40 TOPS de NPU y qué esconde la cifra de «TOPS totales de plataforma».
- 03FP64, FP32, TF32, BF16, FP16, FP8, INT8, FP4: la precisión decide el rendimientoQué bits tiene cada formato, por qué una misma GPU rinde 50 veces más en FP4 que en FP64, por qué BF16 ganó a FP16 y qué pierdes de verdad al cuantizar un modelo.
- 04Ancho de banda de memoria: el cuello de botella realPor qué una GPU con más TFLOPS puede ser más lenta, cómo se calcula el ancho de banda a partir del bus y la velocidad por pin, qué familia de memoria da cada cifra y qué mirar en la ficha.
- 05El modelo Roofline: ¿te limita el cálculo o la memoria?Un gráfico de dos líneas dice si tu carga la frena la memoria o los núcleos. Cómo se calcula la intensidad aritmética, dónde está el punto de cruce de cada GPU y cómo mover una carga a la derecha.
- 06Latencia, cachés y jerarquía de memoria: por qué un núcleo a 5,7 GHz pasa la mitad del tiempo esperandoRegistros, L1, L2, L3, DRAM, VRAM y NVMe con latencias reales en nanosegundos, qué compra el 3D V-Cache, para qué sirve una L2 de 96 MB en una GPU y cuándo más MT/s no cambia nada.
- 07PCIe, NVLink, Infinity Fabric, Thunderbolt y red: mover datos entre chipsCuánto mueve de verdad cada enlace (por sentido, no sumado), por qué multi-GPU sin NVLink cojea, qué hacen los carriles de la CPU y cuándo la red es el cuello de botella.
- 08CPU: núcleos, hilos, IPC, frecuencia, caché y canales de memoriaPor qué 5,7 GHz no dicen nada solos, cuánto valen de verdad 32 hilos, qué hace la caché L3 apilada y por qué los canales de memoria separan un Ryzen de un Threadripper PRO.
- 09Anatomía de una GPU: SMs, Tensor Cores, RT Cores, L2 y controladores de memoriaQué hay dentro de una GPU moderna, por qué los «CUDA cores» no se pueden comparar entre marcas ni generaciones, y cómo se reconstruye el pico de TFLOPS desde el SM.
- 10RAM: DDR5, canales, ECC, latencia (CL) y por qué MT/s no es MHzQué significa DDR5-5600 de verdad, cómo se calcula el ancho de banda por canal, cómo pasar CL a nanosegundos, qué ECC es real y cuánta RAM necesita cada trabajo.
- 11Almacenamiento: NVMe, IOPS, colas, PCIe 4/5, caché SLC y DirectStoragePor qué los 14 GB/s de un SSD PCIe 5.0 casi nunca se notan, qué mide de verdad un IOPS a QD1, cuándo se acaba la caché SLC y en qué cargas el disco sí es el cuello de botella.
- 12TDP, TGP, PL1/PL2 y throttling: el vatio es el número que decide los demásQué mide de verdad el TDP, cómo Intel y AMD lo esquivan con PL2 y PPT, por qué el rendimiento por vatio manda en datacenter y portátil, y cómo dimensionar fuente y refrigeración.
- 13Cómo leer una ficha técnica sin que te la cuelenLas diez trampas de una spec sheet (sparsity, AI TOPS, «hasta», MHz que son MT/s, buses sumados, frames generados) y una checklist para desmontarlas con la calculadora en la mano.