Glosario · 121 términos
De FLOPS a ZeRO, en dos frases.
Definiciones cortas con la unidad que las acompaña y el artículo donde se explican a fondo.
#
- 1 % lowFPS
El promedio del 1 % de los fotogramas más lentos de una sesión. Importa más que la media de FPS para notar stutter: un juego con 120 FPS de media y 1 % low de 40 se sentirá entrecortado.
Leer más →Ver: frame-time, vrr
- 3D V-CacheMB
Caché L3 extra de AMD apilada verticalmente sobre el CCD, hasta 64 MB adicionales. En el Ryzen 7 9800X3D suma 96 MB de L3 total, la cifra que manda en juegos por delante de la frecuencia.
Leer más →Ver: cache-l1-l2-l3, ipc
- 4:2:2 10 bits
Un submuestreo de color que conserva la mitad de la resolución de croma en horizontal, pero completa en vertical, con 10 bits por canal en vez de 8. El estándar de entrega profesional en broadcast y VFX.
A
- AMX
Advanced Matrix Extensions de Intel: unidades dedicadas a multiplicar matrices dentro del propio núcleo de CPU, sin pasar por una GPU. Pensadas para acelerar inferencia de IA en servidor.
Leer más →Ver: avx-512, tensor-core
- Ancho de bandaGB/s
La cantidad de datos que la memoria puede mover por segundo: bus (bits) × velocidad efectiva (Gbps o MT/s) ÷ 8. El cuello de botella real de la inferencia LLM, más que los FLOPS.
Ejemplo: RTX 5090, 512 bits × 28 Gbps ÷ 8 = 1 792 GB/s. No confundir con la latencia: un bus ancho no implica una respuesta rápida a una sola petición.
Leer más →Ver: ancho-de-bus, latencia, roofline, hbm
- Ancho de busbits
El número de líneas de datos en paralelo entre el controlador de memoria y los chips. Multiplica junto a la velocidad para dar el ancho de banda: una RTX 5090 tiene 512 bits, una RTX 5070 solo 192.
- AV1
Códec de vídeo abierto y libre de regalías, sucesor de VP9 y rival de HEVC/H.265, con mejor compresión a la misma calidad. Cada vez más GPU y NPU llevan motores dedicados para codificarlo o decodificarlo.
- AVX-512
Conjunto de instrucciones que procesa vectores de 512 bits, hasta 16 números FP32 a la vez, en una sola operación. Acelera código científico y de compresión que lo aprovecha explícitamente.
Leer más →Ver: amx, ipc
- AWQ y GPTQ
Dos métodos de cuantización post-entrenamiento que calibran con datos reales para decidir qué pesos redondear con más cuidado. Suelen dar mejor calidad que un redondeo uniforme a la misma anchura de bits.
Leer más →Ver: gguf, q4-k-m, int8
B
- Batch
El número de peticiones que se procesan juntas en la misma pasada por el modelo. Subir el batch mueve la carga hacia compute-bound: se aprovechan mejor los FLOPS al amortizar la lectura de pesos.
- BF162 bytes
bfloat16: mismo exponente de 8 bits que FP32 pero solo 7 de mantisa. Gana a FP16 en entrenamiento porque no sufre overflow, aunque tenga menos precisión decimal.
Leer más →Ver: fp16, fp32, tf32
C
- Caché L1/L2/L3
La jerarquía de memoria dentro del chip, cada nivel más grande y más lento que el anterior: L1 ronda 1 ns, L2 unos 3-4 ns, L3 unos 10-15 ns, siempre por delante de los 80-100 ns de la DRAM.
Leer más →Ver: latencia, vcache-3d, sm-cu
- Caché SLC
Una zona del SSD que escribe en modo de 1 bit por celda, rápido, en vez del modo denso normal de varios bits. Al llenarse, la velocidad de escritura cae de golpe al ritmo del modo denso subyacente.
Leer más →Ver: nvme, tbw
- Canal de memoria
Una vía independiente de 64 bits entre la CPU y la RAM. Un escritorio tiene 2 canales, un Threadripper PRO u 8, un EPYC hasta 12: más canales suman ancho de banda en paralelo, no velocidad por canal.
- Chiplet
Un die pequeño que se combina con otros dentro del mismo paquete, en vez de fabricar todo el chip como un único die monolítico. Mejora el rendimiento de fabricación en diseños grandes.
Leer más →Ver: interposer-cowos, die-wafer, nodo-fabricacion
- CL (CAS Latency)ciclos
Column Address Strobe: los ciclos de reloj que tarda la memoria en entregar una columna de datos tras pedirla. En nanosegundos: CL ÷ (velocidad/2) × 1 000. DDR5-6000 CL30 son 10 ns.
Leer más →Ver: latencia, ddr5, mts
- Compute-bound
Una carga en la que el chip nunca se queda sin datos que procesar: el pico de FLOPS decide el rendimiento. Un matmul grande o el prefill de un LLM suelen caer aquí.
Leer más →Ver: roofline, flops, prefill
- Contextotokens
El número de tokens que un modelo puede tener en memoria a la vez, entrada más lo ya generado. Un contexto largo dispara el tamaño del KV cache aunque el modelo no crezca.
- Copilot+ PC
Certificación de Microsoft que exige, entre otros requisitos, una NPU de al menos 40 TOPS INT8. Snapdragon X Elite (45), Ryzen AI 300 (unos 50) y Lunar Lake (48) la cumplen; no todas las cargas de IA usan realmente la NPU.
Leer más →Ver: npu-ane, tops
- Cuantizaciónbits/parám.
Guardar los pesos de un modelo con menos bits por parámetro (de 16 a 8, 4 o menos) para que ocupen y muevan menos memoria; a batch 1, tokens/s casi proporcionales a la reducción de bytes.
Q8_0 es prácticamente indistinguible del original; Q4_K_M (≈ 4,8 bits) es el equilibrio habitual; por debajo de 4 bits la pérdida crece deprisa. Reduce memoria y lectura, no el número de operaciones.
- CUDA
La plataforma de programación de NVIDIA para ejecutar código de propósito general en la GPU. El ecosistema de software (librerías, frameworks de IA) más maduro y con más soporte del sector.
Leer más →Ver: rocm, metal, tensor-core
- CUDA core
Un núcleo shader de NVIDIA: ejecuta una operación FP32 (o una FMA) por ciclo. Más núcleos no implica más rendimiento entre generaciones distintas, porque cambian la arquitectura y el reloj.
Leer más →Ver: sm-cu, flops, tensor-core
- CUDIMM
Clocked Unbuffered DIMM: un UDIMM con un reloj propio (CKD) en el módulo que estabiliza la señal a velocidades altas. Permite DDR5-8000 en 1 módulo por canal donde el UDIMM normal se queda en 5 600-6 400.
Leer más →Ver: ddr5, rdimm, mts
D
- DDR5MT/s
La memoria de sistema estándar desde 2021-2022, en módulos de canal de 64 bits. DDR5-5600 da 44,8 GB/s por canal; dos canales (dual channel) en un escritorio suman 89,6 GB/s.
Leer más →Ver: mts, canal-de-memoria, cl, cudimm
- Decode
La fase de generar un token tras otro, uno a uno. Cada token nuevo obliga a leer todos los pesos del modelo desde la VRAM, por eso el decode con batch 1 está limitado por memoria.
- Die y wafer
El wafer es el disco de silicio, habitualmente de 300 mm, del que se cortan decenas o cientos de dies, cada uno un chip individual. Cuanto más grande el die, menos caben por wafer y más caro sale cada uno.
- DirectStorage
API de Microsoft que permite a la GPU leer y descomprimir datos directamente desde el SSD, sin pasar toda la ruta por la CPU. Reduce el cuello de botella de carga de texturas en juegos modernos.
Leer más →Ver: nvme, pcie
- DLSS 4
La versión de NVIDIA de upscaling y generación de fotogramas con IA en Tensor Cores, con un modelo transformer y generación de varios fotogramas intermedios por cada fotograma renderizado.
Los “FPS” que añade la generación de fotogramas no reducen la latencia de entrada, solo suavizan la imagen: compara siempre el frame time real antes de fiarte del contador de FPS.
E
- ECC
Error-Correcting Code: bits extra que detectan y corrigen errores de un bit en cada palabra de memoria. Imprescindible en entrenamiento largo y simulación científica; casi ausente en RAM de consumo.
Ojo con el ECC “on-die” de la LPDDR5X/DDR5 moderna: corrige errores dentro del propio chip, pero no es lo mismo que el ECC de bus real de un RDIMM registrado.
Leer más →Ver: rdimm, ddr5
F
- Flash Attention
Un algoritmo de atención que evita materializar la matriz completa de atención en memoria, calculándola por bloques. Reduce el tráfico de memoria y acelera tanto entrenamiento como inferencia.
Leer más →Ver: gqa, kv-cache, memory-bound
- FLOP
Una operación de coma flotante: una suma o una multiplicación entre dos números en FP16, FP32, etc. Es la unidad de trabajo; FLOPS (con S) es la unidad de capacidad por segundo.
Leer más →Ver: flops, fma, tflops
- FLOPS
Operaciones de coma flotante por segundo: la capacidad de cálculo de un chip. El pico teórico es unidades de cálculo × operaciones por ciclo × frecuencia; casi nunca se alcanza en carga real.
El folleto suele publicar la cifra sparse (poda 2:4), que es el doble de la densa; compara siempre la misma precisión y el mismo tipo de dato antes de sacar conclusiones.
Leer más →Ver: flop, fma, sparsity-2-4, roofline
- FMA y MAC
Fused Multiply-Add: una multiplicación y una suma en una sola instrucción, cuenta como 2 FLOPs. MAC (multiply-accumulate) es el mismo cálculo con enteros, la unidad detrás de los TOPS de una NPU.
Leer más →Ver: flop, flops, tops
- FP162 bytes
Media precisión IEEE 754: 5 bits de exponente, 10 de mantisa. Rango más corto que BF16, puede desbordar en entrenamiento, pero mismo tamaño; muy usado en inferencia.
Leer más →Ver: bf16, fp8, kv-cache
- FP324 bytes
Simple precisión IEEE 754: 1+8+23 bits. El formato de referencia de los shaders de GPU y de casi todo el software de escritorio; sirve para acotar el pico “shader” de una tarjeta.
Leer más →Ver: fp64, tf32, bf16
- FP40,5-0,56 bytes
4 bits para el valor, siempre con una escala de bloque aparte porque un flotante puro de 4 bits no representa casi nada. En Blackwell dobla otra vez el pico de FP8.
Leer más →Ver: nvfp4, mxfp4, fp8
- FP648 bytes
Doble precisión IEEE 754: 1 bit de signo, 11 de exponente, 52 de mantisa. Necesaria en simulación científica (CAE) y capada a 1/64 del pico FP32 en GPU gaming para segmentar el mercado.
Leer más →Ver: fp32, fp16, bf16
- FP81 byte
8 bits en dos variantes: E4M3 (más precisión, para pesos) y E5M2 (más rango, para gradientes). En una H100 dobla el pico de BF16: 1 979 TFLOPS densos frente a 990.
Leer más →Ver: fp16, fp4, int8
- Frame generation
Generar fotogramas intermedios sintéticos entre dos fotogramas reales renderizados, en vez de renderizarlos. Sube el contador de FPS pero no reduce la latencia de entrada, y puede introducir artefactos.
Leer más →Ver: dlss-4, fsr-4-xess, frame-time
- Frame timems
El tiempo que tarda en renderizarse cada fotograma individual, la métrica cruda detrás de los FPS. Un frame time irregular (spikes) se siente como stutter aunque la media de FPS parezca alta.
Leer más →Ver: fps-1-low, vrr
- Frecuencia boostGHz
El pico de reloj que un chip alcanza en ráfagas cortas y con pocos núcleos activos, distinto de la frecuencia base garantizada con todos los núcleos a plena carga. “Hasta X GHz” es siempre boost.
Leer más →Ver: ipc, throttling, tdp-tgp-tbp
- FSDP
Fully Sharded Data Parallel (PyTorch): el equivalente nativo a ZeRO, que fragmenta pesos, gradientes y estados del optimizador entre GPU y los reúne solo cuando hacen falta para el cálculo.
- FSR 4 y XeSS
FSR 4 (AMD) y XeSS (Intel) son los equivalentes de DLSS: reconstrucción de imagen con IA para ganar FPS a menor resolución interna. FSR 4 exige ya hardware con unidades de IA, dejando atrás el enfoque por software de FSR 1-3.
G
- GDDR7GB/s por chip
Memoria gráfica de la generación Blackwell/RDNA4, a 28-32 Gbps por pin. Un chip de 32 bits a 28 Gbps da 112 GB/s; una RTX 5090 con bus de 512 bits llega a 1 792 GB/s.
Leer más →Ver: hbm, lpddr5x, ancho-de-banda
- GGUF
Formato de fichero de llama.cpp para modelos cuantizados: un único archivo con pesos, metadatos y vocabulario. El estándar de facto para ejecutar LLM en local fuera de Python.
Leer más →Ver: q4-k-m, llama-cpp, ollama, awq-gptq
- GQA
Grouped-Query Attention: varias cabezas de consulta comparten un número menor de cabezas de clave/valor. Reduce el tamaño del KV cache sin perder casi calidad frente a la atención clásica.
- Gradient checkpointing
Descartar las activaciones intermedias durante la pasada hacia delante y recalcularlas durante la pasada hacia atrás, en vez de guardarlas todas. Cambia memoria por más cómputo repetido.
Leer más →Ver: lora, zero
H
- HBMGB/s por stack
High Bandwidth Memory: varios dados de DRAM apilados en vertical y conectados a la GPU por un interposer, con un bus muy ancho (1 024-2 048 bits) a velocidad moderada por pin.
Cara de fabricar por el apilado y el interposer, pero imprescindible en centro de datos: un H200 mueve 4,8 TB/s frente a los 1 792 GB/s de una RTX 5090 con GDDR7.
Leer más →Ver: hbm4, gddr7, interposer-cowos, ancho-de-banda
- HBM4GB/s por stack
La siguiente generación de HBM, con bus de 2 048 bits por stack, el doble que HBM3/3e, a 8 Gbps por pin: 2 048 GB/s por stack. Primeros productos esperados en aceleradores 2026-2027.
Leer más →Ver: hbm, gddr7, ancho-de-banda
I
- InfiniBandGb/s por dirección
Red de baja latencia para clústeres de entrenamiento, alternativa a Ethernet. La generación NDR mueve 400 Gb/s por dirección; XDR ya llega a 800 Gb/s.
Leer más →Ver: roce, nccl, thunderbolt-5
- Infinity Fabric
El bus de interconexión de AMD, tanto dentro de un chip (entre CCD e IOD) como entre GPU Instinct. En la MI300X, cada enlace externo (XGMI) mueve 64 GB/s por sentido.
Leer más →Ver: xgmi, nvlink
- INT81 byte
Entero de 8 bits en complemento a dos, 256 niveles. La precisión estándar de TOPS en NPU y de cuantización simple de modelos; sin exponente, todo el rango es lineal.
Leer más →Ver: tops, fp8, moe
- Intensidad aritmética
FLOP por byte movido desde memoria. Baja, 1-2 FLOP/byte, típico del decode de un LLM con batch 1, implica memory-bound; alta, cientos de FLOP/byte, implica compute-bound.
Leer más →Ver: roofline, ridge-point, memory-bound, compute-bound
- Interposer y CoWoS
El interposer es la base de silicio que conecta varios dies, por ejemplo GPU + stacks de HBM, con pistas mucho más finas que un PCB normal. CoWoS es el empaquetado de TSMC que lo implementa a gran escala.
Leer más →Ver: chiplet, hbm, die-wafer
- IOPS y QD
IOPS son las operaciones de entrada/salida por segundo, la cifra que manda en lecturas aleatorias pequeñas (datasets de ML, bases de datos). QD (Queue Depth) es cuántas peticiones van a la vez; los IOPS suben con QD hasta saturar el controlador.
Leer más →Ver: nvme, tbw
- IPC
Instrucciones por ciclo: cuánto trabajo útil hace un núcleo en cada tick de reloj. El rendimiento de un núcleo es, en esencia, IPC × frecuencia; una generación nueva suele subir IPC más que MHz.
Leer más →Ver: frecuencia-boost, amdahl, smt
- ISV certificado
Un controlador validado por el fabricante del software profesional (Independent Software Vendor) para una GPU concreta, con menos errores y mejor rendimiento en esa aplicación que el driver gaming genérico.
Leer más →Ver: tensor-core, rt-core
K
- KV cacheGB
La memoria donde el modelo guarda las claves y valores de atención de cada token generado, para no recalcularlos. Crece de forma lineal con el contexto y se suma a los pesos en la VRAM.
Fórmula: 2 × capas × cabezas KV × dimensión de cabeza × bytes × tokens de contexto. Con GQA el número de cabezas KV es mucho menor que el de cabezas de consulta, así que el cache pesa menos.
L
- Latencians
El tiempo que tarda una petición en obtener respuesta, sin importar cuántos datos se puedan mover por segundo. L1 ronda 1 ns, la DRAM 80-100 ns; ancho de banda alto no implica latencia baja.
- Ley de Amdahl
El límite teórico de la aceleración al paralelizar: si el 10 % del trabajo es forzosamente secuencial, ni con infinitos núcleos se supera un 10× de mejora.
Ejemplo: con un 90 % paralelizable, 16 núcleos dan como máximo 6,4×, no 16×. Es la razón de fondo de por qué más núcleos rinden cada vez menos por unidad añadida.
Leer más →Ver: ipc, smt
- Límites de potencia (PL1/PL2, PPT)W
PL1/PL2 (Intel) y PPT (AMD) son los límites de potencia sostenida y de ráfaga que de verdad configura el fabricante de la placa, casi siempre por encima del TDP nominal del chip.
- llama.cpp
Motor de inferencia en C/C++ sin dependencias de Python, creador del formato GGUF. Corre en CPU, GPU o ambas a la vez, desde un portátil hasta un servidor.
Leer más →Ver: gguf, ollama, q4-k-m
- LoRA
Low-Rank Adaptation: congela los pesos del modelo base y entrena solo unas matrices pequeñas añadidas encima. Reduce drásticamente la memoria de fine-tuning frente a reentrenar todos los parámetros.
- LPCAMM2
Módulo compacto y reemplazable de LPDDR5X, pensado para portátiles: junta el ancho de banda y la eficiencia de la memoria soldada con la posibilidad de cambiarla, algo que la LPDDR5X normal no permite.
Leer más →Ver: lpddr5x, ddr5
- LPDDR5XGB/s por canal de 16 bits
Memoria móvil soldada junto al chip, en canales estrechos de 16 bits pero muchos en paralelo. A 8 533 MT/s da 17,07 GB/s por canal; un M4 Max con varios canales llega a 546 GB/s.
M
- Memoria unificada
Un único fondo de memoria compartido entre CPU y GPU (o NPU), sin copiar datos entre dos pools separados. Apple Silicon, Strix Halo y DGX Spark la usan para dar mucha capacidad sin VRAM discreta.
Capacidad grande pero ancho de banda medio: un M3 Ultra con 512 GB llega a 819 GB/s, muy por debajo de los 1 792 GB/s de una RTX 5090 con solo 32 GB.
- Memory-bound
Una carga en la que el chip espera a que lleguen los datos: el ancho de banda decide el rendimiento, no los FLOPS disponibles. El decode de un LLM con batch 1 es el ejemplo típico.
Leer más →Ver: roofline, ancho-de-banda, decode, tokens-por-segundo
- Metal
La API gráfica y de cómputo de Apple, la capa sobre la que corren MLX y Core ML en Apple Silicon. Sin equivalente directo a CUDA fuera del hardware de Apple.
- MFU
Model FLOPs Utilization: el porcentaje del pico teórico de FLOPS que aprovecha realmente un entrenamiento. En LLM grandes suele rondar el 35-60 %, nunca el 100 %.
Leer más →Ver: flops, compute-bound, roofline
- MLX
Framework de Apple para entrenar e inferir con memoria unificada en Apple Silicon, con arrays perezosos y compilación en el propio chip. Alternativa nativa a llama.cpp/PyTorch en Mac.
- MoE
Mixture of Experts: el modelo tiene muchos bloques “expertos” pero solo activa unos pocos por token. DeepSeek-V3 tiene 671 000 millones de parámetros totales y solo 37 000 millones activos por token.
- MT/s
Transferencias por segundo por línea de datos: la unidad real de velocidad de la RAM, no MHz. DDR5-5600 son 5 600 MT/s con un reloj real de 2 800 MHz, porque hay 2 transferencias por ciclo.
Leer más →Ver: ddr5, ancho-de-banda
- MXFP4
FP4 E2M1 del estándar abierto OCP Microscaling, con escala E8M0 por bloque de 32 valores: 0,53125 bytes efectivos por parámetro. Formato de referencia de modelos como GPT-OSS.
Leer más →Ver: nvfp4, fp4, gguf
N
- NCCL
NVIDIA Collective Communications Library: la capa de software que coordina operaciones colectivas (all-reduce, broadcast) entre GPU durante el entrenamiento distribuido, usando NVLink o la red disponible.
Leer más →Ver: nvlink, roce, infiniband
- Nodo de fabricación
El proceso litográfico con el que se fabrica un chip (N3, 4N, etc.), un nombre comercial que ya no corresponde a un tamaño de transistor real en nanómetros. Nodos más finos, más transistores por mm².
- NPU y ANE
Neural Processing Unit: un bloque dedicado a inferencia de IA de bajo consumo, casi siempre en INT8. ANE (Apple Neural Engine) es la NPU de los chips Apple; el M4 publica 38 TOPS.
La GPU integrada de un portátil suele tener más TOPS que su NPU, pero la NPU importa por eficiencia (TOPS por vatio) para cargas siempre activas como cámara o dictado.
Leer más →Ver: tops, copilot-plus-pc, int8
- NVENC / NVDEC
Los motores de vídeo dedicados de NVIDIA: NVENC codifica, NVDEC decodifica, sin usar los CUDA cores. Una RTX 5090 lleva 3 NVENC y 2 NVDEC, lo que permite varias transcodificaciones simultáneas.
Leer más →Ver: quick-sync, av1, prores
- NVFP4
FP4 E2M1 de NVIDIA con una escala E4M3 por bloque de 16 valores: 0,5625 bytes efectivos por parámetro. En una B200 el pico FP4 denso llega a 4 500 TFLOPS.
Leer más →Ver: fp4, mxfp4, fp8
- NVL72
GB200/GB300 NVL72: un rack completo de 72 GPU Blackwell conectadas por NVLink Switch como si fuera una sola GPU gigante, con 130 TB/s de ancho de banda NVLink agregado en el rack.
Leer más →Ver: nvswitch, nvlink
- NVLinkGB/s por dirección
Interconexión propietaria de NVIDIA entre GPU, mucho más rápida que PCIe. NVLink 4 (H100/H200) mueve 450 GB/s por dirección; NVLink 5 (B200) llega a 900 GB/s por dirección.
NVIDIA publica la suma de ida y vuelta (“900 GB/s” en NVLink 4 = 450+450): mira siempre el GB/s por dirección para comparar con interconexiones que citan solo un sentido.
Leer más →Ver: nvswitch, nvlink-c2c, pcie
- NVLink-C2C
La variante de NVLink que conecta CPU y GPU en el mismo módulo (chip-to-chip), no dos GPU entre sí. En Grace-Hopper y Grace-Blackwell mueve 450 GB/s por dirección, muy por delante de cualquier PCIe.
Leer más →Ver: nvlink, pcie
- NVMe
El protocolo de almacenamiento diseñado para SSD conectados por PCIe, con muchas colas paralelas frente al único canal de SATA. PCIe 4.0 ×4 mueve unos 7 GB/s secuenciales; PCIe 5.0 ×4, hasta 14 GB/s.
Leer más →Ver: iops-qd, pcie, cache-slc
- NVSwitchGB/s agregados
El chip conmutador que permite que todas las GPU de un servidor hablen entre sí por NVLink a la vez, no solo en pares. Un nodo HGX B200 de 8 GPU agrega 7 200 GB/s por dirección entre todas ellas.
Leer más →Ver: nvlink, nvl72
O
- Offload
Mover parte de los pesos o del KV cache de la VRAM a la RAM del sistema, o al disco, cuando el modelo no cabe en la GPU. Funciona, pero cada capa movida cuesta ancho de banda de PCIe.
Leer más →Ver: kv-cache, pcie, ancho-de-banda
- Ollama
Envoltorio sobre llama.cpp que instala, descarga y sirve modelos con un comando. Pensado para arrancar rápido en local sin tocar parámetros de bajo nivel.
Leer más →Ver: llama-cpp, gguf
- oneAPI
El intento de Intel de una capa de programación multiplataforma (CPU, GPU, NPU) alternativa a CUDA, con SYCL como lenguaje base. Usado sobre todo en su propio hardware (Arc, Xeon).
Leer más →Ver: cuda, rocm
P
- P-core / E-core
Núcleos grandes (Performance) para tareas exigentes de un solo hilo, y núcleos pequeños (Efficient) para trabajo en paralelo con menos consumo por núcleo. Diseño de Intel desde Alder Lake.
Leer más →Ver: ipc, smt, amx
- Paralelismo tensor, pipeline y de datos
Tres formas de repartir un entrenamiento entre GPU: de datos (cada GPU tiene el modelo completo y un lote distinto), tensor (cada GPU calcula una porción de cada capa) y pipeline (cada GPU lleva capas distintas).
El paralelismo tensor exige un enlace muy rápido entre GPU (NVLink) porque se comunican en cada capa; sin él, PCIe se convierte en el cuello de botella real del entrenamiento multi-GPU.
Leer más →Ver: nvlink, zero, fsdp
- Parámetros activos
En un modelo MoE, los parámetros que realmente participan en el cálculo de un token, frente al total almacenado en VRAM. Determinan la velocidad; el total determina la memoria necesaria.
Leer más →Ver: moe, tokens-por-segundo, flops
- PCIeGB/s por dirección
El bus estándar entre CPU, GPU, SSD y periféricos, en carriles (lanes) agrupados en anchuras ×1 a ×16. PCIe 5.0 ×16 mueve unos 63 GB/s por dirección; PCIe 6.0 ×16 duplica eso a unos 121 GB/s.
Cada generación dobla la tasa por carril. La cifra de la ficha es por dirección: NVIDIA/AMD a veces la presentan sumada con la de vuelta como “bidireccional”, así que compara siempre el mismo criterio.
Leer más →Ver: nvlink, thunderbolt-5, nvme
- PFLOPS
10¹⁵ FLOPS, mil TFLOPS. Se usa para GPU de centro de datos: una B200 alcanza 9 PFLOPS en FP4 denso, y un GB200 NVL72 completo suma decenas de PFLOPS en FP8.
Leer más →Ver: tflops, flops
- Prefill
La fase de lectura del prompt completo antes de generar el primer token. Procesa muchos tokens a la vez, así que suele estar limitada por cálculo, no por memoria.
- ProRes
Familia de códecs de Apple para edición profesional, con muy baja compresión y decodificación por el Media Engine de los chips Apple Silicon en vez de la GPU general.
Q
- Q4_K_M
Esquema de cuantización de GGUF a unos 4,5 bits por parámetro de media, con más precisión en las capas que más lo necesitan (K-quants). El punto dulce habitual entre tamaño y calidad.
Un Llama 3.1 70B en Q4_K_M ocupa unos 40 GB, frente a los ~140 GB en FP16: no cabe en una RTX 5090 (32 GB) pero sí en dos RTX 3090 con 24 GB cada una.
Leer más →Ver: gguf, awq-gptq, kv-cache
- QLoRA
LoRA sobre un modelo base cuantizado a 4 bits en vez de FP16. Permite ajustar un 70B en unos 48 GB de VRAM en lugar de los cientos de GB que pediría un fine-tuning completo.
Leer más →Ver: lora, gguf, fp4
- Quick Sync
El motor de vídeo por hardware integrado en la iGPU de Intel. Es, junto a Apple, de los pocos que decodifican 4:2:2 10 bits por hardware; NVIDIA no lo soportó hasta Blackwell.
R
- RDIMM
Registered DIMM: módulo de RAM con un registro intermedio que reduce la carga eléctrica del bus, permitiendo más módulos por canal y capacidades mayores. Estándar en servidores y workstations.
Leer más →Ver: ecc, cudimm, ddr5
- Ridge point
El punto de cruce del roofline: pico de FLOPS dividido entre ancho de banda. Por debajo de esa intensidad aritmética manda la memoria; por encima, manda el cálculo.
- RoCE
RDMA over Converged Ethernet: permite acceso directo a memoria remota sobre una red Ethernet convencional, evitando parte del camino por el sistema operativo. Alternativa a InfiniBand con hardware más barato.
Leer más →Ver: infiniband, nccl
- ROCm
La plataforma abierta de AMD equivalente a CUDA, con soporte oficial creciente para PyTorch en GPU Instinct y Radeon seleccionadas. Menos maduro que CUDA en compatibilidad de librerías de terceros.
Leer más →Ver: cuda, xgmi
- Roofline
Modelo gráfico que enfrenta el pico de cálculo (techo horizontal) con el ancho de banda de memoria (pendiente) para saber si una carga está limitada por cómputo o por memoria.
Leer más →Ver: intensidad-aritmetica, ridge-point, memory-bound, compute-bound
- RT Core
Unidad dedicada de NVIDIA para acelerar el recorrido de la estructura BVH y las intersecciones rayo-triángulo del ray tracing, en paralelo a los CUDA cores y Tensor Cores.
Leer más →Ver: cuda-core, sm-cu
S
- SM / CU
Streaming Multiprocessor (NVIDIA) o Compute Unit (AMD): el bloque repetible de una GPU con sus propios núcleos de shader, Tensor/Matrix Cores, caché L1 y planificador. No comparable en número entre marcas.
- SMT
Simultaneous Multithreading (Hyper-Threading en Intel): un núcleo físico atiende dos hilos a la vez aprovechando huecos de sus unidades de ejecución. Da un 20-30 % extra de rendimiento, nunca el doble.
Leer más →Ver: ipc, amdahl, p-core-e-core
- Sparsity 2:4
Poda estructurada que anula 2 de cada 4 pesos consecutivos. NVIDIA la aprovecha en hardware y publica esa cifra, el doble de la densa, como TFLOPS o TOPS principales del producto.
Compara siempre densa contra densa: mezclar una cifra sparse de un fabricante con una densa de otro exagera la diferencia al doble.
Leer más →Ver: flops, tops, fp8
- Speculative decoding
Un modelo pequeño propone varios tokens de golpe y el modelo grande los verifica todos en una sola pasada. Si acierta, se generan varios tokens por el precio de cálculo de uno.
T
- TBWTB
Terabytes Written: el total de datos que un SSD garantiza poder escribir antes de que la garantía deje de cubrirlo por desgaste de la memoria flash. Escala con la capacidad del disco.
Leer más →Ver: nvme, cache-slc
- TDP / TGP / TBPW
TDP (CPU, Thermal Design Power), TGP y TBP (GPU, Total Graphics/Board Power): la cifra de diseño térmico que debe disipar la refrigeración, no el consumo real medido en el enchufe.
Una RTX 5090 tiene 575 W de TGP; el consumo real varía con la carga y puede superarlo brevemente en picos que la fuente de alimentación debe absorber.
- Tensor Core
Unidad matricial de NVIDIA que multiplica bloques pequeños, por ejemplo 4×4 u 8×8, por ciclo, mucho más rápido que hacerlo elemento a elemento. Es donde vive todo el rendimiento en BF16/FP8/FP4.
Leer más →Ver: cuda-core, fp8, sm-cu
- TF324 bytes almacenado
TensorFloat-32 de NVIDIA: exponente de FP32 (8 bits) con solo 10 bits de mantisa, pero almacenado en 4 bytes. Acelera matmul con casi la precisión de FP32 sin recompilar el modelo.
Leer más →Ver: fp32, bf16, tensor-core
- TFLOPS
10¹² FLOPS. La unidad habitual en fichas de GPU y CPU: una RTX 5090 mueve 838 TFLOPS FP8 densos, frente a los 82,6 TFLOPS FP32 de una RTX 4090.
Leer más →Ver: flops, pflops
- Throttling
La reducción automática de frecuencia cuando el chip alcanza su límite térmico o de potencia, para no dañarse. En portátiles con refrigeración escasa puede recortar el rendimiento sostenido muy por debajo del boost anunciado.
- Thunderbolt 5Gbps
El estándar de Intel para eGPU y periféricos de alta velocidad: 80 Gbps bidireccionales, unos 10 GB/s por sentido, con un modo asimétrico que sube un sentido a 120 Gbps.
Leer más →Ver: pcie, nvlink
- Tokens por segundotok/s
La velocidad de generación de un LLM en decode. Se aproxima como ancho de banda de memoria dividido entre bytes del modelo leídos por token; el 60-80 % del teórico es un rango realista.
Ejemplo: un 70B en Q4 (~40 GB) en un M4 Max con 546 GB/s daría un teórico de 546/40 ≈ 13,7 tok/s, y en la práctica algo menos por el overhead del framework.
- TOPS
Tera-operaciones por segundo, casi siempre en INT8 (a veces INT4, que duplica la cifra sin duplicar la utilidad real). Es la unidad de marketing de las NPU de portátiles.
El umbral Copilot+ PC es 40 TOPS de NPU: Snapdragon X Elite publica 45, Ryzen AI 300 unos 50. “TOPS de plataforma” suma CPU+GPU+NPU, una cifra que nadie usa completa a la vez.
Leer más →Ver: flops, npu-ane, copilot-plus-pc, int8
- Transistoresmiles de millones
El recuento total de transistores de un chip, la cifra que suele acompañar al anuncio de una nueva arquitectura. Una GPU Blackwell B200 (2 dies) suma 208 000 millones, frente a los 76 300 millones de una RTX 4090.
U
- Undervolt
Reducir el voltaje que recibe un chip a una frecuencia dada, dentro del margen que el fabricante deja de sobra por seguridad. Bajar el límite de potencia a un 70-80 % suele costar solo un 5-10 % de rendimiento.
V
- vLLM
Motor de inferencia para servir LLM en producción, con paged attention y batching continuo para atender muchas peticiones a la vez sin desperdiciar VRAM.
Leer más →Ver: gguf, batch, kv-cache
- VRR
Variable Refresh Rate: el monitor sincroniza su tasa de refresco con la tasa de fotogramas real de la GPU (G-Sync, FreeSync, VESA Adaptive-Sync), eliminando el tearing sin el input lag del V-Sync clásico.
X
- XGMIGB/s por dirección
El nombre concreto que toma Infinity Fabric cuando conecta GPU Instinct entre sí, frente a su uso interno CPU-CPU. En una MI300X, 7 enlaces XGMI suman 448 GB/s por dirección hacia el resto de GPU.
Z
- ZeRO
Zero Redundancy Optimizer (DeepSpeed): reparte los estados del optimizador, los gradientes y opcionalmente los pesos entre varias GPU, en vez de duplicarlos en cada una. Reduce mucho la memoria por GPU en entrenamiento distribuido.
Ningún término coincide con el filtro.