A AMD anunciou a Instinct MI350P, sua primeira aceleradora de IA em formato PCIe em quatro anos. A placa pega o mesmo chip CDNA 4 da MI350X e o corta para caber em um formato de slot duplo refrigerado a ar, com 128 unidades de computação, 144 GB de memória HBM3E e consumo de 600W. O lançamento é um aceno direto a empresas que querem aumentar a capacidade de inferência de IA sem reformar o data center.
A arquitetura da AMD Instinct MI350P
A MI350P usa a arquitetura CDNA 4 fabricada em 3 nanômetros na TSMC, mas com metade dos dies de computação da MI350X: quatro em vez de oito. A GPU entrega 8.192 processadores stream e 512 núcleos matriciais rodando a 2.200 MHz de pico. O die de entrada e saída é feito em 6 nanômetros. No total, o chip soma 73 bilhões de transistores.
A memória também foi cortada em relação ao modelo topo de linha, mas continua em patamar alto. São 144 GB de HBM3E em interface de 4.096 bits, com largura de banda de 4 TB/s. A MI350X, para comparação, carrega 288 GB em barramento de 8.192 bits. O cache Infinity Cache tem 128 MB. A placa mede 267 milímetros de comprimento, usa refrigeração passiva e se alimenta por um conector de 16 pinos. O consumo pode ser configurado para 450W quando o data center não precisa do desempenho máximo.
O desempenho da AMD Instinct MI350P
A MI350P acelera nativamente formatos de precisão reduzida como MXFP6 e MXFP4, além de oferecer suporte a esparsidade em INT8, FP16 e BFloat16. Os números de pico são:
- 4.6 PFLOPs em MXFP4 e MXFP6
- 2.3 PFLOPs em FP16 com esparsidade
- 1.15 PFLOPs em FP16 e BFloat16
- 72 TFLOPs em FP32
- 36 TFLOPs em FP64
- 4.6 POPs em INT8 com esparsidade
A placa compete diretamente com a NVIDIA H200 NVL, a última aceleradora PCIe da empresa baseada em Hopper, que oferece 141 GB de HBM3E e custa entre 30 e 40 mil dólares. A NVIDIA também tem a RTX PRO 6000 Blackwell em formato de servidor, mas essa placa usa o chip GB202 de desktop com 96 GB de GDDR7, e não o GB200 de data center.
A MI350P já está disponível por meio de parceiros da AMD, com suporte completo ao ecossistema ROCm e pilha de software de IA empresarial. A placa é a primeira Instinct em PCIe desde a MI210, lançada em 2022, e sinaliza que a AMD quer oferecer às empresas um degrau de entrada mais acessível para sua linha de aceleradores de IA, sem exigir investimento em infraestrutura de refrigeração líquida ou servidores OAM.
