Meta desarrolla su propia aceleradora de IA MTIA v2 con hasta 708 TFLOPS

Que la Inteligencia Artificial es la gran tendencia y moda que se extiende en todo tipo de servicios no es una novedad. Esto ha hecho que la necesidad de hardware específico para ejecutar las distintas fases del proceso de la IA haya aumentado exponencialmente, siendo las principales beneficiadas Intel o AMD con sus tarjetas aceleradoras.

Sin embargo, ya hemos visto como varias compañías, como Google, están dedicando recursos y esfuerzo a crear sus propios chips para no depender tanto de terceros. Meta es una de las compañías tecnológicas que está apostando fuerte por la Inteligencia Artificial, y acaban de anunciar su nueva aceleradora MTIA de nueva generación (Meta Training and Inference Accelerator).

Fabricada a 5 nanómetros en TSMC, se trata de la evolución de los primeros diseños propios de Meta, y es capaz de procesar 708 TeraFLOPS en INT8 de procesamiento matricial GEMM.

Todo ello con un TDP de 90 W y una frecuencia de funcionamiento de 1,35 GHz. Cada chip MTIA v2 está formado por una red de 8x8 elementos de procesamiento PE, con un rendimiento 3,5 veces superior a la primera generación MTIA. Por la misma cifra mejoran también su ancho de banda, al mismo tiempo que duplica la cantidad de memoria LPDDR5.

A modo de comparativa, la primera generación MTIA estaba fabricada a 7 nanómetros, funcionaba a 800 MHz y tenía una potencia de 102,4 TFLOPS GEMM. Eso sí, su TDP era de tan solo 25W.

Especificaciones técnicas del chip MTIA de segunda generación de Meta

• Proceso de fabricación: TSMC 5nm
• Frecuencia: 1.35GHz
• Instancias: 2.35B gates, 103M flops
• Tamaño: 25.6mm x 16.4mm, 421mm2
• Empaquetado: 50mm x 40mm
• Voltaje: 0.85V
• TDP: 90W
• Conectividad Host: 8x PCIe Gen5 (32 GB/s)
• GEMM TOPS:
  • 708 TFLOPS/s (INT8) (sparsity)
  • 354 TFLOPS/s (INT8)
  • 354 TFLOPS/s (FP16/BF16) (sparsity)
  • 177 TFLOPS/s (FP16/BF16)
• SIMD TOPS: 
  • Vector core:
    • 11.06 TFLOPS/s (INT8),
    • 5.53 TFLOPS/s (FP16/BF16),
    • 2.76 TFLOPS/s (FP32)
  • SIMD:
    • 5.53 TFLOPS/s (INT8/FP16/BF16),
    • 2.76 TFLOPS/s (FP32)
• Capacidad de Memoria
  • Local : 384 KB por PE
  • Integrada: 256 MB
  • LPDDR5 Externa: 128 GB
• Ancho de banda de la memoria:
  • Local : 1 TB/s por cada PE
  • Integrada: 2.7 TB/s
  • LPDDR5 Externa: 204.8 GB/s

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!