Meta เปิดตัวชิปเร่งการประมวลผล AI รุ่นใหม่ ที่เป็นรุ่นถัดจาก MTIA v1 (Meta Training and Inference Accelerator) ที่เปิดตัวเมื่อปีที่แล้ว ซึ่งเรียกชื่อว่า MTIA รุ่นถัดไป (Next Gen) โดยยังโฟกัส ที่การปรับแต่งสำหรับใช้งานในโมเดล AI แนะนำเนื้อหาบนแพลตฟอร์ม

MTIA Next Gen เพิ่มสเป็กให้แรงขึ้น โดยเป็นชิปคัสตอมเทคโนโลยีการผลิต 5nm TSMC, สัญญาณนาฬิกา 1.35GHz, สมรรถนะสูงสุด 708 TOPS (INT8 แบบ sparse) หรือ 354 TOPS (FP16/BF16 แบบ sparse) อัตราใช้พลังงานเพิ่มเป็น TDP 90W การออกแบบยังใช้หน่วยประมวลผลย่อย PE 64 ตัว เรียงแบบ 8x8 เหมือนเดิม เพิ่ม SRAM เป็น 384KB ต่อตัว แบนด์วิทหน่วยความจำเพิ่มเป็น 1TB/s ต่อตัว

ในการติดตั้ง Meta ได้พัฒนาแรคที่บรรจุชุดเร่งการประมวลผล มี 3 แชสซี แต่ละแชสซีมี 12 บอร์ดวงจรที่ติดตั้งชิปแผ่นละ 2 ตัว รวมมีตัวเร่งการประมวลผล 72 ตัว การเชื่อมต่อปรับปรุงเป็น PCIe Gen5 ส่วนอัตราพลังงานที่เพิ่มเป็นสูงสุด 90W เพื่อรองรับกรณีมีโมเดลที่ซับซ้อนมากหรือมีขนาดใหญ่กว่าปกติ

ที่มา: Meta