NVIDIA เปิดตัวชิป NVIDIA GB300 หรือ NVIDIA Blackwell Ultra ชูความเร็วในการรัน LLM เร็วขึ้น 11 เท่าเทียบกับชิป Hopper ขณะที่พลังประมวลผล FP4 เทียบกับ GB200 Blackwell ตัวเดิมดีขึ้น 1.5 เท่าตัว

พลังประมวลผลรวมของ NVIDIA GB300 ในตู้ NVIDIA GB300 NVL72 สามารถรัน DeepSeek-R1 ได้ระดับพันโทเค็นต่อวินาที Jensen Huang ซีอีโอ NVIDIA ระบุในงาน GTC ว่าสถาปัตยกรรม Blackwell นั้นประสิทธิภาพดีกว่ามาก จนเหลือกรณีที่ชิป Hopper (ที่ NVIDIA ยังขายอยู่) ไม่มากแล้ว

ชิปตัวนี้จะเปิดให้ใช้งานในคลาวด์รายใหญ่ก่อน จะคาดว่าจะเริ่มส่งมอบเซิร์ฟเวอร์ได้ภายในครึ่งหลังของปีนี้

ที่มา - NVIDIA