NVIDIA เปิดตัวเซิร์ฟเวอร์รุ่นใหม่ NVIDIA DGX GH200 ชูจุดเด่นที่รองรับแรมสูงถึง 144TB เป็นก้าวกระโดดจาก DGX H100 ที่เคยรองรับแรม 640GB ต่อเครื่อง

ภายในตัวเครื่อง ใช้ชิป NVIDIA Grace Hopper Superchip พร้อมแรมแบบ LPDDR5 480GB เซิร์ฟเวอร์แต่ละเครื่องมีซีพียู 8 ชุด และสามารถต่อข้ามเครื่องผ่าน NVLink Switches อีกถึง 256 ซีพียูในแต่ละคลัสเตอร์ ตัวชิปกราฟิกบนแต่ละโมดูลสามารถข้ามไปใช้แรมฝั่งซีพียูด้วยแบนวิดท์ 900GB/s

ทาง NVIDIA โชว์ความสามารถที่ DGX GH200 ทำได้ดีเหนือกว่า DGX H100 เป็นงานที่ใช้ข้อมูลขนาดใหญ่มากๆ เช่น การเทรน GPT-3 หรือปัญญาประดิษฐ์แบบอื่นที่ต้องการหน่วยความจำขนาดใหญ่มากๆ ซึ่งก็สามารถเทรนโมเดลเหล่านี้ได้เร็วขึ้นหลายเท่าตัว

ที่มา - NVIDIA