Jensen Huang ซีอีโอของ NVIDIA ไปเยือนอินเดีย ได้เข้าพบนายกรัฐมนตรี Narendra Modi และประกาศความร่วมมือกับบริษัทยักษ์ใหญ่ของอินเดีย 2 ราย ได้แก่ Reliance Industries และ Tata Group

กรอบความร่วมมือกว้างๆ บอกเพียงว่าทั้งสองบริษัทจะสั่งซื้อ ชิป NVIDIA GH200 Grace Hopper Superchip มาสร้างซูเปอร์คอมพิวเตอร์ประมวลผล AI ในอินเดีย

กรณีของ Reliance Industries ซึ่งเป็นบริษัทแม่ของ Reliance Jio Infocomm โอเปอเรเตอร์อันดับหนึ่งของอินเดียยุคปัจจุบันด้วย ต้องการพัฒนาบริการเพื่อลูกค้าของ Jio จำนวน 450 ล้านคน โดยเครื่องเซิร์ฟเวอร์เหล่านี้จะให้บริการนักวิจัย นักพัฒนา สตาร์ตอัพในอินเดียด้วย

NVIDIA เปิดตัวโมดูล NVIDIA GH200 Grace Hopper รุ่นต่อไป หลังจากปีนี้วางตลาดรุ่นแรกไปแล้ว ความเปลี่ยนแปลงสำคัญของรุ่นต่อไปคือการใช้แรม HBM3e ทำให้ใส่แรมได้มากขึ้นมาก เครื่องขนาด 2 โมดูล สามารถใส่แรมได้สูงสุด 282GB ซีพียู 144 คอร์ และพลังประมวลผล AI รวม 8 เพตาฟลอบ (ไม่ระบุว่าที่ความละเอียดระดับใด)

HBM3e เป็นหน่วยความจำประสิทธิภาพสูงที่พัฒนาต่อมาจาก HBM3 โดยก่อนหน้านี้อาจจะเรียกว่า HBM3+ หรือ HBM3 Gen 2 ตอนนี้โรงงานที่ผลิต HBM3 หลักๆ ได้แก่ SK hynix, Samsung, และ Micro และน่าจะเตรียมสายการผลิต HBM3e กันอยู่ โดยรวมแล้วแรม HBM3e บน GH200 รุ่นต่อไปรองรับแบนวิดท์ 10TB/s

NVIDIA ประกาศว่าเริ่มผลิตชิป GH200 Grace Hopper Superchip แล้ว หลังจากเปิดตัวมาตั้งแต่ 1 ปีก่อนหน้านี้ และเปิดตัวเฉพาะซีพียู Grace อย่างเดียวมาตั้งแต่ปี 2021

Grace Hopper เป็นการรวมร่างกันระหว่างซีพียู Grace ที่เป็นสถาปัตยกรรม Arm และจีพียู Hopper สำหรับงานฝั่งเซิร์ฟเวอร์ มันจะเป็นชิปฝั่งเซิร์ฟเวอร์ตัวแรกของ NVIDIA ที่ใช้ของตัวเองล้วนๆ ไม่ต้องยุ่งกับใคร เทียบกับยุคก่อนหน้านี้ที่ต้องไปเชื่อมกับซีพียูของ Intel/AMD

NVIDIA เปิดตัวซูเปอร์คอมพิวเตอร์ Isambard 3 ที่มหาวิทยาลัย Bristol เป็นผู้สั่งซื้อ โดยความพิเศษคือมันเป็นซูเปอร์คอมพิวเตอร์ที่ใช้ชิป Grace CPU Superchip ล้วน ไม่มีชิปกราฟิกในระบบ

ระบบรวมของ Isambard 3 ใช้ Grace CPU Superchip จำนวน 384 ชุด พลังประมวลผลรวม 2.7 petaflops ที่ FP64 จุดเด่นคือกินพลังงานเพียง 270kW เท่านั้นทำให้เป็นซูเปอร์คอมพิวเตอร์ที่ไม่มีชิปเร่งความเร็วที่ประสิทธิภาพพลังงานดีที่สุดหนึ่งในสามอันดับแรกของโลก

Jensen Huang ซีอีโอของ NVIDIA โชว์หน้าตาชิปจริงของซีพียู Grace Superchip ที่เปิดตัวช่วงต้นปี 2022 โดยเลื่อนการวางขายสินค้าจริงจากครึ่งแรกของปี 2023 เป็นครึ่งหลังของปีแทน

Grace Superchip เป็นการนำซีพียู Grace สองตัวมาเชื่อมต่อกัน มีจำนวนคอร์รวม 144 คอร์ จุดขายของ Grace คือการเป็นสถาปัตยกรรม Arm ที่ประหยัดพลังงานกว่า และออกแบบมาเพื่องานปัญญาประดิษฐ์โดยเฉพาะ ทำให้รันงานลักษณะนี้ได้ดีกว่าชิป x86 ที่ออกแบบมาสำหรับงานทั่วไป

Arm เปิดตัวสถาปัตยกรรมแกนซีพียู Neoverse V2 สำหรับซีพียูเซิร์ฟเวอร์ โดยต่อยอดจาก Neoverse V1 ที่ออกในปี 2020

ปัจจุบัน สถาปัตยกรรม Neoverse ของ Arm แบ่งออกเป็น 3 ซีรีส์ย่อยคือ V เน้นประสิทธิภาพสูงสุด, N ตรงกลาง และ E อยู่ล่างสุด การเปิดตัวสถาปัตยกรรม Neoverse V2 (โค้ดเนม Demeter) ถือเป็นสถาปัตยกรรมรุ่นท็อปสุดของ Arm ในตอนนี้ และในอนาคตจะออกตัวใหม่โค้ดเนม Poseidon ในปี 2023 เป็นต้นไป

ลูกค้าที่สั่งซื้อไลเซนส์ Neoverse V2 แล้วคือ NVIDIA ที่นำไปใช้กับซีพียู Grace ที่เปิดตัวไปก่อนหน้านี้แล้ว แต่เพิ่งเปิดเผยว่าใช้ V2

NVIDIA มีซีพียู Arm สำหรับเซิร์ฟเวอร์ชื่อ Grace ที่จะออกช่วงครึ่งแรกของปี 2023 โดยแบ่งเป็น 2 เวอร์ชันย่อยคือ Grace CPU SuperChip ที่มีซีพียู 2 ตัวรวม 144 คอร์ กับ Grace Hopper SuperChip ที่เป็นซีพียู Grace + จีพียู Hopper รุ่นใหม่ สำหรับงานที่ต้องใช้จีพียูประมวลผลด้วย

ตอนนี้ Grace และ Hopper ยังไม่ออกวางขายจริง แต่ NVIDIA ก็จับมือกับพาร์ทเนอร์เปิดตัวเซิร์ฟเวอร์พลัง Grace มาแล้ว แบรนด์พาร์ทเนอร์ที่ร่วมเปิดตัวคือ Asus, Foxconn Industrial Internet, GIGABYTE, QCT, Supermicro, Wiwynn กำหนดขายจริงปี 2023

NVIDIA เปิดตัว NVIDIA Grace CPU Superchip โมดูลซีพียูที่อาศัยชิป Grace ที่ NVIDIA เปิดตัวไปปีที่แล้ว ใส่อยู่บนโมดูลเดียวกันสองตัว ทำให้ได้ซีพียูรวม 144 คอร์ และแบนด์วิดท์หน่วยความจำรวมถึง 1TB/s

ซีพียูทั้งสองตัวเชื่อมกับด้วย NVLink-C2C ระบบเชื่อมต่อข้ามชิปความเร็วสูง สามารถส่งข้อมูลที่แบนด์วิดท์ 900GB/s หรือสูงกว่า ขณะที่ใช้พลังงานและพื้นที่ชิปน้อยกว่า PCIe Gen 5 มาก โมดูลซีพียูมาพร้อมแรม LPDDR5x ในตัว โดยรวมแล้วกินพลังงานประมาณ 500 วัตต์

Jensen Huang ซีอีโอของ NVIDIA ให้ข้อมูลในงานแถลงผลประกอบการไตรมาส 4/2021 ถึงประเด็นดีลซื้อ Arm ที่ล่มไป ว่าไม่ส่งผลกระทบต่อแผนการพัฒนาซีพียูของบริษัท เพราะ NVIDIA มีไลเซนส์การใช้งานสถาปัตยกรรม Arm นาน 20 ปีอยู่แล้ว

NVIDIA เปิดตัวซีพียู Grace เป็นซีพียู Arm Neoverse ที่ออกแบบมาเพื่อทำงานร่วมกับชิปกราฟิกอย่างแนบแน่นเพื่อให้ได้ประสิทธิภาพสูงสุด โดย NVIDIA ระบุว่าสถาปัตยกรรมของ Grace จะทำให้รันงานด้านปัญญาประดิษฐ์เร็วกว่าเดิมถึงสิบเท่า

Grace เชื่อมต่อกับชิปกราฟิกผ่าน NVLink รุ่นที่ 4 มีแบนวิดท์ระหว่างสองชิป 900GB/s และใช้แรม LPDDR5x สถาปัตยกรรมใหม่ใช่หน่วยความจำเป็น address space ร่วมกันกับกราฟิก

Swiss National Computing Center (CSCS) กำลังสร้างซูเปอร์คอมพิวเตอร์ ALPS โดยใช้ซีพียู Grace สร้างโดย HPE คาดว่าเปิดใช้งานปี 2023 และ Los Alamos National Laboratory ศูนย์วิจัยกระทรวงพลังงานสหรัฐฯ ผู้ใช้ซูเปอร์คอมพิวเตอร์อันดับต้นๆ ของโลกก็วางแผนสร้างซูเปอร์คอมพิวเตอร์ใหม่โดยใช้ Grace เช่นกัน