Tags:
Node Thumbnail

สมัยก่อนเราอาจคุ้นเคยกับการต่อสู้ลักษณะนี้ในการวัดผลการ์ดจอเกมมิ่ง แต่เมื่อตลาดหลักย้ายมาสู่การ์ดจอเร่งความเร็ว AI แทน การต่อสู้แบบนี้จึงกลับมาอีกครั้งในสมรภูมิใหม่

สัปดาห์ก่อน AMD เริ่มวางขายชิปประมวลผลปัญญาประดิษฐ์ Instinct MI300X มีประเด็นน่าสนใจคือ Lisa Su ซีอีโอของ AMD โชว์ตัวเลขข่มทับคู่แข่ง NVIDIA H100 โดยวัดจากการรันโมเดลยอดนิยม Llama-2-70B ว่าแรงกว่ากัน 1.2 เท่า (จีพียูตัวเดียว) และ 1.4 เท่า (เซิร์ฟเวอร์ 8 จีพียู)

Tags:
Node Thumbnail

สำนักข่าว Reuters อ้างแหล่งข่าวที่เกี่ยวข้องสองราย ระบุว่า NVIDIA ได้แจ้งลูกค้าในประเทศจีน ว่าจะเลื่อนการเปิดตัวชิป AI ใหม่ ที่ออกแบบเพื่อให้เป็นไปตามเงื่อนไขการส่งออกชิปที่สหรัฐอเมริกากำหนด ไปอย่างน้อยถึงไตรมาส 1 ในปีหน้า จากแผนเดิมที่จะเปิดตัวในเดือนนี้

ชิปรุ่นดังกล่าวมีชื่อเรียกว่า H20 ซึ่งตามแผนนั้น NVIDIA จะออกชิป 3 รุ่น สำหรับประเทศจีนเป็นหลัก เพื่อแข่งขันกับ Huawei ที่ตอนนี้พัฒนาชิป AI ออกมาเช่นกัน

รายงานบอกว่าสาเหตุที่ H20 เลื่อนเปิดตัวนั้น มาจากปัญหาจากผู้ผลิตเซิร์ฟเวอร์ที่จะขายร่วมกับชิปนี้

Tags:
Node Thumbnail

NVIDIA เปิดตัวจีพียูศูนย์ข้อมูล Hopper H200 ที่อัพเกรดขึ้นจาก H100 ที่เปิดตัวตั้งแต่ปี 2022

จุดเด่นของ NVIDIA H200 คือใช้แรมแบบใหม่ HBM3e ที่เร็วขึ้นกว่าเดิม สามารถส่งข้อมูลในหน่วยความจำขนาด 141GB ด้วยอัตรา 4.8 TBps แบนด์วิดท์เพิ่มขึ้น 2.4 เท่าเทียบกับแรมใน NVIDIA A100 ของเจนก่อน

จีพียู H200 จะถูกนำไปใช้กับบอร์ด NVIDIA HGX H200 รองรับทั้งการคอนฟิกแบบ 4/8 จีพียู ฮาร์ดแวร์เข้ากันได้กับระบบที่เป็น HGX H100 เดิม ทำให้หน่วยงานที่มีของเดิมอยู่แล้วอัพเกรดได้ง่าย

Tags:
Node Thumbnail

NVIDIA ประกาศว่าเริ่มผลิตชิป GH200 Grace Hopper Superchip แล้ว หลังจากเปิดตัวมาตั้งแต่ 1 ปีก่อนหน้านี้ และเปิดตัวเฉพาะซีพียู Grace อย่างเดียวมาตั้งแต่ปี 2021

Grace Hopper เป็นการรวมร่างกันระหว่างซีพียู Grace ที่เป็นสถาปัตยกรรม Arm และจีพียู Hopper สำหรับงานฝั่งเซิร์ฟเวอร์ มันจะเป็นชิปฝั่งเซิร์ฟเวอร์ตัวแรกของ NVIDIA ที่ใช้ของตัวเองล้วนๆ ไม่ต้องยุ่งกับใคร เทียบกับยุคก่อนหน้านี้ที่ต้องไปเชื่อมกับซีพียูของ Intel/AMD

Tags:
Node Thumbnail

NVIDIA เปิดตัวชิป H100 NVL หลังจากเปิดตัวรุ่นแรกในตระกูลเมื่อปีที่แล้ว โดยความพิเศษของโมดูลรุ่นใหม่นี้คือมันใส่แรมมาสูงถึง 188GB นับว่าสูงที่สุดจากเดิมที่ชิป H100 รองรับแรมเพียง 80GB เท่านั้น เหตุผลสำคัญคือโมเดลปัญญาประดิษฐ์ในกลุ่ม GPT ช่วงหลังมีขนาดใหญ่มากๆ ระดับแสนล้านพารามิเตอร์ การรันโมเดลระดับนี้ต้องการแรมขนาดใหญ่

นอกจาก H100 NVL แล้ว NVIDIA ยังเปิดตัวเซิร์ฟเวอร์รุ่นอื่นๆ มาอีก 3 รุ่น ได้แก่

Node Thumbnail

Microsoft Azure เปิดพรีวิวเครื่อง VM เวอร์ชันใหม่ที่ใช้จีพียู NVIDIA H100 รุ่นใหม่ล่าสุด สถาปัตยกรรม Hopper ที่พัฒนาขึ้นจากจีพียู NVIDIA A100 (Ampere) รุ่นที่ใช้อยู่ในปัจจุบัน หากอิงจากตัวเลขของ NVIDIA เองคือเทรนโมเดลบางประเภทได้เร็วขึ้น 9 เท่า

VM รุ่นนี้ใช้ชื่อว่า ND H100 v5 เลือกจีพียูได้ต่ำสุด 8 ตัว สเกลขึ้นไปได้เป็นหลักพันตัว (ต่อกันผ่าน InfiniBand) สเปกเครื่องมีดังนี้

Tags:
Node Thumbnail

NVIDIA ประกาศความร่วมมือกับ Microsoft Azure สร้างซูเปอร์คอมพิวเตอร์สำหรับประมวลผล AI ที่คุยว่าจะเป็นหนึ่งในซูเปอร์คอมพิวเตอร์ AI ที่แรงที่สุดในโลก

ตอนนี้ยังไม่มีข้อมูลว่าซูเปอร์คอมพิวเตอร์เครื่องนี้ใช้ชื่อว่าอะไร และจะเสร็จเมื่อไร แต่ระบุว่าใช้จีพียู H100 สถาปัตยกรรม Hopper รุ่นใหม่ล่าสุด และจีพียู A100 รุ่นก่อนหน้า รวมกันเป็นจำนวนหลายหมื่นตัว (tens of thousands) ส่วนเครือข่ายใช้ Quantum-2 InfiniBand รุ่นใหม่ อัตราส่งข้อมูล 400Gb/s เพิ่มขึ้นเท่าตัวจากรุ่นที่ใช้อยู่ในปัจจุบัน

Tags:
Node Thumbnail

ในงานประชุม Open Compute Global Summit 2022 เมื่อสัปดาห์ที่แล้ว Meta เปิดตัวเซิร์ฟเวอร์รุ่นใหม่ Grand Teton สำหรับงานประมวลผล AI ที่ใช้ชิป NVIDIA H100 สถาปัตยกรรม Hopper รุ่นล่าสุดของฝั่งจีพียูเซิร์ฟเวอร์

Grand Teton ตั้งชื่อตามภูเขาในรัฐ Wyoming และเป็นเวอร์ชันอัพเกรดของเซิร์ฟเวอร์ Zion/Zion Ex ที่ Meta เริ่มใช้ในปี 2020/2021 ตอนนี้ยังไม่มีรายละเอียดทางเทคนิคออกมาเยอะนัก ไม่ว่าจะเป็นสเปกหรือสมรรถนะ โดย Meta บอกเพียงว่ามีแบนด์วิดท์เครือข่ายเพิ่ม 2 เท่า, แบนด์วิดท์ระหว่างซีพียูโฮสต์กับจีพียูเพิ่มขึ้น 4 เท่า เมื่อเทียบกับเครื่อง Zion รุ่นเดิม

Tags:
Node Thumbnail

NVIDIA มีซีพียู Arm สำหรับเซิร์ฟเวอร์ชื่อ Grace ที่จะออกช่วงครึ่งแรกของปี 2023 โดยแบ่งเป็น 2 เวอร์ชันย่อยคือ Grace CPU SuperChip ที่มีซีพียู 2 ตัวรวม 144 คอร์ กับ Grace Hopper SuperChip ที่เป็นซีพียู Grace + จีพียู Hopper รุ่นใหม่ สำหรับงานที่ต้องใช้จีพียูประมวลผลด้วย

ตอนนี้ Grace และ Hopper ยังไม่ออกวางขายจริง แต่ NVIDIA ก็จับมือกับพาร์ทเนอร์เปิดตัวเซิร์ฟเวอร์พลัง Grace มาแล้ว แบรนด์พาร์ทเนอร์ที่ร่วมเปิดตัวคือ Asus, Foxconn Industrial Internet, GIGABYTE, QCT, Supermicro, Wiwynn กำหนดขายจริงปี 2023

Tags:
Node Thumbnail

NVIDIA เปิดตัวชุดเซิร์ฟเวอร์ DGX H100 ที่ใช้ชิป H100 สถาปัตยกรรม Hopper โดยเปิดตัวทั้งแบบเซิร์ฟเวอร์เดี่ยว DGX H100, ชุดระดับตู้เซิร์ฟเวอร์ DGX POD, และระบบขนาดศูนย์ข้อมูล DGX SuperPOD

ชุดใหญ่สุดคือ DGX SuperPOD นั้นรองรับโหนดรวม 32 โหนด มีชิป H100 ทั้งหมด 256 ชุด พลังประมวลผลรวม 1 exaflops ที่ FP8

เพื่อแสดงพลังของเซิร์ฟเวอร์ชุดใหม่ ทาง NVIDIA จะสร้างซูเปอร์คอมพิวเตอร์ Eos ใช้ DGX H100 รวม 576 เครื่อง มีชิปกราฟิก H100 ทั้งหมด 4,608 ชุด คาดว่าจะมีพลังประมวลผลปัญญาประดิษฐ์รวม 18.4 exaflops และพลังประมวลผลวิทยาศาสตร์ 275 petaflops คาดว่าจะรันเครื่อง Eos โชว์ได้ในปีนี้

Tags:
Node Thumbnail

NVIDIA เปิดตัวสถาปัตยกรรมชิปกราฟิกรุ่นต่อไป ในชื่อ NVIDIA Hopper โดยชิปตัวแรก NVIDIA H100 สำหรับลูกค้าระดับองค์กรเป็นหลัก โดยมีฟีเจอร์ภายในสถาปัตยกรรมหลายอย่าง เช่น