NVIDIA เปิดตัวชุดซอฟต์แวร์ AI Enterprise ที่ปรับแต่งมารันบน VMware vSphere โดยระบุว่าได้ประสิทธิภาพด้อยกว่าการรันบนฮาร์ดแวร์จริง (bare metal) ไม่มากนัก

AI Enterprise เป็นชื่อเรียกรวมๆ ของซอฟต์แวร์ฝั่ง AI และ data science ของ NVIDIA ตั้งแต่ระดับล่างคือ CUDA, CUDA-X, GPU Operator, TensorRT, RAPIDS รวมถึงเฟรมเวิร์คโอเพนซอร์สยอดนิยมอย่าง TensorFlow, PyTorch

ฝั่งของ VMware จะปรับแต่ง VMware vSphere 7 Update 2 ซึ่งเป็นการรันทั้งบน VM และ container (Tanzu) ให้รันได้เต็มประสิทธิภาพบนจีพียูของ NVIDIA

ผลคือประสิทธิภาพของการรันงาน AI บน vSphere จะเกือบเทียบเคียงการรันบนฮาร์ดแวร์จริงๆ ข้อดีของความร่วมมือนี้คืองานประมวลผล AI สามารถรันจากที่ไหนก็ได้ ขอแค่เป็นเซิร์ฟเวอร์หรือคลาวด์ที่มีจีพียู NVIDIA ช่วยให้การสเกลระบบคล่องตัวมากขึ้น

vSphere 7 Update 2 ยังรองรับจีพียูตัวใหม่ล่าสุด NVIDIA A100 ที่มีฟีเจอร์เด่นคือการซอย GPU ออกเป็นหลาย instance (ชื่อเต็มๆ คือ multi-instance GPUs หรือ MIGs) เพื่อกระจายการประมวลผล และทำ live migration ระหว่าง instance ได้ด้วย

ที่มา - NVIDIA, VMware