ไมโครซอฟท์เปิดตัวชิป DPU (Data Processing Unit) ตัวแรกของตัวเองในชื่อ Azure Boost DPU

วงการ DPU หรือชิปช่วยประมวลผลข้อมูลที่วิ่งเข้าเซิร์ฟเวอร์ เพื่อลดภาระงานของซีพียู เริ่มได้รับความนิยมเรื่อยๆ ตัวอย่างชิปในวงการได้แก่ NVIDIA BlueField DPU, AMD Pansando, Intel IPU

ไมโครซอฟท์เริ่มบุกตลาดนี้ด้วยการซื้อบริษัท Fungible ในปี 2023 เวลาผ่านมาเกือบ 2 ปีก็ออกมาเป็น Azure Boost DPU ที่ออกแบบมาสำหรับศูนย์ข้อมูล Azure โดยเฉพาะ

eBPF เป็นซอฟต์แวร์ที่ฝังไว้ในเคอร์เนลลินุกซ์เพื่อเก็บค่าต่างๆ เพื่อให้โลกข้างนอกเคอร์เนลมองเห็น (observability) มันจึงถูกนิยมใช้ในซอฟต์แวร์ด้านมอนิเตอร์จำนวนมาก (ทั้งมอนิเตอร์ทราฟฟิก โหลดบาลานซ์ ความปลอดภัย ฯลฯ) ข้อดีของ eBPF คือไม่ต้องแก้ไขอะไรเคอร์เนลเลย และตัวโค้ดถูกรันใน sandbox ที่มีความปลอดภัย (เอกสารอธิบาย eBPF)

AMD เปิดตัวชิปหน่วยประมวลผลข้อมูลหรือ DPU เพื่อรองรับความท้าทายของเครือข่ายเซิร์ฟเวอร์สำหรับงาน AI โดยแยกการทำงานสองส่วน ได้แก่ Front-end สำหรับการรับส่งข้อมูลระหว่างคลัสเตอร์ AI และ Backend สำหรับจัดการข้อมูลที่รับส่งระหว่างตัวเร่งความเร็วประมวลผลกับเซิร์ฟเวอร์

โดยชิป DPU สำหรับงาน Front-end คือ AMD Pensando Salina และ AMD Pensando Pollara 400 สำหรับ Backend

NVIDIA เปิดตัว Spectrum-X ฮาร์ดแวร์เครือข่าย Ethernet ความเร็วสูง พร้อมประกาศอัพเกรดใหม่ทุกปี แบบเดียวกับรอบของจีพียู

เดิมที NVIDIA มีสินค้ากลุ่ม Ethernet ในศูนย์ข้อมูล ทำตลาดด้วยแบรนด์ Spectrum อยู่ก่อนแล้ว (เวอร์ชันล่าสุดคือ Spectrum-4) ของใหม่ที่เพิ่มเข้ามาคือการนำสวิตช์ Spectrum-4 (SN5600) มาร่วมร่างกับการ์ดเร่งการประมวลผลข้อมูลเครือข่าย (การ์ดเรียกว่า SuperNIC ตัวชิปเรียก DPU) ชื่อ BlueField-3 ทำให้ประสิทธิภาพรวมสูงขึ้นสูงสุด 1.6 เท่า เมื่อเทียบกับ Ethernet แบบดั้งเดิม

ไมโครซอฟท์ประกาศซื้อกิจการ Fungible Inc. ผู้ผลิตชิป DPU (Data Processing Unit) สำหรับงานประมวลผลข้อมูล โดยไม่ได้เปิดเผยมูลค่าของดีลดังกล่าว

ไมโครซอฟท์บอกว่าเทคโนโลยีของ Fungible จะเข้ามาเสริมประสิทธิภาพการทำงานของเครือข่ายและสตอเรจในศูนย์ข้อมูล ให้ยังมีความเสถียรและปลอดภัย โดยทีมงานของ Fungible จะเข้ามาร่วมทีมวิศวกรรมโครงสร้างศูนย์ข้อมูลของไมโครซอฟท์ เพื่อพัฒนาโซลูชัน DPU เสริมประสิทธิภาพของฮาร์ดแวร์

Fungible ก่อตั้งในปี 2016 โดยมีเป้าหมายเพื่อแก้ไขปัญหาสเกลที่เกิดขึ้นในศูนย์ข้อมูล คือการประมวลผลข้อมูลระหว่างโนดที่ไม่มีประสิทธิภาพ จึงพัฒนา DPU และซอฟต์แวร์ที่ทำงานแก้ไขปัญหาดังกล่าว

VMware ประกาศออก vSphere 8 เข้าสถานะ General Availability (GA) พร้อมใช้งานเป็นการทั่วไปแล้ว หลังออกเวอร์ชัน Initial Availability (IA) มาตั้งแต่เดือนตุลาคม ตามโมเดลการออกเวอร์ชันแบบใหม่ที่แยกเป็น IA กับ GA

ของใหม่ใน vSphere 8 ได้แก่

NVIDIA มีซีพียู Arm สำหรับเซิร์ฟเวอร์ชื่อ Grace ที่จะออกช่วงครึ่งแรกของปี 2023 โดยแบ่งเป็น 2 เวอร์ชันย่อยคือ Grace CPU SuperChip ที่มีซีพียู 2 ตัวรวม 144 คอร์ กับ Grace Hopper SuperChip ที่เป็นซีพียู Grace + จีพียู Hopper รุ่นใหม่ สำหรับงานที่ต้องใช้จีพียูประมวลผลด้วย

ตอนนี้ Grace และ Hopper ยังไม่ออกวางขายจริง แต่ NVIDIA ก็จับมือกับพาร์ทเนอร์เปิดตัวเซิร์ฟเวอร์พลัง Grace มาแล้ว แบรนด์พาร์ทเนอร์ที่ร่วมเปิดตัวคือ Asus, Foxconn Industrial Internet, GIGABYTE, QCT, Supermicro, Wiwynn กำหนดขายจริงปี 2023

AMD ประกาศซื้อ Pensando บริษัทผู้ผลิตการ์ด PCIe สำหรับประมวลผลข้อมูลเครือข่าย ในราคา 1.9 พันล้านดอลลาร์

ผลิตภัณฑ์ของ Pensando เป็นการ์ด PCIe ที่เรียกว่า Distributed Services Card (DSC) มีหน่วยประมวลผลแยก ทำหน้าที่แบ่งโหลดงานพื้นฐาน (cloud infrastructure functions) เช่น routing, load balancing, encryption, virtualization ออกมาจากซีพียูของเซิร์ฟเวอร์

นอกจากตัวการ์ดแล้ว Pensando ยังจับมือกับ Aruba นำเทคโนโลยีของตัวเองไปใส่ไว้ในสวิตช์ Aruba CX 10000 โดยเรียกมันว่า Distributed Services Switch ชูจุดเด่นว่ามี "ไฟร์วอลล์ทุกพอร์ต" (a Firewall on Every Port) แต่จัดการได้จากส่วนกลางที่เดียว

อินเทลเปิดตัวหน่วยประมวลผลแบบใหม่ที่เรียกว่า infrastructure processing unit (IPU) สำหรับศูนย์ข้อมูล มันมีหน้าที่ประมวลผลด้านการสื่อสาร ดึงงานด้านนี้ออกมาจากซีพียู

ในสายงานเครือข่ายมีหน่วยประมวลผล SmartNIC อยู่แล้ว สิ่งที่อินเทลเพิ่มเข้ามาคือการผนวกชิปที่โปรแกรมได้อย่าง FPGA และตัวช่วยเร่งการประมวลผล (infrastructure acceleration) ที่ออกแบบตามโหลดงานยุคใหม่ เช่น storage virtualization, network virtualization, security

ผลดีของการใช้ IPU คือลดโหลดของซีพียูลง เพราะลดงานด้านสตอเรจและเครือข่ายมาไว้ที่ IPU, ประสิทธิภาพการประมวลผลดีขึ้นเพราะชุดคำสั่งออกแบบมาเฉพาะ, ระบบโดยรวมปลอดภัยและเสถียรขึ้น

NVIDIA ประกาศเป็นพันธมิตรกับ VMware โดยระบุเป้าหมายว่าจะสร้างแพลตฟอร์มปัญญาประดิษฐ์ที่องค์กรสามารถใช้งานได้ง่าย แม้เป้าหมายจะดูกว้างๆ แต่ทั้งสองบริษัทก็ประกาศความร่วมมือที่ชัดเจน 2 ประการคือการซัพพอร์ตโมเดล AI จำนวนมากบนแพลตฟอร์มของ VMware และ NVDIA จะผลิตชิปสำหรับ Project Monterey

NVIDIA จะซัพพอร์ตซอฟต์แวร์และโมเดลปัญญาประดิษฐ์ ที่อยู่ใน NVIDIA NGC ให้รันบน VMware vSphere, VMware Cloud Foundation, และ VMware Tanzu ได้