Jensen Huang ซีอีโอ NVIDIA นำเซิร์ฟเวอร์ H200 ไปส่งให้ OpenAI ด้วยตัวเอง หลังจากที่เคยไปส่งเครื่อง DGX-1 ด้วยตัวเองตั้งแต่เมื่อตอนก่อตั้ง OpenAI เมื่อปี 2016

เซิร์ฟเวอร์ H200 เปิดตัวตั้งแต่ปลายปี 2023 และมีกำหนดส่งมอบไตรมาสที่สองของปี 2024 ซึ่ง Greg Brockman ระบุว่านี่เป็นเครื่องแรกของโลก

ที่มา - @gdb

ซัมซุงเปิดตัว "กล่องแรม" Memory Module Box ที่สามารถใส่แรมความเร็วสูง HBM3E ได้สูงสุด 2TB ต่อกล่อง แบนด์วิดท์รวม 60 GBps มีความหน่วงต่ำ 596 nanosecond เหมาะสำหรับงานประมวลผลที่ต้องใช้แรมมากๆ เช่น AI, ฐานข้อมูลในหน่วยความจำ (in-memory database) และงานวิเคราะห์ข้อมูล

กล่องแรมของซัมซุงจะเชื่อมต่อกับหน่วยประมวลผลหลักของเซิร์ฟเวอร์ผ่านบัสแบบใหม่ Compute Express Link (CXL) ที่อินเทลและกลุ่มบริษัทไอทีจำนวนหนึ่งเริ่มผลักดันมาได้สักระยะ โดยบัส CXL ออกแบบมาเพื่อแข่งกับ NVLink ของ NVIDIA และ CCIX ของฝั่ง AMD

NVIDIA โชว์เซิร์ฟเวอร์ของตัวเอง NVIDIA GB200 NVL72 โดยเน้นว่ามันมีพลังประมวลผลและแรมเพียงพอที่จะฝึกปัญญาประดิษฐ์ขนาด 1.8T ได้ในตัว

เซิร์ฟเวอร์นี้ขายเป็นตู้สำเร็จ โดยแต่จะโหนดในตู้ คือ GB200 compute tray ที่มีชิปซีพียู Grace สองชุด คู่กับ จีพียู Blackwell อีก 4 ตัว เชื่อมระบบระบายความร้อนด้วยน้ำ แต่ละโหนดมีพลังประมวลผล 80 petaflops และแรมอีก 1.7TB ในตัว การคอนฟิกตู้ ใส่ NVLink Switch System สำหรับเชื่อมแต่ละโหนดเข้าด้วยกัน โดยหนึ่งตู้ติดตั้ง compute tray 18 ชุด รวมเป็น GPU ทั้งหมด 72 ตัว

Andy Jassy ซีอีโอ Amazon ระบุในงานแถลงผลประกอบการปีนี้ ว่า AWS กำลังยืดอายุเซิร์ฟเวอร์เป็น 6 ปี หลังจากเมื่อปี 2022 เคยยืดอายุจาก 4 ปีเป็น 5 ปีมาแล้ว เฉพาะการยืดอายุเซิร์ฟเวอร์รายการเดียวจะทำให้กำไรสุทธิของ AWS เพิ่มขึ้น 900 ล้านดอลลาร์ในไตรมาสแรกของปีนี้

แม้ว่าเซิร์ฟเวอร์จะใช้ได้นานขึ้น แต่ Jassy ก็ยังระบุว่าเงินลงทุนของ AWS ยังเพิ่มขึ้นเนื่องจากต้องลงทุนกับโครงสร้างสำหรับ generative AI ไปพร้อมๆ กับการขยายศูนย์ข้อมูลไปยังภูมิภาคต่างๆ โดยคาดว่ารายได้จาก AI จะเพิ่มขึ้นอย่างรวดเร็วจนไปถึงระดับหมื่นล้านดอลลาร์ในไม่กี่ปีข้างหน้า แต่ก็ยอมรับว่าตอนนี้รายได้จาก AI ยังไม่ได้มากมายนัก

พบกันทุกสามปี ไมโครซอฟท์ประกาศว่า Windows Server เวอร์ชันหน้าจะเรียกว่า Windows Server 2025 ถือเป็นการนับเลขต่อจาก Windows Server 2022 ที่ออกในปี 2021

ช่วงหลังไมโครซอฟท์ใช้วิธีออก Windows Server Insider รุ่นทดสอบอยู่เรื่อยๆ อยู่แล้ว เพียงแต่ก่อนหน้านี้ใช้ชื่อกลางๆ ว่า Windows Server vNext ไม่ได้ระบุเลขปีชัดเจน ตอนนี้ไมโครซอฟท์เปลี่ยนชื่อ Insider ตัวล่าสุดเป็น 2025 เรียบร้อยแล้ว

AMD วางขายชิปเร่งความเร็วปัญญาประดิษฐ์ MI300X และ MI300A อย่างเป็นทางการ ชิปทั้งสองรุ่นถือเป็นอาวุธหลักของ AMD ออกมาสู้กับ NVIDIA Hopper (H100/H200) ที่กำลังกวาดลูกค้าทั่วโลกในตอนนี้

ชิปซีรีส์ MI300 เปิดตัวครั้งแรกในเดือนมกราคม แล้วประกาศรายละเอียดอีกครั้งในเดือนมิถุนายน แบ่งออกเป็น 2 รุ่นย่อยที่ต่างกันคือ

NVIDIA เปิดตัวจีพียูศูนย์ข้อมูล Hopper H200 ที่อัพเกรดขึ้นจาก H100 ที่เปิดตัวตั้งแต่ปี 2022

จุดเด่นของ NVIDIA H200 คือใช้แรมแบบใหม่ HBM3e ที่เร็วขึ้นกว่าเดิม สามารถส่งข้อมูลในหน่วยความจำขนาด 141GB ด้วยอัตรา 4.8 TBps แบนด์วิดท์เพิ่มขึ้น 2.4 เท่าเทียบกับแรมใน NVIDIA A100 ของเจนก่อน

จีพียู H200 จะถูกนำไปใช้กับบอร์ด NVIDIA HGX H200 รองรับทั้งการคอนฟิกแบบ 4/8 จีพียู ฮาร์ดแวร์เข้ากันได้กับระบบที่เป็น HGX H100 เดิม ทำให้หน่วยงานที่มีของเดิมอยู่แล้วอัพเกรดได้ง่าย

อินเทลประกาศวางขายซีพียูฝั่งเซิร์ฟเวอร์ 5th Gen Xeon Scalable โค้ดเนม Emerald Rapids ในวันที่ 14 ธันวาคม 2023 (พร้อมกับ Core Ultra ของฝั่งโน้ตบุ๊ก)

การออก Xeon 5th Gen ช่วงปลายปี ทำให้ปีนี้อินเทลออก Xeon ได้ถึง 2 รุ่นคือ 4th Gen Xeon Sapphire Rapids เมื่อเดือนมกราคม หลังจากล่าช้ามานานหลายปี และออก 5th Gen ตามต่อทันทีได้ตอนปลายปี ถือเป็นสัญญาณอันดีว่าอินเทลเริ่มกลับเข้ามาอยู่ในร่องในรอยมากขึ้นแล้ว

บริษัทวิจัยตลาด Bernstein Research ออกรายงานประเมินส่วนแบ่งตลาดเซิร์ฟเวอร์ Arm มีข้อมูลน่าสนใจดังนี้

NVIDIA เปิดตัวโมดูล NVIDIA GH200 Grace Hopper รุ่นต่อไป หลังจากปีนี้วางตลาดรุ่นแรกไปแล้ว ความเปลี่ยนแปลงสำคัญของรุ่นต่อไปคือการใช้แรม HBM3e ทำให้ใส่แรมได้มากขึ้นมาก เครื่องขนาด 2 โมดูล สามารถใส่แรมได้สูงสุด 282GB ซีพียู 144 คอร์ และพลังประมวลผล AI รวม 8 เพตาฟลอบ (ไม่ระบุว่าที่ความละเอียดระดับใด)

HBM3e เป็นหน่วยความจำประสิทธิภาพสูงที่พัฒนาต่อมาจาก HBM3 โดยก่อนหน้านี้อาจจะเรียกว่า HBM3+ หรือ HBM3 Gen 2 ตอนนี้โรงงานที่ผลิต HBM3 หลักๆ ได้แก่ SK hynix, Samsung, และ Micro และน่าจะเตรียมสายการผลิต HBM3e กันอยู่ โดยรวมแล้วแรม HBM3e บน GH200 รุ่นต่อไปรองรับแบนวิดท์ 10TB/s

บริษัท MosaicML ที่เพิ่งถูกซื้อกิจการโดย Databricks เปิดเผยการใช้ชิปเร่งประมวลผล AI สองค่ายเปรียบเทียบกัน ได้แก่ NVIDIA A100 และ AMD MI250 (ทั้งสองรุ่นยังไม่ใช่ตัวใหม่ล่าสุด) พบว่าตอนนี้ชิปของ AMD สามารถทำประสิทธิภาพได้ราว 80% ของชิป NVIDIA แล้ว

AMD ประกาศวางขายซีพียูกลุ่มเซิร์ฟเวอร์ EPYC Gen 4 เพิ่มเติม หลังจากวางขาย EPYC "Genoa" สำหรับเซิร์ฟเวอร์ทั่วไป มาตั้งแต่ปลายปี 2022

ซีพียู EPYC มีทั้งหมด 4 กลุ่มตามที่ AMD ประกาศไว้ตอนกลางปี 2022 โดยมี Genoa ขายเป็นกลุ่มแรก ส่วนประกาศรอบนี้เป็นการวางขายซีพียูเพิ่มเติมอีก 2 กลุ่มคือ "Bergamo" สำหรับตลาดเซิร์ฟเวอร์ cloud native ที่อัดจำนวนคอร์สูงๆ และ "Genoa-X" สำหรับงานที่ต้องการหน่วยความจำ L3 มากๆ

Foxconn บริษัทผู้รับผลิตและประกอบสินค้าอิเล็กทรอนิกส์รายใหญ่ เปิดเผยข้อมูลน่าสนใจในระหว่างการประชุมสามัญผู้ถือหุ้นประจำปี โดย Liu Young-way ประธานบริษัทบอกว่าธุรกิจเซิร์ฟเวอร์ มีความต้องการสินค้าเพิ่มมากขึ้น เนื่องจากความต้องการแอพพลิเคชัน AI ที่สูงขึ้น

Liu บอกว่าเพราะคนใช้งานแอปแบบ ChatGPT มากขึ้น ทำให้ตลาดเซิร์ฟเวอร์ที่รองรับ AI มีความต้องการสูงเร็วกว่าที่บริษัทเคยประเมินไว้ และครึ่งหลังของปีนี้ความต้องการอาจเพิ่มสูงระดับเปอร์เซ็นต์เลขสามหลัก

ในภาพรวมของธุรกิจ Liu บอกว่าบริษัทยังคงระมัดระวังผลกระทบในภาพใหญ่ ทั้งนโยบายดอกเบี้ยของแต่ละประเทศ ปัญหาภูมิรัฐศาสตร์ระหว่างประเทศ และปัญหาเงินเฟ้อ ซึ่งล้วนส่งผลกระทบในธุรกิจอื่นของบริษัท

NVIDIA เปิดสเปกของเครื่องเซิร์ฟเวอร์ชื่อ MGX ให้ผู้ผลิตเซิร์ฟเวอร์และศูนย์ข้อมูลขนาดใหญ่ใช้งาน

MGX เป็นชื่อเรียกดีไซน์ต้นแบบ (reference architecture) ของเครื่องเซิร์ฟเวอร์ที่ใช้เทคโนโลยีฝั่ง NVIDIA ได้แก่

Ampere Computing บริษัทผู้พัฒนาซีพียู Arm สำหรับเซิร์ฟเวอร์ เปิดเผยรายละเอียดของ AmpereOne ซีพียูรุ่นที่สามของบริษัท ที่เปิดตัวครั้งแรกกลางปี 2022

AmpereOne หรือโค้ดเนม Siryn เป็นซีพียูแบบ 136-192 คอร์ ถือว่าเยอะที่สุดในวงการ ใช้คอร์ของ Ampere พัฒนาเอง (รุ่นก่อนหน้านี้ใช้สถาปัตยกรรมจาก Arm) ดีไซน์แบบ chiplet, รองรับแรม DDR5 x8 แชนเนล, PCIe Gen 5 x128 เลน และใช้กระบวนการผลิต 5nm

AMD เปิดตัวการ์ดประมวลผลวิดีโอฝั่งเซิร์ฟเวอร์ Alveo MA35D มีจุดเด่นคือรองรับการเข้ารหัสวิดีโอแบบ AV1 และการเข้ารหัสวิดีโอพร้อมกัน 32 สตรีม (1080p60) ต่อการ์ด

การ์ดเร่งความเร็วการประมวผล (accelerator) ตระกูล Alveo เป็นการ์ดแบบ ASICS ที่ AMD ได้มาจากการซื้อกิจการ Xilinx ตั้งแต่ปี 2020 โดยการ์ดรุ่นนี้เป็นรุ่นแรกที่ปลดแบรนด์ Xilinx และเปลี่ยนมาใช้แบรนด์ AMD เต็มตัว

อินเทลประกาศแผนการออกซีพียูเซิร์ฟเวอร์ตระกูล Xeon Scalable ในอนาคต ถัดจาก 4th Gen Xeon Scalable (Sapphire Rapids) ที่เพิ่งวางขายเมื่อเดือนมกราคม 2023

Jensen Huang ซีอีโอของ NVIDIA โชว์หน้าตาชิปจริงของซีพียู Grace Superchip ที่เปิดตัวช่วงต้นปี 2022 โดยเลื่อนการวางขายสินค้าจริงจากครึ่งแรกของปี 2023 เป็นครึ่งหลังของปีแทน

Grace Superchip เป็นการนำซีพียู Grace สองตัวมาเชื่อมต่อกัน มีจำนวนคอร์รวม 144 คอร์ จุดขายของ Grace คือการเป็นสถาปัตยกรรม Arm ที่ประหยัดพลังงานกว่า และออกแบบมาเพื่องานปัญญาประดิษฐ์โดยเฉพาะ ทำให้รันงานลักษณะนี้ได้ดีกว่าชิป x86 ที่ออกแบบมาสำหรับงานทั่วไป

Lenovo เปิดตัวเครื่องเดสก์ท็อปเวิร์คสเตชัน ThinkStation PX, P7, P5 ที่ออกแบบเคสร่วมกับแบรนด์รถยนต์ Aston Martin

จุดเด่นที่น่าสนใจของ ThinkStation ชุดนี้ (เฉพาะ PX และ P7) คือตัวเครื่องมาทรงเดสก์ท็อปทาวเวอร์ก็จริง แต่ออกแบบมาให้ใช้ต่อเป็นแร็คขนาด 4U ได้ด้วย เหมาะสำหรับหน่วยงานที่จำเป็นต้องใช้งานประมวลผลสูงๆ สามารถนำเวิร์คสเตชันมาต่อกันในศูนย์ข้อมูล

เวิร์คสเตชัน ThinStation ชุดนี้ใช้ซีพียู Intel Xeon Scalable Gen 4 (Sapphire Rapids) และ จีพียู NVIDIA RTX 6000 Ada Lovelace ซึ่งเป็นสเปกที่แรงที่สุดเท่าที่หาได้ในปัจจุบัน

หลังจากล้มเหลวกับบริการคลาวด์เกมมิ่ง Stadia จนต้องปิดตัว กูเกิลปรับทิศทางใหม่ นำเทคโนโลยีจาก Stadia มาให้บริการบริษัทเกมอื่นๆ แทน ภายใต้ชื่อแบรนด์ว่า Google Cloud for Live Service Games

บริการภายใต้ร่มของ Google Cloud for Live Service Games เป็นผลิตภัณฑ์ที่กูเกิลมีอยู่ก่อนแล้ว แต่นำมาจัดชุดใหม่ให้เหมาะกับลูกค้ากลุ่มบริษัทเกม ที่ต้องการเซิร์ฟเวอร์ขนาดใหญ่รองรับเกมแนว Live Service ที่มีผู้เล่นจำนวนมหาศาล

กระทรวงพาณิชย์ของสหรัฐอเมริกา ออกคำสั่งแบนห้ามบริษัทสัญชาติอเมริกันทำธุรกิจบริษัทจีนรอบใหม่ คราวนี้ในรายชื่อมี Inspur ผู้ผลิตเซิร์ฟเวอร์รายใหญ่ที่สุดของจีน (และอยู่อันดับสามของโลกในแง่จำนวนเซิร์ฟเวอร์) รวมอยู่ด้วย

Inspur มีจุดกำเนิดจากการเป็นรัฐวิสาหกิจที่ผลิตอุปกรณ์อิเล็กทรอนิกส์ และขยายกิจการเติบใหญ่จนกลายมาเป็นแบรนด์จีนยักษ์ใหญ่ด้านเซิร์ฟเวอร์ ปัจจุบันในรายชื่อซูเปอร์คอมพิวเตอร์ Top500 มีเครื่องของ Inspur ติดอยู่อันดับ 47 โดยเป็นเครื่องที่สร้างให้บริษัท Yandex ของรัสเซีย

David Heinemeier Hansson (@dhh) ผู้ร่วมก่อตั้ง Basecamp เคยประกาศไว้เมื่อเดือนตุลาคม 2022 ว่าบริษัท 37signals ของเขาจะเลิกเช่าคลาวด์เพราะมีต้นทุนแพง เวลาผ่านมาเกือบ 6 เดือน เขาโพสต์ข้อมูลอัพเดตของการย้ายออกจากคลาวด์ให้ทราบกัน

DHH เปิดเผยตัวเลขให้เห็นชัดๆ ว่าเขาต้องจ่ายค่าคลาวด์ให้ AWS ตลอดทั้งปี 2022 เป็นเงิน 3,201,564.24 ดอลลาร์ (ตีเป็นเงินไทยปัจจุบันราว 106 ล้านบาท) โดยก้อนใหญ่ๆ เป็นค่า S3, RDS, OpenSearch, Elasticache ตามลำดับ ซึ่ง Basecamp จ่ายในราคาที่ถือว่ามีส่วนลดแล้ว เพราะเป็นการซื้อแบบการันตีระยะเวลานาน 4 ปี

ในงานประชุม Open Compute Global Summit 2022 เมื่อสัปดาห์ที่แล้ว Meta เปิดตัวเซิร์ฟเวอร์รุ่นใหม่ Grand Teton สำหรับงานประมวลผล AI ที่ใช้ชิป NVIDIA H100 สถาปัตยกรรม Hopper รุ่นล่าสุดของฝั่งจีพียูเซิร์ฟเวอร์

Grand Teton ตั้งชื่อตามภูเขาในรัฐ Wyoming และเป็นเวอร์ชันอัพเกรดของเซิร์ฟเวอร์ Zion/Zion Ex ที่ Meta เริ่มใช้ในปี 2020/2021 ตอนนี้ยังไม่มีรายละเอียดทางเทคนิคออกมาเยอะนัก ไม่ว่าจะเป็นสเปกหรือสมรรถนะ โดย Meta บอกเพียงว่ามีแบนด์วิดท์เครือข่ายเพิ่ม 2 เท่า, แบนด์วิดท์ระหว่างซีพียูโฮสต์กับจีพียูเพิ่มขึ้น 4 เท่า เมื่อเทียบกับเครื่อง Zion รุ่นเดิม

Webmin ซอฟต์แวร์ control panel จัดการเซิร์ฟเวอร์และเว็บโฮสติ้งแบบเว็บเบส ที่เริ่มพัฒนามายาวนานตั้งแต่ปี 1997 ออกเวอร์ชัน 2.0 ถือเป็นการออกเวอร์ชันใหญ่ครั้งแรกในรอบหลายปี

Webmin เกิดมาในยุคที่เว็บเซิร์ฟเวอร์เริ่มบูม การจัดการ Apacher HTTP Server ต้องทำผ่านคอมมานด์ไลน์ ยากต่อการดูแล ตัว Webmin เองเขียนด้วยภาษา Perl และไม่เคยขยับเลขเวอร์ชันจาก 1.x เลยในช่วงเวลา 20 กว่าปีที่ผ่านมา ถึงแม้โลกยุคหลังมีซอฟต์แวร์อื่นๆ เช่น cPanel หรือ Plesk ให้เลือกใช้งาน แต่ก็ยังมีคนจำนวนมากที่ใช้ Webmin อยู่เพราะเป็นไลเซนส์แบบโอเพนซอร์ส (นอกจากนี้ยังมีซอฟต์แวร์อื่นในเครือ Webmin เช่น Usermin และ Virtualmin ด้วย)

Bloomberg รายงานข่าวลือว่าเจ้าพ่อชิปมือถืออย่าง Qualcomm กำลังสนใจกลับมาทำชิปฝั่งเซิร์ฟเวอร์อีกรอบ โดยจะใช้ Nuvia บริษัทที่ซื้อมาในปี 2021 เป็นแกนกลาง

Nuvia เป็นบริษัทที่ก่อตั้งโดยอดีตทีมออกแบบชิปตระกูล Ax ของแอปเปิล ที่หันมาเปิดบริษัทเองและต้องการทำชิป Arm สำหรับเซิร์ฟเวอร์ แต่มาโดน Qualcomm ซื้อก่อน และตอนนี้ถูกใช้ทำชิปสำหรับมือถือที่จะออกสู่ตลาดในปี 2023