By: mk 
on 28 December 2024 - 22:19
Tags:
SemiAnalysis เว็บไซต์-จดหมายข่าวของวงการเซมิคอนดักเตอร์ ปล่อยงานรีวิวจีพียูระดับเทพ (เทพจริงๆ เพราะไม่สามารถหาซื้อได้ทั่วไป) นั่นคือ AMD Instinct MI300X ความหวังของ AMD ที่จะมาโค่นเจ้าตลาด NVIDIA H100/H200
แนวทางของ AMD คือการให้สเปกฮาร์ดแวร์ที่ดีกว่า NVIDIA เช่น ให้แรมถึง 192GB (H100 มี 80GB, H200 มี 141GB) สมรรถนะแรงกว่า ในราคาถูกกว่า แล้วหวังว่าลูกค้าจะย้ายค่ายมาใช้ AMD แทน
SemiAnalysis บอกว่าใช้เวลา 5 เดือนทดสอบและวิเคราะห์ผลเบนช์มาร์คต่างๆ โดยเฉพาะการเทรนโมเดล แล้วพบว่าสเปกบนกระดาษของ AMD ดีกว่าจริงๆ แต่ในการรันงานจริงนั้น AMD มาตายตรงซอฟต์แวร์อีกเช่นเคย
ผลการทดสอบของ SemiAnalysis บอกว่าซอฟต์แวร์ของ AMD เต็มไปด้วยบั๊ก การตรวจสอบคุณภาพซอฟต์แวร์ (QA) ไม่ดีพอ ในขณะที่ประสิทธิภาพของจีพียู NVIDIA แกะกล่องออกมาเสียบ ทำงานได้ดีเลยโดยไม่ต้องปรับจูนอะไรมาก ฝั่งของ AMD กลับต้องปรับแก้ปัญหา และหา workaround เพื่อให้ซอฟต์แวร์สามารถทำงานได้ (นี่ขนาด SemiAnalysis ติดต่อกับทีมงานของ AMD ตลอดเวลา และปรับปรุงคุณภาพซอฟต์แวร์ให้ดีขึ้นมาระดับหนึ่งแล้วด้วย)
ผลสรุปของการทดสอบครั้งนี้คือ MI300X มีค่าใช้จ่ายรวม (total cost of ownership หรือ TCO) ถูกกว่าจริง แต่ประสิทธิภาพในการเทรนต่อ TCO นั้นแย่กว่า และหาก AMD ต้องใช้เวลาปรับแก้ซอฟต์แวร์อีกนาน ถึงตอนนั้นชิปตัวใหม่คือ NVIDIA Blackwell ก็วางขายแพร่หลายแล้ว
SemiAnalysis เรียกร้องให้ Lisa Su และฝ่ายบริหารของ AMD ทุ่มทรัพยากรด้านซอฟต์แวร์ให้ดีกว่านี้ โดยเฉพาะการทำงานของ PyTorch ที่เป็นซอฟต์แวร์สำคัญในการเทรนโมเดล
หลังจากบทความชิ้นนี้ถูกเผยแพร่ออกมา Dylan Patel ผู้อยู่เบื้องหลัง SemiAnalysis ก็โพสต์ข้อความว่าเขาได้นั่งคุยกับ Lisa Su เป็นเวลานานถึง 1.5 ชั่วโมง และ Su ยอมรับว่ามีปัญหาซอฟต์แวร์อยู่จริงๆ และยินดีจะทำไปแก้ไขอย่างจริงจัง
Met with @LisaSu today for 1.5 hours as we went through everythingShe acknowledged the gaps in AMD software stackShe took our specific recommendations seriouslyShe asked her team and us a lot of questionsMany changes are in flight already!Excited to see improvements coming https://t.co/38aAwwIdEI
— Dylan Patel (@dylan522p) December 23, 2024
ที่มา - SemiAnalysis
Get latest news from Blognone
Follow @twitterapi
Comments
ความน่ากลัวของ Ecosystem ของ NVIDIA ถือว่าเป็นหนึ่งในจุดแข็งสำคัญจริงๆ
No pain no gain สู้ๆ ครับ
มือใหม่!! ใหม่จริงๆนะ
หนีไม่พ้นกับประโยค “ซื้อวันนี้ แรงวันหน้า” ในทุกกลุ่มสินค้าของ AMD เลย 😅
Nvidia พัฒนา Cuda มา 10-20 ปี
ตั้งแต่คนยังไม่รู้ว่ามันเอาไปทำอะไรได้ (ทำไมเราต้องส่งข้อมูลเข้าไปคำนวณบน GPU? ทั้งๆ ที่ทำบน CPU ก็ได้?) กว่าจะมีวันนี้ มันไม่ใช่แค่ Feature, Spec, หรือความแรง HW แต่มันคือความเข้ากันได้ การรองรับ Library และ App ต่างๆ ความคุ้นชินของ Developer
มันเข้าไปอยู่ในวิชาเรียนในมหาลัย
อยู่ในโปรเจคจบของนักศึกษา อยู่ในงานวิจัยนักศึกษา ป.เอก (ใครๆ ก็ต้องใช้ Nvidia เพราะมันคือ Industry standard, State-of-the-Art) สมัยเรียนอาจารย์ก็เคยให้ทำ CUDA Project เล็กๆ ส่งข้อมูล Array ขนาดใหญ่เข้าไปประมวลผลบน GPU เออ มันก็เร็วกว่า For-loop บน CPU จริงๆ
ส่วน AMD, Intel นั้น...
ความแรง ฟีเจอร์มันอาจจะดีพอ แต่ใครใช้ล่ะ...
ตอนนั้นมีการพยายามย้ายการคำนวณไปบน gpu (gpgpu) แล้วครับ ฝั่ง amd ก็มี ctm เหมือนกัน แต่พอ khronos ออกมาตรฐาน opencl มา amd เลยย้ายไปทำ opencl แทน
AMD มีปัญหาใหญ่ข้อนึง คือ เค้าดันมีทั้ง compute gpu และ graphics gpu แยกกันเป็นคนละ SKU พอทีมซอฟต์ตัวเองก็เล็กอยู่แล้วยังต้องแยกตัวเองไปซัพพอร์ตทั้งสองขาอีก
คือไอเดียมันดี เพราะสมัยก่อน AMD เคยพยายามดันให้ GPU ไปแข็งเรื่อง compute มาก่อน (GCN) กลายเป็นสู้คู่แข่งไม่ได้ในตลาดเกม ก็เลยเอ้าตูทำ RDNA ออกมาอีกตัวเอาไว้แข่งเรื่องเกม แล้วเอา CDNA ไปจับตลาด compute อย่างเดียว สุดท้ายก็กลายเป็นว่ารีซอร์สไม่พออีก
ในมุมของการพัฒนาซอร์ฟแวร์ การเป็นผู้ตามนี่ไล่ตีตื้นยากสุดๆ เพราะคู่แข่งก็ขยับออกไปเรื่อยๆ
..: เรื่อยไป
ถ้า Nvidia ไม่ทำตัวเหมือน intel ที่ทำตัวเป็นกระต่าย นำห่างแล้วนอนรอจนเต่าแซงนี่ amd เหนื่อย
ในวงการผมก็มีสิ่งคล้ายๆอย่างนี้แหละมีผู้นำตลาดที่เป็นแชมป์มา 20 กว่าปีโดยมีบริษัทเป็น 10 บริษัทที่พยายามจะตีตื้นแต่ไม่เคยเฉียดใกล้เกิน 10% เลยบริษัทนั้นก็ไม่ได้พัฒนาอะไรมาเลยตลอด 20 ปียังหากินกับบุญเก่าอยู่ จนมาวันหนึ่งมีบริษัทบริษัทนึงทำสินค้าคล้ายๆกับเจ้าตลาดออกมาซึ่งแน่นอนแพ้แน่ๆ แต่บังเอิญสิ่งที่เกิดขึ้นในเมืองไทยมีคนดีศรีอยุธยา ที่สาขาประเทศไทย เปลี่ยนวิธีการคิดเปลี่ยนวิธีการขาย หลังจากวางตลาดซึ่งเป็นรองเจ้าตลาดอยู่ ปรับเปลี่ยนหาวิธีใช้งานสินค้าตัวนั้นใหม่ปรับให้เข้าปรับให้ตรงกับความต้องการของผู้ใช้ 2 ปีผ่านไปตอนนี้เจ้าตลาดอยู่ไม่ติดแล้ว มวยรองเอากลยุทธ์ของประเทศไทยไปใช้ทั่วโลก และเจ้าตลาดยังไม่ได้เตรียมสินค้าใหม่ที่จะออกมาวางตลาดด้วยซ้ำไปเพราะหากินกับบุญเก่าอยู่ 20 ปี สิ่งที่เจ้าตลาดได้เปรียบคือความเป็นมาตรฐานของตลาด สิ่งที่เจ้าใหม่ได้เปรียบคือสเปคที่ดีกว่าแต่วันแรกคือซอฟต์แวร์ที่ห่วยกว่าแต่มันถูกปรับปรุงและแก้ไขให้ตรงกับความต้องการของลูกค้าในแบบที่เจ้าตลาดเดิมไม่เคยสนใจจะทำ
สถานการณ์ในวันนี้มวยรองกำลังจะยึดตำแหน่งแชมป์ เพราะว่ามวยรองทุ่มเทเต็มที่เพราะรู้และรับฟังปัญหาที่ผู้ใช้เจอและกลับไปแก้ ในขณะที่เจ้าตลาดก็ยังมั่นคงยึดมั่นภูมิใจกับความเป็นมาตรฐานตลาดของตัวเอง
อ่านแล้วอยากรู้เพิ่มเลยครับ
+1
..: เรื่อยไป
มีคำใบ้ไหมครับ เดาไม่ถูก :P
WE ARE THE 99%
เดาว่ารถev
ของผมเป็นวงการเครื่องมือแพทย์ครับ
เครื่องมือแพทย์ มีฮาร์ดแวร์ มีซอฟท์แวร์ และมีการปรับปรุงซอฟท์แวร์
สิ่งแรกๆ ที่ผมคิดคือเครื่องเอ๊กซ์เรย์ดิจิตอล แต่ผมไม่รู้ว่าใครเป็นเจ้าตลาด ใครเป็นมวยรอง
ไม่ใช่ครับคนละสายกันเลย พวกนั้นไม่ได้มีความสลับซับซ้อนเลย เมื่อเทียบกับตัวที่ผมกำลังพูดถึงอยู่
สงสัยมานานการ์ดพวกนี้เอามาเล่นเกมได้ไหมครับ หรือเอาใช้กับ AI อย่างเดียว พวก Render หนัง หรือ 3D งี้เขาใช้ด้วยเปล่า น่าจะลดเวลาได้เยอะถ้าเอามาใช้ได้แบบแล้วแรงๆ