Tags:
Node Thumbnail

SemiAnalysis เว็บไซต์-จดหมายข่าวของวงการเซมิคอนดักเตอร์ ปล่อยงานรีวิวจีพียูระดับเทพ (เทพจริงๆ เพราะไม่สามารถหาซื้อได้ทั่วไป) นั่นคือ AMD Instinct MI300X ความหวังของ AMD ที่จะมาโค่นเจ้าตลาด NVIDIA H100/H200

แนวทางของ AMD คือการให้สเปกฮาร์ดแวร์ที่ดีกว่า NVIDIA เช่น ให้แรมถึง 192GB (H100 มี 80GB, H200 มี 141GB) สมรรถนะแรงกว่า ในราคาถูกกว่า แล้วหวังว่าลูกค้าจะย้ายค่ายมาใช้ AMD แทน

SemiAnalysis บอกว่าใช้เวลา 5 เดือนทดสอบและวิเคราะห์ผลเบนช์มาร์คต่างๆ โดยเฉพาะการเทรนโมเดล แล้วพบว่าสเปกบนกระดาษของ AMD ดีกว่าจริงๆ แต่ในการรันงานจริงนั้น AMD มาตายตรงซอฟต์แวร์อีกเช่นเคย

No Description

ผลการทดสอบของ SemiAnalysis บอกว่าซอฟต์แวร์ของ AMD เต็มไปด้วยบั๊ก การตรวจสอบคุณภาพซอฟต์แวร์ (QA) ไม่ดีพอ ในขณะที่ประสิทธิภาพของจีพียู NVIDIA แกะกล่องออกมาเสียบ ทำงานได้ดีเลยโดยไม่ต้องปรับจูนอะไรมาก ฝั่งของ AMD กลับต้องปรับแก้ปัญหา และหา workaround เพื่อให้ซอฟต์แวร์สามารถทำงานได้ (นี่ขนาด SemiAnalysis ติดต่อกับทีมงานของ AMD ตลอดเวลา และปรับปรุงคุณภาพซอฟต์แวร์ให้ดีขึ้นมาระดับหนึ่งแล้วด้วย)

ผลสรุปของการทดสอบครั้งนี้คือ MI300X มีค่าใช้จ่ายรวม (total cost of ownership หรือ TCO) ถูกกว่าจริง แต่ประสิทธิภาพในการเทรนต่อ TCO นั้นแย่กว่า และหาก AMD ต้องใช้เวลาปรับแก้ซอฟต์แวร์อีกนาน ถึงตอนนั้นชิปตัวใหม่คือ NVIDIA Blackwell ก็วางขายแพร่หลายแล้ว

SemiAnalysis เรียกร้องให้ Lisa Su และฝ่ายบริหารของ AMD ทุ่มทรัพยากรด้านซอฟต์แวร์ให้ดีกว่านี้ โดยเฉพาะการทำงานของ PyTorch ที่เป็นซอฟต์แวร์สำคัญในการเทรนโมเดล

หลังจากบทความชิ้นนี้ถูกเผยแพร่ออกมา Dylan Patel ผู้อยู่เบื้องหลัง SemiAnalysis ก็โพสต์ข้อความว่าเขาได้นั่งคุยกับ Lisa Su เป็นเวลานานถึง 1.5 ชั่วโมง และ Su ยอมรับว่ามีปัญหาซอฟต์แวร์อยู่จริงๆ และยินดีจะทำไปแก้ไขอย่างจริงจัง

ที่มา - SemiAnalysis

Get latest news from Blognone

Comments

By: horakung
iPhoneAndroidWindows
on 29 December 2024 - 06:45 #1329742
horakung's picture

ความน่ากลัวของ Ecosystem ของ NVIDIA ถือว่าเป็นหนึ่งในจุดแข็งสำคัญจริงๆ

By: tg-thaigamer
ContributoriPhoneAndroidBlackberry
on 29 December 2024 - 08:07 #1329743
tg-thaigamer's picture

No pain no gain สู้ๆ ครับ


มือใหม่!! ใหม่จริงๆนะ

By: Yoshimura on 29 December 2024 - 08:37 #1329744
Yoshimura's picture

หนีไม่พ้นกับประโยค “ซื้อวันนี้ แรงวันหน้า” ในทุกกลุ่มสินค้าของ AMD เลย 😅

By: PsFreedom
ContributorAndroidRed HatUbuntu
on 29 December 2024 - 09:40 #1329749
PsFreedom's picture

Nvidia พัฒนา Cuda มา 10-20 ปี
ตั้งแต่คนยังไม่รู้ว่ามันเอาไปทำอะไรได้ (ทำไมเราต้องส่งข้อมูลเข้าไปคำนวณบน GPU? ทั้งๆ ที่ทำบน CPU ก็ได้) กว่าจะมีวันนี้ มันไม่ใช่แค่ Feature, Spec, หรือความแรง HW แต่มันคือความเข้ากันได้ การรองรับ Library และ App ต่างๆ ความคุ้นชินของ Developer

มันเข้าไปอยู่ในวิชาเรียนในมหาลัย
อยู่ในโปรเจคจบของนักศึกษา อยู่ในงานวิจัยนักศึกษา ป.เอก (ใครๆ ก็ต้องใช้ Nvidia เพราะมันคือ Industry standard, State-of-the-Art) สมัยเรียนอาจารย์ก็เคยให้ทำ CUDA Project เล็กๆ ส่งข้อมูล Array ขนาดใหญ่เข้าไป Compute บน GPU เออ มันก็เร็วกว่า For-loop บน CPU จริงๆ

ส่วน AMD, Intel นั้น...
ความแรง ฟีเจอร์มันอาจจะดีพอ แต่ใครใช้ล่ะ...

By: btoy
ContributorAndroidWindows
on 29 December 2024 - 10:19 #1329752
btoy's picture

ในมุมของการพัฒนาซอร์ฟแวร์ การเป็นผู้ตามนี่ไล่ตีตื้นยากสุดๆ เพราะคู่แข่งก็ขยับออกไปเรื่อยๆ


..: เรื่อยไป

By: zerost
AndroidWindows
on 29 December 2024 - 12:12 #1329759
zerost's picture

ถ้า​ Nvidia ไม่ทำตัวเหมือน​ intel​ ที่ทำตัวเป็นกระต่าย​ นำห่างแล้วนอนรอจนเต่าแซงนี่​ amd​ เหนื่อย

By: specimen
Windows PhoneAndroid
on 29 December 2024 - 12:49 #1329762
specimen's picture

ในวงการผมก็มีสิ่งคล้ายๆอย่างนี้แหละมีผู้นำตลาดที่เป็นแชมป์มา 20 กว่าปีโดยมีบริษัทเป็น 10 บริษัทที่พยายามจะตีตื้นแต่ไม่เคยเฉียดใกล้เกิน 10% เลยบริษัทนั้นก็ไม่ได้พัฒนาอะไรมาเลยตลอด 20 ปียังหากินกับบุญเก่าอยู่ จนมาวันหนึ่งมีบริษัทบริษัทนึงทำสินค้าคล้ายๆกับเจ้าตลาดออกมาซึ่งแน่นอนแพ้แน่ๆ แต่บังเอิญสิ่งที่เกิดขึ้นในเมืองไทยมีคนดีศรีอยุธยา ที่สาขาประเทศไทย เปลี่ยนวิธีการคิดเปลี่ยนวิธีการขาย หลังจากวางตลาดซึ่งเป็นรองเจ้าตลาดอยู่ ปรับเปลี่ยนหาวิธีใช้งานสินค้าตัวนั้นใหม่ปรับให้เข้าปรับให้ตรงกับความต้องการของผู้ใช้ 2 ปีผ่านไปตอนนี้เจ้าตลาดอยู่ไม่ติดแล้ว มวยรองเอากลยุทธ์ของประเทศไทยไปใช้ทั่วโลก และเจ้าตลาดยังไม่ได้เตรียมสินค้าใหม่ที่จะออกมาวางตลาดด้วยซ้ำไปเพราะหากินกับบุญเก่าอยู่ 20 ปี สิ่งที่เจ้าตลาดได้เปรียบคือความเป็นมาตรฐานของตลาด สิ่งที่เจ้าใหม่ได้เปรียบคือสเปคที่ดีกว่าแต่วันแรกคือซอฟต์แวร์ที่ห่วยกว่าแต่มันถูกปรับปรุงและแก้ไขให้ตรงกับความต้องการของลูกค้าในแบบที่เจ้าตลาดเดิมไม่เคยสนใจจะทำ

สถานการณ์ในวันนี้มวยรองกำลังจะยึดตำแหน่งแชมป์ เพราะว่ามวยรองทุ่มเทเต็มที่เพราะรู้และรับฟังปัญหาที่ผู้ใช้เจอและกลับไปแก้ ในขณะที่เจ้าตลาดก็ยังมั่นคงยึดมั่นภูมิใจกับความเป็นมาตรฐานตลาดของตัวเอง

By: orbitalz
ContributorWindows PhoneAndroidUbuntu
on 29 December 2024 - 12:59 #1329764 Reply to:1329762

อ่านแล้วอยากรู้เพิ่มเลยครับ

By: btoy
ContributorAndroidWindows
on 29 December 2024 - 15:40 #1329769 Reply to:1329764
btoy's picture

+1


..: เรื่อยไป