NVIDIA

IBM ประกาศข้อตกลงกับ NVIDIA ในการนำจีพียูตระกูล Tesla ไปใส่ในเซิร์ฟเวอร์แบรนด์ Power Systems ที่ใช้ซีพียูตระกูล POWER8 ของ IBM เอง

Tesla จะมีสถานะเป็นตัวช่วยเร่งการประมวลผล (GPU accelerator) ที่แบ่งเบาภาระงานบางอย่างจากซีพียู เพื่อประสิทธิภาพโดยรวมที่ดีขึ้นของระบบ ลูกค้าของเซิร์ฟเวอร์กลุ่มนี้มักเป็นหน่วยงานขนาดใหญ่ของรัฐที่เน้นการวิจัย งานด้านการประมวลผลขนาดใหญ่ และการวิเคราะห์ข้อมูล

แนวคิดเรื่องการนำจีพียูมาช่วยประมวลผลในเซิร์ฟเวอร์ขนาดใหญ่ไม่ใช่เรื่องใหม่ ซูเปอร์คอมพิวเตอร์ที่เคยเร็วที่สุดในโลกอย่าง Jaguar/Titan ก็ช้ Tesla เป็นหน่วยประมวลผลเสริม และ NVIDIA เองก็เคยออก Tesla Personal Supercomputer มาขายเช่นกัน

ที่มา - NVIDIA

Hiring! บริษัทที่น่าสนใจ

Icon Framework co.,Ltd. company cover
Icon Framework co.,Ltd.
Global Standard Platform for Real Estate แพลตฟอร์มสำหรับธุรกิจอสังหาริมทรัพย์ครบวงจร มาตรฐานระดับโลก
REFINITIV company cover
REFINITIV
The Financial and Risk business of Thomson Reuters is now Refinitiv
LINE Company Thailand company cover
LINE Company Thailand
LINE, the world's hottest mobile messaging platform, offers free text and voice messaging + Call

freeriod Tue, 11/19/2013 - 18:01

cpu กะ gpu มันประมวลผลแตกต่างกันยังไง สมัยนี้เน้น gpu จัง

ถ้าเอาแบบง่ายที่สุด

CPU => พนักงาน 7-11 ฉายาแคชเชียร์มือลิง เคลียร์ลูกค้าได้นาทีละ 30 คน มีพนักงานอยู่ 4 คน (Quard-core)
GPU => พนักงาน 7-11 ฝึกหัด เคลียร์ลูกค้าได้นาทีละ 3 คน แต่มีพนักงานอยู่ 1000 คน

ก็เหมาะกับงานคนละแบบล่ะครับ อย่าไปยึดตัวเลขความเร็วที่ผมสมมตินะครับ มั่วแบบไม่มีความเกี่ยวข้องกับของจริง (แต่จำนวนพนักงานนั่นของจริง)

เท่าที่ผมรู้คืองานที่ประมวลผลแบบขนานได้หลายๆ แถวครับ ยิ่งถ้าไม่ต้องใช้ข้อมูลเยอะน่าจะดีเพราะต้องมีการ copy ข้อมูลระหว่างแรมเครื่องกับแรมการ์ดจอตลอดเวลา

แต่ผมก็ไม่เชียวชาญนะครับ ไม่แน่ใจขนาดนั้น เคยลองแค่ CUDA บน 8400M GS แรม 64 MB สั่งงานอะไรแทบไม่ได้เพราะแรมน้อย ต้องปิด aero ปิดนู่นนี่ทุกอย่าง ปรับ theme เป็น classic แล้วก็ปรับความละเอียดหน้าจอลงด้วย ผลคือคำนวณงานที่ทดสอบได้เร็วกว่า Core 2 Duo T7500 2.2GHz แบบเห็นผลครับ ตอนนั้นเหมือนจะเป็นการ brute-force อะไรสักอย่าง

การประมวลผล แบบขนาน เป็นงานอย่างไรแล้วเช่น 1+1=2 หรือป่าว ได้เลขแล้วก็จบ
แล้วการประมวลผลข้อมูลแบบอนุกรมที่ CPU ทำเป็นงานยังไงหรอรับ หรืแว่าแค่เอา 2ซึ่งมาจาก 1+1 มาคิดต่ออีกที

ที่ผมพิมมาคือที่คิดนะครับ อยากหาคนอธิบาย

งานคำนวณบน CPU หรือ GPU ต่างกันตรงที่ว่า ความเหมาะสมของงานที่จะทำขึ้นอยู่กับความซับซ้อนของงานที่เมื่อแบ่งงานไปทำพร้อมๆกันแล้วนำผลงานมารวมกันจะยุ่งยากมากแค่ไหน

อย่างเช่น ร้านอาหารมีงานส่วนของ การปรุงอาหาร กับ การล้างจาน แล้วสมมุติว่าแต่ละแกนของ CPU หรือ GPU ก็คือแต่ละคน ที่มีความสามารถไม่เท่ากัน

งานปรุงอาหาร(1 เมนู) มีขั้นตอนยุ่งยากมากมาย ใช้เครื่องมือปรุงอาหารหลายอย่าง ใช้วัตถุดิบหลายอย่าง ตั้งแต่ต้นจนจบงาน จึงเหมาะที่จะทำงานคนเดียว (ถ้าคนอื่นมาช่วย แบ่งงานไปทำ เสร็จแล้วตอนนำแต่ละส่วนประกอบมารวมกัน อาจไม่เป็นอันจะกิน) แบบนี้ก็ส่งให้ CPU ทำงานตั้งแต่ต้นจนจบไปง่ายกว่า เพราะเขียนโปรแกรมให้ CPU ทำงานซับซ้อนได้ง่ายกว่า

ส่วน การล้างจาน(1 เข่ง) ไม่มีขั้นตอนยุ่งยาก ใช้แค่ฟองน้ำกับน้ำยาล้างจาน แค่ทำซ้ำๆกันกับจานหลายๆใบ งานนี้หลายๆคนช่วยกันทำได้ พอแต่ละคนทำเสร็จแล้วก็แค่เอาจานมากองรวมกันก็เสร็จ แบบนี้ก็ส่งงาน กระจายให้แต่ละแกนของ GPU ที่มีจำนวนมากมายทำงานกันไป เสร็จเร็วกว่าเยอะ

ที่คิดตัวอย่างได้ก็ประมาณนี้ล่ะครับ ไม่รู้จะเข้าใจกันรึเปล่านะ

GPU ประมวลผลทศนิยมลอยตัว Floating Point ได้เยี่ยมที่สุดในสามโลก ถามว่างานอะไรบ้างที่ต้องใช้พลังคำนวนขนาดนั้น

นั้นคือ งาน Multimedia ทุกประเภทครับ เอาง่ายๆ

CPU เป็นตัวที่บอกว่า ไข่ + แมกกี้ + มะนาว = ไขเจียวฟูๆ

แต่คุณจะเอาไข่เจียวฟูๆ 1000,000,000,000 ฟอง

CPU เปรียบเหมือน CEO แหละครับ รู้ว่าจะต้องทำอย่างไร ให้ได้สิ่งที่ต้องการ แต่ไม่ถนัดทำ สั่งวิธีการได้ จะต้องใช้อะไร ใส่อะไร แปรรูปยังไง ให้ได้ผลลัพท์ กระบวนการนี้ยากที่สุดครับ

แต่... ท่านเคยเห็นผู้บริหารลงมาประกอบใน Line ผลิตไหม? ไม่ครับ เพราะอะไร เขาแค่ "คิดเก่ง" แต่ "ไม่เก่งทำ"

GPU เปรียบเหมือนสาวโรงงาน ที่มือคล่องยังกับอะไรดี ขอให้บอก ทำยังไง 1. 2. 3. 4. ใส่ x .ใส่ y ใส่ Z พลิกซ้ายขวาหน้าหลัง งานไม่ยาก ไม่ซับซ้อน แต่ต้องการความไว ความชำนาญ และต้องมีข้อมูลเตรียมกองไว้ตรงหน้า เพื่อหยิบมาเป็น ชิ้นงาน

GPU สามารถทำงานซ้ำซ้อน ไม่ใช่ ซับซ้อน นะครับ ข้อมูลพวกงาน multimedia นี่คือ ชิ้นส่วนเล็กๆ สาว GPU จะนำข้อมูลไปเข้าสมการ ตามที่ CPU สั่งมา อาศัย สาวโรงงาน 3000 คนทำงานแยกชิ้นกัน

คนที่ 1 ทำงานวินาทีที่ 1-5
คนที่ 2 ทำงานวินาทีที่ 6-10
................
................
...........
......
..
.
คนที่ 3000 ทำงานวินาทีที่ 55001-60000

งานนี้ถ้าให้ CPU ทำน่าจะใช้เวลาเกือบ 3000 หน่วย
แต่ GPU สามารถทำงานนี่เสร็จใน 1 หน่วยเวลา

งานประเภทนี้ที่เราๆท่านๆ ใช้บ่อยที่สุดคือ งาน Encode วีดีโอ หรือ แปลงไฟล์
ส่วนงานใน Server คือ งานสร้างภาพ animation

Apple
public://topics-images/apple_webp.png
SCB10X
public://topics-images/347823389_774095087711602_515970870797767330_n_webp.png
Windows 11
public://topics-images/hero-bloom-logo.jpg
Huawei
public://topics-images/huawei_standard_logo.svg_.png
Google Keep
public://topics-images/google_keep_2020_logo.svg_.png
Instagram
public://topics-images/instagram_logo_2022.svg_.png
SCB
public://topics-images/9crhwyxv_400x400.jpg
Microsoft
public://topics-images/microsoft_logo.svg_.png
Basecamp
public://topics-images/bwpepdi0_400x400.jpg
Tinder
public://topics-images/hwizi8ny_400x400.jpg
FTC
public://topics-images/seal_of_the_united_states_federal_trade_commission.svg_.png
Pinterest
public://topics-images/pinterest.png
Palantir
public://topics-images/-nzsuc6w_400x400.png
AIS Business
public://topics-images/logo-business-2021-1.png
PostgreSQL
public://topics-images/images.png
JetBrains
public://topics-images/icx8y2ta_400x400.png
Krungthai
public://topics-images/aam1jxs6_400x400.jpg
Palworld
public://topics-images/mccyhcqf_400x400.jpg
Bill Gates
public://topics-images/bill_gates-september_2024.jpg
VMware
public://topics-images/1nj4i1gp_400x400.jpg
Take-Two Interactive
public://topics-images/0khle7nh_400x400.jpg
OpenAI
public://topics-images/ztsar0jw_400x400.jpg
Thailand
public://topics-images/flag_of_thailand.svg_.png
NVIDIA
public://topics-images/srvczsfq_400x400.jpg
ServiceNow
public://topics-images/ytnrfphe_400x400.png
Klarna
public://topics-images/urcllpjp_400x400.png
Google Play
public://topics-images/play.png
Drupal
public://topics-images/drupal.png
Virtua Fighter
public://topics-images/virtua_figther_2024_logo.png
Paradox Interactive
public://topics-images/paradox_interactive_logo.svg_.png
Europa Universalis
public://topics-images/europa-icon.png
Nintendo Switch 2
public://topics-images/mainvisual.png
Cloudflare
public://topics-images/cloudflare_logo.svg_.png
Samsung
public://topics-images/samsung.png
Google
public://topics-images/google_2015_logo.svg_.png
Uber
public://topics-images/uber.png
Microsoft 365
public://topics-images/m365.png
USA
public://topics-images/flag_of_the_united_states.svg_.png
GM
public://topics-images/0pe0po-z_400x400.jpg
Perplexity
public://topics-images/perplex.jpg
Xperia
public://topics-images/xperia.png
iOS 18
public://topics-images/ios-18-num-96x96_2x.png
True
public://topics-images/true_logo.png
SoftBank
public://topics-images/softbank.jpg
Pac-Man
public://topics-images/pacman.png
Harry Potter
public://topics-images/harry.png
Marvel
public://topics-images/marvel.png
Skydance
public://topics-images/skydance.png
SEA
public://topics-images/sealogo.png
Find My Device
public://topics-images/find.png
Gemini
public://topics-images/google_gemini_logo.svg__1.png
Accessibility
public://topics-images/accessibility-128x128_2x.png
Material Design
public://topics-images/m3-favicon-apple-touch.png
Android 16
public://topics-images/android16.png
Android
public://topics-images/android_0.png
Firefox
public://topics-images/firefox_logo-2019.svg_.png
Google Messages
public://topics-images/messages.png
Notepad
public://topics-images/notepad.png
Singapore
public://topics-images/flag_of_singapore.svg_.png
Airbnb
public://topics-images/airbnb.png
PS5
public://topics-images/ps5.png
Krafton
public://topics-images/krafton.png
Doom
public://topics-images/doom-game-s_logo.svg_.png
AMD
public://topics-images/amd_logo.svg_.png
GTA
public://topics-images/gta_0.png
DoorDash
public://topics-images/doordash.png
YouTube
public://topics-images/yt.png
YouTube Music
public://topics-images/yt-music.png
Facebook
public://topics-images/fb.png
iQiyi
public://topics-images/iqiyi_0.png
Viu
public://topics-images/viu.png
Amazon Prime Video
public://topics-images/prime-vid.png
Spotify
public://topics-images/spotify.jpg
Apple TV
public://topics-images/apple-tv.png
HBO Max
public://topics-images/max.png
Threads
public://topics-images/threads.png
Alexa
public://topics-images/alexa.png
Kindle App
public://topics-images/kindle.png
Shopee
public://topics-images/shopee.png
Waze
public://topics-images/waze.png
Bilibili
public://topics-images/bili.png
Google Maps
public://topics-images/maps.png
Apple Music
public://topics-images/apple-music.png
Claude
public://topics-images/claude.png
TikTok
public://topics-images/tiktok.png
Xbox
public://topics-images/xbox.png
Tesla
public://topics-images/tesla.png
Chrome
public://topics-images/chrome.png
Google Calendar
public://topics-images/gcal.png
Google Home
public://topics-images/ghome.png
Google Meet
public://topics-images/meet.png
NotebookLM
public://topics-images/notebooklm.png
Reddit
public://topics-images/reddit.png
Assassin’s Creed
public://topics-images/ac.png
Mark Zuckerberg
public://topics-images/zuck.jpg
Meta
public://topics-images/meta.png
Meta AI
public://topics-images/meta-ai.png
Epic Games
public://topics-images/epic_games_logo.svg_.png
Unreal
public://topics-images/unreal_engine_logo-new_typeface-svg.png
Fortnite
public://topics-images/fortnite.png
DeepMind
public://topics-images/deepmind.png
Databricks
public://topics-images/databricks.png
Netflix
public://topics-images/netflix-logo.png
Microsoft Azure
public://topics-images/azure.png
Microsoft Copilot
public://topics-images/microsoft_copilot_icon.svg_.png
Bing
public://topics-images/bing.png