By mk Founder on Tag: Moore Threads, CUDA, GPU, China, Hardware

Moore Threads เป็นบริษัทผู้ผลิตจีพียูสัญชาติจีน ที่ก่อตั้งในปี 2020 โดย Zhang Jianzhong อดีตผู้จัดการของ NVIDIA China

จีพียูของ Moore Threads เริ่มวางขายในปี 2022 โดยใช้ชื่อแบรนด์ MTT และล่าสุดบริษัทเริ่มออกชุดพัฒนา MUSA SDK (MUSA ย่อมาจาก MT Unified System Architecture) ซึ่งเทียบเคียงได้กับ CUDA SDK ของ NVIDIA

หน้าที่ของ MUSA คือการนำจีพียู MTT ไปรันงาน AI โดยอาศัยรันไทม์ชื่อคุ้นๆ อย่าง MUSA Runtime หรือ muDNN แบบเดียวกับที่มีในจีพียูค่ายตะวันตกอื่นๆ ประเด็นที่น่าสนใจคือ Moore Threads ยังออกเครื่องมือชื่อ MUSIFY tool สำหรับแปลงโค้ดที่เขียนด้วย CUDA มารันบน MUSA ด้วย

By boompw Contributor on Tag: China, Artificial Intelligence, CUDA, NVIDIA
NVIDIA

Li Guojie นักวิทยาศาสตร์คอมพิวเตอร์ชาวจีน มองว่าจีนต้องพัฒนาเทคโนโลยีซอฟต์แวร์ AI ของตัวเอง แทนที่พึ่งพาเทคโนโลยีจากตะวันตก โดยเฉพาะ CUDA ของ NVIDIA ที่ครองตลาดอยู่ในตอนนี้ แม้ว่าชิป AI จากบริษัทของจีน เช่น Huawei, Hygon และ, Cambricon มีความสามารถใกล้เคียงกับของ NVIDIA

By mk Founder on Tag: PhysX, NVIDIA, CUDA, GPU, Blackwell
NVIDIA

NVIDIA ยืนยันว่าเอนจินฟิสิกส์ PhysX (อ่านว่า ฟิสิกซ์) ไม่สามารถรันบน GeForce RTX ซีรีส์ 50 (Blackwell) ได้แล้ว เนื่องจากแอพพลิเคชันที่รันบน CUDA แบบ 32 บิตจะไม่ซัพพอร์ตบน Blackwell อีกต่อไป (มีผลกับแอพพลิเคชันอื่นๆ ด้วย ไม่ใช่แค่ PhysX อย่างเดียว)

จีพียูรุ่นเก่าตั้งแต่ GeForce RTX ซีรีส์ 40 ลงไปยังรองรับการรันแอพ CUDA แบบ 32 บิต แต่จีพียูใหม่ตั้งแต่ Blackwell เป็นต้นไป (CUDA 12.0 ขึ้นไป) จะไม่สามารถใช้งานได้แล้ว

By mk Founder on Tag: CUDA, NVIDIA, NVIDIA Pascal, NVIDIA Volta, Maxwell, GPU
NVIDIA

NVIDIA ออกซอฟต์แวร์​ CUDA เวอร์ชัน 12.8 มีประกาศที่น่าสนใจคือ เตรียมหยุดซัพพอร์ตจีพียูสถาปัตยกรรมเก่าๆ 3 รุ่น ได้แก่

By lew Founder on Tag: PyTorch, CUDA, Artificial Intelligence

ทีมวิศวกรจาก IBM และ Meta รายงานถึงการทดลองเปลี่ยนเคอร์เนลการรัน LLM ใน PyTorch จากเดิมที่ใช้ CUDA เป็นหลัก มาเป็นภาษา Triton ของ OpenAI โดยพบว่าประสิทธิภาพเริ่มใกล้เคียงกับ CUDA

OpenAI เปิดตัวโครงการ Triton มาตั้งแต่ปี 2021 โดยมุ่งจะพัฒนาภาษาที่ทำให้โปรแกรมเมอร์เขียนโปรแกรมโดยตรงบนชิปกราฟิกได้ง่ายขึ้น นอกจากการถอด CUDA แล้วยังต้องเลือกเอนจิน Flash Attention มาแทน cuDNN Flash Attention เพื่อรันโมเดล LLM พบว่า AMD Flash Attention ทำงานได้ครบถ้วนทุกโหมด

By lew Founder on Tag: CUDA, GPU

Spectral Compute บริษัทด้านปัญญาประดิษฐ์จากสหราชอาณาจักรเปิดตัว SCALE ชุดเครื่องมือคอมไพล์โค้ดจากเดิมที่ใช้ CUDA ไปรันบนชิปตัวอื่นๆ โดยตอนนี้รองรับเฉพาะการ์ดจอของ AMD

SCALE ถูกออกแบบให้เป็นชุดเครื่องมือครบชุด เช่น คำสั่งที่ใช้แทน nvcc ได้ในตัว ทำให้สคริปต์ cmake ในโครงการต่างๆ สามารถรันได้ทันที ตอนนี้มีโครงการที่ทดสอบผ่านแล้วหลายโครงการ เช่น NVIDIA Thrust, llama-cpp, faiss, xgboost, หรือ hashcat

ทางโครงการ SCALE พยายามอิมพลีเมนต์ API ของ CUDA ให้ครบ โดยบางส่วนทำเอง บางส่วนเป็น wrapper ห่อไลบรารี ROCm ของ AMD ให้มีอินเทอร์เฟซเหมือนกับ CUDA

By nismod Writer on Tag: NVIDIA, CUDA, In-Depth
NVIDIA

ราคาคุ้น NVIDIA ทำนิวไฮ”, “หุ้น NVIDIA พุ่ง 200%”, “มูลค่า NVIDIA แซง Apple แล้ว” พาดหัวลักษณะนี้น่าจะเป็นที่ชาชินในช่วง 1-2 ปีที่ผ่านมา หลังกระแส AI บูมมากขึ้น

หลายๆ คนน่าจะรู้อยู่แล้วว่าปัจจัยที่ทำให้ NVIDIA ขึ้นมาสู่ระดับนี้ได้ คือการครองตลาด GPU ที่ถูกนำไปใช้ในการเทรนด์ AI จนถึงขนาดที่ว่า บริษัทไอทีใหญ่ๆ หรือบริษัทวิจัยที่ต้องการ GPU ของ NVIDIA ไปใช้งาน มีแต่เงินอย่างเดียว ก็ใช่ว่าจะได้ของไป แต่ยังต้องรอคิวหลักหลายเดือน จนถึงปีเลยด้วยซ้ำไป

แต่คำถามคืออะไรที่ทำให้การ์ดจอ NVIDIA เข้าไปเป็นตัวเลือกหลัก (และอาจจะตัวเลือกเดียว) ของบริษัทที่ต้องการเทรน AI ทั้งที่คู่แข่ง GPU ใหญ่ๆ อย่าง AMD ก็มี? เป็นเพราะ GPU ของ NVIDIA ดีกว่าอย่างเดียวเหรอ? บทความนี้พาจะไขเหตุผลเบื้องลึกกว่านั้น

By mk Founder on Tag: CUDA, Artificial Intelligence, OpenAI, Programming
OpenAI

Financial Times รายงานว่าบริษัทไอทียักษ์ใหญ่หลายราย เริ่มเข้ามาสนับสนุนซอฟต์แวร์เทรน AI ที่ไม่ต้องพึ่งพา CUDA ของ NVIDIA เพียงอย่างเดียวอีกต่อไป

CUDA ถือเป็นอาวุธลับของ NVIDIA ที่ช่วยให้ครองความยิ่งใหญ่ในโลกชิป AI มายาวนาน เพราะซอฟต์แวร์ยอดนิยมส่วนใหญ่จำเป็นต้องรันบน CUDA อีกที ส่งผลให้ NVIDIA ผูกขาดตลาดชิป AI ไปกลายๆ และกลายเป็นต้นทุนก้อนมหึมาของบริษัทเทคโนโลยีที่ต้องการใช้ชิปลักษณะนี้

By mk Founder on Tag: Intel, GPU, Standard, Linux Foundation, Open Source, CUDA, NVIDIA
NVIDIA

กลุ่มบริษัทไอทีที่ประกอบด้วย Intel, Arm, Google, Samsung, Qualcomm, Fujitsu, Imagination, VMware ร่วมกับ Linux Foundation ก่อตั้งกลุ่ม Unified Acceleration (UXL) Foundation พยายามสร้างมาตรฐานเปิดสำหรับชิปเร่งการประมวลผล (accelerator) ที่มีหลากหลายยี่ห้อในท้องตลาด

By lew Founder on Tag: AMD, CUDA, GPGPU
AMD

ZLUDA โครงการโอเพนซอร์สที่พยายามอิมพลีเมนต์ไลบรารี CUDA ของ NVIDIA ปล่อยเวอร์ชั่นทดสอบที่อาศัยไลบรารี HIP/ROCm ของ AMD เป็นคัวเอนจินเบื้องหลังทำให้สามารถใช้ชิปกราฟิกของ AMD มารันโปรแกรมที่คอมไพล์สำหรับ CUDA ได้

Andrzej Janik ผู้พัฒนา ZLUDA พัฒนาไลบรารีนี้มาแล้วหลายปี แต่ช่วงแรกนั้นทำมาเพื่อซีพียูอินเทล ต่อมาในปี 2022 AMD ติดต่อเขาให้พัฒนาไลบรารีให้รองรับชิปกราฟิกของ AMD หลังจากพัฒนามาเกือนสองปี ทาง AMD ตัดสินในยุติโครงการนี้ ทำให้ Janik ตัดสินใจปล่อยโครงการออกมาเป็นโอเพนซอร์ส

By lew Founder on Tag: Intel, NVIDIA, Artificial Intelligence, CUDA
NVIDIA

สัปดาห์ที่แล้วอินเทลเปิดตัวชิป Core Ultra และ Xeon รุ่นที่ 5 โดยชูจุดขายด้าน AI เต็มรูปแบบ หลังงานในช่วงถามตอบนักข่าว Pat Gelsinger ก็ออกมาพูดถึง NVIDIA ว่ามีความได้เปรียบจาก CUDA ไม่มากนัก และทั้งอุตสาหกรรมก็กำลังย้ายการพัฒนาไปอยู่บน layer ที่สูงขึ้นเป็นภาษา Python เพื่อให้พอร์ตโมเดลไปมาได้

เขาระบุว่าในตอนนี้หากโมเดลฝึกเสร็จแล้วก็มีทางเลือกในการรันที่ต่างๆ และระบบการรันนั้นก็มักไม่ต้องการ CUDA อีกแล้ว และเขาเชื่อว่าชิปฝั่งรันโมเดลนั้นเป็นตลาดกระแสหลักในอนาคต (where the game will be)

By mk Founder on Tag: DirectX, Microsoft, Graphic, Linux, GPU, CUDA, WSL
Microsoft

ในข่าว Windows Terminal 1.0 ไมโครซอฟท์ประกาศว่าจะเรนเดอร์กราฟิกของแอพจากลินุกซ์ด้วย GPU ด้วย เบื้องหลังของมันคือสิ่งที่อาจจินตนาการไม่ถึงเมื่อหลายปีก่อนอย่าง DirectX บนลินุกซ์ (ในความหมายนี้คือลินุกซ์ที่ติดตั้งบน Windows Subsystem for Linux 2 หรือ WSL 2)

ไมโครซอฟท์อธิบายว่าพัฒนาเทคนิค GPU paravirtualization (GPU-PV) บนวินโดวส์มาหลายปีแล้ว และใช้งานในโปรแกรมฝั่งวินโดวส์หลายตัว เช่น Windows Defender Application Guard, Windows Sandbox และอีมูเลเตอร์ของ Hololens

By hinatasenjou Contributor on Tag: NVIDIA, CUDA, Apple, macOS, Adobe
NVIDIA

NVIDIA ประกาศอัพเดต CUDA Toolkit 10.2 เป็นรุ่นสุดท้ายใน macOS นับเป็นจุดสิ้นสุดความสัมพันธ์ระหว่าง NVIDIA และสินค้าตระกูล Mac หลังจากแอปเปิลหยุดซัพอร์ตไดร์เวอร์ NVIDIA ไปตั้งแต่ macOS 10.14 Mojave

ซอฟต์แวร์จำนวนหนึ่งใช้ CUDA เพื่อเร่งความเร็วประมวลผล เช่น Adobe Premier หรือ After Effect แต่ก็ใช้งานได้ถึง macOS 10.13.6 เท่านั้น

แม้ชิป NVIDIA จะมีประสิทธิภาพสูงกว่า AMD ในช่วงหลัง ๆ แต่ NVIDIA และแอปเปิลก็เคยมีปัญหากันตั้งแต่สมัยชิป GeForce 6800M ตั้งแต่ปี 2007 ที่มีปัญหาความร้อนจนกระทั่งแอปเปิลต้องเปิดให้ซ่อมฟรีเป็นเวลาสองปี และตอนนี้คอมพิวเตอร์แอปเปิลก็ไม่มีชิป NVIDIA เป็นตัวเลือกแล้ว อย่างใน MacBook Pro รุ่น 16" ที่เปิดตัวล่าสุดก็ติดตั้งเป็น AMD Radeon Pro 5300M/5500M เท่านั้น

ที่มา: NVIDIA via Gizmodo

By mk Founder on Tag: Programming, CUDA, NVIDIA, GPU
NVIDIA

หลังจาก NVIDIA เปิดตัว CUDA 6 ตั้งแต่ปลายปีที่แล้ว วันนี้บริษัทก็เปิด CUDA Toolkit 6.0 รุ่น Release Candidate ให้คนทั่วไปทดสอบแล้ว

จุดเด่นของ CUDA 6 คือ Unified Memory หรือการมองหน่วยความจำของซีพียูกับจีพียูเป็นผืนเดียวกัน เพื่อให้ไม่ต้องคัดลอกข้อมูลข้ามพื้นที่แรมแต่ละส่วนทุกครั้ง ช่วยเพิ่มประสิทธิภาพและปรับกระบวนการพัฒนาให้ง่ายขึ้น

นอกจากนี้ CUDA 6 ยังรองรับการประมวลผลโดยใช้จีพียูสูงสุดถึง 8 ตัวต่อคอมพิวเตอร์หนึ่งเครื่อง ทำให้มีสมรรถนะในการคำนวณได้สูงถึง 9 teraflops ต่อเครื่อง

By lew Founder on Tag: Programming, GPGPU, CUDA, NVIDIA
NVIDIA

NVIDIA เปิดตัวภาษา CUDA 6 สำหรับการเขียนโปรแกรมบน GPU ของตัวเองโดยมีความสามารถสำคัญคือ Unified Memory หรือการมองหน่วยความจำของซีพียูและจีพียูเป็นผืนเดียวกัน ทำให้สามารถพัฒนาซอฟต์แวร์ได้ง่ายขึ้น

By lew Founder on Tag: Arm, CUDA, NVIDIA
NVIDIA

การประมวลผลด้วยชิปกราฟิกเคยมีการแข่งขันกันอย่างหนักระหว่างเทคโนโลยี CUDA เป็นเป็นเทคโนโลยีของ NVIDIA และ OpenCL ที่มีผู้ผลิตหลายรายร่วมกัน แต่จนตอนนี้ CUDA ก็ยังรันได้เฉพาะบน x86 จนกระทั่งการเปิดตัวของชุดพัฒนารุ่น 5.5

CUDA 5.5 ในส่วนของ ARM จะใช้ได้เฉพาะรุ่น Ubuntu เท่านั้น โดยมีให้เลือกระหว่างการใช้ชุดพัฒนารุ่น x86 ธรรมดามาคอมไพล์ลง ARM หรือจะใช้ชุดพัฒนาบน Ubuntu สำหรับ ARMv7 ไปพัฒนาบน ARM เลยก็ได้เหมือนกัน

By thanakij Contributor on Tag: Development, Arm, CUDA, NVIDIA, GPU
NVIDIA

NVIDIA ได้เปิดตัว CARMA (CUDA on ARM development kit) ซึ่งเป็น CUDA เวอร์ชันที่สนับสนุนซีพียู ARM อย่างเป็นทางการ

การเปิดตัว CUDA บน ARM ครั้งนี้ก็สอดคล้องกับข่าวเก่าที่ได้มีการสร้างซูเปอร์คอมพิวเตอร์ด้วยซีพียู ARM ขึ้นเป็นครั้งแรก โดยมีจุดประสงค์เพื่อลดการใช้พลังงานของซูเปอร์คอมพิวเตอร์ในปัจจุบัน

By lew Founder on Tag: GPGPU, Compiler, CUDA, LLVM, NVIDIA
NVIDIA

เทคโนโลยีการพัฒนาซอฟต์แวร์บน GPU นั้นทุกวันนี้มีสองค่ายใหญ่คือ CUDA ของ NVIDIA กับ OpenCL ที่ค่ายอื่นๆ เช่น อินเทล และเอเอ็มดี ใช้งานร่วมกัน ความเสียเปรียบอย่างหนึ่งของ CUDA คือมันเป็นเทคโนโลยีปิดของ NVIDIA เองทำให้ผู้ผลิตรายอื่นๆ ไม่สามารถเข้ามาใช้งานร่วมด้วยได้ และทาง NVIDIA ก็เลือกแก้ปัญหาด้วยการเปิดชั้นคอลไพลเลอร์ด้านล่างที่เป็น LLVM ออกมา

By mk Founder on Tag: Arm, Supercomputer, Tegra, Tegra 3, CUDA, NVIDIA, GPU
NVIDIA

NVIDIA ประกาศความร่วมมือกับ Barcelona Supercomputing Center ในสเปน สร้างซูเปอร์คอมพิวเตอร์แนวใหม่ที่ไม่เคยมีใครคิดว่ามันจะเป็นไปได้ นั่นคือสร้างจากซีพียูตระกูล ARM

ซูเปอร์คอมพิวเตอร์เครื่องนี้จะใช้ Tegra 3 ที่เพิ่งเปิดตัวหมาดๆ ร่วมกับ GPU ของ NVIDIA เองเพื่อเร่งประสิทธิภาพในการประมวลผล โดยเขียนโปรแกรมได้ผ่าน CUDA ซึ่งเป็นเทคโนโลยีของ NVIDIA เช่นกัน

จุดเด่นของคอมพิวเตอร์เครื่องนี้คือการลดพลังงานที่ใช้ในซูเปอร์คอมพิวเตอร์ ซึ่งคาดว่าจะลดลงได้ 40% เมื่อเทียบกับซูเปอร์คอมพิวเตอร์ทั่วไป (เป้าหมายของ Barcelona Supercomputing Center คือลดลงให้ได้ 15-30 เท่าของซูเปอร์คอมในปัจจุบัน)

Subscribe to CUDA
Apple
public://topics-images/apple_webp.png
SCB10X
public://topics-images/347823389_774095087711602_515970870797767330_n_webp.png
Windows 11
public://topics-images/hero-bloom-logo.jpg
Huawei
public://topics-images/huawei_standard_logo.svg_.png
Google Keep
public://topics-images/google_keep_2020_logo.svg_.png
Instagram
public://topics-images/instagram_logo_2022.svg_.png
SCB
public://topics-images/9crhwyxv_400x400.jpg
Microsoft
public://topics-images/microsoft_logo.svg_.png
Basecamp
public://topics-images/bwpepdi0_400x400.jpg
Tinder
public://topics-images/hwizi8ny_400x400.jpg
FTC
public://topics-images/seal_of_the_united_states_federal_trade_commission.svg_.png
Pinterest
public://topics-images/pinterest.png
Palantir
public://topics-images/-nzsuc6w_400x400.png
AIS Business
public://topics-images/logo-business-2021-1.png
PostgreSQL
public://topics-images/images.png
JetBrains
public://topics-images/icx8y2ta_400x400.png
Krungthai
public://topics-images/aam1jxs6_400x400.jpg
Palworld
public://topics-images/mccyhcqf_400x400.jpg
Bill Gates
public://topics-images/bill_gates-september_2024.jpg
VMware
public://topics-images/1nj4i1gp_400x400.jpg
Take-Two Interactive
public://topics-images/0khle7nh_400x400.jpg
OpenAI
public://topics-images/ztsar0jw_400x400.jpg
Thailand
public://topics-images/flag_of_thailand.svg_.png
NVIDIA
public://topics-images/srvczsfq_400x400.jpg
ServiceNow
public://topics-images/ytnrfphe_400x400.png
Klarna
public://topics-images/urcllpjp_400x400.png
Google Play
public://topics-images/play.png
Drupal
public://topics-images/drupal.png
Virtua Fighter
public://topics-images/virtua_figther_2024_logo.png
Paradox Interactive
public://topics-images/paradox_interactive_logo.svg_.png
Europa Universalis
public://topics-images/europa-icon.png
Nintendo Switch 2
public://topics-images/mainvisual.png
Cloudflare
public://topics-images/cloudflare_logo.svg_.png
Samsung
public://topics-images/samsung.png
Google
public://topics-images/google_2015_logo.svg_.png
Uber
public://topics-images/uber.png
Microsoft 365
public://topics-images/m365.png
USA
public://topics-images/flag_of_the_united_states.svg_.png
GM
public://topics-images/0pe0po-z_400x400.jpg
Perplexity
public://topics-images/perplex.jpg
Xperia
public://topics-images/xperia.png
iOS 18
public://topics-images/ios-18-num-96x96_2x.png
True
public://topics-images/true_logo.png
SoftBank
public://topics-images/softbank.jpg
Pac-Man
public://topics-images/pacman.png
Harry Potter
public://topics-images/harry.png
Marvel
public://topics-images/marvel.png
Skydance
public://topics-images/skydance.png
SEA
public://topics-images/sealogo.png
Find My Device
public://topics-images/find.png
Gemini
public://topics-images/google_gemini_logo.svg__1.png
Accessibility
public://topics-images/accessibility-128x128_2x.png
Material Design
public://topics-images/m3-favicon-apple-touch.png
Android 16
public://topics-images/android16.png
Android
public://topics-images/android_0.png
Firefox
public://topics-images/firefox_logo-2019.svg_.png
Google Messages
public://topics-images/messages.png
Notepad
public://topics-images/notepad.png
Singapore
public://topics-images/flag_of_singapore.svg_.png
Airbnb
public://topics-images/airbnb.png
PS5
public://topics-images/ps5.png
Krafton
public://topics-images/krafton.png
Doom
public://topics-images/doom-game-s_logo.svg_.png
AMD
public://topics-images/amd_logo.svg_.png
GTA
public://topics-images/gta_0.png
DoorDash
public://topics-images/doordash.png
YouTube
public://topics-images/yt.png
YouTube Music
public://topics-images/yt-music.png
Facebook
public://topics-images/fb.png
iQiyi
public://topics-images/iqiyi_0.png
Viu
public://topics-images/viu.png
Amazon Prime Video
public://topics-images/prime-vid.png
Spotify
public://topics-images/spotify.jpg
Apple TV
public://topics-images/apple-tv.png
HBO Max
public://topics-images/max.png
Threads
public://topics-images/threads.png
Alexa
public://topics-images/alexa.png
Kindle App
public://topics-images/kindle.png
Shopee
public://topics-images/shopee.png
Waze
public://topics-images/waze.png
Bilibili
public://topics-images/bili.png
Google Maps
public://topics-images/maps.png
Apple Music
public://topics-images/apple-music.png
Claude
public://topics-images/claude.png
TikTok
public://topics-images/tiktok.png
Xbox
public://topics-images/xbox.png
Tesla
public://topics-images/tesla.png
Chrome
public://topics-images/chrome.png
Google Calendar
public://topics-images/gcal.png
Google Home
public://topics-images/ghome.png
Google Meet
public://topics-images/meet.png
NotebookLM
public://topics-images/notebooklm.png
Reddit
public://topics-images/reddit.png
Assassin’s Creed
public://topics-images/ac.png
Mark Zuckerberg
public://topics-images/zuck.jpg
Meta
public://topics-images/meta.png
Meta AI
public://topics-images/meta-ai.png
Epic Games
public://topics-images/epic_games_logo.svg_.png
Unreal
public://topics-images/unreal_engine_logo-new_typeface-svg.png
Fortnite
public://topics-images/fortnite.png
DeepMind
public://topics-images/deepmind.png
Databricks
public://topics-images/databricks.png
Netflix
public://topics-images/netflix-logo.png
Microsoft Azure
public://topics-images/azure.png
Microsoft Copilot
public://topics-images/microsoft_copilot_icon.svg_.png
Bing
public://topics-images/bing.png