By lew Founder on Tag: Instinct, AMD, GPGPU, GPU
Instinct

AMD เผยสเปคเพิ่มเติมของ AMD Helios AI Rack ที่เปิดตัวในงาน CES เมื่อต้นปีที่ผ่านมา และเตรียมจะส่งมอบภายในปีนี้ว่ามีสเปกระดับเดียวกับ NVIDIA Vera Rubin ที่กำลังจะส่งมอบเหมือนกัน แต่มีจุดเด่นที่ปริมาณแรมและแบนวิดท์การเชื่อมต่อสูงกว่า

AMD Helios ประกอบไปด้วย EPYC Venice ชิป AMD Instinct MI400 และชิปเน็ตเวิร์ค AMD Vulcano โดยชิป MI455X นั้นมีแรมถึง 432GB ที่อัตราการส่งข้อมูลแรม 19.6TB/s รองรับการประมวลผลแบบ FP4 ที่ 40 petaflops และเชื่อมต่อระหว่างเครื่องด้วยเน็ตเวิร์ค 600GB/s

By lew Founder on Tag: ROCm, AMD, CUDA, GPGPU, Interview
ROCm

การแข่งขันกันระหว่างผู้ผลิตชิปกราฟิกรุนแรงขึ้นมาในช่วงหลังๆ โดยหลายปีที่ผ่านมา NVIDIA มีชุดซอฟต์แวร์ CUDA ที่ได้รับความนิยมในวงการปัญญาประดิษฐ์อย่างมาก ส่งผลให้ NVIDIA กลายเป็นมาตรฐานในการพัฒนาปัญญาประดิษฐ์เป็นส่วนใหญ่ แต่บริษัทพัฒนาปัญญาประดิษฐ์ก็เริ่มให้ความสนใจกับชิปจากผู้ผลิตอื่นๆ มากขึ้น เช่น OpenAI ประกาศใช้ชิป AMD หรือ Anthropic ประกาศใช้ชิป TPU ก็แสดงให้เห็นว่าตลาดอาจจะต้องการตัวเลือกเพิ่มเติม

By lew Founder on Tag: NVIDIA, Oracle, GPGPU, GPU, Larry Ellison, Jensen Huang
NVIDIA

Larry Ellison ซีทีโอของออราเคิล เล่าถึงความพยายามซื้อชิปกราฟิกจาก NVIDIA ว่าเขาต้องไปกินข้าวกับ Elon Musk และ Jensen Huang พร้อมกับขอให้ NVIDIA รับเงินค่าชิปกราฟิกไปอีกเยอะๆ พร้อมกับระบุว่าคำขอร้องได้ผล

ออราเคิลค่อนข้างประสบความสำเร็จจากการให้บริการคลาวด์สำหรับปัญญาประดิษฐ์ หลังจากปีที่ผ่านมาให้บริการคลาวด์กับไมโครซอฟท์

By lew Founder on Tag: CPU, GPGPU, NVIDIA
CPU

NVIDIA ปล่อย cuDF ไลบรารีทดแทน pandas ที่นิยมในหมู่คนทำงานด้านข้อมูลเข้าสู่สถานะ GA หลักจากเริ่มเปิดไลบรารีนี้ตั้งแต่ปีที่แล้ว ในเวอร์ชั่นนี้จะทำงานแทบเหมือนกับ pandas เดิมทำให้ไม่ต้องแก้ไขโค้ดใดๆ

cuDF ตัวใหม่นี้อยู่ในชุด RAPIDS ที่ NVIDIA พัฒนาไลบรารีที่ทำงานโดยอาศัยชิปกราฟิก แต่คง API เหมือนไลบรารีเดิม เช่น cuML จะพยายามพัฒนาให้เหมือน scikit-learn

By lew Founder on Tag: Blackwell, NVIDIA, GPGPU, GPU
Blackwell

NVIDIA เปิดตัวชิปกราฟิกรุ่นต่อไปในชื่อสถาปัตยกรรม Blackwell เป็นชิประดับองค์กร โดยชิป B200 มีทรานซิสเตอร์ภายในถึง 208,000 ล้านทรานซิสเตอร์ ตัวชิปจริงๆ เป็นชิปสองตัวประกบเข้าด้วยกันด้วยการเชื่อมต่อความเร็วสูงระดับ 10TB/s แบบเดียวกับ Apple Silicon ในตระกูล Ultra ตัวชิปเชื่อมต่อกับภายนอกด้วย NVLINK รุ่นที่ 5 รองรับการเชื่อมต่อกับชิปกราฟิกภายนอกแบนวิดท์ 7.2TB/s

By lew Founder on Tag: NVIDIA, GPGPU, Artificial Intelligence
NVIDIA

บริษัทคอมพิวเตอร์ gptshop.ai ประกาศขายพีซีสำหรับใช้ในบ้านแต่ใช้ชิป NVIDIA GH200 ซีพียูพร้อมชิปกราฟิกจาก NVIDIA ที่มักใช้งานกันในเซิร์ฟเวอร์เป็นหลัก หลักจากผู้ก่อตั้งบริษัทพบว่าชิปสำหรับผู้ใช้ทั่วไปอย่าง NVIDIA RTX 4090 นั้นไม่พอรันโมเดลปัญญาประดิษฐ์ใหม่ๆ

By lew Founder on Tag: AMD, CUDA, GPGPU, ROCm
AMD

ZLUDA โครงการโอเพนซอร์สที่พยายามอิมพลีเมนต์ไลบรารี CUDA ของ NVIDIA ปล่อยเวอร์ชั่นทดสอบที่อาศัยไลบรารี HIP/ROCm ของ AMD เป็นคัวเอนจินเบื้องหลังทำให้สามารถใช้ชิปกราฟิกของ AMD มารันโปรแกรมที่คอมไพล์สำหรับ CUDA ได้

Andrzej Janik ผู้พัฒนา ZLUDA พัฒนาไลบรารีนี้มาแล้วหลายปี แต่ช่วงแรกนั้นทำมาเพื่อซีพียูอินเทล ต่อมาในปี 2022 AMD ติดต่อเขาให้พัฒนาไลบรารีให้รองรับชิปกราฟิกของ AMD หลังจากพัฒนามาเกือนสองปี ทาง AMD ตัดสินในยุติโครงการนี้ ทำให้ Janik ตัดสินใจปล่อยโครงการออกมาเป็นโอเพนซอร์ส

By lew Founder on Tag: Google Cloud, GPGPU
Google Cloud

Google Cloud ออกบริการ Dynamic Workload Scheduler แก้ปัญหาลูกค้าไม่สามารถขอใช้ชิปกราฟิกหรือ TPU เพื่อฝึกปัญญาประดิษฐ์ได้ เนื่องจากชิปมีไม่เพียงพอ โดยบริการนี้มี 2 โหมดทำงาน

By lew Founder on Tag: AMD, Artificial Intelligence, GPGPU, Instinct, GPU
AMD

AMD เริ่มส่งมอบชิปตระกูล Instinct MI300 ตามที่เปิดตัวไปเมื่อต้นปีที่ผ่านมา โดยแบ่งออกเป็นสองรุ่นย่อย คือ MI300A ที่เป็น APU มีซีพียูในตัว และ MI300X ที่เป็นชิปเร่งความเร็วอย่างเดียว

MI300A มาพร้อมแรม HBM3 ขนาด 128GB เน้นปรับปรุงประสิทธิภาพต่อพลังงานดีขึ้น 1.9 เท่าเทียบกับ MI250X รุ่นก่อนหน้า

By lew Founder on Tag: NVIDIA, GPGPU, Grace, GPU, CPU, Server, High Performance Computing
NVIDIA

NVIDIA เปิดตัวโมดูล NVIDIA GH200 Grace Hopper รุ่นต่อไป หลังจากปีนี้วางตลาดรุ่นแรกไปแล้ว ความเปลี่ยนแปลงสำคัญของรุ่นต่อไปคือการใช้แรม HBM3e ทำให้ใส่แรมได้มากขึ้นมาก เครื่องขนาด 2 โมดูล สามารถใส่แรมได้สูงสุด 282GB ซีพียู 144 คอร์ และพลังประมวลผล AI รวม 8 เพตาฟลอบ (ไม่ระบุว่าที่ความละเอียดระดับใด)

By lew Founder on Tag: OpenAI, GPGPU
OpenAI

Sam Altman ซีอีโอของ OpenAI พูดคุยกับ Raza Habib ซีอีโอบริษัท Humanloop ถึงแผนการเปิดตัวบริการหรือฟีเจอร์ของบริการใหม่ๆ โดยระบุว่าฟีเจอร์หลายตัวล่าช้าออกไปเพราะปัญหา GPU ไม่เพียงพอที่จะให้บริการ เช่นฟีเจอร์อ่านภาพได้โดยตรงใน GPT-4 (multimodal) ต้องเลื่อนออกไปถึงปี 2024

แผนการเพิ่มฟีเจอร์ GPT-4 ในปีนี้ ได้แก่

By lew Founder on Tag: NVIDIA, High Performance Computing, GPGPU
NVIDIA

NVIDIA เปิดตัวเซิร์ฟเวอร์รุ่นใหม่ NVIDIA DGX GH200 ชูจุดเด่นที่รองรับแรมสูงถึง 144TB เป็นก้าวกระโดดจาก DGX H100 ที่เคยรองรับแรม 640GB ต่อเครื่อง

ภายในตัวเครื่อง ใช้ชิป NVIDIA Grace Hopper Superchip พร้อมแรมแบบ LPDDR5 480GB เซิร์ฟเวอร์แต่ละเครื่องมีซีพียู 8 ชุด และสามารถต่อข้ามเครื่องผ่าน NVLink Switches อีกถึง 256 ซีพียูในแต่ละคลัสเตอร์ ตัวชิปกราฟิกบนแต่ละโมดูลสามารถข้ามไปใช้แรมฝั่งซีพียูด้วยแบนวิดท์ 900GB/s

By lew Founder on Tag: NVIDIA, NVIDIA Hopper, GPGPU, GPU
NVIDIA

NVIDIA เปิดตัวสถาปัตยกรรมชิปกราฟิกรุ่นต่อไป ในชื่อ NVIDIA Hopper โดยชิปตัวแรก NVIDIA H100 สำหรับลูกค้าระดับองค์กรเป็นหลัก โดยมีฟีเจอร์ภายในสถาปัตยกรรมหลายอย่าง เช่น

By lew Founder on Tag: Instinct, AMD, GPGPU, GPU
Instinct

เอเอ็มดีเปิดตัวการ์ดกราฟิกตระกูลสำหรับเซิร์ฟเวอร์ AMD Instinct MI200 โดยชุดแรกมีสองรุ่นย่อยได้แก่ MI250 และ MI250X เป็นแบบโมดูล (MI210 แบบการ์ด PCIe จะเปิดตัวภายหลัง) มีจุดเด่นอยู่ที่การรองรับแรม HBM แบบ ECC ความจุถึง 128GB ใหญ่กว่ารุ่นปัจจุบันถึง 4 เท่าตัว

เอเอ็มดีระบุว่าการ์ดตระกูล MI200 มีความเปลี่ยนแปลงสำคัญ 3 อย่าง ได้แก่

By lew Founder on Tag: Tesla, Artificial Intelligence, GPGPU
Tesla

Tesla เปิดตัวชิปฝึกโมเดลปัญญาประดิษฐ์ของตัวเอง เป็นสถาปัตยกรรมเฉพาะชื่อว่า Dojo โดยชิปแต่ละตัวเป็นคอร์ขนาดเล็กพร้อมชุดคำสั่งประมวลผลข้อมูลแบบเวคเตอร์และเมทริกซ์ เชื่อมต่อกับคอร์อื่นๆ ด้วยช่องทางเชื่อมต่อแบนวิดท์สูง

ชิป D1 สถาปัตยกรรม Dojo แต่ละตัวมีซีพียูหรือที่ทาง Tesla เรียกว่า Training Node จำนวน 354 ชุด พลังประมวลผลรวม 362 เทราฟลอบ (ที่ bfloat16) เชื่อมต่อข้อมูลนอกชิปได้ 16 เทราไบต์ต่อวินาที (ด้านละ 4 เทราไบต์ต่อวินาที) ตัวชิปมีสเปคปล่อยความร้อน 400 วัตต์

By lew Founder on Tag: OpenAI, Programming, GPGPU
OpenAI

OpenAI เปิดตัว Triton 1.0 ภาษาโปรแกรมที่ออปติไมซ์โค้ดสำหรับทำงานบนชิปกราฟิกโดยอัตโนมัติ โดยได้การทดสอบคูณเมทริกซ์ประสิทธิภาพเทียบกับไลบรารีที่ออปติไมซ์มาเฉพาะอย่าง cuBLAS ของ NVIDIA เอง

By lew Founder on Tag: Artificial Intelligence, Machine Learning, GPGPU, Graphcore, TPU
Artificial Intelligence

MLCommons หน่วยงานกลางสำรวจประสิทธิภาพคอมพิวเตอร์ด้าน machine learning และปัญญาประดิษฐ์ออกรายงานเวอร์ชั่น 1.0 โดยมีผู้เข้าร่วมน่าสนใจได้แก่ NVIDIA ที่ส่งเครื่อง DGX-A100 เข้าทดสอบ, อินเทลส่ง Xeon Platinum 8380, กูเกิลส่ง TPUv4 ที่ยังไม่เปิดให้บริการทั่วไป, และ Graphcore สตาร์ตอัพปัญญาประดิษฐ์ส่งเครื่อง IPU-POD เข้าจัดอันดับ

By lew Founder on Tag: Instinct, AMD, Artificial Intelligence, GPGPU, GPU
Instinct

AMD เปิดตัวการ์ดเร่งความเร็วงานด้านปัญญาประดิษฐ์และวิทยาศาสตร์ AMD Instinct MI100 ที่ใช้ชิปประมวลผลสถาปัตยกรรม CDNA (Compute DNA) พัฒนาแยกสายออกมาจากสถาปัตยกรรม RDNA ที่ใช้เพื่องานกราฟิกและเกมเป็นหลัก

By lew Founder on Tag: Oracle, NVIDIA, GPGPU
Oracle

ออราเคิลประกาศให้บริการคลาวด์สาธารณะ ที่ใช้เซิร์ฟเวอร์ที่สร้างจากแพลตฟอร์ม HGX-2 ของ NVIDIA นับเป็นคลาวด์สาธารณะรายแรกที่ใช้แพลตฟอร์มนี้

นอกจากการใช้เซิร์ฟเวอร์ HGX-2 แล้ว ออราเคิลยังประกาศรองรับไลบรารี RAPIDS ที่เพิ่งเปิดตัว ทำให้สามารถทำโค้ดที่พัฒนาด้วยชุดไลบรารี RAPIDS ไปรันบนคลาวด์ได้โดยสะดวก

เซิร์ฟเวอร์ในตระกูล HGX-2 จะเป็นเครื่องแบบ GPU4 โดยมีขนาดใหญ่สุดคือ BM.GPU4.8 ซีพียู 48 คอร์ แรม 768GB และชิปกราฟิก Tesla V100 แรม 32GB อีก 8 ชุด

ราคาต่อชั่วโมงยังไม่แจ้ง

By lew Founder on Tag: NVIDIA, Data Science, GPGPU
NVIDIA

งานวิทยาศาสตร์ข้อมูล (data science) มักนิยมภาษา R หรือไลบรารี Pandas ในไพธอนที่มองข้อมูลเป็น data frame ที่เป็นตาราง ตอนนี้ NVIDIA ก็หันมาจับตลาดนี้ด้วยการเปิดตัวโครงการ RAPIDS ที่เปิดให้นักวิทยาศาสตร์ข้อมูลสามารถใช้ชิปกราฟิกประมวลผลข้อมูลเหล่านี้ได้เร็วขึ้น

Subscribe to GPGPU