Artificial Intelligence

เทรนด์ยอดฮิตของวงการพีซีในปี 2024 ย่อมหนีไม่พ้นคำว่า "AI PC" ซึ่งหมายถึงพีซีที่มีชิปเร่งความเร็วการประมวลผล AI หรือ Neural Processing Unit (NPU) มาให้ด้วย เช่น Intel Core Ultra หรือ Ryzen Mobile บางรุ่นย่อย

อย่างไรก็ตาม Mark Hachman บรรณาธิการอาวุโสของ PCWorld ตั้งข้อสังเกตว่าผู้ใช้อย่างเราๆ ไม่ควรคาดหวังว่า NPU จะกลายเป็นสิ่งมหัศจรรย์ช่วยเปลี่ยนแปลงวงการพีซีไปอย่างสิ้นเชิง เพราะคำว่า AI มีความหมายกว้างมาก ตั้งแต่การสร้างภาพตามคำสั่ง (image generation), โมเดลภาษาขนาดใหญ่ (LLM), แช็ทบ็อท ไปจนถึงฟีเจอร์เฉพาะอย่างในแอพบางตัว (เช่น Photoshop/Lightroom)

ประเด็นถัดมา Hachman มีโอกาสได้ลองทดสอบโน้ตบุ๊กที่ใช้ Core Ultra 7 165H เครื่องจริง และลองรันเบนช์มาร์ค Procyon วัดประสิทธิภาพการประมวลผล AI และพบว่าจีพียูยังเป็นแกนหลักอยู่ โดยคะแนนแต่ละส่วนเป็นดังนี้

  • Procyon (OpenVINO) NPU: 356
  • Procyon (OpenVINO) GPU: 552
  • Procyon (OpenVINO) CPU: 196

เขาชี้ว่าการมี NPU ช่วยยกระดับประสิทธิภาพงานด้าน AI บางประเภทได้จริง แต่สุดท้ายแล้วจีพียูก็ยังสำคัญกว่า แถมประโยชน์ของ NPU ที่แท้จริงไม่ใช่เรื่องประสิทธิภาพ แต่เป็นการใช้พลังงานที่ดีขึ้น ช่วยให้แบตเตอรี่โน้ตบุ๊กใช้ได้ยาวนานขึ้น (ตัวอย่างการใช้งานที่เห็นภาพชัดเจนคือ วิดีโอคอลล์ใน Microsoft Teams เป็นเวลานาน และให้ AI ช่วยตัดเสียงรบกวน เบลอภาพพื้นหลัง แบบนี้ NPU ช่วยให้แบตลดช้าลงได้)

Hachman สรุปว่าตอนนี้เราเพิ่งเริ่มเข้าสู่ยุค AI PC เท่านั้น การมีชิป NPU ในตัวเป็นเรื่องดี แต่ไม่ใช่สิ่งที่จำเป็นต้องมี เพราะเรารัน AI บนจีพียูได้เสมอ แถมผู้ใช้ส่วนใหญ่คงรัน AI ผ่านคลาวด์กันมากกว่า นอกจากนี้ฮาร์ดแวร์ยังจะพัฒนาไปอีกมาก ตัวอย่างของอินเทลเองคือชิป Lunar Lake รุ่นถัดไปจะออกภายในสิ้นปี 2024 และจะมีประสิทธิภาพ NPU ดีขึ้นกว่าเดิม 3 เท่าด้วย

ที่มา - PCWorld

Hiring! บริษัทที่น่าสนใจ

Carmen Software company cover
Carmen Software
Hotel Financial Solutions
Next Innovation (Thailand) Co., Ltd. company cover
Next Innovation (Thailand) Co., Ltd.
We are web design with consulting & engineering services driven the future stronger and flexibility.
KKP Dime company cover
KKP Dime
KKP Dime บริษัทในเครือเกียรตินาคินภัทร
Kiatnakin Phatra Financial Group company cover
Kiatnakin Phatra Financial Group
Financial Service
Fastwork Technologies company cover
Fastwork Technologies
Fastwork.co เว็บไซต์ที่รวบรวม ฟรีแลนซ์ มืออาชีพจากหลากหลายสายงานไว้ในที่เดียวกัน
Thoughtworks Thailand company cover
Thoughtworks Thailand
Thoughtworks เป็นบริษัทที่ปรึกษาด้านเทคโนโยลีระดับโลกที่คว้า Great Place to Work 3 ปีซ้อน
Iron Software company cover
Iron Software
Iron Software is an American company providing a suite of .NET libraries by engineer for engineers.
CLEVERSE company cover
CLEVERSE
Cleverse is a Venture Builder. Our team builds several tech companies.
Nipa Cloud company cover
Nipa Cloud
#1 OpenStack cloud provider in Thailand with our own data center and software platform.
Bangmod Enterprise company cover
Bangmod Enterprise
The leader in Cloud Server and Hosting in Thailand.
CIMB THAI Bank company cover
CIMB THAI Bank
MOVING FORWARD WITH YOU - CIMB is the leading ASEAN Bank
Bangkok Bank company cover
Bangkok Bank
Bangkok Bank is one of Southeast Asia's largest regional banks, a market leader in business banking
MuvMi (Urban Mobility Tech Co.,Ltd.) company cover
MuvMi (Urban Mobility Tech Co.,Ltd.)
Shape the future of urban mobility towards affordable, clean, and safe solutions
T.N. Digital Solution Co., Ltd. company cover
T.N. Digital Solution Co., Ltd.
TNDS has been involving in every first move of banking’s major digital transformation.
KBTG - KASIKORN Business-Technology Group company cover
KBTG - KASIKORN Business-Technology Group
KBTG - "The Technology Company for Digital Business Innovation"
Siam Commercial Bank Public Company Limited company cover
Siam Commercial Bank Public Company Limited
"Let's start a brighter career future together"
Icon Framework co.,Ltd. company cover
Icon Framework co.,Ltd.
Global Standard Platform for Real Estate แพลตฟอร์มสำหรับธุรกิจอสังหาริมทรัพย์ครบวงจร มาตรฐานระดับโลก
REFINITIV company cover
REFINITIV
The Financial and Risk business of Thomson Reuters is now Refinitiv
H LAB company cover
H LAB
Re-engineering healthcare systems through intelligent platforms and system design.
The Gang Technology Co., Ltd. company cover
The Gang Technology Co., Ltd.
We're a Digital Agency that helps our customers transform their business into digital with ease.
LTMH company cover
LTMH
LTMH มุ่งเน้นการพัฒนาผลิตภัณฑ์ที่สามารถช่วยพันธมิตรของเราให้บรรลุเป้าหมาย
Seven Peaks company cover
Seven Peaks
We Drive Digital Transformation
Wisesight (Thailand) Co., Ltd. company cover
Wisesight (Thailand) Co., Ltd.
The Best Choice For Handling Social Media · High Expertise in Social Data · Most Advanced and Secure
MOLOG Tech company cover
MOLOG Tech
We are Modern Logistic Platform, Specialize in WMS, OMS and TMS.
Data Wow Co.,Ltd company cover
Data Wow Co.,Ltd
We enable our clients to realize increased productivity by solving their most complex issues by Data
LINE Company Thailand company cover
LINE Company Thailand
LINE, the world's hottest mobile messaging platform, offers free text and voice messaging + Call
LINE MAN Wongnai company cover
LINE MAN Wongnai
Join our journey to becoming No.1 food platform in Thailand

สงสัยมานานเหมือนกันว่าจะเอามาทำอะไร เห็น Surface ก็บอกว่าเอามาเบลอฉากหลัง จับหน้าให้อยู่กลาง สงสัยอยู่ว่าทำอะไรได้มากกว่านี้อีกมั้ยนะ ถ้าทำให้ทำแบบ Krisp.ai มาใน Windows ได้เลยแล้วให้เครื่องอื่นๆ นอก Surface ใช้บ้างก็คงดี (ถ้าการ์ดจอที่น่าจะรองรับกันหลายรุ่นมันทำงานแทนได้อยู่แล้วนด้วยน่ะนะ)

สงสัยว่าสูตรการคำนวณ AI มีการค้นพบใหม่เรื่อยๆ
ถ้าทำวงจรเฉพาะแล้วสูตรนั้นเลิกใช้ ก็คงต้องมาใช้ GPU อยู่ดี
ไม่งั้นต้องเป็นวงจรแบบ programmable ซึ่งไม่น่าทำความเร็วได้ดีนัก 🤔

เอ ไม่ใช่ว่า NPU พวกนี้ทำงานลักษณะเดียวกับส่วนของ GPU ที่ใช้คำนวณ AI เหรอครับ? (แบบที่ GPU NVIDIA มีแบ่ง CUDA, Tensor, RT core https://www.blognone.com/node/104747)

เป็นวงจร HW แยกต่างหาก(Tensor Core)เลยครับ

จากแผนภาพของ NVIDIA จะเห็นเลเยอร์ล่างสุดที่เป็นการประมวลผลของฮาร์ดแวร์ แยกออกเป็น 4 ด้านคือการประมวลผลกราฟิกราสเตอร์แบบเดิม (จีพียูรันปกติ), การทำ ray tracing (RT Core), การนำจีพียูมาประมวลผลงานทั่วไปหรือ compute (จีพียูรันงาน CUDA) และการประมวลผล AI (Tensor Core)

การ์ด AI เฉพาะพวก A100 คือ อัดวงจร Tensor Core มาเต็ม

แต่ระดับ consumer ที่ต้องการหลากหลาย ก็ใส่มาอย่างละนิดหน่อย

ผมถึงสงสัยไงครับ

หรือเขาไม่สนกัน?
แนวๆช่วงเหมืองเหรียญรุ่งๆ ก็ทำ ASIC ออกมา
พอเปลี่ยนเหรียญเปลี่ยนสูตร ก็ทำใจโล๊ะทิ้งเป็นซาก?
อะไรทำนองนี้ 🤔

ผมน่าจะเข้าใจคุณ Hoo ผิดไปที่บอกว่าถ้าเปลี่ยนสูตรไปต้องย้ายไปใช้ GPU แทน คิดว่าหมายถึง NPU จะใช้กับงานนั้นๆ ไม่ได้แล้วแต่พวก Tensor Core ใน GPU ยังทำงานได้อยู่

พวกนี้มันน่าจะยืดหยุ่นกว่าพอสมควรไหมนะครับ ประมาณว่าถึงเฉพาะทางแต่ก็ general ระดับนึง
แต่ถ้าเปลี่ยนเยอะก็คงต้องทำใจครับ 🥲

ไม่งั้นต้องเป็นวงจรแบบ programmable ซึ่งไม่น่าทำความเร็วได้ดีนัก 🤔

ของ Intel ใส่ programmable DSP มาครับ ตาม video นี้ แต่ถ้าสมมุติต้องการ activation function ใหม่เลย ผมไม่แน่ใจว่ามันจะเหมาะหรือเปล่าครับ

ก็รู้กันอยู่แล้วว่ามันไม่ได้แรง
แต่ที่ใส่มาเพราะจะได้ไม่ต้องส่ง online data ไปทำบน Cloud ทุกครั้ง หรือเปิด-ปิดการใช้งาน GPU ทุกรอบ GPU มันกินพลังงาน แถมต้องส่ง data ผ่าน PCIe อีก งานเล็กๆ ง่ายๆ ก็ทำบน SoC เลยจบทีเดียวประหยัดไฟ Laptop บางเบาก็ไม่ได้มีการ์ดจอแยก ที่ใส่ NPU มาก็เพราะต้องการให้ AI PC มันรองรับฟีเจอร์เหมือนกันและประหยัดไฟนี่แหละ

ไม่ได้หวังว่ามันจะ Benchmark แล้วได้คะแนนเป็นพันเป็นหมื่น แรงกว่า GPU อะไรแบบนั้น

veer Tue, 16/01/2024 - 10:08

But consumers probably won’t care as much as chipmakers that AI is running on their PC, versus the cloud

พอเริ่มจ่ายรายเดือน หรือต้องเลือกรูปจักรยานบ่อย ๆ หรือบางช่วงถามไปแล้วบอกตอนนี้คนใช้เยอะตอบไม่ได้ หรือเน็ตหลุดแล้วคุยไม่ได้ ก็คงสนใจแล้วว่ารันที่ไหน

ผมมองว่าเหมือนยุค MMX อ่ะครับ ก็ยังต้องใช้ VGA นั้นแหละ แต่ มี MMX ก็ดีกว่า .. นิดนึง ถ้าทำ Ai (เล่นเกมส์) ก็ยังต้องใส่ RTX (Voodoo Card) ลงเครื่องไปอยู่ดี ซึ่ง ความยาก RTX ไม่อยู่ใน Notebook ทำงานไปอยู่ Notebook Game ที่ Corperate ไม่ซื้อแน่ ๆ จะตั้ง PC ทรง Tower แบบปี 90s ไม่มีขายแล้ว ถึงตั้งได้ Power Supply ก็ไม่พอจ่ายไฟ ต้อง Up ไป 850w ถึงจะรอด
ดูแล้ว โอ้ย ยังติดอีกเยอะ 55