Node Thumbnail

อินเทลเปิดซอร์สโค้ด Intel NPU Acceleration Library ไลบรารีภาษา Python สำหรับเรียกใช้งาน Neural Processing Unit (NPU) ในซีพียูรุ่นใหม่ๆ ของอินเทล นับตั้งแต่ Core Ultra (Meteor Lake) เป็นต้นไป

โลกปี 2024 เราคงจะได้ยินการพูดถึงชิป NPU กันมากขึ้นเรื่อยๆ เพราะผู้ผลิตซีพียูทั้งอินเทลและเอเอ็มดีต่างเริ่มใส่ NPU เข้ามาแล้ว ผนวกกับการดันคำว่า AI PC ของไมโครซอฟท์ในฝั่งการตลาดต่างๆ

ไลบรารี NPU ของอินเทลจะรองรับฟีเจอร์พื้นฐานของงานประมวลผล AI เช่น การคำนวณด้วยฟอร์แมตทศนิยม Float16 (อนาคตจะมี BFloat16 ตามมา), การทำ 8-bit quantization, การปรับแต่งประสิทธิภาพสำหรับ PyTorch (torch.compile) ส่วนฟีเจอร์ในอนาคตจะรองรับการใช้ NPU ประมวลผลร่วมกับ GPU หรือการประมวลผลแบบ mixed precision ใช้ทศนิยมหลายระดับร่วมกัน เป็นต้น

ตอนนี้ไลบรารีตัวนี้ใช้งานได้แล้วบนวินโดวส์และลินุกซ์ (ยังรองรับเฉพาะ Ubuntu)

ที่มา - Intel GitHub, Phoronix

No Description

Get latest news from Blognone

Comments

By: Be1con
ContributorWindows PhoneWindowsIn Love
on 2 March 2024 - 11:36 #1306846
Be1con's picture

โอพน -> โอเพน


Coder | Designer | Thinker | Blogger

By: aeksael
ContributoriPhoneWindows PhoneAndroid
on 2 March 2024 - 12:22 #1306853
aeksael's picture

ผู้ผลิต : ยังใช้ x86 classic อยุ่อีกหรอ

ผม : ตลอดไป....


The Last Wizard Of Century.