อินเทลเปิดซอร์สโค้ด Intel NPU Acceleration Library ไลบรารีภาษา Python สำหรับเรียกใช้งาน Neural Processing Unit (NPU) ในซีพียูรุ่นใหม่ๆ ของอินเทล นับตั้งแต่ Core Ultra (Meteor Lake) เป็นต้นไป
โลกปี 2024 เราคงจะได้ยินการพูดถึงชิป NPU กันมากขึ้นเรื่อยๆ เพราะผู้ผลิตซีพียูทั้งอินเทลและเอเอ็มดีต่างเริ่มใส่ NPU เข้ามาแล้ว ผนวกกับการดันคำว่า AI PC ของไมโครซอฟท์ในฝั่งการตลาดต่างๆ
ไลบรารี NPU ของอินเทลจะรองรับฟีเจอร์พื้นฐานของงานประมวลผล AI เช่น การคำนวณด้วยฟอร์แมตทศนิยม Float16 (อนาคตจะมี BFloat16 ตามมา), การทำ 8-bit quantization, การปรับแต่งประสิทธิภาพสำหรับ PyTorch (torch.compile) ส่วนฟีเจอร์ในอนาคตจะรองรับการใช้ NPU ประมวลผลร่วมกับ GPU หรือการประมวลผลแบบ mixed precision ใช้ทศนิยมหลายระดับร่วมกัน เป็นต้น
ตอนนี้ไลบรารีตัวนี้ใช้งานได้แล้วบนวินโดวส์และลินุกซ์ (ยังรองรับเฉพาะ Ubuntu)
ที่มา - Intel GitHub, Phoronix
Comments
โอพน -> โอเพน
Coder | Designer | Thinker | Blogger
ผู้ผลิต : ยังใช้ x86 classic อยุ่อีกหรอ
ผม : ตลอดไป....
The Last Wizard Of Century.