ไมโครซอฟท์เปิดเผยรายละเอียดเบื้องหลัง Copilot+ PC ที่เป็นการนำพีซีพลัง NPU มารันโมเดลปัญญาประดิษฐ์แบบ on-device ภายในเครื่อง ตกลงแล้วโมเดลตัวที่ว่านี้ชื่อว่า Phi Silica (อ่านว่า "ไฟ ซิลิกา") ถือเป็นหนึ่งในเวอร์ชันย่อยของชุดโมเดล Phi 3 โดยปรับแต่งมาเพื่อการรันบน NPU โดยเฉพาะ

Phi Silica พัฒนาต่อมาจาก Phi-3-mini โมเดลรุ่นเล็กสุดของซีรีส์ Phi-3 แล้วปรับขนาดให้เล็กลงอีกหน่อย (ขนาดพารามิเตอร์ลดลงจาก 3.8B เหลือ 3.3B) เพื่อให้รันใน NPU ได้พอดี ศักยภาพของ Phi Silica รองรับอินพุต 650 token ต่อวินาที ใช้พลังงานเพียง 1.5 วัตต์เท่านั้น

ไมโครซอฟท์บอกว่าพีซีที่เป็น Copilot+ จะมีโมเดลมาตรฐานมาให้ประมาณ 40 ตัว ทั้งหมดเรียกว่า Windows Copilot Library โดยในอนาคตจะเพิ่มฟีเจอร์ด้านการปรับแต่งโมเดล AI เพิ่มเติม เช่น RAG, Vector Embeddings, Text Summarization เพิ่มมาให้อีก เมื่อนำส่วนของ Library มารวมกับเฟรมเวิร์คและเครื่องมือต่างๆ เช่น PyTorch และ DirectML กลายเป็นชุดพัฒนา AI บนพีซีทั้งหมดถูกเรียกว่า Windows Copilot Runtime

ที่มา - Microsoft, VentureBeat