คนที่ตามข่าววงการ AI ของกูเกิลอาจพอคุ้นๆ ว่ากูเกิลมี สถาปัตยกรรมสำหรับรัน AI ขนาดใหญ่ชื่อ Pathways ใช้มาตั้งแต่ยุค PaLM ไล่จนมาถึงยุคปัจจุบัน ล่าสุดกูเกิลเปิด Pathways ให้คนนอกใช้งานแล้วบน Google Cloud

Pathways เป็นระบบจัดการงาน machine learning สเกลใหญ่ แบ่งงานไปรันบนตัวเร่งประมวลผลเป็นหลักพันๆ หมื่นๆ ตัว ช่วยแบ่งสรรทรัพยากรอัตโนมัติตามเงื่อนไขที่กำหนดไว้ กูเกิลบอกว่าโมเดลขนาดใหญ่ Gemini ถูกเทรนด้วยสถาปัตยกรรม Pathways

การใช้งาน Pathways ของคนนอกต้องทำผ่าน Google Kubernetes Engine (GKE) เพื่อให้ Pathway เป็นตัวจัดสรรทรัพยากร TPU อีกทีหนึ่ง (จะแบ่ง TPU เป็นส่วนย่อยๆ ที่เรียกว่า slice) มีแนวคิดสาย scheduler เช่น resource manager, worker, proxy server, Job API

ในการใช้งานจริง เราสามารถเรียกใช้ Pathways ได้ผ่านไคลเอนต์ของ JAX ซึ่งเป็นไลบรารียอดนิยมขอวงการ machine learning ได้เลย

ที่มา - Google Cloud