ที่งาน Google Cloud Next 2025 กูเกิลเปิดตัวชิป TPU Ironwood ชิปปัญญาประดิษฐ์ของกูเกิลเองรุ่นถัดจาก TPU v5p โดยชูประเด็นการเชื่อมต่อระหว่างชิป Inter-Chip Interconnect (ICI) ที่เปิดทางให้สร้างคลัสเตอร์ขนาดใหญ่ระดับเกือบหมื่นชิป

ตัวชิป TPU Ironwood เองมีพลังประมวลผล 4,614 TeraFLOPS แรงกว่า TPU v5p เกินสิบเท่าตัว (ชาร์ตข้าม Trillium ที่ดีกว่า v5e อยู่ 4.7 เท่าตัว) แต่ละชิปมาพร้อมแรม HBM ขนาด 192GB แบนวิดท์ 7.4TB/s ประสิทธิภาพต่อพลังงานดีขึ้นกว่า TPU Trillium สองเท่าตัว

ลูกค้า Google Cloud สามารถเลือกใช้ Ironwood เป็นคลัสเตอร์ได้สองขนาด คือ 256 ชิป และ 9,216 ชิป อัดเต็มไปถึง 42.5 ExaFLOPS

ตัว TPU นั้นไม่มีขายขาดนอกคลาวด์ของกูเกิล อย่างไรก็ดีกูเกิลชูประเด็นว่าประสิทธิภาพต่อราคาของ TPU นั้นดีกว่าชิปคู่แข่งมาก ทำให้เมื่อขายบริการ LLM อย่าง Gemini แล้วได้ประสิทธิภาพดีกว่า GPT-4o ของ OpenAI และ DeepSeek-R1 ที่ทั้งสองบริษัทใช้ชิป NVIDIA เป็นหลัก

ในงานนี้ vLLM ไลบรารีรัน LLM ยอดนิยมประกาศรองรับ TPU อย่างเป็นทางการ ทำให้ตอนนี้ TPU สามารถใช้งานได้กับ PyTorch, JAX, vLLM, และ Keras นอกจากนี้ัยังเพิ่มรันไทม์ Pathways ที่พัฒนาโดย DeepMind สำหรับการฝึกปัญญาประดิษฐ์บนคลัสเตอร์ขนาดใหญ่ให้ได้ประสิทธิภาพสูง ขยายหรือหดคลัสเตอร์เองตามการใช้งาน

กูเกิลจะเปิดให้ลูกค้าใช้งาน TPU 7 Ironwood ภายในปีนี้

ที่มา - Google