แอปเปิลเผยแพร่เอกสาร รายละเอียดของโมเดลปัญญาประดิษฐ์ที่พัฒนาขึ้นซึ่งเรียกว่า Apple Intelligence Foundation Language Models (AFM) โดยมีประเด็นน่าสนใจคือเทคโนโลยีที่แอปเปิลเลือกใช้ในการเทรนโมเดล AI เพราะแอปเปิลไม่ได้ใช้จีพียูของ NVIDIA

ในเอกสารระบุว่าแอปเปิลเลือกใช้ชิป TPU ซึ่งพัฒนาโดยกูเกิล สำหรับการเทรนโมเดล โดยมีสองโมเดลหลักคือ AFM แบบรันบนอุปกรณ์ (On-device) เทรนด้วยชิป TPUv5p จำนวน 2,048 ตัว และ AFM รันบนเซิร์ฟเวอร์ ใช้ TPUv4 8,192 ตัว ทั้งนี้แอปเปิลไม่ได้ระบุชื่อกูเกิล ตลอดจนวิธีการได้มาของชิป TPU นี้สำหรับรันโมเดล ซึ่งกูเกิลนั้นเปิดให้ใช้งานได้ผ่านการรันบนแพลตฟอร์มคลาวด์ของกูเกิลเท่านั้น

แอปเปิลไม่ได้อธิบายสาเหตุที่เลือกใช้ TPU ในการเทรนโมเดลแทนที่เป็นจีพียู แต่บอกว่าการใช้ TPU นั้นมีระบบรองรับการเทรนโมเดลได้มีประสิทธิภาพและสเกลได้ดี โดยเฉพาะกับโมเดลที่มีขนาดใหญ่มากซึ่งแอปเปิลต้องการ

ที่มา: CNBC