ทีมวิศวกรของฝ่ายวิจัย Machine Learning ของแอปเปิล เผยแพร่รายละเอียดตัวเร่งการทำ LLM Inference โดยร่วมมือกับ NVIDIA เพื่อทดสอบประสิทธิภาพบนจีพียูของ NVIDIA

เครื่องมือที่แอปเปิลพัฒนาและโอเพนซอร์สนี้ชื่อว่า Recurrent Drafter หรือย่อว่า ReDrafter เป็นโมเดลที่รวมสองอัลกอริทึมคือ Beam Search กับ Dynamic Tree Attention เพื่อเร่งความเร็วในการสร้างโทเค็นผลลัพธ์ของ LLM สูงสุดที่ระดับ 3.5 โทเค็นต่อหนึ่งขั้นตอนของโมเดลโอเพนซอร์ส

ทีม Machine Learning ของแอปเปิลออกเฟรมเวิร์กสำหรับงาน Machine Learning บน Apple Silicon เรียกชื่อว่า MLX (Machine Learning Explore) โดยสามารถดาวน์โหลดได้ผ่าน GitHub

แอปเปิลบอกว่า MLX เป็นเฟรมเวิร์กสำหรับนักพัฒนา ในการรันโมเดล ML ที่ออกแบบมาให้ทำงานได้มีประสิทธิภาพสูงสุด บนอุปกรณ์ที่ใช้ชิป Apple Silicon

Allen Institute of Artificial Intelligence หน่วยงานไม่แสวงหากำไรที่เน้นงานวิจัยด้านปัญญาประดิษฐ์ ซึ่งก่อตั้งโดย Paul Allen ผู้ร่วมก่อตั้งไมโครซอฟท์ หรือที่เรียกย่อว่า AI2 ประกาศแต่งตั้ง Ali Farhadi เป็นซีอีโอคนใหม่ของหน่วยงาน

ก่อนหน้านี้ Ali Farhadi ทำงานเป็นผู้บริหารในแอปเปิลส่วนการพัฒนา Machine Learning รุ่นใหม่ ซึ่งเขาร่วมงานกับแอปเปิลจากดีลขายกิจการ Xnor․ai ในปี 2020 อย่างไรก็ตามการมาเป็นซีอีโอ AI2 ก็เป็นการกลับสู่ที่เดิม เพราะ Xnor.ai เคยเป็นบริษัทในโครงการบ่มเพาะสตาร์ทอัพของ AI2 นั่นเอง

ในคีย์โน้ตของงาน WWDC23 ที่ผ่านมา มีข้อสังเกตว่าแม้แอปเปิลจะเปิดตัวเฮดเซต Apple Vision Pro ที่ใช้งานโลกเสมือนผสมผสาน Mixed Reality (MR) แต่ในการนำเสนอนั้น กลับไม่มีคำว่า Metaverse ออกมาแม้แต่ครั้งเดียว

คำพูดที่ Tim Cook ซีอีโอแอปเปิล และผู้นำเสนอคนอื่นใช้บ่อยครั้งคือการพูดถึงยุคสมัยใหม่ของ Spatial Computing มากกว่า ซึ่งนิยามก็คือการกระทำและโต้ตอบกันระหว่างเครื่องจักร บุคคล วัตถุ และสภาพแวดล้อมบริเวณนั้น