ช่วงนี้ AI สายตระกูล Large Language Models (LLM) กำลังโด่งดังจากกระแส ChatGPT แต่ข้อเสียของโมเดลใหญ่ขนาดนี้คือขนาดของตัวมันเองที่ใหญ่มาก มีพารามิเตอร์หลักพันล้าน ใช้ข้อมูลการเทรน ทรัพยากรเครื่องจำนวนมหาศาล

ทีมนักวิจัยของไมโครซอฟท์จึงเสนอแนวทาง Language Model ที่มีขนาดเล็กลง แต่ทำงานเฉพาะด้านแทน โดยนำเสนองานวิจัย FLAME ที่ย่อมาจาก First LAnguage Model for Excel หน้าที่ของมันตรงตามชื่อคือเป็นโมเดลภาษาสำหรับ Excel ช่วยแนะนำหรือแก้ไขสูตรในตารางสเปรดชีท

FLAME มีพารามิเตอร์ขนาด 60 ล้านตัว ถือว่าเล็กเมื่อเทียบกับ LLM ชื่อดังทั้งหลายที่มีหลักพันล้านไปจนถึงแสนล้านตัว แต่การออกแบบโมเดล FLAME ให้จำเพาะเจาะจงเรื่องสูตร Excel เพียงอย่างเดียว ทำให้ตัดข้อมูลที่ไม่จำเป็นออกไปได้มาก เมื่อบวกกับเทคนิคอื่นๆ ช่วยให้ FLAME สามารถเอาชนะโมเดลตัวที่ใหญ่กว่าได้สบาย

ตัวอย่างการซ่อมสูตรของ FLAME

เปรียบเทียบผลงานของ FLAME กับโมเดลตัวอื่น

รายละเอียดอื่นๆ ดูได้จาก เปเปอร์ฉบับเต็ม

FLAME ยังมีสถานะเป็นแค่งานวิจัยของไมโครซอฟท์เท่านั้น และยังไม่มีข้อมูลว่าจะถูกนำมาใช้ใน Excel จริงๆ หรือไม่

ที่มา - The Register