01.AI บริษัทปัญญาประดิษฐ์จีนที่ก่อตั้งโดย Kai-Fu Lee อดีตผู้บริหารกูเกิล ออกโมเดล LLM ในชื่อ Yi รุ่นล่าสุดที่ปรับปรุงหลายด้านโดยเฉพาะการรองรับข้อมูลขนาดใหญ่ จากเดิมสูงสุด 32,000 โทเค็น เป็น 200,000 โทเค็นตามที่ประกาศไว้ก่อนหน้านี้

ระหว่างทางนับแต่วันประกาศเปิดตัวครั้งแรก Yi มีออกเวอร์ชั่นย่อยๆ มาอีกหลายเวอร์ชั่น เช่นโมเดลแบบแชต, โมเดลขนาด 9B, และโมเดลรองรับรูปภาพในตัว

ก่อนหน้านี้ทาง 01.AI เคยถูกวิจารณ์ว่าใช้โครงสร้างของ LLaMA 2 มาพัฒนาโดยไม่ได้ให้เครดิตเพียงพอ รอบนี้ทาง 01.AI แสดงความยอมรับว่าใช้โครงสร้างของ LLaMA 2 จริง แต่ก็เพราะว่าทั้งสองโมเดลใช้ Transformer เหมือนกัน และทาง 01.AI ฝึกโมเดลขึ้นใหม่ทั้งหมด ไม่ได้ใช้โมเดลที่ฝึกมาแล้วของ LLaMA 2 แต่อย่างใด และทีมงานก็ต้องสร้างชุดข้อมูลคุณภาพสูงขึ้นมาใหม่เพื่อให้ได้โมเดลขนาดเล็กที่ยังมีประสิทธิภาพสูง

ที่มา - GitHub: 01-ai/Yi