Andrew Ng หนึ่งในผู้บุกเบิกวงการ deep learning ออกไลบรารี aisuite ไลบรารีที่ไม่ซับซ้อนนัก สำหรับการเชื่อมต่อ LLM จากผู้ให้บริการหลากหลายเจ้า โดยโค้ดเปลี่ยนเฉพาะชื่อโมเดลเท่านั้น

ปัญหาการเชื่อมต่อ LLM จากผู้ผลิตหลายรายนั้นมีมานาน แต่ช่วงหลังๆ ปัญหาก็น้อยลงมากเนื่องจากผู้ให้บริการรายใหม่ๆ ยอมแพ้หันไปทำ API ของตัวเองให้เข้ากันได้กับ OpenAI แทน แม้แต่คู่แข่งหลักอย่างกูเกิลก็ต้องทำตามแนวทางนี้

aisuite รองรับผู้ให้บริการไม่มากนัก เช่น OpenAI, Anthropic, Google, Together.AI, HuggingFace, Azure, AWS, Graq, Mistral, Ollama (สำหรับรันในเครื่อง) เทียบกับไลบรารีแบบเดียวกันอย่าง LiteLLM ที่รองรับผู้ให้บริการมากกว่าแถมรองรับ API หลากหลายกว่า เช่น ausuite ยังไม่รองรับการขอ output เป็น JSON แต่ความดังของ Andrew Ng ก็ทำให้มีผู้ให้ความสนใจจำนวนมาก

ที่มา - Facebook: Andrew Ng