Inflection AI สตาร์ตอัพของ Reid Hoffman ผู้ร่วมก่อตั้ง LinkedIn และ Mustafa Suleyman ผู้ร่วมก่อตั้ง DeepMind เปิดตัวโมเดลภาษาตัวใหม่ Inflection-2 ที่อัพเกรดขึ้นจาก Inflection-1 เวอร์ชันเมื่อเดือนพฤษภาคม

Inflection-2 ถูกเทรนด้วยจีพียู NVIDIA H100 จำนวน 5,000 ตัว ใช้กำลังประมวลผลราว 10²⁵ FLOPs ใกล้เคียงกับโมเดล PaLM 2 ของกูเกิล แต่ Inflection โฆษณาว่าผลการทดสอบกับเบนช์มาร์คปัญญาประดิษฐ์หลายๆ ตัวสามารถเอาชนะ PaLM 2 ได้ ตอนนี้คะแนนของ Inflection-2 เป็นรองแค่ GPT-4 เท่านั้น

นอกจากประสิทธิภาพที่ดีขึ้นแล้ว การรัน Inflection-2 ยังเร็วกว่าและใช้ต้นทุนน้อยกว่า Inflection-1 หลายขั้น ซึ่งเป็นผลมาจากการย้ายมาใช้จีพียูรุ่นใหม่กว่าอย่าง H100 (แทน A100) และการปรับแต่งประสิทธิภาพต่างๆ ของ Inflection AI เอง

Inflection-2 จะถูกใช้งานในแชทบอท Pi เร็วๆ นี้ และบริษัท Inflection AI ยังบอกว่าเตรียมเทรนโมเดลขนาดใหญ่ขึ้นกว่านี้อีก โดยตอนนี้บริษัทมีจีพียู H100 ในมือ 22,000 ตัว โมเดลตัวใหม่จะใช้จีพียูทั้งหมดในการเทรนด้วย

บริษัท Inflection AI ใช้เครื่องของ Azure เป็นหลัก บริษัทเพิ่งได้เงินระดมทุน 1.3 พันล้านดอลลาร์เมื่อเดือนมิถุนายน โดยมีไมโครซอฟท์, Bill Gates, Eric Schmidt, NVIDIA ร่วมลงทุนด้วย

ที่มา - Inflection AI