ข่าวโมเดลปัญญาประดิษฐ์ใหม่ประจำวัน วันนี้เป็นคิวของ Mistral บริษัทจากฝรั่งเศส เปิดตัวโมเดลขนาดเล็ก Mistral Small 3.1 เป็นเวอร์ชันอัพเกรดจาก Mistral Small 3.0 ที่เพิ่งออกเดือนที่แล้ว ขนาดพารามิเตอร์ 24B เท่าเดิม แต่ความสามารถเพิ่ม ทำคะแนนเบนช์มาร์คเอาชนะโมเดลระดับเดียวกัน GPT-4o-mini, Claude 3.5 Haiku และ Gemma 3 ได้แล้ว
ตอน Mistral Small 3.0 ยังทำคะแนนได้น้อยกว่า GPT-4o-mini แต่มีจุดเด่นเรื่องตอบเร็วกว่า ความเร็ว 150 โทเค็นต่อวินาที พอมาถึงเวอร์ชัน 3.1 ยังรักษาความเร็วได้เท่าเดิม แต่ทำคะแนนได้เพิ่มขึ้นแล้ว ตอนนี้เอาชนะโมเดลระดับเดียวกันได้ทุกตัว
นอกจากเรื่องความเร็วและความสามารถแล้ว ขนาดยังเป็นจุดเด่น Mistral Small 3.1 ยังสามารถรันได้ด้วยจีพียู GeForce RTX 4090 ตัวเดียว (เหมือนกับ Gemma 3 ของกูเกิล) หรือจะรันบนเครื่องแมคที่มีแรม 32GB ก็ได้ ทำให้มันเป็นโมเดลที่เหมาะกับการรันแบบโลคอลด้วย
Mistral Small 3.1 ใช้สัญญาอนุญาตแบบ Apache 2.0 ตอนนี้ดาวน์โหลดได้แล้วจาก Hugging Face และมีให้บริการแล้วบน Google Vertex AI กับ La Plateforme ของ Mistral เอง
ที่มา - Mistral
Comments
ตัวแทนแห่ง EU เพียงเจ้าเดียว
อีกหน่อยซื้อคอม ต้องเผื่อแรมสำหรับใช้งานเอง กับ แรมให้ AI ด้วยซินะ
น่าสนใจ อุดหนุนอะไรที่ไม่ใช่ US บ้าง