Tags:
Node Thumbnail

TII (หรือ Technology Innovation Institute) เป็นสถาบันเทคโนโลยีของอาบูดาบี ได้เปิดตัวโมเดล Falcon ที่ขนาด 180 พันล้านพารามิเตอร์ ในชื่อ Falcon 180B ที่ถูกฝึกบนชุดข้อมูลกว่า 3.5 ล้านล้านโทเคน (จำนวนหน่วยย่อยของคำในทางงานประมวลผลภาษาธรรมชาติ) บนการ์ดจอ 4,096 ตัว ด้วยเวลาประมาณ 7,000,000 ชั่วโมงของการ์ดจอ หลังจากที่เคยเปิดตัว Falcon 40B มาก่อนโดน Llama 2 แซงในเวลาต่อมาด้วยขนาด 70 พันล้านพารามิเตอร์ที่ใหญ่กว่า

นอกจากนี้ Falcon 180B ทำคะแนนวัดผลบน Hugging Face Leaderboard ได้ 68.74 คะแนน สูงกว่า Llama 2 ขนาด 70B ที่ทำคะแนนไปได้ 67.35 และสามารถทำคะแนนได้ใกล้เคียงกับ PaLM 2 Large ของ Google

No Description

สามารถเข้าไปทดลองเล่นได้ที่ tiiuae/falcon-180b-chat และโมเดลบน Hugging Face

No Description

ที่มา: Spread Your Wings: Falcon 180B is here - Hugging Face

Get latest news from Blognone

Comments

By: mk
FounderAndroid
on 7 September 2023 - 08:54 #1293270
mk's picture

ควรขยายความหน่อยครับ

  • TII (หรือ Technology Innovation Institute) >> คือใคร สำคัญอย่างไร
  • โมเดล Falcon 180B >> มันต่างจากของเก่าอย่างไร
By: tontan
ContributorAndroidSymbianUbuntu
on 7 September 2023 - 12:41 #1293306 Reply to:1293270
tontan's picture

เพิ่มเติมเรียบร้อยครับ


บล็อก: wannaphong.com และ Python 3