Meta เปิดตัวโครงการ Purple Llama รวมเครื่องมือด้านความปลอดภัยของ AI ที่โอเพนซอร์สให้สาธารณะใช้งาน

ตัวชื่อโครงการมาจากภาษาที่ใช้ในโลกความปลอดภัยไซเบอร์ ที่แบ่งการทดสอบออกเป็นทีมลองเจาะ (red team) และทีมป้องกัน (blue team) โครงการนี้ที่มีเครื่องมือทั้งสองฝั่งจึงเอาสองสีมารวมกันเป็นสีม่วง แล้วมารวมกับชื่อ Llama ที่เป็นโมเดล LLM ของบริษัทเอง

ภาพ Purple Llama สร้างโดย Bing Image Creator เพราะ Imagine with Meta AI ใช้ได้เฉพาะในอเมริกา

ในเบื้องต้น Purple Llama เปิดตัวเครื่องมือ 2 ตัวคือ

• CyberSec Eval เป็นชุดเบนช์มาร์คเพื่อประเมินความเสี่ยงด้านความปลอดภัยไซเบอร์ของโมเดล LLM
• Llama Guard ตัวแยกแยะอินพุต/เอาต์พุตของการสนทนากับ AI ว่ามีความเสี่ยงมากน้อยแค่ไหน ตัวมันเองเป็นโมเดล Llama2-7B ที่ปรับจูนมาเรื่องความปลอดภัยในการสนทนา

Meta บอกว่าจะทยอยเพิ่มเครื่องมือใหม่ๆ เข้ามาภายใต้โครงการ Purple Llama อีกเรื่อยๆ โดยยังคงแนวทางใช้ไลเซนส์เปิดกว้าง ให้นำไปใช้ต่อได้ทั้งการวิจัยและเชิงพาณิชย์

ที่มา - Meta, Meta Developers