Wiz บริษัทความปลอดภัยบนคลาวด์ รายงานปัญหาช่องโหว่ร้ายแรงที่พบบน Hugging Face แพลตฟอร์มโมเดล AI ซึ่งทำให้สามารถเข้าถึงข้อมูลโมเดล AI ของผู้ใช้งานคนอื่นได้

โดยทีมวิศวกรความปลอดภัยของ Wiz ได้ใช้วิธีวิศวกรรมย้อนกลับ อัปโหลดโมเดลที่เป็นอันตรายของตนเองขึ้นไปบน Hugging Face แล้วใช้โมเดลนั้นเจาะไปที่ระบบปฏิบัติการในระดับ container ทำให้สามารถเข้าถึงข้อมูลโมเดลผู้ใช้งานคนอื่นบน Hugging Face ได้

สองช่องโหว่สำคัญที่ Wiz ค้นพบ และทำให้สามารถเจาะระบบด้วยวิธีดังกล่าวได้คือส่วน AI Inference มักใช้ฟอร์แมต pickle ทำให้สามารถสั่งรันคำสั่งที่ไม่ปลอดภัยได้ และ CI/CD ก็สามารถรันข้ามกันได้ ทำให้หากส่งคำสั่งเจาะระบบแล้ว ก็สามารถคุม CI/CD ได้เลยทั้งคลัสเตอร์

JFrog บริษัทผู้ให้บริการซอฟต์แวร์ด้าน CI/CD ออกรายงานความปลอดภัย เตือนปัญหาการแพร่กระจายโมเดล LLM ที่แอบฝังมัลแวร์หรือ backdoor เผยแพร่ผ่านเว็บไซต์กลางอย่าง Hugging Face

ปัญหาการเผยแพร่ซอฟต์แวร์ที่แอบฝังมัลแวร์บนเว็บไซต์ซื้อขายแลกเปลี่ยนแพ็กเกจซอฟต์แวร์ หรือที่เราเรียกว่า supply chain attack มีมานานแล้วและรุนแรงขึ้นเรื่อยๆ เช่น กรณีของ PyPI, กรณีของ npm, กรณีของ GitHub ล่าสุดลามมาถึง Hugging Face เว็บไซต์เผยแพร่โมเดล AI ชื่อดัง ตามกระแสโลกเทคโนโลยีเรียบร้อย

ServiceNow, Hugging Face และ NVIDIA เปิดตัว StarCoder2 ชุดโมเดลภาษาขนาดใหญ่ (LLM) ที่เปิดให้ใช้งานได้ฟรี (open-access) สำหรับงานเขียนโค้ด ซึ่งมีจุดเด่นคือประสิทธิภาพการทำงาน ความโปร่งใสของ AI และช่วยในการจัดการต้นทุน

StarCoder2 เป็นโครงการของชุมชน BigCode ที่ให้การสนับสนุนโดย ServiceNow และ Hugging Face โมเดลถูกเทรนบนภาษาเขียนโปรแกรม 619 ภาษา ออกแบบมาให้สามารถทำงานร่วมกับแอพพลิเคชันภายในองค์กร สำหรับงานต่าง ๆ เช่น ช่วยสร้างซอร์สโค้ด, สร้างเวิร์กโฟลว์, เขียนสรุปเนื้อหา และอื่น ๆ องค์กรสามารถนำไปใช้งาน โดยอาศัยการปรับแต่งด้วยทรัพยากรที่ไม่ต้องสูงมาก

Hugging Face แพลตฟอร์มด้าน AI ชื่อดัง เคยเปิดตัวบริการแช็ทบ็อท HuggingChat แบบเดียวกับ ChatGPT แต่เป็นโอเพนซอร์ส ไปก่อนแล้ว

ล่าสุด Hugging Face เปิดตัวบริการเสริมชื่อ HuggingChat Assistant สำหรับปรับแต่งแช็ทบ็อทให้มีความสามารถเฉพาะทาง แบบเดียวกับ GPT Builder และ GPT Store ของค่าย OpenAI แต่มีจุดต่างสำคัญคือเป็นโอเพนซอร์ส และใช้งานได้ฟรี (ค่าย OpenAI ต้องสมัคร ChatGPT Plus ราคา 20 ดอลลาร์ต่อเดือน)

Hugging Face บริษัทแพลตฟอร์มด้านโมเดล AI ประกาศความร่วมมือด้านกลยุทธ์กับ Google Cloud เพื่อให้นักพัฒนาสามารถปรับใช้ทรัพยากรของ Google Cloud กับบริการต่าง ๆ ของ Hugging Face รวมทั้งเทรนโมเดลบน Google Cloud ได้ด้วย

ความร่วมมือนี้มีทั้ง การนำงานวิจัยล่าสุดด้าน AI มาให้ทดสอบสำหรับผู้ใช้งาน Hugging Face และ Google Cloud, ร่วมมือกับพัฒนาไลบรารีและเฟรมเวิร์ก AI แบบโอเพนซอร์ส และเปิดให้สามารถเทรนและดีพลอยโมเดลของ Hugging Face บน Google Kubernetes Engine (GKE) และ Vertex AI ที่มีทรัพยากรฮาร์ดแวร์ประมวลผลขนาดใหญ่รองรับ

ตัวเลือกทั้ง Google Kubernetes Engine (GKE) และ Vertex AI จะมีใน Hugging Face ภายในครึ่งแรกของปี 2024 นี้

Hugging Face สตาร์ทอัพแพลตฟอร์มที่โฟกัสด้าน AI สำหรับนักพัฒนาโดยเฉพาะ ประกาศรับเงินเพิ่มทุน 235 ล้านดอลลาร์ ทำให้มูลค่ากิจการเพิ่มเป็น 4,500 ล้านดอลลาร์ ซึ่งประเด็นน่าสนใจคือรายชื่อผู้ร่วมลงทุนในรอบนี้เป็นบริษัทด้านเทคโนโลยีชื่อดังได้แก่ Google, Amazon, NVIDIA, Salesforce, AMD, Intel, IBM และ Qualcomm

บริการของ Hugging Face อาจพูดได้ว่าเป็น GitHub เวอร์ชันที่เน้นงาน AI โดยชุมชนนักพัฒนาสามารถแชร์โค้ด โมเดล ชุดข้อมูล เพื่อให้การสร้างโมเดล AI ทำได้ง่ายขึ้น จุดเด่นของ Hugging Face คือการรวมชุดข้อมูล โมเดล AI ให้นักพัฒนาเลือกนำมาเทรนหรือต่อยอดสร้างโมเดล AI ของตนเองได้สะดวกขึ้น และแพลตฟอร์มเองก็มีโมเดล AI ที่พัฒนาขึ้นมาให้ใช้งานด้วย

Soumith Chintala ผู้ก่อตั้ง PyTorch และตัวแทน PyTorch Foundation ขึ้นเวทีงาน AMD ประกาศว่าซอฟต์แวร์ PyTorch 2.0 จะทำงานได้บนแพลตฟอร์มของ AMD ตั้งแต่แรก (Day 0 support) ไม่ต้องรออัพเดตตามหลังเหมือนกับสมัยก่อนๆ ที่ซอฟต์แวร์ด้าน AI มักอิงอยู่บนแพลตฟอร์ม NVIDIA CUDA อย่างเดียว

AMD เข้าเป็นสมาชิกร่วมก่อตั้ง PyTorch Foundation ตั้งแต่ต้น เพื่อผลักดันให้ PyTorch รองรับแพลตฟอร์ม ROCm ของตัวเอง โดยเริ่มตั้งแต่ PyTorch 1.12 ที่ออกกลางปี 2022

PyTorch 2.0 จะรองรับ ROCm เวอร์ชัน 5.4.2 และทดสอบว่าทำงานได้บน AMD Instinct ทุกรุ่น โดยที่นักพัฒนาไม่ต้องแก้ไขอะไรเพิ่มเลย

Hugging Face บริษัทด้าน AI เปิดตัวบริการ HuggingChat ซึ่งเป็นแช็ทบ็อทที่ใช้โมเดลภาษาขนาดใหญ่ (LLM) ลักษณะเดียวกับ ChatGPT มีขนาด 3 หมื่นล้านพารามิเตอร์ ที่สำคัญคือเป็นโมเดลโอเพนซอร์ส

โมเดลที่ HuggingChat ใช้งานคือ OpenAssistant LLaMA ที่ต่อยอดมาจาก LLaMA ของ Meta AI และมีหน่วยงานหลายแห่งนำไปต่อยอด พัฒนาโมเดล LLaMA ให้ดีขึ้นในวิธีของตัวเอง