NVIDIA มี NeMo เป็นแพลตฟอร์มสำหรับสร้างบริการ AI แบบคัสตอมในองค์กร โดยนำโมเดลประเภทต่างๆ (LLM, VLM, วิดีโอ, เสียง ฯลฯ) มาดัดแปลงปรับปรุง โดย NeMO มีเครื่องมือย่อยๆ ช่วยตั้งแต่ตอนเตรียมข้อมูล, เทรนโมเดล, ทดสอบความปลอดภัย (guardrail), รันโมเดลบน microservice ฯลฯ

ล่าสุด NVIDIA ประกาศว่าบริการย่อยในชุด NeMo microservices จำนวน 3 ตัวเข้าสถานะ GA เรียบร้อยแล้ว

• NeMo Customizer ตัวช่วย fine-tunning โมเดลให้มีประสิทธิภาพสูงขึ้น
• NeMo Evaluator ตัวทดสอบประสิทธิภาพของโมเดลด้วยเบนช์มาร์คต่างๆ
• NeMo Guardrails ตัวเสริมความปลอดภัยของโมเดล ป้องกันคำตอบผิดๆ

การมีสถานะ GA ทำให้บริการเหล่านี้พร้อมสำหรับการใช้สร้าง AI ในองค์กร ซึ่ง NVIDIA เปิดเผยว่ามีองค์กรยักษ์ใหญ่อย่าง AT&T, Cisco, BlackRock, Nasdaq นำบริการเหล่านี้ไปใช้จริงๆ กับงานภายใน เช่น งานวิเคราะห์เอกสาร, บริหารระบบ, งานเขียนโค้ด

แพลตฟอร์ม NeMo รองรับโมเดลหลากหลาย ครอบคลุมโมเดลยอดนิยม เช่น Meta Llama, Microsoft Phi, Google Gemma, Mistral และ Llama Nemotron ของ NVIDIA เอง โดย Meta ยังเชื่อมต่อ NeMo เข้ากับชุดซอฟต์แวร์ Meta Llamastack ของตัวเองให้ด้วย

ที่มา - NVIDIA