Sakana AI บริษัทวิจัยปัญญาประดิษฐ์จากญี่ปุ่นรายงานถึงการพัฒนา AI CUDA Engineer ที่เป็นเฟรมเวิร์คปัญญาประดิษฐ์แบบ agentic เพื่อปรับปรุง CUDA kernel

CUDA เป็นซอฟต์แวร์ระดับต่ำชิดกับฮาร์ดแวร์ของ NVIDIA เอง โดยที่เราใช้งานกันมักใช้งาน CUDA kernel ที่เขียนโค้ดให้รันบนชิปกราฟิกมาแล้ว โดยทั่วไปแล้วโค้ดที่นักพัฒนาเขียนมักใช้เฟรมเวิร์คระดับสูง เช่น TensorFlow หรือ PyTorch แล้วคอมไพล์เป็นโค้ด CUDA อีกที

AI CUDA Engineer อ่านโค้ด PyTorch แล้วปรับเป็น CUDA จากนั้นค่อยๆ ปรับปรุงรูปแบบโค้ด CUDA แบบเดียวกับการวิวัฒนาการที่ผสมเทคนิคแบบต่างๆ เข้าไปเรื่อยๆ จนพบโค้ด CUDA ที่ประสิทธิภาพสูงสุด โค้ดที่ได้ในกรณีแย่ที่สุดประสิทธิภาพพอๆ กับการคอมไพล์ตามปกติ แต่กรณีที่ดีมากๆ อาจะประสิทธิภาพสูงขึ้น 85 เท่าตัว ทาง Sakana AI ระบุว่าศักยภาพของ AI CUDA Engineer สามารถปรับปรุงโค้ดให้เร็วขึ้น 10-100 เท่าแต่ตารางแสดงผลก็ไม่ได้ระบุกรณีที่ถึงระดับ 100 เท่าแต่อย่างใด

ที่มา - Sakana AI