เมื่อปลายเดือนกุมภาพันธ์ที่ผ่านมา Anthropic เปิดบริการ Claude Code เป็นบริการแบบ Agentic ที่อ่านโค้ด, แก้ไขไฟล์, และสั่งคำสั่งต่างๆ ได้ด้วยตัวเอง แต่ก็เริ่มมีรายงานว่าผู้ใช้เชื่อใจบริการนี้จนปล่อยให้มันรันคำสั่งอันตราย

ผู้ใช้ชื่อว่า BumbleTree รายงานว่า Claude Code สั่งเปลี่ยนสิทธิ์ในโฟลเดอร์ /usr ส่งผลให้เครื่องบูตไม่ขึ้น และการซ่อมให้เครื่องกลับมาใช้งานได้น่าจะยุ่งยากมาก

ทาง Anthropic เตือนผู้ใช้แต่แรกว่าควรระวังการใช้งาน โดยไม่ควรติดตั้ง Claude Code แบบ global หรือใช้สิทธิ์ root ในการรัน พร้อมกับเตือนว่าบริการนี้เป็นโครงการทดลอง

บริการปัญญาประดิษฐ์แบบ Agentic แทบทุกตัวมีแนวทางจำกัดความเสียหาย เช่น การรันโค้ดใน sandbox ที่มีสิทธิ์จำกัด หรือการถามผู้ใช้ก่อนรันคำสั่งอันตราย แต่ในความเป็นจริงก็มักจะมีคนเชื่อใจบริการเหล่านี้เกินควรจนสร้าความเสียหายได้

ที่มา - GitHub: claude-code