มีคนพบว่าผู้ขายสินค้าบน Amazon ไปสั่งให้ ChatGPT ช่วยเขียนชื่อและคำบรรยายสินค้าให้ แต่เมื่อ ChatGPT ปฏิเสธไม่ยอมทำงานให้ เพราะติดข้อจำกัดเรื่องเครื่องหมายการค้า ผู้ขายสินค้านั้นกลับไม่ได้ตรวจสอบคำตอบที่ได้รับจาก ChatGPT และนำข้อความนั้นไปใช้กับรายการสินค้าจำนวนมาก ผลคือเราได้สินค้าที่เขียนว่า "I apologize but I cannot complete this task" หรือข้อความลักษณะเดียวกัน

สินค้าเหล่านี้มีหลากหลายชนิด เช่น เฟอร์นิเจอร์ ภายหลังเมื่อสินค้าเหล่านี้ถูกตรวจพบ ก็โดน Amazon ลบออกไปอย่างรวดเร็ว (หน้าเว็บยังมีให้ดูผ่าน Internet Archive)

ประเด็นนี้ทำให้เกิดคำถามตามมาถึงความเหมาะสมของการใช้งานแช็ทบ็อท AI กับงานอัตโนมัติในลักษณะนี้ เพราะ Amazon เองก็ไม่ได้มีนโยบายห้ามใช้โมเดลภาษา LLM กับการเขียนคำบรรยายสินค้า แถมยังออกตัวช่วยเขียนคำบรรยายให้เองด้วยซ้ำ สิ่งที่อาจสำคัญกว่าคงเป็นวิธีการคัดกรองของ Amazon หรือแพลตฟอร์มออนไลน์ลักษณะเดียวกัน ไม่ให้เกิดเหตุการณ์ข้อความปฏิเสธแบบนี้โผล่ขึ้นมาในระบบนั่นเอง

ที่มา - Ars Technica