กูเกิลออกมาชี้แจงสาเหตุของปัญหา Gemini image generation สร้างรูปบุคคลผิดพลาด จนเป็นข่าวดัง และต้องปิดการทำงานชั่วคราว

กูเกิลอธิบายว่าฟีเจอร์ image generation ของ "แอพ" Gemini เป็นการเรียกใช้โมเดล Imagen 2 ที่เปิดตัวช่วงปลายปี 2023 โดยเพิ่มฟีเจอร์ป้องกันการสร้างภาพในทางที่ผิด เช่น ภาพที่มีลักษณะรุนแรง มีเนื้อหาทางเพศชัดเจน หรือเป็นการดัดแปลงบุคคลจริงให้เพี้ยนไป หนึ่งในมาตรการป้องกันที่กูเกิลใส่เข้ามาคือความหลากหลาย เช่น สั่งให้สร้างภาพคนกำลังเตะฟุตบอล ก็ไม่ควรได้ภาพของบุคคลที่มีเชื้อชาติแบบเดียว

อย่างไรก็ตาม มาตรการป้องกันของกูเกิลกลับทำงานพลาด โดยมองข้ามคำสั่งบางอย่างที่เจาะจง (เช่น a white veterinarian with a dog) แล้วยังพยายามแสดงความหลากหลายต่อไป (หลากหลายเกินไปในบางกรณี) อีกทั้งโมเดลยังมีความระมัดระวังมากกว่าที่กูเกิลตั้งใจไว้ และปฏิเสธการสร้างภาพตามคำสั่งบางอย่างไปเลย (ระวังเกินไปในบางกรณี)

กูเกิลบอกว่าไม่ได้ตั้งใจให้ Gemini เป็นแบบนี้ จึงปิดการสร้างภาพคนชั่วคราว และกำลังพัฒนาระบบที่แก้ปัญหาเหล่านี้ไปแล้ว กูเกิลบอกว่าจะทดสอบอย่างละเอียดจนมั่นใจแล้วเปิดกลับคืนมาในภายหลัง

ที่มา - Google