กูเกิลอธิบายปัญหาที่เกิดขึ้นของฟีเจอร์ AI Overviews ที่อยู่ด้านบนสุดของหน้าผลการค้นหา โดยให้คำตอบแบบสรุปจากสิ่งที่ถาม ซึ่งเมื่อขยายให้กับผู้ใช้มากขึ้นเมื่อไม่กี่สัปดาห์ที่ผ่านมาในอเมริกา ทำให้เกิดรายงานการให้คำตอบแปลก ๆ หลายต่อหลายกรณี

กูเกิลเริ่มต้นด้วยการอธิบายวิธีการทำงานของ AI Overviews โดยย้ำว่าการทำงานนั้นแตกต่างจากแชทบอตหรือ LLM ตัวอื่น เป้าหมายคือการสรุปเนื้อหาเพื่อให้ผู้ใช้งานได้คำตอบเร็วที่สุด การเขียนคำตอบทำด้วยโมเดลภาษาที่ปรับแต่ง อิงจากอันดับผลการค้นหา การทำงานหลักจึงอยู่ที่ส่วนของ Search คำตอบที่ได้จึงมีลิงก์ให้ไปหาข้อมูลเพิ่มเติมด้วย

สิ่งที่กูเกิลต้องการย้ำคือ AI Overviews ไม่ได้ทำงานแบบ LLM ที่พยายามเขียนคำตอบออกมาเรื่อย ๆ ถูกบ้างผิดบ้าง แต่เมื่อ AI Overviews ให้คำตอบที่ไม่ถูก สาเหตุก็คือระบบตีความคิวรีไม่ถูกต้อง และไปเลือกข้อมูลที่ไม่ถูกต้องในเว็บมาเขียนคำตอบอีก กรณีนี้เกิดได้โดยเฉพาะกับคิวรีที่แม้แต่การค้นหาปกติก็ไม่เจอเว็บที่มีคำตอบถูกต้อง

กูเกิลยกกรณีที่เป็นไวรัลในอินเทอร์เน็ตว่าเกิดขึ้นได้อย่างไร ดังนี้

• คำถามเราควรกินหินกี่ก้อน - กูเกิลอธิบายว่าเพราะปกติไม่มีใครถามคำถามนี้ ข้อมูลในอินเทอร์เน็ตจึงมีน้อย และที่มีก็เป็นการตอบแบบตลก กูเกิลจึงไปเลือกคำตอบที่พอมีนี้มา
• คำถามวิธีทำพิซซ่าให้ชีสไม่ไหลหลุดจากแป้ง แล้วบอกว่าผสมกาว - กูเกิลบอกว่าปกติคำถามลักษณะนี้ ฟอรัมในอินเทอร์เน็ตคือแหล่งข้อมูลที่ดี แต่กรณีดังกล่าวไม่ใช่ จึงถือเป็นส่วนน้อยมากที่เกิดขึ้นได้

กูเกิลบอกว่าลักษณะปัญหานี้ที่เกิดขึ้นได้ถูกแก้ไขไปแล้วอย่างรวดเร็ว พร้อมกับพัฒนาหาแนวทางป้องกันมากขึ้น ซึ่งที่ทำไปแล้วมีหลายอย่างเช่น

• ตรวจสอบคำถามที่ไม่ควรนำมาถาม ไม่ให้ AI Overviews ทำงาน รวมทั้งจำกัดการนำผลค้นหาจากเว็บที่เน้นตลกขบขัน
• จำกัดการใช้คำตอบจากเว็บประเภท user-generated content ที่อาจให้คำตอบผิด
• ปิดการทำงาน AI Overviews ในบางประเภทคำถามที่พิสูจน์แล้วว่าไม่สามารถให้คำตอบที่ดีได้
• ปิดการทำงาน หากเป็นคำถามเรื่องข่าวสารบ้านเมืองที่สำคัญ และคำถามเกี่ยวกับสุขภาพ

กูเกิลบอกว่าในตอนนี้พบการส่งคิวรีที่ผิดเงื่อนไขของ AI Overviews น้อยมาก ในระดับน้อยกว่า 1 ครั้ง ต่อ 7 ล้านคิวรีที่แสดงคำตอบ ซึ่งแปลว่าคำตอบแปลก ๆ ยังสามารถเกิดขึ้นได้ แต่เป็นจำนวนที่น้อยมากนั่นเอง

ที่มา: กูเกิล