รายงานวิจัยเฟซบุ๊กกลายเป็นข่าวในบ้านเรามาอีกครั้ง แม้ตัวรายงานวิจัยถูกรายงานมาตั้งแต่หกสัปดาห์ที่แล้ว โดยข่าวมักถูกสร้างความหวือหวาด้วยการระบุว่านักวิจัยของเฟซบุ๊กต้องปิดการทำงานของแชตบ็อตเมื่อมันสร้างภาษาของมันเองขึ้นมา รายงานนี้มักถูกเขียนจากหลายแหล่งแต่มักอ้างอิงไปจากรายงานของ Fast Co. Design ที่พาดหัวว่า "AI กำลังสร้างภาษาที่มนุษย์ไม่เข้าใจ และเราควรหยุดมันหรือไม่" พาดหัวถูกแปลงไปเรื่อยๆ จนกลายเป็น "เฟซบุ๊กหยุดการทำงานบอตหลังมันเริ่มสร้างภาษาที่เราไม่เข้าใจ" ใน GlobalNews
ย้อนกลับไปที่รายงานของเฟซบุ๊กครั้งแรก มันคือรายงานวิจัยการสร้างแชตบอตสำหรับการเจรจา โดยรายงาน "Deal or No Deal? End-to-End Learning for Negotiation Dialogues" (รายงานฉบับเต็มใน ArXiV) เป็นการฝึกบอตจากภาษาธรรมชาติ เพื่อการเจรจาแลกเปลี่ยนสิ่งของกัน งานวิจัยนี้สมมติเหตุการให้ มีของอยู่จำนวนหนึ่งที่มีคนสองคนแบ่งของกัน โดยยกตัวอย่าง หนังสือ, หมวก, และลูกบอล จากนั้นมีคนสองคนที่ให้มูลค่าของสองอย่างไม่เท่ากัน เช่น คนหนึ่งอาจจะอยากได้ลูกบอลเป็นสองเท่าของหนังสือ อีกคนไม่อยากได้หมวกเลย ทั้งสองคนต้องเจรจากันไปเรื่อยๆ จนกว่าจะหาข้อยุติได้ว่าจะแบ่งของกันอย่างไร
โมเดล AI ที่เฟซบุ๊กพยายามฝึกต้องทำสองอย่างพร้อมๆ กัน คือการจำลองการพูดภาษามนุษย์ ไปพร้อมๆ กับการเจรจาเพื่อให้ได้ผลประโยชน์สูงสุด เฟซบุ๊กพบว่าหากพยายามฝึก AI ให้จำลองภาษามนุษย์มากๆ จะกลายเป็นผู้เจรจาที่ไม่ดีนัก จึงต้องหาทางปรับให้ AI สามารถเจรจาได้ดีขึ้นโดยที่ยังคงความสามารถในการพูดคุยให้เหมือนภาษามนุษย์ ด้วยการฝึกให้มันเจรจากับตัวเองไปพร้อมๆ กับการฝึกการพูดให้เหมือนมนุษย์
ไม่มีใครกลัวที่ AI ขึ้นมาสร้างภาษาของตัวเอง (นอกจากนักข่าวบางสำนัก) การที่ AI สร้างภาษาที่คนอ่านไม่รู้เรื่องคือความล้มเหลวของงานวิจัย และทีมวิจัยได้หาทางออกที่เหมาะสมได้สำเร็จ ไม่มีใครปิดการทำงานของบอตตัวนี้เพราะกลัว ผลสำเร็จของงานวิจัยสามารถสาธิตด้วยการทดลองกับมนุษย์และพบว่าคนส่วนมากไม่รู้ตัวว่ากำลังเจรจากับบอต ความสามารถในการเจรจาของบอตสุดท้ายกับมนุษย์ ได้ผลดีที่สุดพอๆ กับแย่ที่สุด
เฟซบุ๊กปล่อยซอร์สโค้ดของบอตตัวนี้บน GitHub ทุกคนสามารถนำไปรันเองได้ ไม่ต้องกลัวมันกลายพันธุ์ มันใช้ PyTorch ในการพัฒนาโมเดล และตัวโค้ดมาพร้อมกับชุดข้อมูลที่เฟซบุ๊กใช้ฝึก
ที่มา (อย่างเป็นทางการ ไม่ใช่สำนักข่าวอื่นที่อ่านต่อมา) - Facebook Research
Comments
แสดงว่าการเทรน ยังขึ้นกับมนุษย์อยู่ส่วนหนึ่ง ซึ่งส่วนมากคือช่วงเริ่มต้น
ที่มนุษย์ยังเป็นคนเลือก นึกถึงซิมลูกเจี๊ยบ
อ่านแล้วพอจับใจความได้ว่าภาษาใหม่มันมาจากไหน (ถึงแม้จะไม่เข้าใจชัดเจนก็ตามที) แต่ยังหาคำตอบไม่ได้ว่านักวิจัยไม่ได้ปิด AI เพราะความกลัว แต่ว่าเขาปิดเพราะอะไร?
เพราะวิจัยเสร็จครับ สั่งเทรน แล้วเอามาลองกับคน เสร็จแล้วก็เก็บโค้ด เอาเครื่องไปรันงานอื่น
ใครอยากรันต่อก็ไปโหลดโค้ดมารันได้
lewcpe.com, @wasonliw
ปิดเพราะอะไร ขอติดตามด้วยคนครับ
อ่านเม้นบนครับ
จริงๆ ต้องถามกลับ มันมีงานวิจัยไหนที่ทำเสร็จแล้วไม่เก็บ? ไม่ออกแบบใหม่หรือหาเรื่องอื่นทำเลยเหรอครับ
lewcpe.com, @wasonliw
สุดท้ายแล้ว AI ที่จะสามารถเข้าสังคมกับมนุษย์ได้ อาจต้องสอบเทียบ ม.3 เสียก่อน มิฉะนั้นผู้พัฒนาอาจติดคุกได้
ไม่มีใครกลัวที่ AI ขึ้นมาสร้างภาษาของตัวเอง (นอกจากนักข่าวบางสำนัก) การที่ AI สร้างภาษาที่คนอ่านไม่รู้เรื่องคือความล้มเหลวของงานวิจัย
มันเหมือนเป็นการมองด้านเดียว
แล้วถ้าคนอ่านไม่รู้เรื่องแต่ AI อ่านรู้เรื่องคุยกับตัวเองรู้เรื่องด้วยภาษานี้ล่ะครับ
นึกถึงว่า AI เจรจากันเองแล้วส่งข้อมูลเป็นตัวเลขบอกว่าอยากได้ "0 2 3" แล้วเจรจากันเป็นตัวเลขไปเรื่อยๆ
เราก็ได้ AI ตัวนึงที่เจรจากันเป็นตัวเลข และอาจจะเจรจากันจนได้ผลลัพธ์ที่ดีที่สุด
แต่เราไม่สามารถนำ AI มาเจรจากับคนได้ เพราะ AI ที่สร้างขึ้นสื่อสารกับคนไม่ได้ เขาเลยคิดสารพัดเพื่อให้มันยังเรียนรู้การคุยภาษาคนไปพร้อมๆ กัน (ซึ่งยาก)
AI ที่คุยกับตัวเองรู้เรื่องอย่างเดียวจะเอามาทำอะไรได้หรือครับ มันไม่ได้คุยกันเองแบบคุยภาษามนุษย์ด้วยซ้ำ มันแค่พยายามเจรจาของระหว่างกัน
อันนี้อย่าเพิ่งคิดว่ามันฉลาดจนพูดคุยกันเองวางแผนครองโลกครับ เขาสั่งให้มันรันไปเรื่อยๆ เพื่อเจรจากันเองหาผลลัพธ์การเจรจาแบ่งของในแต่ละรอบ สั่งรันมันก็คุยกันเท่านั้นเอง
โปรแกรมคอมพิวเตอร์มันคุยกันใน format ที่มีประสิทธิภาพมากกว่าคนคุยกันอยู่แล้ว แต่เราต้องการสร้าง AI ที่คุยบางงานกับมนุษย์ได้
lewcpe.com, @wasonliw
พวกที่โพสข่าวให้ดูน่ากลัวเรียกแขกได้มากกว่า .. /จบ
my blog
ข่าวปลอมอันนี้แสดงถึงความล้มเหลวในการจัดการข่าวปลอมบนเฟสเลย มากันเพียบ ไทยอังกฤษ
ส่วนตัวมองว่า สุดท้ายแนวคิด AI ที่ได้รับการยอมรับในอนาคตจะประมาณนี้แหล่ะ AI จะมีภาษากลางของตัวเองเพื่อใช้สื่อสารระหว่างกัน ถึงแม้ต่างค่าย ก็สื่อสารกันได้ เพื่อส่ง Knowledge และ Model ระหว่างกัน แต่พอจะสื่อสารกับมนุษย์ก็จะมีตัวแปลภาษากลาง ของ AI ให้เป็นภาษาของมนุษย์แต่ละชาติ ซึ่งก็จะเป็นหน้าที่ของแต่ผู้ให้บริการไปทำกัน เพราะส่วนตัวเชื่อว่าการสื่อสารแบบ Service ในปัจจุบันยังไม่มีประสิทธิภาพพอที่จะใช้ให้ AI สื่อสารกัน
อนาคตอาจต้องมีองค์กรกลางควบคุมภาษาของ AI เพื่อให้แลกเปลี่ยน Knowledge กันได้ โดยเราไม่ต้อง Train ตัวเดียวทำงานได้ทุกอย่าง อันไหนไม่รู้ก็ใช้ภาษากลางไปหาว่า AI ตัวไหนรู้แล้วอาจมีทั้งใช้แค่ Knowledge เพื่อสื่อสารกับมนุษย์ หรือโหลด Model มาใช้ด้วยกรณีมีคำถามซ้ำหรือใกล้เคียงในครั้งถัดไป เพื่อจะได้ไม่ต้อง Train ซ้ำซ้อนกัน และที่สำคัญคือ ถ้าตัวใดถูก Train ให้ฉลาดขึ้นด้วยชุดข้อมูลที่แตกต่างออกไปจากตัวอื่นก็จะได้รับการโอนถ่ายฟรี หรือเสียเงินตามรูปแบบและความสามารถในการแก้ไขปัญหาจาก model มาตรฐานโดยไม่ต้องโอนชุดขีอมูลการ Train ให้ ซึ่งจะทำได้ก็ต่อเมื่อมีภาษากลางเฉพาะของ AI และตรงนี้แหล่ะที่จะทำให้ AI น่ากลัว
ภาษากลางของโปรแกรมคอมพิวเตอร์มันคือ API อยู่แล้วไม่ใช่เหรอ มันก็คุยกันเอง โดยที่เราไม่รู้เรื่องอยู่แล้ว การส่งข้อมูลระหว่างคอมพ์ 2 เครื่องผ่านสายแลน ไวไฟ อินเทอร์เน็ต ถ้าเราดักกลางทาง ฟังมันด้วยหู เห็นด้วยตา เราก็ไม่เข้าใจ ทำไมต้องกลัวภาษากลางของ AI ด้วยล่ะ
และอีกอย่างหนึ่ง ต่อให้คุยด้วยภาษาที่คนเราเข้าใจได้ มันก็มีรหัสลับที่รู้กันเฉพาะกลุ่มอยู่ดี ยังรวมไปถึงต่างภาษา เช่นการนินทาคนต่างถิ่นด้วยภาษาท้องถิ่น หรือการพูดภาษาต่างถิ่น แต่คนท้องถิ่นดันเข้าใจผิดไปเอง
ภาษา อารมณ์ เป็นเรื่องที่ซับซ้อนมากจนคนเองก็ยังไม่แน่ใจว่าเข้าใจถูกดั่งที่คนพูดคนเขียนต้องการหรือไม่เสียด้วยซ้ำ
Jusci - Google Plus - Twitter