หลังจากกลุ่มนักวิชาการ และนักธุรกิจออกมาลงชื่อในจดหมายเปิดผนึกเพื่อขอให้หยุดการขยายขนาดโมเดลปัญญาประดิษฐ์ที่ใหญ่กว่า GPT-4 เอาไว้ 6 เดือนเพื่อวางมาตรกรความปลอดภัย ตอนนี้ Andrew Ng หนึ่งในผู้บุกเบิกวงการ Deep Learning ก็ออกมาแสดงความไม่เห็นด้วย
Ng ระบุว่าไม่มีทางที่จะหยุดไม่ให้ทุกคนขยายขนาดโมเดลปัญญาประดิษฐ์ เว้นแต่จะใช้มาตรการรัฐมาหยุดการวิจัย ซึ่งจะเป็นบรรทัดฐานที่แย่ และทำร้ายการสร้างนวัตกรรม เขายอมรับว่าปัญญาประดิษฐ์นั้นมีความเสี่ยง แต่สื่อที่พยายามสร้างภาพว่าบริษัทสร้างปัญญาประดิษฐ์ที่อันตรายนั้นก็ไม่จริงเหมือนกัน เพราะบริษัทส่วนใหญ่ระมัดระวังกันอยู่แล้วแม้จะมีบางกลุ่มทำเรื่องไม่ดีบ้าง
เขาเสนอว่าการรับประกันความปลอดภัยของปัญญาประดิษฐ์ควรอาศัยการกำกับดูแล, ความโปร่งใส, และการตรวจสอบย้อนกลับ และพูดคุยกันอย่างสร้างสรรค์ แทนที่จะเป็นการหยุดการพัฒนาไปเฉยๆ
ที่มา - @AndrewYNg
ภาพจาก Facebook Andrew Ng
Comments
กลัว Skynet หรือว่ากลัวบริษัทตัวเองตามไม่ทัน ?
That is the way things are.
ผมดูหนังเยอะ ผมกล้ว Skynet ครับ
AI มันก็คือ Software ตราบใดที่ผู้พัฒนาไม่ให้สิทธิ์มันในการควบคุมอุปกรณ์ใด ๆ และไม่ให้สิทธิ์มันในการเพิ่ม Code ให้ตัวเองตามใจชอบ คงไม่มีอะไรต้องกลัว
พัฒนาให้มันเป็น Chatbot มันก็คือ Chatbot
พัฒนาให้มันเล่นเกม มันก็แค่เล่นเกม
พัฒนาให้มันควบคุมความเย็น มันก็ทำหน้าที่ของมันแค่นั้น
ที่น่ากลัวคือคนที่เอามันไปใช้มากกว่า สิ่งที่ควรทำคือไม่ให้มันเป็น Open source เพราะจะควบคุมไม่ได้ว่ามันจะถูกเอาไปใช้ทำอะไรบ้าง
พวกคนร้าย (คนใช้ในทางที่ผิด) พวกเขาไม่ได้มาสนใจกฎหรือข้อเรียกร้องอะไรพวกนี้นะครับ ถึงไม่มี open source ผมคิดว่า คนอื่น ๆ ก็สามารถพัฒนา AI ได้หมดเหมือนกันนะครับ ผมไม่คิดว่ายุคนี้ไม่น่าจะมีประเทศหรือองค์กรใดที่ทำ AI ไม่ได้นะครับ ขอแค่มีเงินก็ทำได้ ถ้าไม่มี open source AI การพัฒนางานวิจัย ความโปร่งใสในการพัฒนา AI เครื่องมือตรวจจับตรงนี้จะถูกหยุดพัฒนาไปด้วย สุดท้ายผลเสียร้ายแรงกว่านะครับ
บล็อก: wannaphong.com และ Python 3
อีลอนตามไม่ทันแล้ว เห็นทำบ.นิวรัลลิ้งค์ไว้รับมือ ai
นิวรัลลิ้งค์ น่าจะทำยากกว่าเพราะเกี่ยวกับการแพทย์
ส่วน GPT แทบจะพัฒนาไปได้เรื่อยๆ ยิ่งมีข่าวว่าใช้งานได้ ยิ่งได้เงินสนับสนุนเยอะขึ้นไปอีก
มือพายไม่ทัน เอาเท้าราน้ำ รึเปล่า
อยากได้ของเขาจนตัวสั่น หาทุกวิธี เพื่อหยุดยั้ง ทั้งๆ ที่ประเทศอื่นเดินตามเป็น 100 ปี chat GPT คือ เครื่องมือปลดแอกคนทุกชนชั้นให้เท่ากัน
ปลดแอกคนทุกชนชั้นให้เท่ากัน < ยังไงครับ ผมยังจินตนาการไม่ออก ถ้าไม่เป็นการรบกวน ช่วยขยายความให้หน่อยครับ
ผมเห็นด้วยกับ Ng นะ
Ng อ่านว่ายังไง
อึ้ง (เหมือนแซ่อึ้ง)
ข้อเสนอหยุดขยายโมเดล Ai คงยากอ่ะ เพราะมันทำให้ทางสหรัฐอเมริกาได้เปรียบในโลก Ai ในสาย NLP ที่ทางจีนยังไม่มีผลิตภัณฑ์ขึ้นมาแข่งขันได้ แต่เมื่อไรรัฐบาลจีนเริ่มมีผลิตภัณฑ์ที่เริ่มดูเป็นคู่แข่งข้อเสนอนี้อาจมีฝ่ายการเมืองร่วมแจมด้วย
เห็นด้วยกับข้อคัดค้านนะ อีกอย่างทำไมจะต้องหยุดในเมื่อมันจะทำไปพร้อมๆ กับร่างข้อกำหนดขึ้นมาก็ได้ ถ้ากลัวเรื่องการบังคับใช้ จะประกาศเป็น Gentlemen's agreement ไปก่อนก็ได้มั้ย
บล็อกส่วนตัวที่อัพเดตตามอารมณ์และความขยัน :P