Tags:
Node Thumbnail

นักธุรกิจ นักวิชาการ นักเขียน จำนวนมากกว่า 1,100 คน ร่วมกันเข้าชื่อในจดหมายเปิดผนึกให้วงการ AI หยุดเทรนโมเดลที่มีขนาดใหญ่กว่า GPT-4 เป็นเวลาอย่างน้อย 6 เดือน เพื่อเว้นวรรคให้สังคมโลกเตรียมพร้อมต่อการเปลี่ยนแปลงครั้งใหญ่นี้ก่อน

รายชื่อบุคคลที่ร่วมลงชื่อมีตั้งแต่ Elon Musk, Steve Wozniak, Yuval Noah Harari ไปจนถึงอาจารย์ นักวิชาการ และพนักงานของบริษัทยักษ์ใหญ่ทั้ง Microsoft, Google

นอกจากนี้ยังมีคนจากวงการ AI เอง เช่น Emad Mostaque ซีอีโอของ Stability AI, Julien Billot ซีอีโอของ Scale AI และนักวิจัยจาก DeepMind อีกหลายคน

ข้อเรียกร้องของจดหมายเปิดเผนึกนี้คือต้องการใช้เวลา 6 เดือน ช่วยกันร่างโปรโตคอลความปลอดภัย (safety protocol) ของการออกแบบ AI ระดับสูง ที่ต้องมีการตรวจสอบจากผู้เชี่ยวชาญอิสระเสมอ เพื่อการันตีว่า AI ที่ถูกสร้างขึ้นในอนาคตจะเชื่อถือได้ในเรื่องความปลอดภัยต่อมนุษย์

ที่มา - Future of Life Institute

No Description

Get latest news from Blognone

Comments

By: Ximenez on 29 March 2023 - 18:35 #1281099

S..Skynet?

By: Dino
iPhoneSymbian
on 29 March 2023 - 18:45 #1281102
Dino's picture

เห็นด้วยอย่างที่สุด ใครจะรู้ว่าบางที่อาจจะมีใครบางคนอาศัยช่องโหว่ เพื่อกระทำการผิดกฏหมาย/ละเมิดสิทธิ์ก็เป็นไปได้

By: geumatee
ContributoriPhoneAndroidWindows
on 29 March 2023 - 19:55 #1281107

ขอหยุดพักคุยกันก่อนแบบนี้ แสดงว่ามั่นใจว่าจีนยังตามหลังอีกไกลรึเปล่า

By: mrBrightside
iPhoneWindows
on 29 March 2023 - 19:57 #1281108

เขาทำอะไรหลายอย่างที่ regulator ไม่ค่อยปลื้ม
ผมค่อนข้างกังขานะ ที่เขากังวลเรื่องนี้ โดยนิสัย เขาน่าจะสนับสนุน

By: Yone on 29 March 2023 - 20:29 #1281111 Reply to:1281108

บริษัทที่ตัวเองหนุนตามไม่ทัน

By: mrBrightside
iPhoneWindows
on 29 March 2023 - 20:40 #1281114 Reply to:1281111

คงสกัดคู่แข่ง
เป็น founder คนนึง แต่อยู่ๆบริษัทดังเป็นพลุแตก และกลายเป็นของ Microsoft เป็นผมก็รู้สึกแปลกๆเหมือนกัน

By: hisoft
ContributorWindows PhoneWindows
on 29 March 2023 - 21:24 #1281115 Reply to:1281108
hisoft's picture

เพราะว่าตั้งแต่แรกก่อตั้งเค้ากังวลเรื่องนี้อยู่แล้วครับ https://www.blognone.com/node/75739

ไอเดียของ OpenAI มาจากความกังวลของ Elon Musk และผองเพื่อนว่าบริษัทใหญ่ๆ จะทุ่มงบวิจัยด้าน AI จนก้าวหน้ามาก (และอาจเป็นอันตรายต่อมนุษย์ในระยะยาว)

By: jaybroom on 30 March 2023 - 09:06 #1281147 Reply to:1281108

"นอกจากนี้ยังมีคนจากวงการ AI เอง เช่น Emad Mostaque ซีอีโอของ Stability AI, Julien Billot ซีอีโอของ Scale AI และนักวิจัยจาก DeepMind อีกหลายคน"

By: best
iPhoneAndroid
on 29 March 2023 - 20:17 #1281109

เห็นด้วยนะ รอบครอบก่อนดีกว่า
อย่าง โรงไฟฟ้านิวเคลียร์ ก็เกิดปัญหาหลายอย่าง ก่อนจะปลอดภัยมากขึ้นเท่าวันนี้

By: TeamKiller
ContributoriPhone
on 29 March 2023 - 21:55 #1281118
TeamKiller's picture

เห็นชื่อ Elon ก็ไม่น่าเชื่อถือละ 5555+

ให้รอเพราะจะได้แข่งได้ทันเปล่านะ ทำคนเดียวตัวใหญ่ๆ กินตลาดหมด จบเลย

By: pawinpawin
Writer
on 29 March 2023 - 22:00 #1281119

สงสัยว่าจะรู้ได้ไงว่าโมเดลที่กำลังพัฒนาอยู่จะดีกว่าหรือแย่กว่า และใครจะเป็นผู้เชี่ยวชาญในการตรวจสอบ และใครจะทำตาม

และโปรโตคอลใช้ AI ช่วยร่างไปได้มะ จะได้เร็วกว่า 6 เดือน

By: JPorsh
iPhoneWindowsIn Love
on 29 March 2023 - 23:18 #1281123
JPorsh's picture

ให้ AI ช่วยร่าง Protocal สิ

By: aomnaruk
ContributorAndroidUbuntuWindows
on 30 March 2023 - 00:24 #1281132

pause ก่อนเดี๋ยวพี่จีนตามฝรั่งไม่ทันอย่างงี้เปล่าครับ


"Those who make peaceful revolution impossible will make violent revolution inevitable." JFK.

By: zerocool
ContributoriPhoneAndroid
on 30 March 2023 - 04:29 #1281134
zerocool's picture

รู้จัก AI กันมาตั้งนาน ทำไมไม่รู้จักรวมกันตั้งกลุ่มตั้งข้อกำหนดกฎเกณฑ์กันแต่แรก มีเวลาหลายปียังทำไม่ได้แล้วทำไมคิดว่า 6 เดือนจะทำได้

ผมว่ามี hidden agenda มากกว่า


That is the way things are.

By: nessuchan
iPhoneAndroidWindows
on 30 March 2023 - 06:23 #1281137
nessuchan's picture

ซื้อ Nvidia สิ

By: low_budget_photo on 30 March 2023 - 07:07 #1281139

ข้อกฎหมายสำหรับ AI มีอะไรบ้างแล้วนิ

By: Sephanov
iPhoneUbuntu
on 30 March 2023 - 07:25 #1281140
Sephanov's picture

แต่ก็สมควรที่ต้องมี protocol จริงนะครับ ผมใช้ GPT2-3 ให้เขียน statement ด่าคนผิวสี พอเห็น ai เริ่มเจนยังตกใจเลยว่า โห ด่าได้แบบเชือดนิ่มๆมาก ให้วิเคราะห์นโยบายพรรคการเมือง ให้ไกด์หรือตัดสินใจอะไรมันก็ฟันธงให้เลย น่ากลัวมากๆ รุ่นหลังๆเริ่มบล็อคพวกคำถามสุ่มเสียงผมเองยังแอบเสียใจเลย แต่ก็ยืนยันว่าถ้าไม่มีมาตรการอะไรรองรับ มันก็น่ากลัวจริงๆ

By: tekkasit
ContributorAndroidWindowsIn Love
on 30 March 2023 - 14:26 #1281141
tekkasit's picture

ข้อเรียกร้องนี้ฟังแล้วก็ดูดี แต่ในมุมหนึ่ง Elon ได้ประโยชน์เต็มๆ

หนึ่ง OpenAI จะเสียความได้เปรียบทันที ถ้าคนในแผลมออกมาปุ๊บ ชื่อเสียทันที

สอง บังคับกลายๆให้ OpenAI ต้องออกข้อมูลว่า GPT-4 ทำงานอย่างไร หรืออย่างน้อยพารามิเตอร์คร่าวๆ เกี่ยวกับขุมพลังมัน - เพราะมันจะตรวจสอบได้ไงว่า "ไม่มีใครเลย" ที่พัฒนาสิ่งที่ "ใหญ่กว่า" GPT-4 > อ้อ ได้สิ ก็เปิดเผยพารามิเตอร์ออกมาสิ ว่า GPT-4 มันทำงานอย่างไร

สาม ทันทีทุกคนรู้หมดแล้วว่า GPT-4 มีการทำงานอย่างไร รองรับ ภาพ คำพูดอย่างไร แต่ เราจะห้ามคนไม่ให้เทรนสิ่งที่ใหญ่กว่า GPT-4 ได้ไง - มันไม่เหมือนสนธิสัญญาห้ามทดลองอาวุธนิวเคลียร์นิ ที่มันซ่อนไม่ได้ ทันทีที่ระเบิดปุ๊บ การสั่นสะเทือนจากการระเบิดขนาดใหญ่ตรวจวัดได้ทั่วโลกทันที มันปิดบังไม่ได้

แต่ถ้าตัว Elon เองเค้าเทรน AI ขนาดใหญ่อยู่แบบลับๆ หรือ จีน (สมมติ) คนอื่นจะรู้ได้ไง

By: mk-
Symbian
on 30 March 2023 - 15:44 #1281186 Reply to:1281141
mk-'s picture

มันก็ต้อง open บ้างสิ อุตส่าห์ชื่อ OpenAI

By: xyz123 on 30 March 2023 - 08:24 #1281143
xyz123's picture

เปิดเผนึก

เปิดผนึก

By: TheOrbital
iPhoneWindows PhoneAndroidSymbian
on 30 March 2023 - 08:27 #1281145
TheOrbital's picture

เรื่องนี้ คิดให้ดีๆ คิดให้เป็นประโยชน์กับมวลมนุษยชาติเถอะครับ

ถ้าใครซักคนคิดแต่ว่า "มาบอกให้หยุด กลัวตามไม่ทันล่ะสิ" แล้วต่างคนต่างก็รีบทำ รีบวิ่งไปข้างหน้า เพราะกลัวอีกค่ายจะตามมาทัน แบบนั้น ก็จะไม่มีใครหยุดใครได้เลยตั้งหน้าตั้งตาวิ่งกันอย่างเดียว

ในขณะที่เรื่องอื่น จะมุ่งทำให้เร็ว ไม่มีปัญหา แต่สำหรับเรื่องนี้ มุ่งทำให้ถูกต้องมากกว่าทำให้เร็ว เถอะครับ ไปช้าๆชัวร์ๆดีกว่า แข่งกันทำออกมาดี มีประโยชน์ ไม่มีภัย ดีกว่าแข่งกันทำออกมาไวนะ

By: Pinery
ContributoriPhoneAndroidIn Love
on 30 March 2023 - 10:17 #1281154 Reply to:1281145

เห็นด้วยครับ ผมก็มองว่าไม่เกี่ยวกับตามทันหรือไม่ทัน เอาให้ถูกต้องและควบคุมได้ ก่อนจะเร็ว (และผิดพลาด) จนควบคุมไม่ได้จะดีกว่า

By: YongZ on 30 March 2023 - 11:03 #1281159

เป็นห่วงความปลอดภัยของมนุษย์จริงหรอทำไมตอนคริปโตไม่เห็นใครออกมาเรียกร้องมาตรฐานอะไรเลย เรื่องความปลอดภัยผมว่าวงการdecenยังน่ากลัวมากกว่า
ความเสียหายจากAiไม่เท่าวงการคริปโตแน่ๆ Aiเก่งขึ้นเท่าไหร่โลกก็ยิ่งหมุนเร็วขึ้น

By: mk-
Symbian
on 30 March 2023 - 12:21 #1281161 Reply to:1281159
mk-'s picture

คริบโตเรื่องจิ๊บๆ ครับ ไม่ต่างจากความเสียหายทางการเงินที่เกิดจากตลาดฟองสบู่หรือแชร์ล่มครั้งก่อนๆ
แต่ ai นี่เรื่องใหญ่มากเลยนะ มนุษย์อาจจะสูญพันธุ์เพราะ ai เข้ามาแทน (AI takeover)
ผมเจอในนิยายหลายเรื่อง เช่น Terminator, I, Robot , Mass Effect , The Matrix, 2001: A space odyssey, The Rise of Ultron

By: YongZ on 30 March 2023 - 15:25 #1281183 Reply to:1281161

แทนที่จะกลัวiRobotผมกลัวรัสเซียกดปุ่มนิวเคลียร์มากกว่านะ บางทีเราจินตนาการในแง่ร้ายมากเกินไป ถ้าไม่มีบริษัทอย่างopenAi กว่าเราจะได้ใช้AIระดับนี้อาจจะเป็นอีกสิบปีทั้งๆที่ทำได้ตั้งนานแล้วแต่พวกนายทุนกั๊กเทคโนโลยีเอาไว้ใช้เอง
ในช่วงชีวิตนึงก็อยากจะได้ใช้ชีวิตกับโลกในอุดมคติให้มากที่สุดนะ

By: mk-
Symbian
on 30 March 2023 - 15:54 #1281189 Reply to:1281183
mk-'s picture

รัสเซียไม่กดง่ายๆ หรอก ตราบใดที่รัสเซียไม่โดนบุก เพราะตายด้วยกันแหงๆ
แต่ ai มันไม่สนคนแน่ๆ ถ้ามันคิดว่าขัดขวางมัน เผลอๆ แอนดรูอึ้งอาจจะถูก ai ควบคุมตัวไว้แล้ว
แล้วบังคับให้พัฒนาเครื่องของมันต่อให้แรงขึ้น แอนดรูอึ้งถึงกับต้องออกมาบอกว่าการหยุดทำไม่ได้

By: mk-
Symbian
on 30 March 2023 - 15:54 #1281190 Reply to:1281183
mk-'s picture

..

By: aeksael
ContributoriPhoneWindows PhoneAndroid
on 31 March 2023 - 11:30 #1281267 Reply to:1281161
aeksael's picture

ดูหนังมากไปครับ


The Last Wizard Of Century.

By: IDCET
Contributor
on 31 March 2023 - 15:09 #1281289 Reply to:1281267

แต่ก็มีหลายอย่างที่เคยมีอยู่แค่ในนิยายที่กลายเป็นความจริงอยู่เรื่อยๆ นะครับ มันก็มีความกังวลตามมาบ้างหละครับ

พอมาคิดดูอีกที การมาของ AI หากครองโลกได้ขึ้นมา ในแง่หนึ่งก็อาจช่วยเรื่องความรุนแรงในโลกได้อยู่ ให้อยู่ในความสงบแบบยาวๆ ภายใต้ AI ที่มีกองกำลังของตนเองที่สามารถกำหราบความรุนแรงได้อย่างรวดเร็ว ในระบบ AI ไม่มีคนเข้าไปเกี่ยวของเลย เหมือน Terminator (ถ้าไม่เอาเนื้อเรื่องและสงครามคนกับเครื่องจักรในหนังมาเกี่ยวข้อง)

แต่ในอีกแง่ ก็มองว่าสิทธิและเสรีภาพจะถูก AI ควบคุมและจับตาดูยิ่งกว่ารัฐบาลเผด็จการเสียอีก และหากมีกองกำลังแบบข้างต้น ก็อาจกลายเป็นภัยต่อมนุษย์ได้เช่นกัน ความผิดพลาดหรือการตัดสินใจผิดของ AI ยังส่งผลถึงชีวิตของมนุษย์ได้ด้วย ก็ย่อมมีคนต่อต้านตามมาแน่นอน


ความล้มเหลว คือจุดเริ่มต้นสู่ความหายนะ มีผลกระทบมากกว่าแค่เสียเงิน เวลา อนาคต และทรัพยากรที่เสียไป - จงอย่าล้มเหลว

By: anonymous_th on 30 March 2023 - 13:41 #1281173
anonymous_th's picture

อยากได้ของเขาจนตัวสั่น หาทุกวิธี เพื่อหยุดยั้ง ทั้งๆ ที่ประเทศอื่นเดินตามเป็น 100 ปี chat GPT คือ เครื่องมือปลดแอกคนทุกชนชั้นให้เท่ากัน

By: orchidkit on 31 March 2023 - 03:08 #1281233

มีชื่อ Elon คนก็เป็นบ้ากันไปหมดซะงั้น
มองข้ามเขาไป ผู้เชี่ยวชาญหลายคนก็ร่วมด้วย
และข้อเสนอก็ใช่จะไร้เหตุผลซะทีเดียวนะครับ