Tags:
Node Thumbnail

OpenAI ประกาศตั้งทีม Superalignment ทีมงานวิจัยที่เตรียมการรับมือปัญญาประดิษฐ์ที่ฉลาดเหนือมนุษย์ (superintelligent) เพื่อให้แน่ใจว่าปัญญาประดิษฐ์ยังคงทำตามความตั้งใจของมนุษย์ไม่จับมนุษย์ให้กลายเป็นสัตว์เลี้ยง หรือทำลายมนุษย์ไปเลยเสียก่อน

Superintelligent เป็นปัญญาประดิษฐ์ที่เหนือกว่ามนุษย์อย่างมากจนมนุษย์ไม่สามารถตรวจสอบได้ว่ายังทำงานตามที่มนุษย์ตั้งใจอยู่หรือไม่

แนวทางของ OpenAI จะพัฒนาระบบตรวจสอบระดับเดียวกับมนุษย์ (human-level automated alignment researcher) เพื่อยืนยันว่าระบบนี้ยังพบความผิดปกติของพฤติกรรมได้ จากนั้นก็พยายามสร้างโมเดลมุ่งร้ายมาให้ระบบตรวจสอบนี้ตรวจหาความผิดปกติ

ทาง OpenAI คาดว่าปัญญาประดิษฐ์ระดับเหนือมนุษย์อาจจะพัฒนาสำเร็จภายในปี 2030 และทาง OpenAI จะกันพลังประมวลผล 20% สำหรับโครงการวิจัยนี้โดยเฉพาะ

ที่มา - OpenAI

Get latest news from Blognone

Comments

By: whitebigbird
Contributor
on 7 July 2023 - 10:04 #1289016
whitebigbird's picture

ทดลองใช้ GitHub Copilot ได้ 2 วันถึงกับต้องรีบปิด ไม่งั้นสมองไม่ได้ทำงานแน่ๆ มันรู้เกือบหมดเลยว่าเรากำลังจะทำอะไร แล้วขึ้นคำแนะนำมาให้เป็น block / function เลย

เขียนคอมเมนต์อธิบายโค้ดก็ทำได้ดีมาก

ปิดละกัน เดี๋ยวสมองเสื่อมหมด

By: lew
FounderJusci's WriterMEconomicsAndroid
on 7 July 2023 - 10:07 #1289019 Reply to:1289016
lew's picture

สักพักมันก็จะเริ่มแทรกโค้ดเชื่อมเป็น plugin ให้มันเข้ามารันโค้ดเองได้...


lewcpe.com, @wasonliw

By: whitebigbird
Contributor
on 7 July 2023 - 10:14 #1289020 Reply to:1289019
whitebigbird's picture

ไม่ค่อยห่วงครับ อย่าถึงขั้นเข้ามาเอาเงินเดือนผมไปก็พอ แต่ถ้ามันส่งเมล์ไปบอก director ว่ามันเขียนเองทั้ง repo ผมก็คงตกงานอยู่ดี

By: btoy
ContributorAndroidWindows
on 7 July 2023 - 14:42 #1289054 Reply to:1289016
btoy's picture

ผมน่าจะเป็นเพียงไม่กี่คนที่ยังไม่เคยใช้ GitHub Copilot ด้วยงานที่ทำ เอิ๊ก


..: เรื่อยไป

By: whitebigbird
Contributor
on 7 July 2023 - 14:57 #1289057 Reply to:1289054
whitebigbird's picture

ผมถูกบีบทางสังคมให้ลองครับ คนในทีมบอกว่ามึงไม่ลองมึงก็ใช้ไม่เป็น อีกหน่อยมันก็มาแทนที่มึงแล้วมึงจะควบคุมมันไม่ได้

กลัวตกงานก็เลยต้องลองครับ พอลองแล้วมั่นใจเลย ตกงานแน่กู 555555

By: ponghahaha on 7 July 2023 - 16:13 #1289066 Reply to:1289016

ต้องหาวิธีใช้มันครับ อย่าไปกลัวมัน ปรับตัวได้ก่อนก็ได้เปรียบ

By: BlackMiracle
WriterAndroidUbuntuWindows
on 7 July 2023 - 10:05 #1289017

ตรงกับเรื่อง I, Robot


Pitawat's Blog :: บล็อกผมเองครับ

By: freeriod on 7 July 2023 - 10:23 #1289022
freeriod's picture

ตอนนี้ มันยังไม่ใกล้เคียงเลย

By: BlackMiracle
WriterAndroidUbuntuWindows
on 7 July 2023 - 12:12 #1289031 Reply to:1289022

ตอนที่รู้ตัวว่ามันใกล้เคียง ก็ไม่ทันแล้วครับ


Pitawat's Blog :: บล็อกผมเองครับ

By: Pinery
ContributoriPhoneAndroidIn Love
on 8 July 2023 - 09:53 #1289117 Reply to:1289031

ใช่ครับ เคยอ่านบทความพี่ทิมของ waitbutwhy ก็บอกว่า ตอนเท่ามนุษย์แล้วสามารถพุ่งขึ้นเหนือต่อได้เลย
มนุษย์ทำไรไม่ทันแน่

By: langisser
In Love
on 7 July 2023 - 12:11 #1289029

ผมว่าทีมนี้นี่แหละที่จะเป็นปัญหาของมนุษย์ เพราะการที่มันจะตรวจสอบได้มันก็ต้องฉลาดมาก ซับซ้อนมาก มากจนเราก็ไม่รู้ว่ามันทำอะไร

หรือว่าต้องมีอีกทีมมาตรวจทีมนี้

วนไป

By: mbdsc28
Android
on 7 July 2023 - 15:35 #1289063
mbdsc28's picture

จะกำหนดมาตราฐานอย่างไรดี

ตัวอย่างเปรียบเทียบ
เครื่องคิดเลข คิดเลข ได้เร็วกว่าคน แต่ คิดได้แค่ตัวเลขเท่านั้น
อย่างนี้ เรียกว่า ฉลาดเหนือมนุษย์ได้ไหม?

By: Kerberos
AndroidRed HatUbuntuWindows
on 7 July 2023 - 23:20 #1289104
Kerberos's picture

บางที AI ที่น่ากลัวไม่จำเป็นต้องติดอาวุธแบบในหนัง หรือฉลาดเกิดคนหรอก แค่มันให้ผลลัพธ์ที่คนเอามันไปใช้โดยไม่ตรวจสอบ แล้วทำให้เกิดอันตรายกับคนด้วยกันเอง

มันยังมีบางคนที่เชื่อ AI จนเกินไปอยู่จริงๆ นะ :)

By: aeksael
ContributoriPhoneWindows PhoneAndroid
on 8 July 2023 - 14:44 #1289134
aeksael's picture

2030เหรอ อ่อ 2030สินะ ถ้า2029นี่มันภาพปลากรอบชัดเลย


The Last Wizard Of Century.