นักธุรกิจ นักวิชาการ นักเขียน จำนวนมากกว่า 1,100 คน ร่วมกันเข้าชื่อในจดหมายเปิดผนึกให้วงการ AI หยุดเทรนโมเดลที่มีขนาดใหญ่กว่า GPT-4 เป็นเวลาอย่างน้อย 6 เดือน เพื่อเว้นวรรคให้สังคมโลกเตรียมพร้อมต่อการเปลี่ยนแปลงครั้งใหญ่นี้ก่อน

รายชื่อบุคคลที่ร่วมลงชื่อมีตั้งแต่ Elon Musk, Steve Wozniak, Yuval Noah Harari ไปจนถึงอาจารย์ นักวิชาการ และพนักงานของบริษัทยักษ์ใหญ่ทั้ง Microsoft, Google

นอกจากนี้ยังมีคนจากวงการ AI เอง เช่น Emad Mostaque ซีอีโอของ Stability AI, Julien Billot ซีอีโอของ Scale AI และนักวิจัยจาก DeepMind อีกหลายคน

ข้อเรียกร้องของจดหมายเปิดเผนึกนี้คือต้องการใช้เวลา 6 เดือน ช่วยกันร่างโปรโตคอลความปลอดภัย (safety protocol) ของการออกแบบ AI ระดับสูง ที่ต้องมีการตรวจสอบจากผู้เชี่ยวชาญอิสระเสมอ เพื่อการันตีว่า AI ที่ถูกสร้างขึ้นในอนาคตจะเชื่อถือได้ในเรื่องความปลอดภัยต่อมนุษย์

ที่มา - Future of Life Institute

Hiring! บริษัทที่น่าสนใจ

CP AXTRA Public Company Limited - Lotus's company cover
CP AXTRA Public Company Limited - Lotus's
CP AXTRA Lotus's is revolutionizing the retail industry as a Retail Tech company.
Token X company cover
Token X
Blockchain, ICO, Tokenization, Digital Assets, and Financial Service
KKP Dime company cover
KKP Dime
KKP Dime บริษัทในเครือเกียรตินาคินภัทร

เห็นด้วยอย่างที่สุด ใครจะรู้ว่าบางที่อาจจะมีใครบางคนอาศัยช่องโหว่ เพื่อกระทำการผิดกฏหมาย/ละเมิดสิทธิ์ก็เป็นไปได้

คงสกัดคู่แข่ง
เป็น founder คนนึง แต่อยู่ๆบริษัทดังเป็นพลุแตก และกลายเป็นของ Microsoft เป็นผมก็รู้สึกแปลกๆเหมือนกัน

เพราะว่าตั้งแต่แรกก่อตั้งเค้ากังวลเรื่องนี้อยู่แล้วครับ https://www.blognone.com/node/75739

ไอเดียของ OpenAI มาจากความกังวลของ Elon Musk และผองเพื่อนว่าบริษัทใหญ่ๆ จะทุ่มงบวิจัยด้าน AI จนก้าวหน้ามาก (และอาจเป็นอันตรายต่อมนุษย์ในระยะยาว)

"นอกจากนี้ยังมีคนจากวงการ AI เอง เช่น Emad Mostaque ซีอีโอของ Stability AI, Julien Billot ซีอีโอของ Scale AI และนักวิจัยจาก DeepMind อีกหลายคน"

TeamKiller Wed, 03/29/2023 - 21:55

เห็นชื่อ Elon ก็ไม่น่าเชื่อถือละ 5555+

ให้รอเพราะจะได้แข่งได้ทันเปล่านะ ทำคนเดียวตัวใหญ่ๆ กินตลาดหมด จบเลย

สงสัยว่าจะรู้ได้ไงว่าโมเดลที่กำลังพัฒนาอยู่จะดีกว่าหรือแย่กว่า และใครจะเป็นผู้เชี่ยวชาญในการตรวจสอบ และใครจะทำตาม

และโปรโตคอลใช้ AI ช่วยร่างไปได้มะ จะได้เร็วกว่า 6 เดือน

aomnaruk Thu, 03/30/2023 - 00:24

pause ก่อนเดี๋ยวพี่จีนตามฝรั่งไม่ทันอย่างงี้เปล่าครับ

รู้จัก AI กันมาตั้งนาน ทำไมไม่รู้จักรวมกันตั้งกลุ่มตั้งข้อกำหนดกฎเกณฑ์กันแต่แรก มีเวลาหลายปียังทำไม่ได้แล้วทำไมคิดว่า 6 เดือนจะทำได้

ผมว่ามี hidden agenda มากกว่า

แต่ก็สมควรที่ต้องมี protocol จริงนะครับ ผมใช้ GPT2-3 ให้เขียน statement ด่าคนผิวสี พอเห็น ai เริ่มเจนยังตกใจเลยว่า โห ด่าได้แบบเชือดนิ่มๆมาก ให้วิเคราะห์นโยบายพรรคการเมือง ให้ไกด์หรือตัดสินใจอะไรมันก็ฟันธงให้เลย น่ากลัวมากๆ รุ่นหลังๆเริ่มบล็อคพวกคำถามสุ่มเสียงผมเองยังแอบเสียใจเลย แต่ก็ยืนยันว่าถ้าไม่มีมาตรการอะไรรองรับ มันก็น่ากลัวจริงๆ

ข้อเรียกร้องนี้ฟังแล้วก็ดูดี แต่ในมุมหนึ่ง Elon ได้ประโยชน์เต็มๆ

หนึ่ง OpenAI จะเสียความได้เปรียบทันที ถ้าคนในแผลมออกมาปุ๊บ ชื่อเสียทันที

สอง บังคับกลายๆให้ OpenAI ต้องออกข้อมูลว่า GPT-4 ทำงานอย่างไร หรืออย่างน้อยพารามิเตอร์คร่าวๆ เกี่ยวกับขุมพลังมัน - เพราะมันจะตรวจสอบได้ไงว่า "ไม่มีใครเลย" ที่พัฒนาสิ่งที่ "ใหญ่กว่า" GPT-4 > อ้อ ได้สิ ก็เปิดเผยพารามิเตอร์ออกมาสิ ว่า GPT-4 มันทำงานอย่างไร

สาม ทันทีทุกคนรู้หมดแล้วว่า GPT-4 มีการทำงานอย่างไร รองรับ ภาพ คำพูดอย่างไร แต่ เราจะห้ามคนไม่ให้เทรนสิ่งที่ใหญ่กว่า GPT-4 ได้ไง - มันไม่เหมือนสนธิสัญญาห้ามทดลองอาวุธนิวเคลียร์นิ ที่มันซ่อนไม่ได้ ทันทีที่ระเบิดปุ๊บ การสั่นสะเทือนจากการระเบิดขนาดใหญ่ตรวจวัดได้ทั่วโลกทันที มันปิดบังไม่ได้

แต่ถ้าตัว Elon เองเค้าเทรน AI ขนาดใหญ่อยู่แบบลับๆ หรือ จีน (สมมติ) คนอื่นจะรู้ได้ไง

เรื่องนี้ คิดให้ดีๆ คิดให้เป็นประโยชน์กับมวลมนุษยชาติเถอะครับ

ถ้าใครซักคนคิดแต่ว่า "มาบอกให้หยุด กลัวตามไม่ทันล่ะสิ" แล้วต่างคนต่างก็รีบทำ รีบวิ่งไปข้างหน้า เพราะกลัวอีกค่ายจะตามมาทัน แบบนั้น ก็จะไม่มีใครหยุดใครได้เลยตั้งหน้าตั้งตาวิ่งกันอย่างเดียว

ในขณะที่เรื่องอื่น จะมุ่งทำให้เร็ว ไม่มีปัญหา แต่สำหรับเรื่องนี้ มุ่งทำให้ถูกต้องมากกว่าทำให้เร็ว เถอะครับ ไปช้าๆชัวร์ๆดีกว่า แข่งกันทำออกมาดี มีประโยชน์ ไม่มีภัย ดีกว่าแข่งกันทำออกมาไวนะ

เห็นด้วยครับ ผมก็มองว่าไม่เกี่ยวกับตามทันหรือไม่ทัน เอาให้ถูกต้องและควบคุมได้ ก่อนจะเร็ว (และผิดพลาด) จนควบคุมไม่ได้จะดีกว่า

เป็นห่วงความปลอดภัยของมนุษย์จริงหรอทำไมตอนคริปโตไม่เห็นใครออกมาเรียกร้องมาตรฐานอะไรเลย เรื่องความปลอดภัยผมว่าวงการdecenยังน่ากลัวมากกว่า
ความเสียหายจากAiไม่เท่าวงการคริปโตแน่ๆ Aiเก่งขึ้นเท่าไหร่โลกก็ยิ่งหมุนเร็วขึ้น

คริบโตเรื่องจิ๊บๆ ครับ ไม่ต่างจากความเสียหายทางการเงินที่เกิดจากตลาดฟองสบู่หรือแชร์ล่มครั้งก่อนๆ
แต่ ai นี่เรื่องใหญ่มากเลยนะ มนุษย์อาจจะสูญพันธุ์เพราะ ai เข้ามาแทน (AI takeover)
ผมเจอในนิยายหลายเรื่อง เช่น Terminator, I, Robot , Mass Effect , The Matrix, 2001: A space odyssey, The Rise of Ultron

แทนที่จะกลัวiRobotผมกลัวรัสเซียกดปุ่มนิวเคลียร์มากกว่านะ บางทีเราจินตนาการในแง่ร้ายมากเกินไป ถ้าไม่มีบริษัทอย่างopenAi กว่าเราจะได้ใช้AIระดับนี้อาจจะเป็นอีกสิบปีทั้งๆที่ทำได้ตั้งนานแล้วแต่พวกนายทุนกั๊กเทคโนโลยีเอาไว้ใช้เอง
ในช่วงชีวิตนึงก็อยากจะได้ใช้ชีวิตกับโลกในอุดมคติให้มากที่สุดนะ

รัสเซียไม่กดง่ายๆ หรอก ตราบใดที่รัสเซียไม่โดนบุก เพราะตายด้วยกันแหงๆ
แต่ ai มันไม่สนคนแน่ๆ ถ้ามันคิดว่าขัดขวางมัน เผลอๆ แอนดรูอึ้งอาจจะถูก ai ควบคุมตัวไว้แล้ว
แล้วบังคับให้พัฒนาเครื่องของมันต่อให้แรงขึ้น แอนดรูอึ้งถึงกับต้องออกมาบอกว่าการหยุดทำไม่ได้

แต่ก็มีหลายอย่างที่เคยมีอยู่แค่ในนิยายที่กลายเป็นความจริงอยู่เรื่อยๆ นะครับ มันก็มีความกังวลตามมาบ้างหละครับ

พอมาคิดดูอีกที การมาของ AI หากครองโลกได้ขึ้นมา ในแง่หนึ่งก็อาจช่วยเรื่องความรุนแรงในโลกได้อยู่ ให้อยู่ในความสงบแบบยาวๆ ภายใต้ AI ที่มีกองกำลังของตนเองที่สามารถกำหราบความรุนแรงได้อย่างรวดเร็ว ในระบบ AI ไม่มีคนเข้าไปเกี่ยวของเลย เหมือน Terminator (ถ้าไม่เอาเนื้อเรื่องและสงครามคนกับเครื่องจักรในหนังมาเกี่ยวข้อง)

แต่ในอีกแง่ ก็มองว่าสิทธิและเสรีภาพจะถูก AI ควบคุมและจับตาดูยิ่งกว่ารัฐบาลเผด็จการเสียอีก และหากมีกองกำลังแบบข้างต้น ก็อาจกลายเป็นภัยต่อมนุษย์ได้เช่นกัน ความผิดพลาดหรือการตัดสินใจผิดของ AI ยังส่งผลถึงชีวิตของมนุษย์ได้ด้วย ก็ย่อมมีคนต่อต้านตามมาแน่นอน

อยากได้ของเขาจนตัวสั่น หาทุกวิธี เพื่อหยุดยั้ง ทั้งๆ ที่ประเทศอื่นเดินตามเป็น 100 ปี chat GPT คือ เครื่องมือปลดแอกคนทุกชนชั้นให้เท่ากัน

orchidkit Fri, 03/31/2023 - 03:08

มีชื่อ Elon คนก็เป็นบ้ากันไปหมดซะงั้น
มองข้ามเขาไป ผู้เชี่ยวชาญหลายคนก็ร่วมด้วย
และข้อเสนอก็ใช่จะไร้เหตุผลซะทีเดียวนะครับ

Apple
public://topics-images/apple_webp.png
SCB10X
public://topics-images/347823389_774095087711602_515970870797767330_n_webp.png
Windows 11
public://topics-images/hero-bloom-logo.jpg
Huawei
public://topics-images/huawei_standard_logo.svg_.png
Google Keep
public://topics-images/google_keep_2020_logo.svg_.png
Instagram
public://topics-images/instagram_logo_2022.svg_.png
SCB
public://topics-images/9crhwyxv_400x400.jpg
Microsoft
public://topics-images/microsoft_logo.svg_.png
Basecamp
public://topics-images/bwpepdi0_400x400.jpg
Tinder
public://topics-images/hwizi8ny_400x400.jpg
FTC
public://topics-images/seal_of_the_united_states_federal_trade_commission.svg_.png
Pinterest
public://topics-images/pinterest.png
Palantir
public://topics-images/-nzsuc6w_400x400.png
AIS Business
public://topics-images/logo-business-2021-1.png
PostgreSQL
public://topics-images/images.png
JetBrains
public://topics-images/icx8y2ta_400x400.png
Krungthai
public://topics-images/aam1jxs6_400x400.jpg
Palworld
public://topics-images/mccyhcqf_400x400.jpg
Bill Gates
public://topics-images/bill_gates-september_2024.jpg
VMware
public://topics-images/1nj4i1gp_400x400.jpg
Take-Two Interactive
public://topics-images/0khle7nh_400x400.jpg
OpenAI
public://topics-images/ztsar0jw_400x400.jpg
Thailand
public://topics-images/flag_of_thailand.svg_.png
NVIDIA
public://topics-images/srvczsfq_400x400.jpg
ServiceNow
public://topics-images/ytnrfphe_400x400.png
Klarna
public://topics-images/urcllpjp_400x400.png
Google Play
public://topics-images/play.png
Drupal
public://topics-images/drupal.png
Virtua Fighter
public://topics-images/virtua_figther_2024_logo.png
Paradox Interactive
public://topics-images/paradox_interactive_logo.svg_.png
Europa Universalis
public://topics-images/europa-icon.png
Nintendo Switch 2
public://topics-images/mainvisual.png
Cloudflare
public://topics-images/cloudflare_logo.svg_.png
Samsung
public://topics-images/samsung.png
Google
public://topics-images/google_2015_logo.svg_.png
Uber
public://topics-images/uber.png
Microsoft 365
public://topics-images/m365.png
USA
public://topics-images/flag_of_the_united_states.svg_.png
GM
public://topics-images/0pe0po-z_400x400.jpg
Perplexity
public://topics-images/perplex.jpg
Xperia
public://topics-images/xperia.png
iOS 18
public://topics-images/ios-18-num-96x96_2x.png
True
public://topics-images/true_logo.png
SoftBank
public://topics-images/softbank.jpg
Pac-Man
public://topics-images/pacman.png
Harry Potter
public://topics-images/harry.png
Marvel
public://topics-images/marvel.png
Skydance
public://topics-images/skydance.png
SEA
public://topics-images/sealogo.png
Find My Device
public://topics-images/find.png
Gemini
public://topics-images/google_gemini_logo.svg__1.png
Accessibility
public://topics-images/accessibility-128x128_2x.png
Material Design
public://topics-images/m3-favicon-apple-touch.png
Android 16
public://topics-images/android16.png
Android
public://topics-images/android_0.png
Firefox
public://topics-images/firefox_logo-2019.svg_.png
Google Messages
public://topics-images/messages.png
Notepad
public://topics-images/notepad.png
Singapore
public://topics-images/flag_of_singapore.svg_.png
Airbnb
public://topics-images/airbnb.png
PS5
public://topics-images/ps5.png
Krafton
public://topics-images/krafton.png
Doom
public://topics-images/doom-game-s_logo.svg_.png
AMD
public://topics-images/amd_logo.svg_.png
GTA
public://topics-images/gta_0.png
DoorDash
public://topics-images/doordash.png
YouTube
public://topics-images/yt.png
YouTube Music
public://topics-images/yt-music.png
Facebook
public://topics-images/fb.png
iQiyi
public://topics-images/iqiyi_0.png
Viu
public://topics-images/viu.png
Amazon Prime Video
public://topics-images/prime-vid.png
Spotify
public://topics-images/spotify.jpg
Apple TV
public://topics-images/apple-tv.png
HBO Max
public://topics-images/max.png
Threads
public://topics-images/threads.png
Alexa
public://topics-images/alexa.png
Kindle App
public://topics-images/kindle.png
Shopee
public://topics-images/shopee.png
Waze
public://topics-images/waze.png
Bilibili
public://topics-images/bili.png
Google Maps
public://topics-images/maps.png
Apple Music
public://topics-images/apple-music.png
Claude
public://topics-images/claude.png
TikTok
public://topics-images/tiktok.png
Xbox
public://topics-images/xbox.png
Tesla
public://topics-images/tesla.png
Chrome
public://topics-images/chrome.png
Google Calendar
public://topics-images/gcal.png
Google Home
public://topics-images/ghome.png
Google Meet
public://topics-images/meet.png
NotebookLM
public://topics-images/notebooklm.png
Reddit
public://topics-images/reddit.png
Assassin’s Creed
public://topics-images/ac.png
Mark Zuckerberg
public://topics-images/zuck.jpg
Meta
public://topics-images/meta.png
Meta AI
public://topics-images/meta-ai.png
Epic Games
public://topics-images/epic_games_logo.svg_.png
Unreal
public://topics-images/unreal_engine_logo-new_typeface-svg.png
Fortnite
public://topics-images/fortnite.png
DeepMind
public://topics-images/deepmind.png
Databricks
public://topics-images/databricks.png
Netflix
public://topics-images/netflix-logo.png
Microsoft Azure
public://topics-images/azure.png
Microsoft Copilot
public://topics-images/microsoft_copilot_icon.svg_.png
Bing
public://topics-images/bing.png
EA
public://topics-images/ea.png
Intel
public://topics-images/intel.png
Amazon
public://topics-images/amazon.png
AWS
public://topics-images/aws.png
Zoom
public://topics-images/zoom.png
Dropbox
public://topics-images/dropbox_0.png
Roblox
public://topics-images/roblox.png
Dell Technologies
public://topics-images/dell-tech.png
Nothing
public://topics-images/nothing.svg_.png
Microsoft Teams
public://topics-images/teams.png
Mojang
public://topics-images/mojang.png
Minecraft
public://topics-images/minecraft.png
Redis
public://topics-images/redis_logo.svg_.png
Ubisoft
public://topics-images/ubisoft_logo.svg_.png
Elden Ring
public://topics-images/elden.png
Brave
public://topics-images/brave.png
Opera
public://topics-images/opera.png
Vivaldi
public://topics-images/vivaldi.png
Microsoft Edge
public://topics-images/edge.png
NASA
public://topics-images/0zxklekb_400x400.jpg