Tags:
Node Thumbnail

รัฐบาลไบเดนเรียกให้ 7 บริษัทใหญ่ด้านปัญญาประดิษฐ์ในสหรัฐฯ ให้สัญญากับสังคมแบบสมัครใจ ว่าจะพัฒนาปัญญาประดิษฐ์โดยดูแลความปลอดภัย (safety), ความมั่นคงปลอดภัย (security), และความน่าเชื่อถือ (trustworthy)

7 บริษัทที่ตกลงตามข้อสัญญานี้ ได้แก่ Amazon, Anthropic, Google, Inflection, Meta, Microsoft, และ OpenAI

คำมั่นสัญญาที่ประกาศออกมาลงรายละเอียดพอสมควร ได้แก่

  • ด้านความปลอดภัย: ระหว่างการพัฒนาต้องมีทีมทดสอบ (red team) ทดสอบความเสี่ยงด้านต่างๆ เช่น การเปิดทางให้คนร้ายเข้าถึงอาวุธเคมีได้ง่ายขึ้น, แฮกเกอร์สามารถเข้าถึงเทคนิคการแฮก, หรือแม้แต่ความเสี่ยงที่ตัวโมเดลปัญญาประดิษฐ์จะโคลนตัวเองไปรันที่อื่น
  • ด้านความมั่นคงปลอดภัย: มีการควบคุมโมเดลที่พัฒนาเป็นการภายใน (ที่อาจจะไม่ได้จูนให้ทำงานอย่างปลอดภัย) ไม่ให้หลุดออกมาภายนอก สนับสนุนให้มีการรายงานจุดอ่อนของโมเดลที่เปิดให้ใช้งาน
  • ด้านความน่าเชื่อถือ: พัฒนาแนวทางที่ทำให้ผู้ใช้รู้ได้ง่ายว่าเนื้อหาที่กำลังดูอยู่นั้นสร้างโดยปัญญาประดิษฐ์, รายงานความสามารถของโมเดลและข้อจำกัดต่างๆ

แนวทางเช่นนี้เป็นก้าวแรกของการวางแนวทางควบคุมการพัฒนาปัญญาประดิษฐ์ แม้จะไม่ใช่กฎหมายบังคับ โดยแนวทางต่อไปของรัฐบาลไบเดนจะบังคับใช้นโยบายควบคุมการพัฒนาปัญญาประดิษฐ์ผ่านทางนโยบายของสำนักงบประมาณ ซึ่งสามารถควบคุมการให้ทุนหรือการจัดซื้อของรัฐบาลกลางสหรัฐฯ ได้และอยู่ในอำนาจของฝ่ายบริหาร

ที่มา - Whitehouse.gov

Get latest news from Blognone

Comments

By: zyzzyva
Blackberry
on 21 July 2023 - 23:12 #1290108

ขาด Apple

By: lew
FounderJusci's WriterMEconomicsAndroid
on 21 July 2023 - 23:25 #1290109 Reply to:1290108
lew's picture

แต่แอปเปิลก็ยังไม่เคยประกาศเป็นทางการว่าทำ LLM นะครับ ทั้ง 7 บริษัทนี่ประกาศ public ก่อนแล้วทั้งนั้น


lewcpe.com, @wasonliw

By: zyzzyva
Blackberry
on 22 July 2023 - 00:11 #1290111 Reply to:1290109

คงเน้นแนวเข้าร่วมทีหลัง เพื่อสร้างกระแสกว่าเข้าร่วมพร้อมเพื่อนๆ เหมือนข่าวนี้
https://www.blognone.com/node/89625

By: freeriod on 27 July 2024 - 09:32 #1318000 Reply to:1290108
freeriod's picture

มาละ https://www.blognone.com/node/141108

By: horakung
iPhoneAndroidWindows
on 22 July 2023 - 07:55 #1290119
horakung's picture

Elon ไม่ได้เซ็นเหรอนั่น