รัฐบาลไบเดนเรียกให้ 7 บริษัทใหญ่ด้านปัญญาประดิษฐ์ในสหรัฐฯ ให้สัญญากับสังคมแบบสมัครใจ ว่าจะพัฒนาปัญญาประดิษฐ์โดยดูแลความปลอดภัย (safety), ความมั่นคงปลอดภัย (security), และความน่าเชื่อถือ (trustworthy)

7 บริษัทที่ตกลงตามข้อสัญญานี้ ได้แก่ Amazon, Anthropic, Google, Inflection, Meta, Microsoft, และ OpenAI

คำมั่นสัญญาที่ประกาศออกมาลงรายละเอียดพอสมควร ได้แก่

• ด้านความปลอดภัย: ระหว่างการพัฒนาต้องมีทีมทดสอบ (red team) ทดสอบความเสี่ยงด้านต่างๆ เช่น การเปิดทางให้คนร้ายเข้าถึงอาวุธเคมีได้ง่ายขึ้น, แฮกเกอร์สามารถเข้าถึงเทคนิคการแฮก, หรือแม้แต่ความเสี่ยงที่ตัวโมเดลปัญญาประดิษฐ์จะโคลนตัวเองไปรันที่อื่น
• ด้านความมั่นคงปลอดภัย: มีการควบคุมโมเดลที่พัฒนาเป็นการภายใน (ที่อาจจะไม่ได้จูนให้ทำงานอย่างปลอดภัย) ไม่ให้หลุดออกมาภายนอก สนับสนุนให้มีการรายงานจุดอ่อนของโมเดลที่เปิดให้ใช้งาน
• ด้านความน่าเชื่อถือ: พัฒนาแนวทางที่ทำให้ผู้ใช้รู้ได้ง่ายว่าเนื้อหาที่กำลังดูอยู่นั้นสร้างโดยปัญญาประดิษฐ์, รายงานความสามารถของโมเดลและข้อจำกัดต่างๆ

แนวทางเช่นนี้เป็นก้าวแรกของการวางแนวทางควบคุมการพัฒนาปัญญาประดิษฐ์ แม้จะไม่ใช่กฎหมายบังคับ โดยแนวทางต่อไปของรัฐบาลไบเดนจะบังคับใช้นโยบายควบคุมการพัฒนาปัญญาประดิษฐ์ผ่านทางนโยบายของสำนักงบประมาณ ซึ่งสามารถควบคุมการให้ทุนหรือการจัดซื้อของรัฐบาลกลางสหรัฐฯ ได้และอยู่ในอำนาจของฝ่ายบริหาร

ที่มา - Whitehouse.gov