บริษัทเทคโนโลยีรายใหญ่หลายแห่ง ประกาศร่วมกันจัดตั้งกลุ่มด้านความปลอดภัยของ AI (Coalition for Secure AI - CoSAI) มีเป้าหมายเพื่อออกแบบแนวทางและเครื่องมือ สำหรับการพัฒนาปัญญาประดิษฐ์ที่มีความปลอดภัยตั้งแต่ขั้นตอนออกแบบ ในแบบโอเพนซอร์ส เพื่อให้ปัญญาประดิษฐ์ปลอดภัยและน่าเชื่อถือ

CoSAI จะออกแบบแนวทางตั้งแต่การเริ่มสร้าง พัฒนา และดีพลอยระบบที่เกี่ยวกับปัญญาประดิษฐ์ เน้นไปที่การลดความเสี่ยงจากเหตุการณ์ที่เป็นภัยเช่น การเจาะโมเดล, การวางยาข้อมูลให้โมเดล, หรือการยิง Prompt เพื่อก่อกวนระบบ โดยต้องการเผยแพร่ตัววัดผลประเมินความปลอดภัยของในความเสี่ยงด้านต่าง ๆ

บริษัทเทคโนโลยีที่ร่วมก่อตั้ง CoSAI ในช่วงแรกนี้ประกอบด้วย Google, IBM, Intel, Microsoft, NVIDIA, PayPal, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI และ Wiz

ที่มา: OASIS