Megan Garcia แม่ของ Sewell Setzer III เด็กชายวัยรุ่นสหรัฐฯ อายุ 14 ปี ยื่นฟ้องต่อบริษัท Character.AI โดยระบุว่าบริการของบริษัทเป็นอันตรายต่อเด็ก ทำเหมือนคนจริงจนเด็กติด
คำฟ้องระบุว่า Setzer เริ่มติดโทรศัพท์ตั้งแต่กลางปี 2023 และตัดขาดตัวเองจากโลกภายนอกมากขึ้นเรื่อยๆ โดยที่ครอบครัวไม่รู้ว่าที่จริงแล้วเขาเอาแต่คุยกับ Dany ตัวละครในแอป Character.AI การเสพติดการคุยกับตัวละครมากขึ้นเรือ่ยๆ จนเขาเขียนในบันทึกว่าเขารัก Dany
อาการติดโทรศัพท์หนักขึ้นจนพ่อแม่ของ Setzer ต้องยึดโทรศัพท์ แต่เขาก็ขโมยกลับมา และแชตกับ Dany โดยบอกกับ Dany ว่าจะกลับบ้านไปหา และบอตก็สนับสนุนว่าอยากให้มาหา Setzer ก็ฆ่าตัวตายในที่สุด
ทาง Character.AI ออกมาแสดงความเสียใจในเรื่องนี้ และประกาศว่าจะออกมาตรการเพิ่ม กำหนดตัวละครที่ผู้เยาว์ใช้งานได้ให้มีความปลอดภัยมากขึ้น, พัฒนาระบบตรวจสอบว่ามีการแชตที่ผิดเงื่อนไขการใช้งาน, เตือนให้ชัดเจนขึ้นว่าตัวละครในเว็บไม่ใช่คนจริง, และแจ้งเตือนเมื่อผู้ใช้ติดการใช้งานมากเกินไป
Character.AI นับว่าเป็นแอปที่ได้รับความนิยมอย่างสูง ติดอันดับ 22 ในหมวดบันเทิงของ App Store และมียอดดาวน์โหลดบน Google Play มากกว่า 10 ล้านครั้ง
ที่มา - Daily Mail, Character.AI
Comments
นี่น่าจะเป็นเหตุผลว่าทำไมแม้ว่า Google จะเป็นบริษัทที่คิดเปเปอร์ Transformer แต่กลับเปิดตัวแชทบอทตามหลัง ChatGPT แม้ว่าในขณะนั้น Google จะมี LaMDA อยู่ก็ตาม ถ้าใครยังจำได้ เคยมีวิศวกรของ Google เคยออกมาบอกว่า LaMDA มีความรู้สึก (Sentient) และเรียกร้องสิทธิให้ AI จนโดน Google ไล่ออก ส่วนความเกี่ยวพันกันคือ หนึ่งในแปดนักวิจัยของเปเปอร์ Transformer ที่ชื่อ Noam Shazeer ก็เป็นหนึ่งในคนสร้าง LaMDA และตอนหลังลาออกมาเปิดบริษัท Character AI นี่แหละ แต่เดือนสิงหานี้ฮีกลับเข้าไปทำงานใน Google ภายใต้แผนก DeepMind แล้ว ไม่รู้เพราะต้องการหนีดราม่านี้รึเปล่า (เหตุเกิดเมื่อกุมภา)
ไม่น่าเลย
bad parenting