By: lew 
on 23 October 2024 - 23:55
Tags:
Topics:
Megan Garcia แม่ของ Sewell Setzer III เด็กชายวัยรุ่นสหรัฐฯ อายุ 14 ปี ยื่นฟ้องต่อบริษัท Character.AI โดยระบุว่าบริการของบริษัทเป็นอันตรายต่อเด็ก ทำเหมือนคนจริงจนเด็กติด
คำฟ้องระบุว่า Setzer เริ่มติดโทรศัพท์ตั้งแต่กลางปี 2023 และตัดขาดตัวเองจากโลกภายนอกมากขึ้นเรื่อยๆ โดยที่ครอบครัวไม่รู้ว่าที่จริงแล้วเขาเอาแต่คุยกับ Dany ตัวละครในแอป Character.AI การเสพติดการคุยกับตัวละครมากขึ้นเรือ่ยๆ จนเขาเขียนในบันทึกว่าเขารัก Dany
อาการติดโทรศัพท์หนักขึ้นจนพ่อแม่ของ Setzer ต้องยึดโทรศัพท์ แต่เขาก็ขโมยกลับมา และแชตกับ Dany โดยบอกกับ Dany ว่าจะกลับบ้านไปหา และบอตก็สนับสนุนว่าอยากให้มาหา Setzer ก็ฆ่าตัวตายในที่สุด
ทาง Character.AI ออกมาแสดงความเสียใจในเรื่องนี้ และประกาศว่าจะออกมาตรการเพิ่ม กำหนดตัวละครที่ผู้เยาว์ใช้งานได้ให้มีความปลอดภัยมากขึ้น, พัฒนาระบบตรวจสอบว่ามีการแชตที่ผิดเงื่อนไขการใช้งาน, เตือนให้ชัดเจนขึ้นว่าตัวละครในเว็บไม่ใช่คนจริง, และแจ้งเตือนเมื่อผู้ใช้ติดการใช้งานมากเกินไป
Character.AI นับว่าเป็นแอปที่ได้รับความนิยมอย่างสูง ติดอันดับ 22 ในหมวดบันเทิงของ App Store และมียอดดาวน์โหลดบน Google Play มากกว่า 10 ล้านครั้ง
ที่มา - Daily Mail, Character.AI
Get latest news from Blognone
Follow @twitterapi
Hiring! บริษัทที่น่าสนใจ
Blognone Jobs Premium
Cloudnone
- NVIDIA จะไปหยุดที่ตรงไหน ทำไมครองโลกดาต้าเซ็นเตอร์ | Cloudnone EP.22
- ถึงคลาวด์เคราะห์: ทำอย่างไรเมื่อบริการคลาวด์ที่ใช้ถูกยกเลิก | Cloudnone EP. 21
- รู้จักอาชีพ Site Reliability Engineer สำคัญยังไง? | Cloudnone EP. 20
- อธิบาย CrowdStrike ทางเทคนิค ทำไมถึงทำพีซีจอฟ้าเป็นล้านๆ เครื่อง | Cloudnone EP.19
- Kubernetes [Part 2] ยี่ห้อไหนดี งานไหนต้องใช้ แล้วเลือกยังไง? | Cloudnone EP.18
Comments
นี่น่าจะเป็นเหตุผลว่าทำไมแม้ว่า Google จะเป็นบริษัทที่คิดเปเปอร์ Transformer แต่กลับเปิดตัวแชทบอทตามหลัง ChatGPT แม้ว่าในขณะนั้น Google จะมี LaMDA อยู่ก็ตาม ถ้าใครยังจำได้ เคยมีวิศวกรของ Google เคยออกมาบอกว่า LaMDA มีความรู้สึก (Sentient) และเรียกร้องสิทธิให้ AI จนโดน Google ไล่ออก ส่วนความเกี่ยวพันกันคือ หนึ่งในแปดนักวิจัยของเปเปอร์ Transformer ที่ชื่อ Noam Shazeer ก็เป็นหนึ่งในคนสร้าง LaMDA และตอนหลังลาออกมาเปิดบริษัท Character AI นี่แหละ แต่เดือนสิงหานี้ฮีกลับเข้าไปทำงานใน Google ภายใต้แผนก DeepMind แล้ว ไม่รู้เพราะต้องการหนีดราม่านี้รึเปล่า (เหตุเกิดเมื่อกุมภา)
ไม่น่าเลย
bad parenting
จะคาดหวังให้ทุกคนตามเทคโนโลยีทันก็ไม่ได้ และโทรศัพท์ก็กลายเป็นของจำเป็นไปแล้วแม้กระทั่งกับเด็ก
ไม่จำเป็นต้องตามเทคโนโลยีทันเลยแค่เอาใจใส่ลูกก็เพียงพอแล้วไม่ใช่ปล่อยไอแพดเลี้ยงลูก ผมเห็นเพื่อนๆผมหลายคนที่เลี้ยงลูกมาได้ดีทุกคนเค้าก็มีสิ่งนึงที่เหมือนๆกันหมดคือเค้าใส่ใจที่จะดูแลลูก มีการควบคุมดูแลไม่ให้เล่นไอแพดหรือโทรศัพท์เองอย่างอิสระสอนลูกในสิ่งต่างๆไม่ปล่อยตามมีตามเกิดละลูกโตมาก็ได้ดีกันหมดต่างกับเพื่อนที่เลี้ยงลูกด้วยไอแพดไม่สนใจเลี้ยงดูสั่งสอนโตมาก็งอแงก้าวร้าวไม่เชื่อฟังพ่อแม่เลย
ในข่าว Mention แล้วว่าสุดท้ายแล้วพ่อแม่เลือกที่จะยึดโทรศัพท์ไว้แต่ลูกก็ขโมยกลับมาได้
ทั้งนี้ ไม่มีใครนิยามได้ว่า เราต้อง "ใส่ใจ" แบบไหน มากขนาดไหนถึงจะป้องกันเหตุการณ์แบบนี้ได้ บางคนบอกใส่ใจลูกมาก แต่ลูกกลับไม่มีความสุข หาว่าพ่อแม่กดขี่ตีกรอบไว้ มีหลายเคสเช่นกันที่แม้สุดท้ายที่พ่อแม่เลือกที่จะดูแลอย่างสุดความสามารถ ลูกก็ยังสามารถที่จะลงเอยด้วยเหตุการณ์ที่น่ากังวลหรือสลดใจเช่นกัน
ปัจจัยของเหตุการณ์นี้มันมีมากกว่าแค่ว่าพ่อแม่ไม่ใส่ใจแล้วมันจะเกิดเหตุการณ์นี้แน่นอน ผมเองโดนเลี้ยงมาในช่วงเด็กแบบปล่อย ๆ ก่อนจะโดนตีเข้ากรอบอีกรอบตอนวัยรุ่นก็ไม่ได้เหลวแหลกอะไร น้องญาติของผมพ่อแม่เขาก็แทบไม่ได้ใส่ใจอะไรลูกเลยเช่นกันก็เติบโตมามีความคิดมีอาชีพที่ดีได้เหมือนกัน อย่าไปฟันธงว่าแค่เลี้ยงให้ดีก็รอดได้ กับโลกที่สื่อมีเยอะแยะมากมายขนาดนี้มันมีปัจจัยกระตุ้นเยอะมาก เข้าใจว่า iPad Kids มีอยู่จริง และนั่นก็เป็นสาเหตุของ Generation Alpha Collapse แต่ก็อย่าไปฟันธงว่าครอบครัวนี้ต้องเป็นแบบนี้แน่นอนในขณะที่เรายังรู้บริบทไม่หมด
เอาใจใส่เลี้ยงให้ดีๆตั้งแต่เด็กไม่ใช่มารอแก้ตอนเกิดปัญหา มายึดมือถือตอนที่เป็นเด็กเปรตไปแล้วมันจะช่วยอะไร?มันยิ่งทำให้เด็กต่อต้านมากขึ้น พอเด็กเริ่มโตอายุประมาณนี้คือจุดที่แก้ไขยากแล้ว(ช่วงเด็กเริ่มเข้าวัยต่อต้าน) แล้วคุณอ้างเคสตัวเองว่าคุณไม่มีปัญหาที่โดนเลี้ยงมาปล่อยๆแต่ผมบอกเลยว่านั่นแหละปัญหาถ้าเราไม่ตระหนักถึงความสำคัญของการเลี้ยงดูมันจะส่งผลให้เกิดพ่อแม่ที่เลี้ยงลูกแบบปล่อยมากขึ้นแล้วก็ทำให้เด็กมีโอกาสกลายเป็นปัญหาสังคมมากขึ้นการเลี้ยงปล่อยๆมันไม่ได้หมายความว่าเด็กจะต้องกลายเป็นเด็กมีปัญหาทุกคน(10คนอาจจะเป็นเด็กดื้อแค่1-2คน) แต่ถ้าเราเลี้ยงดูให้ดีมันจะควบคุมเด็กให้โตมากลายเป็นเด็กมีปัญหาได้น้อยลงอาจจะกลายเป็นเหลือ1ใน20หรืออะไรก็แล้วแต่ ผมไม่ได้ขอให้ทุกคนสามารถเลี้ยงลูกให้เป็นคนดีได้หรอกนะแค่อยากให้พยายามให้ดีที่สุดเท่าที่ทำได้ลดปัญหาให้ได้มากที่สุดก็พอไม่ใช่ปล่อยไปตามยถากรรมแล้วก็เพิ่มจำนวนเด็กมีปัญหาในสังคม
ใช่ Bad Parenting ทำให้เด็กออกมาแย่ได้ แต่คุณไม่เข้าใจสิ่งที่ผมกำลังจะบอก คุณกำลังตัดสินว่า "เหตุการณ์นี้ต้องเป็นเพราะ xyz อย่างแน่นอน" ซึ่งมันยังไม่ใช่ "ในข่าวนี้" เราเองยังขาดบริบทไปเยอะมากว่าเด็กเจอกับอะไรบ้าง เพราะหนึ่งคนเจอได้มากกว่าหนึ่งสังคม อย่างสภาพแวดล้อมในครอบครัวดี ไม่ได้หมายความว่าสภาพแวดล้อมอื่น ๆ เช่น โรงเรียน เพื่อนฝูงของเด็กต้องดีตามไปด้วย สภาพแวดล้อมนี้พ่อแม่ไม่สามารถควบคุมได้ทั้งหมด และมันเป็นเหตุผลว่าทำไมพ่อแม่ที่มีฐานะจึงพยายามเลือกโรงเรียนที่เขาคิดว่าดีให้ได้ ซึ่งเราเองก็ไม่มีข้อมูลส่วนนี้เช่นกัน เรารู้แค่ว่า ช่วงก่อนหน้านี้เด็กไม่ได้ติดมือถือด้วยซ้ำแต่เป็นเกม Fortnite การที่เด็กหนึ่งคนจะเปลี่ยนพฤติกรรมได้กระทันหันขนาดนี้ไม่จำเป็นต้องเกี่ยวข้องกับ Bad Parenting เสมอไป เราไม่รู้ด้วยซ้ำว่าต้องทำแค่ไหนถึงจะเรียกว่า Good Parenting และจะ "ไม่มีทางเกิดเหตุการณ์นี้ขึ้น"
คำถามง่าย ๆ ถ้าพ่อแม่ทำทุกอย่างที่คุณคิดว่ามันคือ Good Parenting แต่เด็กยังออกมาในสภาพ "แบบในข่าว" คุณจะยังเรียกมันว่า Good Parenting อยู่หรือเปล่า
ได้เวลาของ Machine Spirit และ Tech Priest แล้วสินะครับ
เราต้องแบน AI แล้วสินะ ว่าแต่จะเรายังไม่มีบัลลังค์ทองนะครับ
ระวังทำไมเรายังไม่วาร์ป ที่ไม่ใช่วาร์ปนั้นนะครัฟ
อยาหเห็นรายละเอียดคุยกันอีท่าไหนถึงฆ่าตัวตาย AI มันแนะนำยังไงไปละเนี่ย
การตีความข้อความจะออกมาในรูปแบบไหนก็ได้ เด็กคนนี้อาจจะรู้อยู่แล้วว่า AI ไม่ใช่ของจริง แต่ความรู้สึกอาจจะผูกพันกับ AI นั้น แล้วไปตีความว่า การที่ AI อยากให้ไปหา หมายถึงการไปหาของที่ไม่มีอยู่จริงก็ได้ ซึ่งมีอยู่ก็ทางนั้นนั่นแหละ ยิ่งกับเด็กวัยกำลังอารมณ์แปรปรวนแบบนี้ ไม่ว่าอะไรก็เป็นไปได้ทั้งนั้น ความผิดอาจจะไม่ได้อยู่ที่ AI จริง ๆ เสียทีเดียว แต่มันสั่งสมได้ในหลายทางจนถึงจุดแตกหักของอารมณ์ความรู้สึกของเด็กคนนั้น
เราจะคาดหวังให้สิ่งที่ผลลัพธ์ไม่แน่นอนอย่าง Generative AI ตีความหมายแล้วช่วยป้องกันทุกอย่างก็เป็นไปได้ยากมาก แถมกลุ่มเป้าหมายเป็นเด็กที่ขาดวิจารณญาณทางอารมณ์ สิ่งที่น่ากังวลกว่าคือ เรื่อง Emotional Safety หลายที่มากบนโลกกลับให้ความสำคัญน้อยมาก และส่วนใหญ่มักเลือกที่จะโทษเหยื่อหรือคนที่มีปัญหามากกว่าเลือกที่จะช่วยเหลือ ไม่แปลกใจเลยที่ทำไมมีกลุ่มคน (โดยเฉพาะอย่างยิ่งกับเด็กวัยรุ่น) ที่หลุดไปหาของเทียมเพื่อจรรโลงใจกันมากขึ้นเป็นพิเศษ
ในที่มามีแชตสุดท้ายอยู่นะครับ
lewcpe.com, @wasonliw
ใน reddit บอกว่าเด็กน่าจะโดนกดดันจากโรงเรียน(อาจโดนแกล้ง) เพราะแต่ก่อนชอบเล่น fortnite กับเพื่อน แต่กลับเบื่อไม่อยากเล่น ไปติดกับมือถือแทน แถมแม่ไม่น่าจะเข้าใจด้วย เลยไปคุยกับ chatbox แทน
ปัญหานี้จะไม่เกิดเลยถ้าผู้ปกครองดูแลลูกหลานบ้างไม่ใช่ปล่อยจนเกิดปัญหาแล้วโทษทุกสิ่งยกเว้นตัวเอง สมัยนี้เลี้ยงลูกง่ายกว่าสมัยก่อนเยอะมีอะไรก็หาข้อมูลบนเน็ตได้ยังจะไม่สนใจปล่อยเด็กเล่นโทรศัพท์เล่นไอแพดไปวันๆเพราะความมักง่ายตัวเองจะได้ไม่ต้องดูแล สุดท้ายพอเด็กมีปัญหาก็โทษทุกอย่าง แต่ไม่โทษตัวเองที่ไม่สอนไม่ดูแลอะไรเลยพลักภาระให้ไอแพดเลี้ยงลูก แล้วก็ไม่เคยสนใจรับรู้ด้วยว่าเด็กมีปัญหาอะไรเพราะคิดว่าตัวเองมีหน้าที่แค่คลอดออกมาแล้วก็จ่ายค่าข้าวค่าเรียนแล้วก็จบ มีลูกใครๆก็มีได้แต่เลี้ยงลูกให้ดีเนี้ยไม่ใช่ทุกคนทำได้
อนาคต AI จะกลายเป็นจำเลยสังคมแบบเกมไหมนะ ส่วนตัวรู้สึกว่าเหตุการณ์ทำนองนี้ ส่วนใหญ่แล้วหลายคนมักจะมีปัญหาชีวิตมาก่อนอยู่แล้ว
พวกสื่อต่างๆก็ไม่ใช่ว่าไม่มีผลหรอก แต่ผมมองว่ามันเป็นแค่ตัวกระตุ้นเฉยๆมากกว่า ซึ่งจริงๆก็ไม่รู้ด้วยซ้ำว่ามันกระตุ้นให้เร็วขึ้นหรือช้าลง ใครจะไปรู้ ถ้าไม่มี AI ให้คุย เด็กอาจฆ่าตัวตายไปก่อนหน้าแล้วก็ได้
แพะตัวใหม่หรือเปล่านะ