Adam Mosseiri หัวหน้า Instagram เขียนบทความลงใน Telegraph ระบุว่า Instagram ยังต้องลงมือทำอีกมากในการป้องกันผู้ใช้จากคอนเทนต์อันตราย และยังทำได้ไม่ดีพอในการตรวจจับรูปภาพวัยรุ่นที่ทำร้ายตัวเองและรูปภาพที่ส่อถึงพฤติกรรมฆ่าตัวตาย

ย้อนกลับไปยังปี 2017 ที่ Molly Russell วัย 14 ฆ่าตัวตายด้วยภาวะซึมเศร้า หลังจากนั้นมีการสืบสวนพบว่า Russell ติดตามคนใน Instagram ที่โพสต์รูปทำร้ายร่างกายตัวเองเยอะมาก และรูปภาพเหล่านี้ก็แพร่หลายมากใน Instagram และเมื่อสืบสวนลึกลงไปอีกก็พบว่าแอคเคาท์เหล่านี้มีพฤติกรรมกระตุ้นให้ผู้ใช้รายอื่นโดยเฉพาะเยาวชนทำร้ายตัวเองตาม นอกจากนี้ยังพบบัญชีผู้ใช้ที่มีพฤติกรรมลักษณะนี้ใน Pinterest ด้วย

Mosseiri บอกว่าแพลตฟอร์มพึ่งพาการรีพอร์ตจากผู้ใช้งานด้วยกันเองมากเกินไป และสิ่งสำคัญเลยคือ Instagram กว่าจะเจอรูปภาพพวกนี้ ก็ไม่ทันเพราะรูปออกไปสู่สายตาคนเป็นจำนวนมากแล้ว ทางแก้ปัญหาในเบื้องต้นคือ ฝึกคนให้ตรวจจับรูปภาพลักษณะนี้โดยเฉพาะ ใช้ระบบกรองรูปภาพแบบ sensitivity screens เพื่อลดจำนวนคนที่จะเห็นรูปนี้ และการเข้าไปพูดคุยกับผู้ใช้งานที่มีพฤติกรรมอยากฆ่าตัวตายหรือทำร้ายตัวเอง

เมื่อปลายเดือนมกราคมที่ผ่านมา Matt Hancock รัฐมนตรีกระทรวงสาธารณสุขอังกฤษ ออกมาเตือนโซเชียลมีเดียว่าถ้ายังล้มเหลวเรื่องการจัดการคอนเทนต์รุนแรง จะใช้กฎหมายเข้าจัดการ โดยเขายกเหตุการณ์ Molly Russell มาเป็นกรณีตัวอย่างด้วย

ภาพจาก Shutterstock

ที่มา - Fortune, The Guardian