By: sunnywalker 
on 25 May 2018 - 17:06
Tags:
Topics:
มีเหตุเรื่องข้อมูลส่วนตัวอีกครั้ง คราวนี้เป็น Amazon Echo Dot เว็บไซต์ KIRO-7 รายงานว่า Amazon Echo Dot บันทึกเสียงการสนทนาของผู้ใช้งานรายหนึ่งคือ Danielle และสามีของเธอ และส่งข้อมูลเสียงไปยังโทรศัพท์ของเพื่อนร่วมงานของสามี โดยเป็นเบอร์โทรศัพท์ที่อยู่ในลิสต์รายชื่อผู้ติดต่อ
คนที่รับข้อมูลโทรมาบอก Danielle ว่า ถอดปลั๊กอุปกรณ์ Alexa เดี๋ยวนี้ เพราะคุณกำลังโดนแฮก ซึ่งคนที่แจ้งข่าวก็ส่งข้อความเสียงสนทนาที่เขาได้รับกลับมาให้ Danielle ฟัง ปรากฏว่าเป็นเสียงสนทนาระหว่างเธอและสามีจริงๆ
Danielle แจ้งเรื่องนี้ไปยัง Amazon วิศวกรรับทราบเรื่องและกำลังสอบสวน และขอโทษขอโพยยกใหญ่ต่อความผิดพลาดครั้งนี้
Amazon ชี้แจงกับเว็บไซต์ Ars Technica ว่า นี่เป็นความผิดพลาดที่มีโอกาสเกิดขึ้นยากมาก ซึ่งปกติ Echo จะเริ่มการทำงานเมื่อได้ยินเสียงเรียก Alexa จากนั้นการสนทนาในเวลาต่อมาก็ถูกได้ยินว่าเป็น "ส่งข้อความ" ถึงจุดนี้ Alexa จะถามว่า ส่งให้ใคร และเมื่อถึงจุดนั้นบทสนทนาเบื้องหลังจะถูกตีความว่าเป็นชื่อในรายชื่อผู้ติดต่อของผู้ใช้ และครั้งนี้ก็ไม่ได้บอกรายละเอียดว่าความผิดพลาดเกิดขึ้นได้อย่างไร
ภาพจาก Shutterstoc โดย Zapp2Photo
ที่มา - KIRO-7 และ Ars Technica
Get latest news from Blognone
Follow @twitterapi
Comments
ปกติมันทุกคำสั่งที่ Echo ตีความมันจะไปโผล่ใน Alexa app ถ้ามีลงไว้น่าจะไปดูย้อนหลังได้ว่าเป็นตามที่ Amazon ว่าจริงรึเปล่า
xdb9 => ปกติ
Coder | Designer | Thinker | Blogger
ขอบคุณค่ะ
Skynet!
สรุปคือ AI ตีความผิด ตั้งแต่ลอง Train AI มา ลอง 10 ครั้งจะมีสัก 1 ครั้งที่ตีความผิด ต้องไปปรับ Keyword เพิ่ม เพราะบางทีมันมีบางประโยค ไปคล้ายกับคำสั่งอื่น ยิ่งสั่งด้วยเสียงต้องผ่าน AI อย่างน้อย 2 ชั้นมีโอกาสพลาดได้
น่ากลัวต่อเนื่อง
มีความลักลั่นย้อนแย้งที่
ไม่รู้ว่ารูปประโยคชี้นำความตั้งใจให้ส่งข้อความ ในลำดับที่พอเหมาะพอเจาะพอดีกัน
เช่นบทสนทนา มีคำที่เป็นลำดับว่า ส่งข้อความ -> ไปหา -> เบอร์ -> ด้วยนะ
แล้วจากบทสนทนา กลายเป็นการบันทึกไปโดยปริยาย
แต่การใช้สมาร์ทดีไวซ์ทั้งหลายนี้มันก็เหมือนเปิดประตูให้เค้าฟัง+ตีความทุกอย่างอยู่แล้วนะ
ถ้าตีความแล้วได้คำสั่งมันก็ต้องทำ และเราก็คงต้องระวังไม่ให้นำตัวเองไปสู่บทสนทนานั้นเองอยู่ดี เพราะการใช้งานแบบ Personal Assistant บางอย่างเราน่าจะมีความปราถนาให้ระบบ รู้เรื่องและจัดการได้โดยไม่ต้องถามย้ำคิดย้ำทำ
ผมว่าประเด็นที่อาจจะพลาดหรือขาดไปคือ Audible Alert ว่ากำลังทำอะไรอยู่ หรือเครื่องกำลังจะทำอะไร
ในอีกมุม บทสนทนาที่ได้รับก็เปิดเผยเพื่อความบริสุทธิ์ของเครื่องไม่ได้ เพราะเป็น Privacy ของผู้ใช้ซะงั้นไป
เพราะในคำโฆษณาและวิธีการใข้งานไม่ได้บอกว่า "หากคุณคุยเล่นๆมันก็จะตีความเป็นคำสั่ง" มั้งครับ มีแต่บอกว่าฉลาดแบนั่นแบบนี้ ทำตามได้ทุกคำสั่ง(ก็จริงของเค้านะ) ผมเดานะครับเพราะไม่ได้ใช้งาน
ดังผมก็คิดว่าเรื่องพวกนี้ผู้ผลิตต้องรับผิดชอบ และหาทางป้องกัน
มันมีเส้นแบ่งระหว่างความสะดวกตรงนี้แหละครับ
กับอุปกรณ์ที่ฟังด้วยหูตลอดเวลา มันไม่มี Face Recognition ที่บอกว่าคำพูดนี้เราตั้งใจคุยกับ Alexa โดยตรง (หรือแค่ Mention ถึง)
จริงๆคิดซะว่ามันคือคนตาบอดที่ทำงานได้ทุกอย่างก็ได้ เราอาจจะต้องสั่งด้วยคำสั่งที่ชัด(เคลียร์ในวัตถุประสงค์) และกระชับกว่านี้
---- แต่ก็ใช่แหล่ะว่าต้องแก้ไข และรับผิดชอบประมาณนึง
แต่เอาจริงๆเราควรมี Awareness ในระดับที่ว่า มี "อีกหนึ่งคน" อยู่ในระยะการสนทนานะ 555