irb(main):001:0> 1.005 - 1.000 => 0.00499999999999989
มันเรียกว่าเป็น bug หรือเปล่า จำได้ว่าเป็นมานานแล้ว เวลาลบพวกจุดทศนิยมมันผิด เคยเจอกันมั่งไหมครับ
จุดทศนิยม ใช้ได้ 2 type คือ decimal กะ fp
ถ้าต้องการผลเป้ะๆ อย่างเช่นเรื่องเงินๆ ทองๆ ควรใช้ decimal .. ไม่ควรใช้ floating point
ปรกติครับ เป็นข้อจำกัดของระบบคอมพิวเตอร์แบบฐานสอง (คอมพิวเตอร์แทบทั้งโลกเป็นระบบฐานสอง)
ถ้าไม่เข้าใจเรืองนี้ แนะนำให้อ่านเพิ่มเติม มาตรฐาน IEEE 754-2008 ครับ แต่โดยสรุปแล้ว เวลาที่เราประกาศตัวเลขทศนิยมในภาษาใดๆ ตัวเลขนั้นมักถูกเก็บเป็น Single Precision หรือ Double Precision เพื่อความเร็ว และการประหยัดหน่วยความจำ
ในยุคหลังๆ แทบทุกภาษาจะแก้ปัญหานี้ไปแล้วด้วยการใช้โมดูล หรือตัวแปรชนิด Decimal (เลขฐานสิบ) ก็ต้องตามหากันเองว่าใช้ภาษาไหนอยู่และจะแก้อย่างไรครับ แต่การใช้เลขฐานสิบก็มักจะช้าและกินหน่วยความจำเยอะไปเป็นเงาตามตัว
lewcpe.com, @wasonliw
กรณีเป็นเป็นปัญหาการปัดเศษครับ (Rounding) คอมพิวเตอร์ปกติแทน (represent) จำนวนจริงด้วยค่าในคอมพิวเตอร์ แต่ด้วยข้อจำกัด ทำให้สามารถเก็บจำนวนหลักได้จำกัด เมื่อคำนวณโดยเฉพาะคูณหรือหาร ก็เห็นมีปัญหาเรื่องการปัดเศษได้อย่างชัดเจน ซึ่งหลายกรณีทำให้ขัดกับสามัญสำนึกทั่วไป
ถ้านึกไม่ออก ลองสมมตว่าคำนวณเลขแบบ 1/7 * 7 ในเลขฐานสิบนี่แหล่ะ ไม่ต้องฐานสอง แต่ระบบเราจำกัด เป็นระบบ 5 digit เก็บเลขทศนิยมได้ 5 ตำแหน่ง
1/7 ในระบบเราจะเก็บ 0.14286 (ปัดจาก 0.14285 7 142857 142857 142857 142857 ... ) พอเอาเลขข้างบน 0.14286 เอามาคูณ 7 ก็จะได้ 1.00002
เห็นม๊ะ ผิดแล้ว
ส่วนแล้ว 0.005 นี่มันอย่างไร ในคอมพิวเตอร์ 0.005 น่าจะไม่สามารถ represent ได้ตรงเป๊ะด้วย floating point นะสิครับ คล้ายๆกับที่เราไม่สามารถแสดงค่า 1/7 ในระบบฐานสิบได้อย่างแม่นยำ
เสริมว่าที่เจอ จะมีปัญหาปัดเศษทิ้งมากกว่า เพราะดันเอา floating point มาใช้ในการคำนวณ เช่น ระบบที่ว่า สมมติลูกค้ามีเงินฝาก 999.49 บาท พอฝากเงินอีก 99,000 บาท ระบบก็จะเจ๊ง (overflow) ไม่งั้นก็แสดงว่าคุณมีเงิน 99,999 แต่ปัดเศษ 49 สตางค์ทิ้งเฉยๆ ซึ่งเป็นเรื่องการเงินแล้ว ยอมรับกรณีแรกไม่ได้ (ระบบเจ๊ง) และกรณีที่สองไม่ได้ (ข้อมูลผิด)
ส่วนใหญ่ระบบปัจจุบันก็จะมีชนิดข้อมูลที่ซับซ้อนขึ้น เรียกว่า decimal เพื่อรองรับกรณีข้างบน แต่กรณี
ถ้าใช้ตัวแปรพวก Currency แทนจะมีอีกเคสที่เกี่ยวกับการปัดเศษทศนิยมครับ เรื่อง Banker Rounding ตอนที่เจอครั้งแรกนี่เล่นเอาผมงงไปเป็นวันเลยทีเดียว
0.5 ฐาน 10 เท่ากับ 0.1 ฐาน 2 ( 1 * 10^-1) แป๊ะ ๆ
แต่ 0.05 ฐาน 10 เท่ากับ
0.50 + 0.250 + 0.1250 + 0.06250 + 0.031251 + 0.0156251 + ... = 0.000011... ไม่เป๊ะ
จุดทศนิยม ใช้ได้ 2 type คือ decimal กะ fp
ถ้าต้องการผลเป้ะๆ อย่างเช่นเรื่องเงินๆ ทองๆ ควรใช้ decimal .. ไม่ควรใช้ floating point
ปรกติครับ เป็นข้อจำกัดของระบบคอมพิวเตอร์แบบฐานสอง (คอมพิวเตอร์แทบทั้งโลกเป็นระบบฐานสอง)
ถ้าไม่เข้าใจเรืองนี้ แนะนำให้อ่านเพิ่มเติม มาตรฐาน IEEE 754-2008 ครับ แต่โดยสรุปแล้ว เวลาที่เราประกาศตัวเลขทศนิยมในภาษาใดๆ ตัวเลขนั้นมักถูกเก็บเป็น Single Precision หรือ Double Precision เพื่อความเร็ว และการประหยัดหน่วยความจำ
ในยุคหลังๆ แทบทุกภาษาจะแก้ปัญหานี้ไปแล้วด้วยการใช้โมดูล หรือตัวแปรชนิด Decimal (เลขฐานสิบ) ก็ต้องตามหากันเองว่าใช้ภาษาไหนอยู่และจะแก้อย่างไรครับ แต่การใช้เลขฐานสิบก็มักจะช้าและกินหน่วยความจำเยอะไปเป็นเงาตามตัว
lewcpe.com, @wasonliw
กรณีเป็นเป็นปัญหาการปัดเศษครับ (Rounding)
คอมพิวเตอร์ปกติแทน (represent) จำนวนจริงด้วยค่าในคอมพิวเตอร์ แต่ด้วยข้อจำกัด ทำให้สามารถเก็บจำนวนหลักได้จำกัด เมื่อคำนวณโดยเฉพาะคูณหรือหาร ก็เห็นมีปัญหาเรื่องการปัดเศษได้อย่างชัดเจน ซึ่งหลายกรณีทำให้ขัดกับสามัญสำนึกทั่วไป
ถ้านึกไม่ออก ลองสมมตว่าคำนวณเลขแบบ 1/7 * 7 ในเลขฐานสิบนี่แหล่ะ ไม่ต้องฐานสอง
แต่ระบบเราจำกัด เป็นระบบ 5 digit เก็บเลขทศนิยมได้ 5 ตำแหน่ง
1/7 ในระบบเราจะเก็บ 0.14286 (ปัดจาก 0.14285 7 142857 142857 142857 142857 ... )
พอเอาเลขข้างบน 0.14286 เอามาคูณ 7 ก็จะได้ 1.00002
เห็นม๊ะ ผิดแล้ว
ส่วนแล้ว 0.005 นี่มันอย่างไร ในคอมพิวเตอร์ 0.005 น่าจะไม่สามารถ represent ได้ตรงเป๊ะด้วย floating point นะสิครับ คล้ายๆกับที่เราไม่สามารถแสดงค่า 1/7 ในระบบฐานสิบได้อย่างแม่นยำ
เสริมว่าที่เจอ จะมีปัญหาปัดเศษทิ้งมากกว่า เพราะดันเอา floating point มาใช้ในการคำนวณ เช่น ระบบที่ว่า สมมติลูกค้ามีเงินฝาก 999.49 บาท พอฝากเงินอีก 99,000 บาท ระบบก็จะเจ๊ง (overflow) ไม่งั้นก็แสดงว่าคุณมีเงิน 99,999 แต่ปัดเศษ 49 สตางค์ทิ้งเฉยๆ ซึ่งเป็นเรื่องการเงินแล้ว ยอมรับกรณีแรกไม่ได้ (ระบบเจ๊ง) และกรณีที่สองไม่ได้ (ข้อมูลผิด)
ส่วนใหญ่ระบบปัจจุบันก็จะมีชนิดข้อมูลที่ซับซ้อนขึ้น เรียกว่า decimal เพื่อรองรับกรณีข้างบน แต่กรณี
ถ้าใช้ตัวแปรพวก Currency แทนจะมีอีกเคสที่เกี่ยวกับการปัดเศษทศนิยมครับ เรื่อง Banker Rounding ตอนที่เจอครั้งแรกนี่เล่นเอาผมงงไปเป็นวันเลยทีเดียว
0.5 ฐาน 10 เท่ากับ 0.1 ฐาน 2 ( 1 * 10^-1) แป๊ะ ๆ
แต่ 0.05 ฐาน 10 เท่ากับ
0.50 + 0.250 + 0.1250 + 0.06250 + 0.031251 + 0.0156251 + ...
= 0.000011... ไม่เป๊ะ