続・オヒ!の殿堂3(番外編)

藤堂俊介がこっそり書くブログのようなもの

【CASIO】一般電卓内部演算仕様

1未満どうしの乗算
 12桁の電卓にて次の計算をしてみましょう。
0.888888×0.999999=


答えの表示は、0.88888711111になります。


 それでは一端ACを押し、
0.888888×0.999999×10=と操作してみましょう。


 CASIO一般電卓ではこのようになります。
 8.88887111112


 CASIO以外の一般電卓で同じ計算をしてみましょう。このようになっています。
 8.8888711111


 これは電卓の仕様で、説明書にも触れられていないと思われます。


 CASIO一般電卓の場合、このように計算すると、CASIO以外と同じ結果になります。
0.888888×0.999999=×10=


この例題0.888888×0.999999=0.888887111112
 になります。CASIO一般電卓は、内部演算で、0.888887111112の値を保持しています。

 この内部数値は、=もしくはメモリを押すと電卓表示からはみ出た数値が切捨てられます。