続・オヒ!の殿堂3(番外編)

藤堂俊介がこっそり書くブログのようなもの

5-4.9-0.1=?

5-4.9-0.1=?


 非常に簡単な計算です。答えは0になります。それがどうしたという計算です。電卓アプリの一部、MS-Excelこの計算をさせるとどうでしょうか。



 0にならないんです。-0と表示されるアプリもあります。お手元の電卓で試してみてください答え一発

0になります。0以外が表示されたアプリか表計算は、故障ではありません。誤差の処理の問題です。



 コンピュータが詳しい人は理由はすぐにわかると思います。
 市販の電卓は、このような誤差が生じません。