続・オヒ!の殿堂3(番外編)

藤堂俊介がこっそり書くブログのようなもの

令和3年5月25日

令和3年5月25日
天気予報どおり黄砂が飛来した。視程がかなり落ちている。

5-4.9-0.1=?

5-4.9-0.1=?


 非常に簡単な計算です。答えは0になります。それがどうしたという計算です。電卓アプリの一部、MS-Excelこの計算をさせるとどうでしょうか。



 0にならないんです。-0と表示されるアプリもあります。お手元の電卓で試してみてください答え一発

0になります。0以外が表示されたアプリか表計算は、故障ではありません。誤差の処理の問題です。



 コンピュータが詳しい人は理由はすぐにわかると思います。
 市販の電卓は、このような誤差が生じません。

令和3年5月24日


令和3年5月24日
雨の朝。天気予報によれば、今日と明日は晴れの予報となっている。