1.048576×1.048576÷1.048576=を電卓で計算する。
除算と乗算の計算。例えば、1÷65536×65536の計算では?
CASIOと他社では端数処理の違いでこのようになります。
では、小数点を伴う、乗算のあとの除算を計算してみましょう。
(問)1.048576×1.048576÷1.048576=
12桁電卓の場合。
8桁電卓の場合
1.048576×1.048576÷1.048576=は、1.048576になります。ただし、この場合、1.048576どおしを掛け合わせた答え、1.099511627776のうち、8~12桁電卓の表示桁からはみ出た部分は切り捨てられます。
12桁電卓
8桁電卓
表示されている数値から除算していることから、誤差が生じます。




