ムラゴン ホーム
1.048576×1.048576÷1.048576=を電卓で計算する。
除算と乗算の計算。例えば、１÷６５５３６×６５５３６の計算では？
CASIOと他社では端数処理の違いでこのようになります。
では、小数点を伴う、乗算のあとの除算を計算してみましょう。
（問）1.048576×1.048576÷1.048576=
１２桁電卓の場合。
８桁電卓の場合
1.048576×1.048576÷1.048576=は、1.048576になります。ただし、この場合、1.048576どおしを掛け合わせた答え、1.099511627776のうち、８～１２桁電卓の表示桁からはみ出た部分は切り捨てられます。
１２桁電卓
８桁電卓
表示されている数値から除算していることから、誤差が生じます。