続・オヒ!の殿堂3(番外編)

藤堂俊介がこっそり書くブログのようなもの

時間計算の応用


 一般電卓についている時間計算は、時分秒、つまり60の2乗分の1、3600分の1まで計算までできる。関数電卓の中には100分の1秒まで計算できる。


 時未満(1未満)をそれぞれ60進数にし、60の4乗まで拡げて近似値を求めたものを貼っている。



 円周率の近似値は、12,960,000分の40,745,041。これで小数点以下第7位までは正確に出ている。
 ルート2は、12,960,000分の18,327,013。これも小数点以下第7位までは正確に出ている。