GC日記

できあがった冊子を拝見して,
自分の原稿にミスを発見してしまいました。

(1) p.104 16行め
(√2 = 1.1414 + a とおくと)
1.1414^2 = (√2 - a)^2 = 2 - 2√2 a + a^2 < √2
となっていますが, これは
1.1414^2 = (√2 - a)^2 = 2 - 2√2 a + a^2 < 2
です。また不等号が当たり前と実感するには
= 2 -a ( 2√2 -a)
と変形しておく方がいいのかもしれません。

(2) 17行め
電卓は末尾を切り捨てる。... エクセルは末尾の一つ下の桁を四捨五入する。

これは, 正しくは

電卓は末尾以下の数値は切り捨てる。

ということです。
具体的にはたとえば
x = 1.23456789
という数値が内部で計算されているとすると, 表示において

電卓 : 1.2345678
エクセル : 1.2345679

となるということです。

と書きながら, 手元に電卓がないので, 本当にそうか, ちょっと心配になってきました。

切り捨てか四捨五入なのかを確かめる実験

そこで, 確かめる実験を次のように用意してみました。

最も簡単な方法は,
1/6 = 1.66666666
なのか
1/6 = 1.66666667
なのかというのが, 一つの方法ですが, これではあまり芸がない。見えている数値のみで計算していると思っていいのか, 内部では少し工夫しているのかがわかりません。
そこで, 切り捨てと四捨五入なのかを実感できるはずのものとして,


ことを提案してみようと思います。

(いつも1) : 内部で計算の工夫をしている
Excel はこの形

(いつも1以下) : 内部では切り捨ての計算

(1以上もありうる) : 内部では四捨五入

これを確かめる Excel でのファイルは，<リンク: http://iijima.auemath.aichi-edu.ac.jp/sw/pukiwiki.php?meijitosho-200907>こちらに置いておきます。

さて, みなさんの電卓では, どういう計算になっているのか, 確かめてみてください。