2006-03-06 はてなグラフの計算誤差 はてな データとして、1月1日に0.01、1月2日に0.02、……1月30日に0.3 を入力。 をプロットした。 丸め誤差が 10-16程度なので、倍精度を使っているようだ。