2005年7月8日(金)

実数の限界

python で、何気なく exp(3000) とか書いていて、 overflow していて悩む。
exp(709) が 10^307 のオーダーで、これを超えると python の実数が double の精度しかないので溢れるという。
え〜、別に天文学的に困難な計算をやろうってんじゃ無くて、単に micro sec なところに指数関数で fit かけたいだけだったんですが・・・


python は、パッケージが充実しているし、割と簡単な表記ができるといって海外の研究者はよく使って、それに合わせてお前らも使いやがれって目にあうんだが、いざ使ってみると思いのほか不自由なんだよね

[referer: [an error occurred while processing this directive]]

あわせて読みたい