room 42
sinusoidal waveの管理人・製作担当のブログ。10年絵を描き続けてそれなりに上達したものの、まだまだ物足りない。
恐らく実数計算は、内部でint型をfloatかdouble型にキャストして、計算結果を再度intにキャストしてるような気がする。 なので、計算途中で内部が1.797693*10^308を超えればdouble型でも収まらないから正確な結果が出ない…はず… — toh (@toh_csecb) 2015, 6月 7
恐らく実数計算は、内部でint型をfloatかdouble型にキャストして、計算結果を再度intにキャストしてるような気がする。 なので、計算途中で内部が1.797693*10^308を超えればdouble型でも収まらないから正確な結果が出ない…はず…
[0回]