忍者ブログ

room 42

プロフィール

HN:
ゆ~たろ
HP:
性別:
男性

カレンダー

09 2026/10 11
日 月 火 水 木 金 土
1 2 3
4 5 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 24
25 26 27 28 29 30 31

アーカイブ

バーコード

フリーエリア

オーバーリミット

2015/06/07 22:22
某作品の某バグに遭遇、そのついでにウディタのオーバーフロー対策について調べてみた。

ウディタの変数で取り扱うことができる範囲は±2147483648(符号付32bit変数の限界)まで。
答えがこの範囲を超える計算結果が出たとき、
「コモンイベントの変数で」「実数計算・データを呼ばないにチェックを入れていないとき」オーバーフローする。
この場合、計算結果はマイナスになったり滅茶苦茶な数字になります。

ただし、上記鍵括弧の条件、つまりイベントの変数や実数計算・データを呼ばないにチェックを入れておくと
結果は±20億に収まります。
また、当然ですが「結果を±999999に収める」にチェックを入れると±999999に収まる、はず。

……このようなことをtwitterにて呟いたところ。
要するに計算結果が308桁を越えない限り大丈夫なんじゃないのか、とのこと。
前述の通り、変数の有効範囲は20億が限界なんだし、308桁なんて結果になることはまずないと思いますが。
というかウディタじゃなくても308桁の計算なんてしないか。

……誰か、308桁の数が出るゲームを作ってみないか?


HPの方も出来れば思い出してください。

拍手[0回]

PR

コメント

ブログ内検索

最新のコメント

[10/05 ai essay rewriter]
[10/05 plinko clicker game]
[05/20 ま]
[04/23 ゆ~たろ]
[04/12 掲載拒否についてですが]

最新TB

忍者アナライズ