忍者ブログ

room 42

プロフィール

HN:
ゆ~たろ
HP:
性別:
男性

カレンダー

04 2024/05 06
1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31

アーカイブ

バーコード

フリーエリア

オーバーリミット

2015/06/07 22:22
某作品の某バグに遭遇、そのついでにウディタのオーバーフロー対策について調べてみた。

ウディタの変数で取り扱うことができる範囲は±2147483648(符号付32bit変数の限界)まで。
答えがこの範囲を超える計算結果が出たとき、
「コモンイベントの変数で」「実数計算・データを呼ばないにチェックを入れていないとき」オーバーフローする。
この場合、計算結果はマイナスになったり滅茶苦茶な数字になります。

ただし、上記鍵括弧の条件、つまりイベントの変数や実数計算・データを呼ばないにチェックを入れておくと
結果は±20億に収まります。
また、当然ですが「結果を±999999に収める」にチェックを入れると±999999に収まる、はず。

……このようなことをtwitterにて呟いたところ。
要するに計算結果が308桁を越えない限り大丈夫なんじゃないのか、とのこと。
前述の通り、変数の有効範囲は20億が限界なんだし、308桁なんて結果になることはまずないと思いますが。
というかウディタじゃなくても308桁の計算なんてしないか

……誰か、308桁の数が出るゲームを作ってみないか?


HPの方も出来れば思い出してください。

拍手[0回]

PR

コメント

ブログ内検索

イラストチャレンジ!

達成進捗:30P/20P
イラスト:17枚
AIイラスト:17枚
動画:0本
最終更新:2024/04/01
参考→ゲーム制作再開条件緩和のお知らせ
現在、イラスト練習のためゲーム制作を休止しています再開しました。
目標ラインとしては、pixivで10いいね・10ブクマ達成した作品を20枚程度出したら復帰する予定です。
pixivユーザーページ→

最新のコメント

[04/23 ゆ~たろ]
[04/12 掲載拒否についてですが]
[04/11 ゆ~たろ]
[04/11 掲載拒否についてですが]
[04/07 いや]

最新TB

忍者アナライズ