お知らせ掲示板 | 質問掲示板 | 不具合報告掲示板 | 機能要望掲示板 | 雑談掲示板

  新規投稿 ┃全記事一覧 ┃検索 ┃設定 ┃サポートフォーラムトップ  
50 / 101 ツリー ←次へ | 前へ→

_「」表示か、FLTの演算がおかしい。 RFOX 2011/9/15(木) 7:56
Re:_「」表示か、FLTの演算がおかしい。 RFOX 2011/9/15(木) 8:00
Re:_「」表示か、FLTの演算がおかしい。 RFOX 2011/9/15(木) 8:10
Re:_「」表示か、FLTの演算がおかしい。 穂乃井 2011/10/21(金) 3:42
解決しました 穂乃井 2011/10/25(火) 18:52

_「」表示か、FLTの演算がおかしい。
 RFOX  - 2011/9/15(木) 7:56 -
  
10進数STR→FLTの変換を作成している最中に気付いたのですが、

S_FLT[@A= 12345678]
S_FLT[@B= 12345678]
s_FLT[@p=100000000]
S_FLT[@X=0]
@X=@A + @B / @p
_[@X]

とした時、
β3は「12345678.123457」となりますが、
β4は「12345678.000000」となります。
引用なし
パスワード

Re:_「」表示か、FLTの演算がおかしい。
 RFOX  - 2011/9/15(木) 8:00 -
  
S_FLT[@A= 123456]
S_FLT[@B= 123456]
s_FLT[@p=1000000]

とした時、
β4は「123456.125000」となります。
引用なし
パスワード

Re:_「」表示か、FLTの演算がおかしい。
 RFOX  - 2011/9/15(木) 8:10 -
  
挿入位置はstart.txtの「#SCENARIO_MAIN」と 「\SEL.GO(SAMPLE,〜」の間です。
引用なし
パスワード

Re:_「」表示か、FLTの演算がおかしい。
 穂乃井 WEB  - 2011/10/21(金) 3:42 -
  
レス遅くなり申し訳ないです。
症状のほう確認しました。確かにβ4.0以降で
FLTの精度が変わってしまっているようです。
この件は修正する予定ですが、この修正には
ちょっと時間かかるかもしれません。申し訳ないです。
引用なし
パスワード

解決しました
 穂乃井 WEB  - 2011/10/25(火) 18:52 -
  
FLTの精度が落ちる問題を解決できましたので、
次回バージョンにて反映したいと思います。
10/26に更新します。
引用なし
パスワード

  新規投稿 ┃全記事一覧 ┃検索 ┃設定 ┃サポートフォーラムトップ  
50 / 101 ツリー ←次へ | 前へ→
22,929
(SS)C-BOARD v3.8.1β4 is Free.