お知らせ掲示板 | 質問掲示板 | 不具合報告掲示板 | 機能要望掲示板 | 雑談掲示板

  新規投稿 ┃全記事一覧 ┃検索 ┃設定 ┃サポートフォーラムトップ  
154 / 332 ←次へ | 前へ→

_「」表示か、FLTの演算がおかしい。
 RFOX  - 2011/9/15(木) 7:56 -
  
10進数STR→FLTの変換を作成している最中に気付いたのですが、

S_FLT[@A= 12345678]
S_FLT[@B= 12345678]
s_FLT[@p=100000000]
S_FLT[@X=0]
@X=@A + @B / @p
_[@X]

とした時、
β3は「12345678.123457」となりますが、
β4は「12345678.000000」となります。
引用なし
パスワード
338 hits

_「」表示か、FLTの演算がおかしい。 RFOX 2011/9/15(木) 7:56
Re:_「」表示か、FLTの演算がおかしい。 RFOX 2011/9/15(木) 8:00
Re:_「」表示か、FLTの演算がおかしい。 RFOX 2011/9/15(木) 8:10
Re:_「」表示か、FLTの演算がおかしい。 穂乃井 2011/10/21(金) 3:42
解決しました 穂乃井 2011/10/25(火) 18:52

  新規投稿 ┃全記事一覧 ┃検索 ┃設定 ┃サポートフォーラムトップ  
154 / 332 ←次へ | 前へ→
23,237
(SS)C-BOARD v3.8.1β4 is Free.