お知らせ掲示板 | 質問掲示板 | 不具合報告掲示板 | 機能要望掲示板 | 雑談掲示板

新規投稿 ┃全記事一覧 ┃検索 ┃設定 ┃サポートフォーラムトップ

50 / 101 ﾂﾘｰ

←次へ　｜　前へ→

---

■

_｢｣表示か、FLTの演算がおかしい。 RFOX 2011/9/15(木) 7:56

Re:_｢｣表示か、FLTの演算がおかしい。 RFOX 2011/9/15(木) 8:00

Re:_｢｣表示か、FLTの演算がおかしい。 RFOX 2011/9/15(木) 8:10

Re:_｢｣表示か、FLTの演算がおかしい。 穂乃井 2011/10/21(金) 3:42

解決しました 穂乃井 2011/10/25(火) 18:52

---

_｢｣表示か、FLTの演算がおかしい。

RFOX  - 2011/9/15(木) 7:56 -

10進数STR→FLTの変換を作成している最中に気付いたのですが、 S_FLT[@A= 12345678] S_FLT[@B= 12345678] s_FLT[@p=100000000] S_FLT[@X=0] @X=@A + @B / @p _[@X] とした時、 β３は「12345678.123457」となりますが、 β４は「12345678.000000」となります。	引用なし パスワード

---

Re:_｢｣表示か、FLTの演算がおかしい。

RFOX  - 2011/9/15(木) 8:00 -

S_FLT[@A= 123456] S_FLT[@B= 123456] s_FLT[@p=1000000] とした時、 β４は「123456.125000」となります。	引用なし パスワード

---

Re:_｢｣表示か、FLTの演算がおかしい。

RFOX  - 2011/9/15(木) 8:10 -

挿入位置はstart.txtの「#SCENARIO_MAIN」と　「\SEL.GO(SAMPLE,〜」の間です。	引用なし パスワード

---

Re:_｢｣表示か、FLTの演算がおかしい。

穂乃井  - 2011/10/21(金) 3:42 -

レス遅くなり申し訳ないです。 症状のほう確認しました。確かにβ4.0以降で FLTの精度が変わってしまっているようです。 この件は修正する予定ですが、この修正には ちょっと時間かかるかもしれません。申し訳ないです。	引用なし パスワード

---

解決しました

穂乃井  - 2011/10/25(火) 18:52 -

FLTの精度が落ちる問題を解決できましたので、 次回バージョンにて反映したいと思います。 10/26に更新します。	引用なし パスワード

---

新規投稿 ┃全記事一覧 ┃検索 ┃設定 ┃サポートフォーラムトップ	50 / 101 ﾂﾘｰ	←次へ　｜　前へ→
	23,237
(SS)C-BOARD v3.8.1β4 is Free.