高精度計算

その他
3年6ヶ月前 #8857 by トムカ
高精度計算 によって作成されました トムカ
新しいクラスを作成する場合、HD アイコンの横に高精度計算のオン/オフを切り替えるスイッチがあります。

ドキュメントでこれが何を意味するのかわかりませんでした。 誰でも説明できますか?

よろしく、トム
添付ファイル:

お困りの方は ログイン or してアカウントを作成 会話に参加します。

その他
3年6ヶ月前 #8859 by BERT
返信者 BERT トピックについて 高精度計算
こんにちはトム、
高精度の計算はまだ実験的な機能であるため、Web 上で情報を確認することはできません。

デフォルトの計算モードでは、列/計算に丸めを選択すると、この新しい丸められた値 (セルに表示) が次の計算で考慮されます。 あなたが見たもの、それがあなたの手に入れたものだ。 これは、列の結果を数回丸めると、一部の小数点以下が切り捨てられることも意味します。

高精度モードでは、すべてのセルの元の値が保持され、丸め機能はセルにデータを表示するときにのみ適用されますが、内部的には完全な数値が計算に考慮されるため、「高精度」です。 計算を N 回丸めることによって精度が失われることはありません。

このモードは非常に特殊な計算用でしたが、問題があればお知らせください

お困りの方は ログイン or してアカウントを作成 会話に参加します。

その他
3年6ヶ月前 #8861 by トムカ
返信者 トムカ トピックについて 高精度計算
わかりました、ありがとう。 したがって、私にとってはオプションをオフにすることが適切な解決策です。 これにより結果が変わるかどうか、またはどのように変わるかはわかりませんでしたが、今では明らかです。

お困りの方は ログイン or してアカウントを作成 会話に参加します。