任意精度演算

任意精度演算(にんいせいどえんざん)とは、数値の精度を必要ならいくらでも伸ばしたりできるような演算システム(実際上は利用可能なメモリ容量に制限されるが)による演算である。 == 概要 == 多倍長整数(たばいちょうせいすう)などを内部処理に利用し、必要な桁数の浮動小数点計算を行う。

Source: Wikipedia — 任意精度演算 (CC BY-SA 4.0)

任意精度演算

任意精度演算(にんいせいどえんざん)とは、数値の精度を必要ならいくらでも伸ばしたりできるような演算システム(実際上は利用可能なメモリ容量に制限されるが)による演算である。 == 概要 == 多倍長整数(たばいちょうせいすう)などを内部処理に利用し、必要な桁数の浮動小数点計算を行う。

出典: Wikipedia「任意精度演算」 · CC BY-SA 4.0

この記事を共有: X · Bluesky
プライバシーポリシー