浮ふ動どう小しょう数すう点てん相そう対たい精せい度ど

noun

floating point precision

Computing term referring to the relative accuracy of floating-point number representations.

• 浮ふ動どう小しょう数すう点てん相そう対たい精せい度どは、数すう値ち計けい算さんの誤ご差さ評ひょう価かに使つかわれる。

  Floating point precision is used for error estimation in numerical computation.