Core Concepts
浮動小数点数アルゴリズムによる三平方の定理関数の計算における効果的な二次誤差界を提供する。
Abstract
本論文では、浮動小数点数アルゴリズムによる三平方の定理関数の計算における効果的な誤差解析手法を提案する。
まず、浮動小数点数演算の特性を活用して、個々の演算の誤差を改善できる場合があることを示す。具体的には、減算演算や平方根演算の誤差を、相対誤差の一般的な上界よりも改善できることを示す。
次に、コンピューターアルゴリズムを用いて、アルゴリズムの各ステップの誤差を詳細に解析する手法を提案する。この手法では、アルゴリズムの各ステップの誤差の相関関係を考慮することで、より tight な誤差界を得ることができる。
最後に、提案手法を用いて、三平方の定理関数を計算する5つのアルゴリズムを解析し、それぞれの相対誤差の上界を導出する。その結果、従来の解析手法よりも tight な誤差界が得られることを示す。
Stats
x^2(1 + uϵ_sx) + y^2(1 + uϵ_sy)
(1 + uϵ_σ)(1 + uϵ_ρ)√(x^2 + y^2) - 1