Conceptos Básicos
부동소수점 연산에서 발생하는 수치 오차를 추정하고 추적하는 데이터 구조와 알고리즘을 제안한다.
Resumen
이 논문에서는 IEEE 754 부동소수점 표현에서 발생하는 수치 오차를 추정하고 추적하는 데이터 구조와 알고리즘을 소개한다.
- 부동소수점 연산의 오차 전파 과정을 설명하고, 조건 수를 이용한 정밀도 추정 방법을 제시한다.
- 덧셈, 뺄셈, 곱셈, 나눗셈, 최대/최소값 계산 등 기본 연산의 정밀도 추정 방법을 설명한다.
- 행렬 곱셈의 정밀도 추정을 위해 열등 부등식을 이용한 방법을 제안한다.
- 신경망 학습 과정에서 발생하는 수치 오차 전파 문제를 다룬다.
- 제안한 방법을 NumPy 라이브러리에 확장 구현한 xnumpy 라이브러리를 소개한다.
Estadísticas
0.1 + 0.2 != 0.3
x^2 + 1000x - 2 * 10^-11 = 0의 해는 x = -1000과 x = 2 * 10^-14로, 각각 53비트와 0비트의 정확도를 가진다.
Citas
"실제 수학적 값과 가까운 결과를 얻기 위해서는 계산 과정에서 정밀도 손실을 추정하고 추적하는 것이 중요하다."
"부동소수점 연산에서는 덧셈과 뺄셈 연산이 가장 정밀도 손실이 심각하다."