Probabilistische Untersuchung des Least-Squares-Fehlers bei Cholesky-Zerlegung mit niedriger Bitbreite

In dieser Arbeit wird ein neuer probabilistischer Ansatz vorgestellt, um den Einfluss des Rundungsfehlers auf die Genauigkeit der linearen Least-Squares-Lösung unter Verwendung der Cholesky-Zerlegung zu rechtfertigen. Der vorgeschlagene stochastische Grenzwert ist deutlich näher an den tatsächlichen Fehlern als andere numerische Grenzwerte.