深層学習システムは、訓練データの統計的依存関係を捉えることができるが、本質的な入出力の関係を学習することは一般に困難である。そのため、深層学習システムを安全重要アプリケーションに適用する際には、固有の安全設計と実行時エラー検出が重要となる。
固有の安全設計では、意味的特徴の回復と表現、コンテンツとスタイルの特徴の分離、良い表現のための前提条件の充足が重要である。また、モデルの透明性も重要である。
実行時エラー検出では、較正された不確実性の定量化、原理的なOOD検出、特徴の崩壊の回避、敵対的攻撃への対策が重要である。
To Another Language
from source content
arxiv.org
Key Insights Distilled From
by Romeo Valent... at arxiv.org 03-25-2024
https://arxiv.org/pdf/2403.14678.pdfDeeper Inquiries