回帰分析

Logga in

insikt - 回帰分析

大規模言語モデルは文脈学習を通して回帰分析を行うことができる

大規模言語モデルは、文脈内の入出力例を与えられるだけで、線形回帰や非線形回帰などの回帰分析タスクを実行することができる。その性能は従来の教師あり学習手法と比肩するか、場合によっては上回ることがある。

回帰問題における有効な予測区間

本論文では、回帰問題における予測区間の推定に関する4つの主要なクラスの手法を概説し、ベンチマークデータセットを用いた実験的比較を行う。これらの手法には、ベイズ法、アンサンブル法、直接区間推定法、コンフォーマル予測法が含まれる。結果は、データセットによって大きな変動があることを示しており、これは一部の手法に内在する仮定の違反に起因するものである。コンフォーマル予測は、校正ステップを必要とする手法の結果を改善するための一般的な手法として示される。

回帰における複数の専門家への委譲

本研究では、複数の専門家に対する委譲を伴う回帰分析の新しい枠組みを提案する。単一段階と二段階の両方のシナリオを分析し、強力な一貫性保証を持つ新しい代理損失関数を導入する。提案手法は、複数の専門家、任意の有界回帰損失、インスタンス依存およびラベル依存のコストに対応し、単一段階および二段階の手法をサポートする。

対回帰における H-一貫性保証

本論文は、回帰問題における H-一貫性保証の詳細な分析を提示する。対称分布と有界な仮説集合を仮定した上で、二乗損失に関する様々な代理損失関数(Huber損失、ℓp損失、ǫ-insensitive損失、二乗ǫ-insensitive損失)のH-一貫性保証を示す。さらに、この分析を活用して、敵対的回帰問題に対する新しい代理損失関数を導出し、実験結果を報告する。

Produkter | Resurser

Insikter