핵심 개념
In dieser Arbeit analysieren wir Meta-Lernen im Rahmen hochdimensionaler multivariater linearer Modelle mit Zufallseffekten und untersuchen Vorhersagen basierend auf verallgemeinerter Ridge-Regression. Wir charakterisieren das asymptotische Verhalten des Vorhersagerisikos für neue Aufgaben, zeigen die Optimalität der Wahl der Gewichtsmatrix und schlagen effiziente Schätzer für die Hyperkovarianzmatrix vor.
초록
Die Studie untersucht Meta-Lernen im Kontext hochdimensionaler multivariater linearer Modelle mit Zufallseffekten. Dabei wird die Leistung von verallgemeinerter Ridge-Regression zur Vorhersage auf neuen Aufgaben analysiert.
Kernpunkte:
- Charakterisierung des asymptotischen Verhaltens des Vorhersagerisikos für neue Aufgaben, wenn die Datendimension proportional zur Anzahl der Stichproben pro Aufgabe wächst
- Nachweis der Optimalität der Wahl der Gewichtsmatrix in der verallgemeinerten Ridge-Regression als Inverse der Kovarianzmatrix der Regressionskoeffizienten
- Vorschlag und Analyse eines effizienten Schätzers für die inverse Kovarianzmatrix der Regressionskoeffizienten basierend auf Daten der Trainingsaufgaben
Die Analyse verwendet Werkzeuge aus der Zufallsmatrixtheorie und der Riemannschen Optimierung. Simulationsergebnisse zeigen die verbesserte Generalisierungsleistung der vorgeschlagenen Methode auf neuen ungesehenen Aufgaben.
통계
Die Vorhersageleistung hängt von den Eigenwerten der Matrix XpL+1)ΩXpL+1)J/nL+1 ab, deren Erwartungswert und Spektralmomente von Σ(L+1)1/2ΩΣ(L+1)1/2 abhängen.
인용구
Keine relevanten Zitate identifiziert.