In dieser Arbeit präsentieren wir ST-LoRA, ein leichtgewichtiges und effizientes Framework zur Verbesserung der Leistung von Spatio-Temporalen Vorhersagemodellen.
Zunächst identifizieren wir, dass die begrenzte Generalisierungsfähigkeit der generischen Knotenprädiktoren in bestehenden Methoden eine Hauptursache für die mangelnde Vorhersagegenauigkeit ist. Dies liegt an der Unfähigkeit, die Heterogenität der Knoteneigenschaften in Spatio-Temporalen Netzwerken zu erfassen.
Um dieses Problem anzugehen, entwickeln wir einen Node-Adaptiven Low-Rank-Layer (NALL), der mehrere trainierbare Low-Rank-Matrizen enthält. Dadurch können wir die komplexen funktionalen Eigenschaften einzelner Knoten effizient modellieren, ohne die Komplexität des Gesamtmodells übermäßig zu erhöhen.
Darüber hinaus entwerfen wir ein Multi-Layer-Residual-Fusionsmodul, um die NALL-Adapter nahtlos in die Prädiktormodule verschiedener Spatio-Temporaler Vorhersagemodelle zu integrieren. Auf diese Weise können wir die Leistung bestehender Methoden konsistent und nachhaltig verbessern.
Umfangreiche Experimente auf sechs realen Verkehrsdatensätzen und sechs verschiedenen Spatio-Temporalen Vorhersagemodellen zeigen, dass unser Ansatz die Leistung der Originalmodelle deutlich steigert, ohne die Trainingszeit oder Parameterzahl wesentlich zu erhöhen.
To Another Language
from source content
arxiv.org
Thông tin chi tiết chính được chắt lọc từ
by Weilin Ruan,... lúc arxiv.org 04-12-2024
https://arxiv.org/pdf/2404.07919.pdfYêu cầu sâu hơn