Khái niệm cốt lõi
Rückgewinnungsbasierte Sprachmodelle bieten eine vielversprechende Alternative zu parametrischen Modellen, indem sie Zuverlässigkeit, Anpassungsfähigkeit und Nachvollziehbarkeit verbessern.
Thống kê
"Retrieval-augmented LMs können W1: Faktische Fehler reduzieren (Mallen et al., 2023), W2: bessere Zuschreibungen bieten (Gao et al., 2023a), W3: flexible Ein- und Ausschaltung von Sequenzen ermöglichen (Min et al., 2024), W4: sich leicht an neue Verteilungen anpassen (Khandelwal et al., 2020), W5: parametereffizienter sein (Izacard et al., 2023)."
Trích dẫn
"Wir plädieren dafür, dass Rückgewinnungsbasierte LMs parametrische LMs als nächste Generation von LMs ablösen, um viele der genannten Schwächen anzugehen."
"Trotz ihres beträchtlichen Potenzials zur signifikanten Verbesserung von Zuverlässigkeit, Anpassungsfähigkeit und Nachvollziehbarkeit ist ihre breitere Akzeptanz über spezifische wissensintensive Aufgaben hinaus derzeit begrenzt."