מושגי ליבה
LoREは、従来のRAGシステムの制限に対処するために、多様な検索エンジンとロジットベースの回答ランキングを活用した新しいフレームワークであり、検索エンジンの多様性と計算効率を最適化することで、バイアスを軽減し、質問応答の精度と関連性を向上させる。
תקציר
LoRE: オープン ドメイン質問応答を強化するためのロジットランク検索エンジンアンサンブル
この研究論文は、オープン ドメイン質問応答システムにおける positional bias の問題に対処する新しいフレームワーク、LoRE (Logit-Ranked Retriever Ensemble) を提案しています。
この研究の目的は、従来のRetrieval-Augmented Generation (RAG) システムにおける positional bias の問題を軽減し、回答の精度と関連性を向上させることです。Positional bias とは、最初に取得された文書の情報が過度に優先され、順位の低い文書にあるより関連性の高い情報が見落とされる可能性があるという問題です。
LoREは、多様な検索エンジンとロジットベースの回答ランキングアルゴリズムを組み合わせることで、positional bias を軽減します。具体的には、BM25とSentence Transformer with FAISS indexingという2つの異なる検索エンジンを用いて、多様な文書を取得します。そして、大規模言語モデル (LLM) からのロジットスコアと、文章の検索ランクを組み合わせたロジットベースのランキングメカニズムを用いて、情報の優先順位付けを行います。