本研究では、データベースドメインのQ&Aを包括的に評価するためのベンチマーク「DQA」を提案している。DQAは以下の特徴を持つ:
大規模言語モデルを活用して自動的にQ&Aペアを生成、クリーニング、書き換えることで、24万件以上のQ&Aペアを収集した。これらのQ&Aは、データベースマニュアル、ブログ、ツールなどをカバーし、データベースに関する幅広い知識を網羅している。
大規模言語モデルの「検索支援型生成」と「ツール呼び出し型生成」の能力を評価するための設計がなされている。
質問分類ルーティング、検索支援型生成、ツール呼び出し型生成、プロンプトテンプレートエンジニアリングなど、データベースQ&Aに必要な各種モジュールを統合した包括的なテストベッドを提案している。
中間段階の性能評価プロトコルと指標、および安定かつ公平な最終的な性能評価パイプラインを開発している。
本研究の評価結果から、大規模言語モデルの長所と短所、各種モジュールの性能影響と改善の余地などが明らかになった。これらの知見は、今後のデータベースQ&Aシステムの開発に役立つと期待される。
A otro idioma
del contenido fuente
arxiv.org
Ideas clave extraídas de
by Yihang Zheng... a las arxiv.org 09-10-2024
https://arxiv.org/pdf/2409.04475.pdfConsultas más profundas