OPEN-RAG是一個新穎的框架,旨在提高使用開源大型語言模型的檢索增強推理能力。它通過將任意密集型大型語言模型轉換為參數高效的稀疏專家模型(MoE),並採用對抗性學習和自我反思的方法,有效地整合外部知識,提高生成的準確性和上下文相關性。