Alapfogalmak
本文提出了一種名為 TRON 的雙步驟框架,用於控制和評估多模態大型語言模型 (MLLM) 的風險,適用於任何支援在開源和封閉環境中進行取樣的 MLLM。
標題:樣本後識別:多模態大型語言模型風險控制與評估的通用框架
作者:Qingni Wang, Tiantian Geng, Zhiyuan Wang, Teng Wang, Bo Fu, Feng Zheng
本文旨在解決多模態大型語言模型 (MLLM) 在可靠性方面的問題,例如幻覺、非事實資訊和偏差生成,這些問題引發了人們對基礎模型在面向消費者應用中可靠部署的擔憂。