Centrala begrepp
大規模言語モデルのデコーディングを改善するためのSCDの効果的な提案。
Statistik
大規模言語モデル(LLMs)は例外的なパフォーマンスを示す。
SCDは予測を活用してデコード処理を改善する。
Citat
"Large language models (LLMs) exhibit exceptional performance in language tasks."
"Inspired by speculative decoding and contrastive decoding, we introduce Speculative Contrastive Decoding (SCD)."