トークンフリーの選択的状態空間モデルMambaByte

MambaByte は、バイト列を直接モデル化する新しいトークンフリーの言語モデルであり、Transformerに比べて効率的で、長文生成においても優れた性能を示す。