高效長序列模型訓練的多維度環形並行化

WallFacer提出了一種新的多維度分佈式訓練系統,通過引入額外的並行維度大幅降低通信量,同時提供更靈活的通信配置調整,從而實現長序列模型的高效訓練。