순환 데이터 병렬화(CDP)는 데이터 병렬화(DP)의 메모리 및 통신 단점을 해결하는 새로운 패러다임이다. CDP는 마이크로 배치 실행을 동시에 수행하는 대신 순차적으로 실행하여 메모리 사용을 균형있게 유지하고 통신 비용을 줄인다.