초록
통신 오버헤드는 Federated Learning (FL)에서 주요 병목 현상
RDMA를 FL 통신 프로토콜에 통합한 FedRDMA 소개
RDMA의 WAN에서의 한계 극복을 위한 최적화 기술 설명
FedRDMA의 성능 평가 결과: 기존 TCP/IP 기반 FL 시스템 대비 최대 3.8배 통신 효율 향상
FedRDMA-E로의 최적화 및 성능 비교
다양한 하이퍼파라미터 설정에 따른 FedRDMA의 영향 평가
PEFT와의 통합 효율성 검증
시스템 비용 및 효율성 평가
통계
FedRDMA는 기존 시스템 대비 최대 3.8배 통신 효율 향상
RDMA는 통신 오버헤드를 최대 98.8%까지 감소시킬 수 있음
인용구
"FedRDMA는 RDMA를 WAN에서 안정적으로 운영하고 TCP 프로토콜의 단점을 극복함"
"FedRDMA-E는 메모리 오버헤드를 99.9%까지 줄이고 전체 전송 시간을 33.3% 감소시킴"