잔여 연결을 활용한 실용적인 순위 학습을 위한 다중 작업 학습 프레임워크: ResFlow

Concepts de base

ResFlow는 잔여 연결을 통해 작업 네트워크 간에 효율적인 정보 공유를 가능하게 하여, 특히 데이터 sparisity가 높은 전자상거래 환경에서 기존 다중 작업 학습 방법보다 우수한 성능과 적응성을 보이는 경량 프레임워크입니다.

Résumé

ResFlow: 잔여 연결을 활용한 실용적인 순위 학습을 위한 다중 작업 학습 프레임워크

본 연구 논문에서는 전자상거래 플랫폼 Shopee의 검색 순위 시스템을 개선하기 위해 개발된 새로운 다중 작업 학습(MTL) 프레임워크인 ResFlow를 소개합니다. ResFlow는 작업 네트워크의 해당 계층 간에 잔여 연결을 도입하여 효율적인 작업 간 정보 공유를 가능하게 하는 경량 프레임워크입니다.
ResFlow 개발 배경
전자상거래 플랫폼은 개인 맞춤 서비스를 제공하기 위해 클릭률(CTR), 클릭 후 전환율(CTCVR)과 같은 다양한 사용자 피드백 모델링에 크게 의존합니다. 이러한 작업은 밀접하게 관련되어 있지만, 높은 수준의 사용자 행동(예: 구매)은 매우 드물게 발생하여 데이터 sparisity 문제가 발생합니다. ResFlow는 이러한 문제를 해결하고 작업 간 정보 교환을 강화하기 위해 개발되었습니다.
기존 MTL 방법의 한계
기존 MTL 방법은 작업 관계 모델링이 부족하거나 계산 집약적이고 확장성이 제한적이거나 강력한 가정에 의존하는 등의 문제점을 가지고 있습니다. 예를 들어, MMOE와 PLE는 작업 관계를 명시적으로 모델링하지 않아 성능이 저하될 수 있습니다. AITM은 순차적 작업 의존성을 활용하지만 계산 복잡성으로 인해 리소스가 제한된 시나리오에서는 적용이 제한됩니다. ESMM은 인과 관계 그래프를 사용하지만 확장성 문제가 있으며 명확한 인과 관계가 있는 시나리오에만 적용할 수 있습니다.
ResFlow의 특징
ResFlow는 작업 네트워크의 해당 계층 간에 잔여 연결을 도입하여 작업 간에 효율적인 정보 전달을 가능하게 합니다. 이러한 잔여 연결은 "클릭" → "장바구니 담기" → "구매"와 같은 순차적 종속 작업과 "조회", "좋아요", "공유"와 같이 특정 진행성을 나타내는 작업을 포함하여 이전 작업의 정보가 이후 작업에 도움이 되는 상황에 광범위하게 적용될 수 있습니다. ResFlow는 다음과 같은 이점을 제공합니다.

효율적인 정보 전달: 잔여 연결을 통해 작업 간에 다양한 수준에서 효과적이고 충분한 정보 전달이 가능합니다.
경량 아키텍처: ResFlow는 추가적인 계산 오버헤드가 미미하여 사전 순위 지정과 같이 계산 리소스가 제한된 시나리오에서도 사용할 수 있습니다.
일반적인 적용 가능성: ResFlow는 사전 지식을 활용하지 않고 정보가 한 작업에서 다른 작업에 도움이 되는 작업을 공동으로 학습하는 데 광범위하게 적용할 수 있습니다.
ResFlow 성능 평가
다양한 오프라인 데이터 세트와 Shopee 검색의 온라인 A/B 테스트를 통해 ResFlow의 성능을 평가했습니다. ResFlow는 모든 데이터 세트에서 기존 방법보다 우수한 성능을 보였으며, 특히 온라인 A/B 테스트에서 시스템 지연 시간을 늘리지 않고 OPU(사용자당 주문 수)가 1.29% 증가했습니다.
ResFlow의 기타 기여

온라인-오프라인 지표 정렬: ResFlow는 온라인 지표 OPU와 잘 일치하는 새로운 오프라인 지표인 가중 재현율@K(WR@K)를 제안하여 실제 배포에서 오랫동안 지속되어 온 온라인-오프라인 지표 불일치 문제를 해결합니다.
추가적인 점수 융합: ResFlow는 항목 순위를 지정할 때 여러 작업의 점수를 추가적으로 융합하는 것을 제안하며, 이는 기존의 곱셈적 점수 융합보다 성능이 우수합니다.

ResFlow는 작업 네트워크 간에 효율적인 정보 공유를 가능하게 하여 전자상거래 순위 시스템에서 다양한 사용자 피드백을 모델링하는 데 효과적인 새로운 MTL 프레임워크입니다. ResFlow는 기존 방법보다 우수한 성능과 적응성을 보여주며 Shopee 검색의 사전 순위 지정 모듈에 완전히 배포되었습니다.
연구 논문 요약
제목: 잔여 연결을 활용한 실용적인 순위 학습을 위한 다중 작업 학습 프레임워크: ResFlow
연구 목표: 전자상거래 플랫폼 Shopee의 검색 순위 시스템을 개선하기 위해 효율적이고 적응 가능한 MTL 프레임워크를 개발합니다.
방법론: ResFlow라는 새로운 MTL 프레임워크를 제안합니다. ResFlow는 작업 네트워크의 해당 계층 간에 잔여 연결을 도입하여 효율적인 작업 간 정보 공유를 가능하게 합니다. ResFlow의 성능을 평가하기 위해 다양한 오프라인 데이터 세트와 Shopee 검색의 온라인 A/B 테스트를 수행합니다.
주요 결과: ResFlow는 모든 데이터 세트에서 기존 방법보다 우수한 성능을 보였으며, 특히 온라인 A/B 테스트에서 시스템 지연 시간을 늘리지 않고 OPU(사용자당 주문 수)가 1.29% 증가했습니다.
주요 결론: ResFlow는 작업 네트워크 간에 효율적인 정보 공유를 가능하게 하여 전자상거래 순위 시스템에서 다양한 사용자 피드백을 모델링하는 데 효과적인 새로운 MTL 프레임워크입니다.
의의: ResFlow는 전자상거래 플랫폼의 검색 및 추천 시스템의 성능을 향상시키는 데 상당한 잠재력을 가지고 있습니다.
제한 사항 및 향후 연구: ResFlow는 작업 네트워크가 유사한 구조적 토폴로지를 갖도록 요구합니다. 향후 연구에서는 보다 유연한 잔여 연결 메커니즘을 탐구하여 다양한 작업 네트워크 아키텍처를 수용할 수 있습니다.

Idées clés tirées de

Residual Multi-Task Learner for Applied Ranking

by Cong Fu, Kun... à arxiv.org 11-18-2024

https://arxiv.org/pdf/2411.09705.pdf