본 연구는 CLIP 모델의 지식을 활용하여 다중 모달 대비 학습을 수행하고, 다양한 부정적 샘플 간 차이를 고려하는 적응형 각도 마진 대비 학습 기법을 제안함으로써 문장 임베딩의 성능을 향상시킨다.