Kernkonzepte
단일 인코더 학생 모델에 데이터 융합 교사 모델에서 학습한 공간 기하학 사전 지식을 암묵적으로 주입하는 방법을 제안한다.
Zusammenfassung
이 논문은 자율 주행을 위한 시각적 의미 분할 문제에서 공간 기하학 사전 지식을 단일 인코더 학생 모델에 암묵적으로 주입하는 방법을 제안한다.
- 데이터 융합 네트워크는 RGB 이미지와 공간 기하학 정보를 활용하여 우수한 성능을 보이지만, 공간 기하학 정보를 사용할 수 없는 경우 효과적이지 않다.
- 지식 증류 기법을 활용하여 데이터 융합 교사 모델에서 학습한 공간 기하학 사전 지식을 단일 인코더 학생 모델에 주입하는 방법을 제안한다.
- 논리 증류 측면에서 동적 가중치 제어기를 도입하여 단일 고정 가중치의 한계를 극복한다.
- 특징 증류 측면에서 커널 회귀를 이용한 적응형 특징 재보정과 HSIC 기반 CKA를 이용한 특징 일관성 측정을 제안한다.
- 다양한 공개 데이터셋에서 실험을 수행하여 제안 방법의 우수한 성능을 검증한다.
Statistiken
데이터 융합 교사 모델은 RGB 이미지와 깊이 정보를 활용하여 가장 우수한 성능을 보인다.
단일 인코더 학생 모델의 성능은 데이터 융합 교사 모델에 비해 크게 떨어진다.
제안한 동적 가중치 논리 증류와 적응형 특징 증류 기법을 적용하면 단일 인코더 학생 모델의 성능이 크게 향상된다.
Zitate
"데이터 융합 네트워크는 RGB 이미지와 공간 기하학 정보를 활용하여 우수한 성능을 보이지만, 공간 기하학 정보를 사용할 수 없는 경우 효과적이지 않다."
"단일 고정 가중치를 사용하는 기존 지식 증류 기법의 한계를 극복하기 위해 동적 가중치 제어기를 도입한다."
"커널 회귀를 이용한 적응형 특징 재보정과 HSIC 기반 CKA를 이용한 특징 일관성 측정을 제안한다."