핵심 개념
본 연구는 메시 앵커 해시 테이블 블렌드셰이프라는 새로운 아바타 표현 방식을 제안하여, 실시간 렌더링 속도와 고품질 렌더링 성능을 동시에 달성하였다.
초록
본 연구는 고품질 실시간 3D 암시적 헤드 아바타 모델을 제안한다. 핵심 아이디어는 메시 앵커 해시 테이블 블렌드셰이프라는 새로운 아바타 표현 방식을 도입한 것이다.
-
메시 앵커 해시 테이블 블렌드셰이프:
- 3DMM 메시의 각 정점에 다수의 작은 해시 테이블을 부착한다.
- 이 해시 테이블들은 정점 단위의 "로컬 블렌드셰이프"로 작용하며, 각각 로컬 방사 필드 정보를 인코딩한다.
- 표정에 따른 가중치를 예측하여 이 해시 테이블들을 선형 결합함으로써, 표정 의존적인 임베딩을 생성한다.
-
효율적인 렌더링:
- 해시 인코딩을 활용하여 매우 가벼운 MLP로 밀도와 색상을 예측할 수 있다.
- 계층적 k-최근접 이웃 검색 방법을 제안하여 렌더링 속도를 추가로 가속화한다.
-
고품질 렌더링:
- 3DMM 앵커 NeRF 기반으로, 고품질 렌더링과 세밀한 제어가 가능하다.
- 기존 효율적 아바타 모델들에 비해 극단적인 표정에서도 월등한 성능을 보인다.
통계
실시간 렌더링 속도(평균 ≥30 FPS, 512x512 해상도)를 달성하면서도 기존 최신 고품질 3D 아바타 모델[5]과 비교할만한 렌더링 품질을 보여준다.
기존 효율적 3D 아바타 모델[15, 44, 45]에 비해 극단적인 표정에서 크게 향상된 결과를 보인다.