Core Concepts
선형대수학적 도구를 사용하여 Tverberg 정리를 활용하여 기존 이진 지원 벡터 기계를 확장한 새로운 다변량 지원 벡터 기계 모델을 제안하였다.
Abstract
이 논문은 Tverberg 정리와 다변량 지원 벡터 기계(SVM) 사이의 연결고리를 보여준다. 저자는 Tverberg 정리에서 사용되는 선형대수학적 기법을 활용하여 기존 이진 SVM을 확장한 새로운 다변량 SVM 모델을 제안하였다.
기존 다변량 SVM 모델인 one-versus-all(1vA) 및 all-versus-all(AvA) 모델은 각 클래스가 다른 모든 클래스와 선형 분리 가능해야 한다는 강한 조건을 요구한다. 저자가 제안한 모델인 (simple TSVM)과 (TSVM)은 이러한 조건을 완화하여, 모든 클래스의 볼록 hull이 교차하지 않는다는 약한 조건만 요구한다.
(simple TSVM)은 (d+1)(k-1) 차원 공간에서 SVM을 계산하여 구현할 수 있으며, (TSVM)은 (k-1)d 차원 공간에서 SVM을 계산하여 구현할 수 있다. 이는 기존 다변량 SVM 모델에 비해 계산 복잡도가 낮다. 또한 (TSVM)은 등거리 변환에 대해 불변성을 가지며, k=2일 때 기존 이진 SVM과 동일하다는 특성을 가진다.
저자는 이 모델들의 지원 벡터에 대한 특성도 분석하였다. (simple TSVM)과 (TSVM)의 지원 벡터는 각각 (d+1)(k-1) 개와 (k-1)(d+1) 개의 데이터 포인트로 구성된다는 것을 보였다.
Stats
각 클래스의 데이터 포인트 수를 n/k라 하면, (simple TSVM)의 계산 복잡도는 τ(n, 1; (d+1)(k-1))이고, (TSVM)의 계산 복잡도는 O(n·τ(1, (d+1)(k-1)+1; (d+1)(k-1)))이다.