[분류 - 7] Kernel SVM이란?

결정 경계(Decision Boundary)를 긋지 못하는 데이터에 대해서는 어떻게 해야할까?

How?

 

 

1. 고차원으로의 매핑

 

제곱을 해서 분리하는 방법이다.

대충 그려봤다

이런 느낌이라고 보면 된다.

그러나 이 방법은 연산에 오랜 시간이 걸리므로 그렇게 좋은 방법은 아니다.

 

 

2. 커널 트릭

식의 좌항은 초록색 점들이 모인 구역을 뜻한다.

 

l은 초록색 점들의 중심, x는 초록색 점의 위치 벡터이다.

식이 어렵게 보이지만, 교양 수준에서 해석을 해보면

x-l즉, 초록색 점의 위치에서 중심점의 위치의 거리가 멀면 멀수록 K가 작아진단 뜻이다.

즉 K > 0인 구간에 데이터들에 대해서 초록색 점으로 판단하겠다는 뜻이다.

σ는 원의 크기를 뜻한다.

 

 

실제로 커널은 이것보다 훨씬 다양한 종류들이 있다.