Xception은 성능 향상을 위해 극단적인 방법을 사용한 구조.
Inception module을 depthwise separable convolution으로 대체하는 것을 제안.
일반적인 Convolutional layer는 3차원의 filter(dimensions of width, height, channel)를 사용하여
채널 간의 상관관계와 공간방향의 상관관계를 둘다 파악하려고 함.
Inception Module의 핵심 아이디어는 이를 분리하는 데에 있음.
즉, 채널 간의 상관관계를 포착하는 1x1 Convolution과
공간방향의 상관관계를 파악하는 Convolution을 따로 둔 것.
1x1 Convolution과 다양한 크기의 Convolution을 사용하여
채널별 상관관계와 공간적 상관관계를 동시에 적절히 수행하였음.
Depthwise separable convolution 또는 separable convolution이라고 부름.
separable convolution은 depthwise convolution을 수행하고, pointwise convolution을 수행하는 구조.
depthwise convolution은 input의 각각의 channel에 대해서 독립적으로 수행하는 convolution이고,
그 다음에 pointwise convolution은 depthwise convolution에 의해 연산된 output을 새로운 channel space로 projecting 하는 방법.
이것을 Inception의 “extreme” 버전이라고 하여 Xception이라고 함.
- cross-channel convolution: depthwise convolution (3x3 convolution)
- spatial convolution: pointwise convolution (1x1 convolution)
Depthwise separable convolution은 기존의 1x1 -> 3x3의 순서를 3x3 -> 1x1로 변경한 것.
즉, Xception은 채널, 공간적 관계를 완전히 쪼개서 수행해보겠다는 것이 가설.
Xception은 전체적으로 depthwise separable convolution을 residual connection과 함께 linear stack으로 쌓은 것으로 볼 수 있음.