딥러닝 공부를 하다 보면 manifold hypothesis라는 것을 만나게 된다. Hypothesis라는 것은 당연히 가설이지만, manifold라는 것은 뭘까? 이 글에서는 manifold hypothesis를 이해해보는 것을 목적으로 한다.

1. Topology (위상)

유클리드 공간 $\R^n$에서 가깝다는 것은 어떻게 판단할까? 당연히 두 점의 거리를 재면 된다. 유클리드 거리 $d=\sqrt{(x_1-x_2)^2+(y_1-y_2)^2+\cdots+(z_1-z_2)^2}$말이다. 그런데 만약 이상한 공간이 주어진다면? 휘어진 공간이 주어진다면 어떻게 거리를 구할까? 유한집합이 공간으로 주어진다면, 즉 $X=\{a,b,c,d,e,f\}$라는 유한공간 안에서 "가깝다"는 것은 어떻게 말할 수 있을까? 수학자들은 이러한 문제를 해결하기 위해 **topology (위상)**이라는 개념을 도입했다. 먼저 유클리드 공간을 생각해보자. 유클리드 공간에서 "가까움"을 정의할 수 있는 개념은 1차원에서는 열린구간(open interval), 2차원에서는 열린 공(open ball), 혹은 더 고차원에서는 소위 열린 구(open sphere)이라고 불리는 대상들이다. 즉, 우리는 구간의 성질을 잘 탐구함으로 가까움을 일반화할 수 있다. 먼저 구간의 성질을 살펴보면 다음과 같다.

1. 열린 구간은 어떻게 합집합해도 열린 구간이다. 즉, $(0,1)\cup(2,3)$도 구간으로 간주한다. 같은 논리로, $\bigcup_{n=1}^{\infty}(n,n+1)$도 열린 구간이다. (중간에 무수히 많은 점이 비어있는데도 말이다!)

2. 열린 구간은 유한개만 교집합해야 구간이다. 열린 구간을 무한교집합하면 닫힌 집합이 나올 수 있다.

   $$ [0,1] = \bigcap_{n=1}^{\infty}(-\frac{1}{n},1+\frac{1}{n}) $$

3. 공집합과 전체집합도 구간으로 간주한다.

이 세 조건 혹은 성질을 일반화하면 다음과 같은 위상의 정의를 얻을 수 있다. 위상 $\mathcal{T}_X$는 $X$의 부분집합들을 모아놓은 것으로,

1. $\empty,X\in\mathcal{T}_X$
2. $\Lambda$가 $X$의 부분집합의 index를 나타내는 임의의 집합일 때, $U_{\alpha}\in\mathcal{T}X$ for all $\alpha\in\Lambda$이면 $\bigcup{\alpha\in\Lambda}U_{\alpha}\in\mathcal{T}_X$이다. 즉, 위상은 arbitrary union에 대해서 닫혀 있다.
3. $n<\infty$일 때, $\bigcap_{i=1}^nU_{i}\in\mathcal{T}_X$이다. 즉, 위상은 finite intersection에 대해서 닫혀 있다.

그리고 우리는 이렇게 정의한 위상 $\mathcal{T}_X$의 원소를 **열린 집합(open set)**이라고 부른다. 열린 구간에 대응되는 개념임을 상기하라.

또한 이렇게 위상과 열린 집합을 정의하고 나면 다양한 개념들이 따라 나오게 된다.(Closed set, closure, compact, $\cdots$) 우리는 이 중에서 Hausdorff space라는 개념만 살펴볼 것이다.

2. Hausdorff Space

Hausdorff space라는 것은 임의의 두 점을 분리할 수 있는 open set이 존재한다는 말이다. 수학적으로는, $(X,\mathcal{T}_X)$가 위상공간(topological space)일 때, 임의의 $x,y\in X$에 대하여

$$ \exists U_x,V_y\in\mathcal{T}_X\text{ s.t. }x\in U_x, y\in V_y\text{ and }U_x\cap V_y=\emptyset $$

라는 말이다. 이를 그림으로 나타내면 링크의 그림과 같다. 말 그대로 두 점을 분리할 수 있는 열린 집합 $U_x$, $V_y$가 존재한다는 말이다.

많은, 직관적인 위상들은 Hausdorff space를 구성하지만, Zariski topology같은 것들은 non-Hausdorff space를 구성한다.