칸토어 집합(Cantor set)은 수학, 특히 해석학과 위상수학에서 다루는 집합으로, 0과 1 사이의 실수로 이루어진 구간 [0, 1]에서 시작하여 각 구간을 3등분한 뒤 가운데 개구간을 반복적으로 제거하는 방식으로 얻어지는 집합이다. 독일의 수학자 게오르크 칸토어(Georg Cantor)가 1883년에 발표한 논문에서 삼진법 전개를 이용하여 완전집합(perfect set)이면서 어디에서도 조밀하지 않은(nowhere dense) 집합의 예시로 소개하였으며, 실제로는 1874년 헨리 존 스티븐 스미스(Henry John Stephen Smith)가 먼저 발견한 것으로 알려져 있다.
정의
칸토어 집합 C는 다음과 같은 반복적 과정을 통해 정의된다.
- C₀ = [0, 1]에서 시작한다.
- 각 단계에서 남아 있는 모든 구간을 3등분한 후, 각 구간의 가운데 개구간을 제거한다.
- 이 과정을 무한히 반복하여 얻어지는 집합 C = ∩_{n=0}^{∞} C_n이 칸토어 집합이다.
즉, 첫 번째 단계에서는 (1/3, 2/3)가 제거되어 [0, 1/3] ∪ [2/3, 1]이 남고, 두 번째 단계에서는 [0, 1/9] ∪ [2/9, 1/3] ∪ [2/3, 7/9] ∪ [8/9, 1]이 남으며, 이 과정이 무한히 반복된다.
삼진법 표현과의 관계
칸토어 집합에 속하는 수는 삼진법 소수로 표기했을 때 모든 자릿수가 0 또는 2로만 이루어진다는 특징이 있다. 예를 들어 1/3은 삼진법으로 0.1(₃)로도 나타낼 수 있지만 0.0222...(₃)로도 표현할 수 있으며, 후자의 표현에는 1이 없으므로 칸토어 집합에 포함된다. 이 성질을 이용하면 칸토어 집합의 원소들을 이진법 수열과 일대일 대응시킬 수 있다.
성질
- 비가산성: 칸토어 집합은 비가산 집합이며, 그 크기(기수)는 실수 집합과 같은 2^ℵ₀이다. 이는 제거된 구간의 끝점들만 남는 것이 아니라, 1/4과 같이 끝점이 아닌 점들도 무수히 많이 포함되기 때문이다.
- 르베그 측도 0: 각 단계에서 제거되는 구간의 길이의 합은 1/3 + 2/9 + 4/27 + ... = 1이므로, 칸토어 집합 자체의 르베그 측도는 0이다. 즉, 길이가 0인 집합이다.
- 완전집합: 칸토어 집합의 모든 점은 극한점(집적점)이며, 따라서 완전집합(perfect set)이다.
- 조밀하지 않은 집합: 칸토어 집합은 어떤 구간에서도 조밀하지 않으며(nowhere dense), 내부점(interior point)을 갖지 않는다.
- 자기닮음성: 칸토어 집합은 자기닮음(self-similar) 성질을 가지는 프랙털(fractal)의 전형적인 예이다. 집합을 1/3 크기로 축소하면 원래 집합의 왼쪽 부분과 같다.
- 하우스도르프 차원: ln 2 / ln 3 ≈ 0.6309...이다.
- 위상동형: 칸토어 집합은 가산 무한 개의 두 원소 이산 공간의 곱공간 {0, 1}^ℕ과 위상동형이다. 또한 공집합이 아닌 완전분리 완전 콤팩트 거리공간은 모두 칸토어 집합과 위상동형이라는 것이 브라우어르(L. E. J. Brouwer)의 정리이다.
변형
칸토어 집합의 구성 방식에서 제거 비율을 달리하면 다양한 변형이 가능하다. 중간의 1/3 대신 더 작은 비율을 제거하면 양의 르베그 측도를 가지는 '두꺼운 칸토어 집합(fat Cantor set)'을 얻을 수 있으며, 대표적인 예로 스미스-볼테라-칸토어 집합(Smith–Volterra–Cantor set)이 있다. 2차원 이상으로 확장한 칸토어 먼지(Cantor dust), 시에르핀스키 카펫(Sierpinski carpet), 멩거 스펀지(Menger sponge) 등도 칸토어 집합의 개념을 다차원으로 일반화한 것이다.
의의
칸토어 집합은 간단한 구성 방식에 비해 매우 비직관적인 성질들을 지니고 있어, 해석학과 위상수학에서 중요한 반례(counterexample)를 제공한다. 비가산 무한집합이면서도 르베그 측도가 0이고, 완전집합이면서도 어디에서도 조밀하지 않으며, 구간 [0, 1]과 같은 수의 점을 가지면서도 길이가 0인 등, 여러 '크기' 개념(기수, 측도, 범주)이 일치하지 않음을 보여주는 표준적인 예시로 사용된다.
