힐베르트 문제

힐베르트 문제(Hilbert's problems)는 독일의 수학자 다비트 힐베르트(David Hilbert, 1862~1943)가 1900년 8월 8일 프랑스 파리에서 열린 제2차 세계수학자대회(International Congress of Mathematicians)에서 발표한 23개의 미해결 수학 문제들을 가리킨다. 힐베르트는 이 강연에서 10개의 문제(1, 2, 6, 7, 8, 13, 16, 19, 21, 22번)를 직접 구두로 발표하였고, 이후 전체 23개 문제가 독일 괴팅겐 왕립 과학원 통보(Göttinger Nachrichten, 1900)와 Archiv der Mathematik und Physik(1901)에 게재되었으며, 1902년 메리 프랜시스 윈스턴 뉴슨(Mary Frances Winston Newson)의 영어 번역본이 미국수학회 회보(Bulletin of the American Mathematical Society)에 실렸다.

배경 및 의의

힐베르트는 20세기 수학의 방향을 제시하고 수학자들에게 도전 의식을 고취시키기 위해 이 문제들을 선정하였다. 그는 강연 서두에서 "수학에 무지는 없다(in mathematics there is no ignorabimus)"라고 선언하며 모든 수학 문제는 원칙적으로 해결 가능하다는 신념을 밝혔다. 이 문제들은 20세기 수학 발전에 지대한 영향을 미쳤으며, 각 문제의 해결 과정에서 새로운 수학 분야와 방법론이 탄생하였다.

23개 문제의 개요와 해결 현황

문제의 해결 여부는 해석에 따라 다를 수 있으며, 수학계의 합의가 완전히 일치하지 않는 경우도 있다. 아래는 각 문제의 요약과 현재까지의 상태이다.

1. 연속체 가설 (칸토어의 연속체 기수 문제): 정수의 집합보다 크고 실수의 집합보다 작은 기수를 갖는 집합이 존재하는가에 대한 문제. 쿠르트 괴델(1940)과 폴 코언(1963)에 의해 ZFC 공리계와 독립적임이 증명되었다. 이것이 문제의 해결인지에 대해서는 합의가 이루어지지 않았다.

2. 산술 공리의 무모순성 증명: 산술의 공리계가 모순을 포함하지 않음을 증명하라는 문제. 괴델의 제2불완전성 정리(1931)에 의해 산술 자체 내에서는 무모순성을 증명할 수 없음이 밝혀졌다. 게르하르트 겐첸(1936)은 초한 귀납법을 사용하여 산술의 무모순성을 증명하였으나, 이는 힐베르트가 의도한 유한적 증명은 아니다.

3. 밑면과 높이가 같은 두 사면체의 부피 동일성: 같은 밑면과 높이를 가진 두 사면체를 항상 유한 개의 조각으로 잘라 재조립할 수 있는가에 대한 문제. 힐베르트의 제자 막스 덴(Max Dehn, 1900)이 덴 불변량(Dehn invariant)을 도입하여 불가능함을 증명하였다.

4. 직선을 두 점 사이의 최단 거리로 하는 기하학: 측지선이 직선이 되는 모든 거리 공간을 구성하라는 문제. A. V. 포고렐로프(1973)가 대칭적 공간에 대해 해결하였으나, 문제의 서술이 모호하여 해결 여부에 대한 판단이 어렵다.

5. 연속군의 미분 가능성: 연속 변환군을 정의하는 함수의 미분 가능성을 가정하지 않고도 군이 항상 미분군(또는 리 군)이 되는가에 대한 문제. 앤드루 글리슨, 몽고메리, 지핀(1952)이 모든 국소 유클리드 위상군은 리 군임을 증명하였다. 다만 힐베르트-스미스 추측과 동치로 해석할 경우 현재까지 미해결이다.

6. 물리학 공리의 수학적 처리: 물리학을 기하학처럼 공리적으로 체계화하라는 문제. (a) 확률론의 공리화는 안드레이 콜모고로프(1933)에 의해 해결되었다. (b) 원자론에서 연속체 운동 법칙을 유도하는 문제는 현재까지 완전히 해결되지 않았다. 2025년 덩, 하니, 마(Deng, Hani, Ma)가 관련 논문을 발표하였으나 현재 동료 심사 중이다.

7. 특정 수의 무리성과 초월성: a가 0, 1이 아닌 대수적 수이고 b가 유리수가 아닌 대수적 수일 때 a^b가 초월수인가에 대한 문제. 겔폰트-슈나이더 정리(1934)에 의해 긍정적으로 해결되었다.

8. 소수에 관한 문제: (a) 리만 가설(리만 제타 함수의 비자명 영점의 실수부가 모두 1/2인가)은 현재까지 미해결이다. (b) 골드바흐 추측, 쌍둥이 소수 추측 등도 미해결 상태이다. (c) 데데킨트 제타 함수로의 일반화는 부분적으로 해결되었다.

9. 임의의 대수적 수체에서의 가장 일반적인 상호 법칙: 에밀 아르틴(1927)이 아벨 확장에 대해 아르틴 상호 법칙을 증명하여 유체론(class field theory)의 기초를 마련하였다. 비아벨 확장에 대해서는 랭글랜즈 프로그램의 일부로서 현재까지 미해결이다.

10. 디오판토스 방정식의 해결 가능성 판정 알고리즘: 임의의 디오판토스 방정식이 정수해를 갖는지 판별하는 일반적인 알고리즘의 존재 여부에 대한 문제. 유리 마티야세비치(1970)가 그러한 알고리즘은 존재하지 않음을 증명하였다(마티야세비치 정리).

11. 대수적 수를 계수로 하는 이차 형식: 헬무트 하세(1924)가 하세-민코프스키 정리와 국소-대역 원리(local-global principle)를 통해 부분적으로 해결하였다.

12. 크로네커-베버 정리의 일반화: 유리수체에 대한 크로네커-베버 정리를 임의의 수체로 확장하는 문제. 아벨 확장에 대해서는 유체론을 통해 부분적으로 해결되었으나, 비아벨 확장에 대해서는 미해결이다.

13. 7차 방정식의 2변수 함수에 의한 해법 불가능성: 연속 함수의 경우, 블라디미르 아르놀트와 안드레이 콜모고로프(1957)가 콜모고로프-아르놀트 표현 정리를 통해 모든 다변수 연속 함수가 2변수 연속 함수의 중첩으로 표현 가능함을 증명하였다. 그러나 대수적 함수의 경우는 현재까지 미해결이다.

14. 특정 완비 함수계의 유한성 증명: 나가타 마사요시(1959)가 반례를 제시하여 일반적으로는 성립하지 않음을 증명하였다.

15. 슈베르트 열거 계산법의 엄밀한 기초: 부분적으로 해결되었다. 현대 대수기하학과 교차 이론의 발전으로 상당한 진전이 있었으나, 슈베르트가 꿈꾼 완전한 열거 기하학이 달성되었는지에 대해서는 합의가 이루어지지 않았다.

16. 대수 곡선과 곡면의 위상: (a) 실수 대수 곡선의 타원(oval) 배열 문제와 (b) 평면 다항식 벡터장의 극한 사이클(limit cycle) 문제로 구성된다. 두 부분 모두 현재까지 미해결이다. 8차 곡선에 대해서도 완전한 해결이 이루어지지 않았다.

17. 정부호 형식의 제곱합 표현: 에밀 아르틴(1927)이 모든 정부호 유리 함수가 제곱의 합의 몫으로 표현 가능함을 증명하였다.

18. 합동 다면체로 공간 채우기: (a) n차원 유클리드 공간의 공간군이 유한 개임을 비버바흐(1910)가 증명. (b) 정이면체 타일링(anisohedral tiling)이 가능한 다면체의 존재를 라인하르트(1928)가 증명. (c) 케플러의 추측(가장 조밀한 구 쌓기)은 토머스 헤일스(1998)가 컴퓨터 보조 증명으로 해결하였다.

19. 변분법의 정칙 문제 해의 해석성: 에니오 데 조르지와 존 내시(1957)가 각각 독립적으로 긍정적으로 해결하였다.

20. 일반적인 경계값 문제: 모든 정칙 변분 문제가 주어진 경계 조건 하에서 해를 갖는가에 대한 문제. 20세기 전반에 걸친 연구를 통해 비선형 경우에 대해 상당한 진전이 있었으나, 완전한 해결 여부는 명확하지 않다.

21. 주어진 모노드로미 군을 갖는 선형 미분방정식의 존재성: 문제의 해석에 따라 해결 여부가 달라진다. 겉보기 특이점(apparent singularity)을 허용할 경우 긍정적으로, 허용하지 않을 경우 볼리브루흐(1989)의 반례로 부정적으로 해결되었다.

22. 보형 함수에 의한 해석적 관계의 균일화: 1차원(리만 곡면)에 대해서는 푸앵카레와 쾨베(1907)가 해결하였다. 고차원의 경우 현재까지 미해결이다.

23. 변분법 방법의 추가적 발전: 문제의 서술이 너무 일반적이고 모호하여 해결 여부를 판단하기 어렵다.

24번째 문제

힐베르트는 원래 24개의 문제를 준비하였으나, 최종 발표에서 한 문제를 제외하였다. 이 24번째 문제는 증명 이론에서 증명의 단순성(simplicity)에 관한 기준을 다루는 것이었다. 독일의 수학사학자 뤼디거 틸레(Rüdiger Thiele)가 2000년에 힐베르트의 원고 노트에서 이를 재발견하였다. 이 문제는 현재까지 해결되지 않았다.

영향

힐베르트 문제는 20세기 수학의 발전 방향을 결정짓는 중요한 이정표가 되었다. 이후 클레이 수학연구소의 밀레니엄 문제(2000년), 스티브 스메일의 문제(1998년), DARPA 수학 도전 과제(2008년) 등 여러 후속 문제 목록이 제시되었으나, 힐베르트 문제만큼의 영향력을 가진 경우는 드물다. 리만 가설(8번 문제)은 힐베르트 문제, 밀레니엄 문제, 스메일의 문제 등 여러 주요 문제 목록에 중복하여 포함된 유일한 문제이다.