변분 원리(variational principle)는 변분법(calculus of variations)을 사용하여 물리적 또는 수학적 문제를 해결할 수 있게 하는 일반적인 원리이다. 변분법이란 어떤 함수에 의존하는 양(범함수, functional)의 값을 최적화(최대화 또는 최소화)하는 함수를 찾는 수학적 절차를 말한다. 변분 원리는 "자연은 항상 어떤 양을 최소화(또는 최대화)하는 방향으로 작용한다"는 사상에 기반하며, 고전역학, 전자기학, 양자역학, 일반상대성이론, 광학 등 물리학의 여러 분야에서 핵심적인 역할을 한다.
역사
변분 원리의 기원은 1662년 피에르 드 페르마(Pierre de Fermat)가 제안한 페르마의 원리(Fermat's principle)로 거슬러 올라간다. 페르마는 빛이 두 점 사이를 이동할 때 가장 시간이 적게 걸리는 경로를 따른다고 주장하였다. 1718년 야코프 베르누이(Jacob Bernoulli)는 최단 강하선 문제(brachistochrone problem)를 변분 기법으로 해결하였다. 피에르 루이 모페르튀(Pierre Louis Maupertuis)는 페르마의 개념을 역학으로 확장하여 최소 작용의 원리(principle of least action)를 정립하였다. 1831년 윌리엄 로원 해밀턴(William Rowan Hamilton)은 이를 더욱 일반화하여 해밀턴의 원리(Hamilton's principle)를 확립하였고, 이는 물질 입자의 운동과 빛의 파동 운동이 동일한 방식으로 기술될 수 있음을 보여주었다. 해밀턴의 연구는 1926년 슈뢰딩거 방정식의 발견으로 이어지는 파동-입자 이중성 연구에 중요한 영향을 미쳤다.
수학 분야에서는 1872년 펠릭스 클라인(Felix Klein)의 에를랑겐 프로그램(Erlangen program)이 변환군 아래에서의 불변량을 식별하려는 시도와 관련되어 있다.
수학에서의 변분 원리
수학에서 변분 원리는 범함수의 정류점(stationary point)을 찾는 문제로 표현된다. 가장 기본적인 형태는 다음과 같은 범함수를 최적화하는 함수 $y(x)$를 찾는 것이다.
$$F[y] = \int_a^b f(x, y(x), y'(x)) , dx$$
이때 $y$가 이 범함수의 극값(extremum)을 가지기 위한 필요 조건은 오일러-라그랑주 방정식(Euler-Lagrange equation)으로 주어진다.
$$\frac{\partial f}{\partial y} - \frac{d}{dx}\left(\frac{\partial f}{\partial y'}\right) = 0$$
수학에서의 주요 예시로는 다음이 있다.
- 에클란트 변분 원리(Ekeland's variational principle): 수학적 최적화 이론에서 사용
- 유한 요소법(finite element method): 공학 및 수치 해석에서 널리 활용
- 변분 원리를 통한 위상 엔트로피(topological entropy)와 콜모고로프-시나이 엔트로피(Kolmogorov-Sinai entropy) 간의 관계
물리학에서의 변분 원리
물리학에서 변분 원리는 자연 현상을 지배하는 기본 법칙을 표현하는 강력한 도구이다. 주요 예시는 다음과 같다.
고전역학
- 해밀턴의 원리(Hamilton's principle): 계의 실제 운동은 작용(action) $S = \int L , dt$을 정류화하는 경로를 따른다. 여기서 $L = T - V$는 라그랑지언이다.
- 모페르튀의 원리(Maupertuis' principle): 최소 작용 원리의 초기 형태
- 최소 작용의 원리(principle of least action): 역학, 전자기 이론, 양자역학에서 사용
- 가우스의 최소 구속 원리(Gauss's principle of least constraint)
- 헤르츠의 최소 곡률 원리(Hertz's principle of least curvature)
광학
- 페르마의 원리(Fermat's principle): 빛은 최소 시간 경로를 따라 이동한다. 이로부터 스넬의 법칙(Snell's law)이 유도된다.
양자역학
- 변분 방법(variational method, Ritz variational principle): 해밀토니언 $H$의 바닥 상태 에너지 $E_g$에 대해, 임의의 규격화된 시험 파동함수 $\psi_{\text{trial}}$에 대해 다음이 성립한다.
$$\langle \psi_{\text{trial}} | \hat{H} | \psi_{\text{trial}} \rangle \geq E_g$$
즉, 해밀토니언의 기댓값은 항상 바닥 상태 에너지보다 크거나 같다. 이 원리를 이용하여 시험 파동함수의 매개변수를 조정함으로써 바닥 상태 에너지의 상한값을 추정할 수 있다. 이 방법은 헬륨 원자의 바닥 상태 에너지 추정, 수소 분자 이온($\text{H}_2^+$)의 안정 상태 분석 등에 활용된다.
- 헬만-파인만 정리(Hellmann–Feynman theorem)
- 하트리-폭 방법(Hartree–Fock method)
- 밀도 범함수 이론(density functional theory, DFT)
- 변분 양자 고유값 해결기(variational quantum eigensolver, VQE): 양자 컴퓨팅에서 활용
일반상대성이론
- 힐베르트 작용 원리(Hilbert's action principle): 아인슈타인 장 방정식을 유도하는 데 사용
- 팔라티니 변분(Palatini variation)
- 기번스-호킹-요크 경계항(Gibbons–Hawking–York boundary term)
의의
변분 원리는 물리 법칙을 통일된 관점에서 이해할 수 있게 하는 강력한 개념적 도구이다. 뉴턴 역학이 미분 방정식을 통해 국소적(local)으로 운동을 기술하는 반면, 변분 원리는 전체적(global)인 관점에서 계의 거동을 범함수의 최적화 문제로 표현한다. 이러한 접근은 라그랑주 역학과 해밀턴 역학의 기초를 이루며, 이는 양자역학, 양자장론, 일반상대성이론 등 현대 물리학의 여러 분야로 확장되었다. 또한 변분 원리는 수치 해석(유한 요소법 등)과 양자 화학 계산에서 실용적인 근사 방법으로도 널리 사용된다.
