역함수 정리(逆函數定理, 영어: inverse function theorem)는 미적분학 및 다변수 미적분학에서 주어진 함수가 국소적으로 역함수를 가질 충분 조건을 제시하는 정리이다. 이 정리는 함수의 미분 가능성과 도함수의 비퇴화성(non-degeneracy)이라는 조건 하에서, 함수가 국소적으로 역함수를 가지며 그 역함수 역시 충분히 매끄럽다는 것을 보장한다.
일변수 버전
실수 함수 $f$가 열린 구간 $I$에서 미분 가능하고 도함수 $f'$가 연속(즉, $C^1$ 함수)이라고 가정하자. 만약 어떤 점 $a \in I$에서 $f'(a) eq 0$이라면, $a$를 포함하는 어떤 열린 구간 $J \subseteq I$가 존재하여 $f$를 $J$로 제한한 함수가 국소적 미분동형사상(local diffeomorphism)이 된다. 즉, $f$는 $J$에서 전단사이며 그 역함수 $f^{-1}$도 $C^1$ 함수이고, 다음이 성립한다.
$$ (f^{-1})'(f(a)) = \frac{1}{f'(a)} $$
다변수 버전
$U \subseteq \mathbb{R}^n$이 열린 집합이고 $\mathbf{f}: U \to \mathbb{R}^n$이 $C^k$ 함수($k \geq 1$)라고 하자. 점 $\mathbf{a} \in U$에서 $\mathbf{f}$의 야코비 행렬(Jacobian matrix) $D\mathbf{f}(\mathbf{a})$의 행렬식이 0이 아니라고 가정한다. 즉,
$$ \det D\mathbf{f}(\mathbf{a}) eq 0 $$
이라면, $\mathbf{a}$를 포함하는 열린 근방 $V \subseteq U$가 존재하여 $\mathbf{f}$를 $V$로 제한한 함수가 $C^k$ 미분동형사상이 된다. 다시 말해, $\mathbf{f}$는 $V$에서 전단사이고 그 역함수 $\mathbf{f}^{-1}$도 $C^k$ 함수이며, 역함수의 도함수는 다음 관계를 만족한다.
$$ D\mathbf{f}^{-1}(\mathbf{f}(\mathbf{a})) = [D\mathbf{f}(\mathbf{a})]^{-1} $$
의의와 응용
역함수 정리는 해석학과 미분기하학에서 핵심적인 위치를 차지한다. 이 정리는 비선형 방정식의 해의 존재성과 유일성을 국소적으로 보장하며, 음함수 정리(implicit function theorem)의 증명에 직접적으로 사용된다. 또한 미분다양체(differentiable manifold) 사이의 미분 가능한 사상이 국소적 미분동형사상이 될 조건을 제시하는 데 활용된다. 더 나아가 바나흐 공간(Banach space)에서의 프레셰 미분(Fréchet derivative)에 대해서도 일반화된 버전이 존재하며, 복소해석학에서는 정칙 함수(holomorphic function)에 대한 역함수 정리가 성립한다.
역사
역함수 정리는 19세기 후반부터 20세기 초반에 걸쳐 피카르(Émile Picard)와 구르사(Édouard Goursat) 등에 의해 축약 사상 원리(contraction mapping principle)를 이용한 반복적 방법으로 정립되었다. 이후 다양한 공간과 조건으로 일반화되어 현대 수학의 여러 분야에서 기본 도구로 사용되고 있다.
