고유치 문제(eigenvalue problem)는 선형대수학에서 정사각행렬 또는 선형 변환의 고유치(eigenvalue)와 이에 대응하는 고유벡터(eigenvector)를 찾는 문제를 말한다. 수학적으로, 영벡터가 아닌 벡터 v와 스칼라 λ에 대하여 다음 관계식을 만족하는 λ와 v를 각각 고유치 및 고유벡터라 하며, 이 쌍을 구하는 과정을 통틀어 고유치 문제라고 부른다.
$$ A\mathbf{v} = \lambda \mathbf{v} $$
여기서 A는 정사각행렬(또는 선형 연산자)이며, λ는 고유치, v는 고유벡터이다. 이 정의는 유한차원 벡터공간뿐만 아니라 무한차원 벡터공간의 경우에도 통용된다.
고유치는 행렬 A의 특성다항식(characteristic polynomial) $\chi_A(x) = \det(xI - A)$의 근으로 구해진다. 유한차원의 경우, 고유치의 집합은 특성다항식의 근의 집합과 동일하다. 또한 모든 고유치의 합은 행렬의 주대각합(trace)과 같고, 모든 고유치의 곱은 행렬의 행렬식(determinant)과 같다.
고유치 문제는 행렬의 대각화(diagonalization)와 밀접하게 연관된다. 행렬이 대각화 가능할 필요충분조건은 고유벡터로만 이루어진 기저가 존재하는 것, 즉 모든 고유공간(eigenspace)들의 직합(direct sum)이 전체 공간이 되는 것이다. 대각화가 불가능한 경우에는 일반화된 고유벡터(generalized eigenvector)와 조르당 분해(Jordan decomposition)를 통해 행렬을 분석한다.
고유치 문제는 순수수학을 넘어 다양한 응용 분야에서 핵심적인 역할을 한다. 통계학과 기계학습에서의 주성분 분석(PCA), 마르코프 연쇄(Markov chain)의 정상 상태 분석, 물리학에서의 양자역학(에르미트 연산자의 고유치 문제), 공학에서의 진동 해석 및 안정성 분석, 데이터 과학에서의 특이값 분해(SVD) 등이 대표적인 예이다. 수치해석 분야에서는 대규모 행렬의 모든 고유치를 구하는 대신, 특정한 몇 개의 고유치와 그에 대응하는 고유벡터를 찾아 데이터의 주요 특성을 파악하는 접근법이 널리 사용된다.
한편 해석학에서는 선형미분작용소에 대한 고유치 문제, 즉 미분방정식 $Tu = f$를 풀기 위해 $Tu = \lambda u$ 형태의 고유치 문제를 다루기도 하는데, 이는 유한차원 고유치 문제의 무한차원 확장으로 볼 수 있다.
