변환행렬(變換行列, Transformation Matrix)은 선형대수학에서 선형 변환을 행렬로 표현한 것을 말한다. 벡터 공간 $V$에서 벡터 공간 $W$로의 선형 변환 $T: V \to W$가 주어지고, $V$와 $W$에 각각 기저가 선택되어 있을 때, 이 변환의 작용을 행렬 곱셈으로 계산할 수 있도록 정리한 행렬이다.
정의 및 구성 $n$차원 벡터 공간 $V$와 $m$차원 벡터 공간 $W$ 위의 선형 변환 $T$에 대해, $V$의 기저를 ${\mathbf{v}_1, \dots, \mathbf{v}_n}$, $W$의 기저를 ${\mathbf{w}_1, \dots, \mathbf{w}_m}$이라 하자. 이때 변환행렬 $A$는 $m \times n$ 크기의 행렬로, $j$번째 열벡터가 기저 벡터 $\mathbf{v}_j$에 대한 상 $T(\mathbf{v}_j)$를 $W$의 기저로 표현한 좌표벡터가 된다. 즉, $A = [ [T(\mathbf{v}1)]{\mathcal{B}_W} \cdots [T(\mathbf{v}n)]{\mathcal{B}_W} ]$이다.
성질
- 선형 결합 보존: 임의의 벡터 $\mathbf{x} \in V$가 기저 $\mathcal{B}V$에 대해 좌표벡터 $[\mathbf{x}]{\mathcal{B}V}$를 가질 때, $T(\mathbf{x})$의 좌표벡터는 행렬-벡터 곱 $A[\mathbf{x}]{\mathcal{B}_V}$로 얻어진다.
- 합성: 두 선형 변환 $T_1, T_2$가 연속적으로 적용될 때, 전체 변환에 대응하는 행렬은 각 변환행렬의 곱($A_2 A_1$)과 같다. 단, 기저가 일관되게 선택되어 있어야 한다.
- 기저 의존성: 변환행렬의 성분은 정의역과 공역에 선택된 기저에 따라 달라진다. 기저 변환 시 변환행렬은 닮음 변환(Similarity Transformation) 규칙을 따른다.
주요 예시
- 회전 행렬: 유클리드 평면 또는 공간에서 원점을 중심으로 벡터를 회전시키는 변환.
- 확대/축소 행렬: 축 방향을 따라 벡터의 크기를 비례적으로 변경하는 변환.
- 전단 행렬: 한 축 방향 성분을 유지하면서 다른 축 방향 성분을 비례적으로 더해주는 변환.
- 투영 행렬: 벡터를 특정 부분공간 위로 직교 투영시키는 변환.
역행렬과 가역성 선형 변환 $T$가 전단사(Bijection)일 때, 즉 핵이 영벡터만 포함하고 상이 공역 전체일 때 변환행렬 $A$는 정방행렬이며 역행렬 $A^{-1}$을 가진다. 이때 $A^{-1}$은 역변환 $T^{-1}$의 변환행렬이다.
응용 분야 컴퓨터 그래픽스(3D 모델링, 렌더링), 로보틱스(기구학, 제어), 물리학(좌표 변환, 양자역학), 신호 처리(푸리에 변환 등 기저 변환), 머신러닝(차원 축소, 특성 추출) 등 수학과 공학 전반에서 기초 도구로 사용된다.
