수치선형대수학은 선형대수학의 이론을 기반으로, 행렬 및 벡터 연산을 컴퓨터에서 효율적이고 정확하게 수행하기 위한 알고리즘과 그 수치적 특성을 연구하는 학문 분야이다. 주로 연산 복잡도, 수치 안정성, 오차 분석 등을 중점으로 하며, 수치해석과 선형대수학의 교차 영역에 해당한다.
정의
수치선형대수학은 다음과 같은 문제들을 다룬다.
| 범위 | 주요 내용 |
|---|---|
| 선형 시스템 해법 | 직접 해법(가우스 소거법, LU 분해 등) 및 반복 해법(Conjugate Gradient, GMRES 등) |
| 고유값·고유벡터 계산 | QR 알고리즘, Power Method, Lanczos 방법 등 |
| 특이값 분해(SVD) | 전체/부분 SVD, Truncated SVD 등 |
| 행렬 분해 | LU, QR, Cholesky, Schur 분해 등 |
| 행렬 근사 및 압축 | 저-rank 근사, 행렬 곱셈 가속화(FFT 기반, Strassen 알고리즘 등) |
| 오차·안정성 분석 | 반정밀도 연산, 조건 수, 전진·후진 오차 등 |
역사
수치선형대수학은 20세기 초반부터 전산학과 수치해석의 발달과 함께 형성되었다. 가우스 소거법과 같은 직접 해법은 19세기 말에 이미 고전적인 선형대수학 기법으로 확립되었으며, 전자 컴퓨터의 보급으로 대규모 행렬 연산이 실용적인 문제로 부각되면서 효율적인 알고리즘의 필요성이 대두되었다. 1960~1970년대에 존 고루브(John Golub)와 채스 반 로드(Charles Van Loan)가 제시한 Matrix Computations와 같은 저서가 분야의 체계화를 촉진했으며, 이후 스티븐·데멜(Steve Demmel) 등은 고성능 컴퓨팅 환경에서의 수치적 안정성 문제를 중심으로 연구를 확장하였다.
주요 알고리즘 및 기법
- 직접 해법: Gaussian elimination, LU 분해, Cholesky 분해(대칭 양정 행렬)
- 반복 해법: Conjugate Gradient (대칭 양정 행렬), GMRES, BiCGSTAB 등
- 고유값 해법: QR 알고리즘, Arnoldi 과정, Lanczos 과정(대칭 행렬)
- 특이값 분해: Golub‑Reinsch SVD, 차원 축소를 위한 Truncated SVD
- 행렬 분해와 응용: QR 분해를 이용한 최소제곱 문제, Schur 분해를 이용한 시스템 해석
응용 분야
수치선형대수학은 다음과 같은 다양한 분야에 필수적인 기법을 제공한다.
- 과학·공학 시뮬레이션: 유한 요소법, 전자기 해석, 유체 역학 등
- 데이터 과학·머신러닝: 차원 축소(PCA), 추천 시스템, 신경망 가중치 초기화
- 컴퓨터 그래픽스: 변환 행렬 연산, 물리 기반 렌더링
- 제어·신호 처리: 시스템 식별, Kalman 필터, 음성 인식
- 경제·금융 모델: 포트폴리오 최적화, 위험 관리
교육 및 연구 기관
대한민국에서는 다음과 같은 대학·연구소에서 수치선형대수학 관련 강의 및 연구가 활발히 진행되고 있다.
- 서울대학교 수리과학부·전산학부
- KAIST 전산학부·전산수학연구소
- 한국과학기술원(POSTECH) 전산학과
- 한국전산학회, 한국수치해석학회 등 학술단체
참고 문헌
- Golub, G. H., & Van Loan, C. F. Matrix Computations (4th ed.). Johns Hopkins University Press, 2013.
- Demmel, J. W. Applied Numerical Linear Algebra. SIAM, 1997.
- Trefethen, L. N., & Bau, D. Numerical Linear Algebra. SIAM, 1997.
외부 링크
- 한국수치해석학회 홈페이지
- Wikipedia “Numerical linear algebra” (영문)
※ 본 항목에 기술된 내용은 현재까지 확인된 학술적 자료와 일반적인 교과서적 정의에 기초하였다. 특정 세부 사항에 대해 최신 연구 동향이 반영되지 않을 수 있다.