가우스 유닛 무작위 행렬군(Gaussian Unitary Random Matrix Ensemble, 약칭 GUE)은 무작위 행렬 이론(Random Matrix Theory, RMT)에서 가장 중요하고 널리 연구되는 무작위 행렬 앙상블 중 하나이다. 영어 원어인 Gaussian Unitary Ensemble(GUE)로 더 널리 알려져 있으며, 한국어로는 '가우스 유니타리 앙상블', '가우스 유니터리 앙상블' 등으로도 번역된다.
정의
$N \times N$ 크기의 복소수 에르미트(Hermitian) 행렬 $H$를 고려할 때, 가우스 유닛 무작위 행렬군에 속하는 행렬은 다음 조건을 만족한다.
- 에르미트 조건: $H = H^\dagger$ ($H^\dagger$는 $H$의 켤레 전치행렬). 즉 $H_{ij} = H_{ji}^*$를 의미한다.
- 행렬 요소의 분포:
- 대각 요소 $H_{ii}$는 실수이며, 각각 독립적으로 평균 0, 분산 $\sigma^2$인 정규분포 $N(0, \sigma^2)$를 따른다.
- 비대각 요소 $H_{ij} (i < j)$는 복소수이며, 실수부와 허수부가 각각 독립적으로 평균 0, 분산 $\sigma^2/2$인 정규분포 $N(0, \sigma^2/2)$를 따른다.
- 유니타리 불변성: 행렬 $H$의 확률밀도함수 $P(H)$는 임의의 유니타리 행렬 $U$에 대해 $P(H) = P(U H U^\dagger)$를 만족한다. 즉, 앙상블의 통계적 특성이 유니타리 변환에 대해 불변하다.
이러한 조건들을 만족하는 행렬 $H$의 결합 확률밀도함수는 일반적으로 다음과 같은 형태로 주어진다.
$$P(H) \propto \exp\left(-\frac{1}{2\sigma^2}\text{Tr}(H^2)\right)$$
여기서 $\text{Tr}(H^2)$는 $H$ 제곱의 대각합(trace)이다.
분류와 역사
가우스 유닛 무작위 행렬군은 유진 위그너(Eugene Wigner)가 복잡한 원자핵의 에너지 준위를 설명하기 위해 무작위 행렬 이론을 도입한 데서 출발한다. 프리먼 다이슨(Freeman Dyson)은 무작위 행렬 앙상블을 대칭성에 따라 세 가지 주요 유형(다이슨의 Threefold Way)으로 분류했다.
| 앙상블 | 행렬 종류 | 다이슨 지수 $\beta$ | 시간 역전 대칭성 | 해당 물리계 |
|---|---|---|---|---|
| GOE (Gaussian Orthogonal Ensemble) | 실수 대칭 행렬 | $\beta = 1$ | 있음 (스핀 없음) | 원자핵 에너지 준위 |
| GUE (Gaussian Unitary Ensemble) | 복소수 에르미트 행렬 | $\beta = 2$ | 없음 | 자기장이 있는 계 |
| GSE (Gaussian Symplectic Ensemble) | 사원수 에르미트 행렬 | $\beta = 4$ | 있음 (반정수 스핀) | 스핀-궤도 결합 계 |
GUE는 시간 역전 대칭성이 깨진 양자계(예: 외부 자기장이 존재하는 계)의 통계적 성질을 모델링하는 데 사용된다.
주요 특성
위그너 반원 법칙 (Wigner Semicircle Law)
$N \to \infty$일 때, GUE 행렬의 고유값 밀도 분포는 위그너 반원 법칙을 따른다. 즉, 고유값 $\lambda$의 밀도함수 $\rho(\lambda)$는 다음과 같다.
$$\rho(\lambda) \propto \sqrt{R^2 - \lambda^2}$$
(여기서 $R$은 반원의 반지름)
고유값 반발 (Level Repulsion)
GUE의 고유값들은 서로 강하게 반발하는 경향을 보인다. 두 고유값 사이의 간격 $s$에 대한 확률밀도함수는 $s^2$에 비례하는 형태($\beta = 2$인 경우)를 가지며, 이는 GOE($s$에 비례)나 GSE($s^4$에 비례)와 구분되는 중요한 특징이다.
트레이시-위덤 분포 (Tracy-Widom Distribution)
GUE 행렬의 최대 고유값은 적절한 변환 및 스케일링을 통해 트레이시-위덤 분포를 따른다.
응용 분야
- 양자 물리학: 복잡한 원자핵, 양자 카오스(quantum chaos) 시스템, 메조스코픽 시스템, 양자 색역학(QCD)에서의 에너지 준위 통계 및 전송 특성 모델링
- 수학: 리만 가설과 관련된 리만 제타 함수의 비자명 영점 분포 연구
- 통계 물리학: 복잡계 시스템의 통계적 특성 분석
- 정보 통신: 다중 입출력(MIMO) 무선 통신 시스템의 채널 용량 분석
- 금융 및 신경 과학: 복잡한 시스템의 상관관계 분석
