개요
재귀 최소 제곱 필터(Recursive Least Squares filter, 이하 RLS 필터)는 디지털 신호 처리에서 사용되는 적응형 필터 중 하나이다. 입력 신호와 원하는 출력(목표 신호) 사이의 오차가 최소가 되도록 필터 계수를 실시간으로 업데이트한다. RLS 알고리즘은 가중 최소 제곱(cost) 함수를 최소화하는 방식으로, 과거 데이터에 대한 가중치를 지수적으로 감소시키는 “지수 가중 평균”(exponential forgetting) 기법을 적용한다.
작동 원리
-
목표 함숫값
$$ J(n)=\sum_{i=0}^{n}\lambda^{,n-i},|d(i)-\mathbf{w}^T(n)\mathbf{x}(i)|^{2} $$- $d(i)$: 목표 신호(희망 출력)
- $\mathbf{x}(i)$: 입력 벡터 $[x(i),x(i-1),\dots ,x(i-M+1)]^{T}$
- $\mathbf{w}(n)$: 현재 시점 $n$에서의 필터 계수 벡터
- $\lambda$ ($0<\lambda\le 1$): 기억 상수(forgetting factor)
$\lambda$가 1에 가까울수록 오래된 데이터가 더 큰 비중을 차지하고, 작을수록 최신 데이터에 더 높은 비중을 둔다.
-
계수 업데이트
RLS 필터는 다음 두 단계로 계수를 갱신한다.- 이득 벡터(gain vector) 계산
$$ \mathbf{k}(n)=\frac{\mathbf{P}(n-1)\mathbf{x}(n)}{\lambda+\mathbf{x}^{T}(n)\mathbf{P}(n-1)\mathbf{x}(n)} $$ - 오차 계산
$$ e(n)=d(n)-\mathbf{w}^{T}(n-1)\mathbf{x}(n) $$ - 계수 업데이트
$$ \mathbf{w}(n)=\mathbf{w}(n-1)+\mathbf{k}(n),e(n) $$ - 공분산 행렬(P) 업데이트
$$ \mathbf{P}(n)=\frac{1}{\lambda}\bigl[\mathbf{P}(n-1)-\mathbf{k}(n)\mathbf{x}^{T}(n)\mathbf{P}(n-1)\bigr] $$
여기서 $\mathbf{P}(n)$는 입력 데이터의 공분산 행렬의 역행렬에 해당하며, 초기값은 일반적으로 큰 대각 행렬(예: $\delta \mathbf{I}$, $\delta$는 큰 양수)으로 설정한다.
- 이득 벡터(gain vector) 계산
특징
| 구분 | 내용 |
|---|---|
| 수렴 속도 | LMS(Least Mean Squares) 필터에 비해 매우 빠른 수렴을 보인다. |
| 계산 복잡도 | 계수 수 $M$에 대해 $O(M^{2})$ 연산이 필요해, 실시간 적용 시 연산량이 크다. |
| 메모리 요구량 | 공분산 행렬 $\mathbf{P}(n)$를 저장해야 하므로 $M^{2}$개의 실수 저장소가 필요하다. |
| 안정성 | 적절한 $\lambda$와 초기값 설정이 요구된다. $\lambda$가 1에 너무 가깝게 설정될 경우 수치적 불안정이 발생할 수 있다. |
| 응용 분야 | 시스템 식별, 채널 추정, 노이즈 제거, 레이더 신호 처리, 통신 시스템의 적응형 이퀄라이저 등. |
주요 적용 사례
- 시스템 식별
물리적 시스템(예: 전기 회로, 기계 구조)의 입력–출력 관계를 실시간으로 모델링한다. - 채널 추정 및 보상
무선 통신에서 다중 경로와 페이딩을 보정하기 위한 적응형 이퀄라이저로 활용된다. - 음성 및 오디오 신호 처리
에코 취소, 잡음 억제 등에 RLS 기반 알고리즘이 적용된다.
참고 문헌
- S. Haykin, Adaptive Filter Theory, 5th ed., Pearson, 2013.
- B. D. O. Anderson & J. B. Moore, Optimal Filtering, Prentice Hall, 1979.
- L. R. Rabiner & B. Gold, Theory and Application of Digital Signal Processing, Prentice Hall, 1975.
(※ 위 내용은 공개된 학술 자료와 교과서에 기반한 객관적 설명이며, 최신 연구 동향은 별도 문헌 검색이 필요할 수 있다.)