평균 제곱근 편차(Root Mean Square Deviation; RMSD) 또는 평균 제곱근 오차(Root Mean Square Error; RMSE)는 추정값 또는 모델이 예측한 값과 실제 환경에서 관찰되는 값의 차이를 다룰 때 흔히 사용하는 측도이다. 정밀도(precision)를 표현하는 데 적합하며, 각각의 차이값은 잔차(residual)라고도 하고, 평균 제곱근 편차는 잔차들을 하나의 측도로 종합할 때 사용된다.
정의
추정치 θ에 대한 추정량 θ̂의 평균 제곱근 편차는 평균 제곱 오차(MSE)의 제곱근으로 정의된다.
RMSE(θ̂) = √MSE(θ̂) = √E((θ̂ − θ)²)
관측값과 예측값 간의 차이를 직접 비교하는 경우, n개의 데이터에 대하여 다음과 같이 표현된다.
RMSD = √( (∑(x₁ᵢ − x₂ᵢ)²) / n )
특징
- 평균 제곱 오차(MSE)는 오차의 제곱을 평균한 값이므로 실제 오차의 크기와 단위가 다르다. 평균 제곱근 편차는 여기에 제곱근을 취함으로써 원래 데이터와 동일한 단위를 가지게 되어 해석이 용이하다.
- 편의 추정량(unbiased estimator)의 경우 평균 제곱근 오차는 분산의 제곱근, 즉 표준 오차(standard error)가 된다.
- 값이 0에 가까울수록 예측이 실제 값에 가깝다는 것을 의미한다.
활용 분야
- 회귀 분석: 모델의 예측 성능을 평가하는 지표로 사용된다.
- 딥러닝/머신러닝: 손실 함수(loss function)의 하나로 평균 제곱근 오차(RMSE)가 널리 사용된다.
- 계산 화학: 분자 구조의 차이를 정량화하는 데 RMSD가 사용된다.
- 기상학, 공학, 음향학 등 다양한 분야에서 모델 검증 및 오차 분석에 활용된다.
관련 개념
- 평균 제곱 오차(MSE; Mean Squared Error)
- 표준 편차(Standard Deviation)
- 제곱 평균 제곱근(RMS; Root Mean Square)
