말리아뱅 미분(Malliavin derivative)은 확률론, 특히 확률 해석학에서 사용되는 미분 연산자로, 위너 공간(Wiener space) 위에 정의된 실수 값 함수에 대하여 정의된다. 이는 폴 말리아뱅(Paul Malliavin)이 1970년대 후반에 확률 미분 방정식 해의 정칙성(regularity)에 관한 회르만데르 정리(Hörmander's theorem)의 확률론적 증명을 제공하기 위해 개발한 말리아뱅 미적분학(Malliavin calculus, 확률 변분 미적분학)의 핵심 도구이다.
정의와 성격
말리아뱅 미분은 기존의 미분과 달리 무한 차원 공간에서 작동한다. 유한 차원 유클리드 공간에서 정의된 함수에 대한 고전적 미분과 달리, 말리아뱅 미분은 가우스 확률 공간(특히 위너 공간) 위의 확률 변수에 대해 정의된다. 이 미분은 바나흐 공간에서의 프레셰 미분(Fréchet derivative)과 달리, 극한이 오직 위너 공간의 부분 힐베르트 공간인 캐머런-마틴 공간(Cameron-Martin space)의 방향에 대해서만 존재할 것을 요구한다.
기본 개념
기본적인 가우스 확률 변수 $ F = W(h) $ (여기서 $ W $는 일반화된 위너 적분, $ h $는 힐베르트 공간 $ H $의 원소)의 경우, 말리아뱅 미분은 단순히 $ h $가 된다. 더 일반적으로, $ F = \phi(W(h_1), \dots, W(h_m)) $ 형태의 매끄러운 다항식 확률 변수에 대해서는 다음과 같이 정의된다:
$$ DF = \sum_{i=1}^m \partial_i \phi(W(h_1), \dots, W(h_m)) , h_i $$
이때 미분 $ DF $는 $ L^2(\Omega; H) $의 원소, 즉 힐베르트 공간 $ H $의 값을 취하는 확률 변수로 해석된다.
주요 성질
말리아뱅 미분은 표준적인 연쇄 법칙(chain rule)을 만족한다. 매끄러운 함수 $ \Phi: \mathbb{R}^m \to \mathbb{R} $와 말리아뱅 미분 가능한 확률 변수 $ F_i $에 대하여:
$$ D\Phi(F_1, \dots, F_m) = \sum_{i=1}^m \partial_i \Phi(F_1, \dots, F_m) , DF_i $$
말리아뱅 미분 $ D $의 수반 연산자(adjoint operator)는 발산 연산자(divergence operator) $ \delta $로, 이는 확률 적분(stochastic integral)과 밀접한 관련이 있으며, 브라운 운동의 경우 적합한 과정에 대해서는 이토 적분(Itô integral)과 일치한다. 세 주요 연산자(말리아뱅 미분 $ D $, 발산 연산자 $ \delta $, 오르슈타인-울렌벡 연산자 $ L $)는 다음 항등식으로 연결된다:
$$ \delta DF = -LF $$
응용
말리아뱅 미분은 확률 미분 방정식 해의 밀도가 존재하고 매끄러움을 증명하는 데 사용된다. 특히, 말리아뱅 행렬(Malliavin matrix) $ \gamma_F = \langle DF_i, DF_j \rangle_H $이 거의 확실하게 가역적일 경우, 확률 변수 $ F $의 분포는 르베그 측도에 대해 절대 연속적이며 그 밀도는 매끄럽다는 것이 증명된다. 이는 금융공학, 물리학, 제어 이론 등 다양한 분야에서 확률적 모델의 해석에 활용된다.
