조건부 독립(conditional independence)은 확률론과 통계학에서 사용되는 핵심 개념으로, 특정 제3의 조건이 주어졌을 때 두 사건(또는 확률 변수)이 서로 통계적으로 독립이 되는 상황을 의미한다. 즉, 어떤 조건 C가 주어졌을 때, 사건 A의 발생 여부가 사건 B의 확률에 아무런 영향을 미치지 않으면, A와 B는 C에 대해 조건부 독립이라고 한다.
정의
사건 A, B, C에 대하여, P(C) > 0일 때, 다음 두 조건이 동치이며 이를 조건부 독립의 정의로 사용한다.
-
조건부 확률 기반 정의:
$ P(A \mid B, C) = P(A \mid C) $
이는 C가 주어진 상황에서 B라는 관측값이 A의 확률 평가에 아무런 추가 정보를 제공하지 않음을 의미한다. -
곱셈 형태의 동등 정의:
$ P(A, B \mid C) = P(A \mid C) , P(B \mid C) $
이는 C가 주어졌을 때 A와 B의 결합 확률이 각각의 조건부 확률의 곱으로 분해됨을 의미한다.
조건부 독립은 기호로 $ (A \perp!!!\perp B \mid C) $ 또는 $ A \perp B \mid C $와 같이 표기한다.
성질
조건부 독립은 다음과 같은 그래포이드(Graphoid) 공리로 알려진 기본 성질들을 만족한다.
- 대칭성(Symmetry): $ X \perp!!!\perp Y \mid Z \iff Y \perp!!!\perp X \mid Z $
- 분해(Decomposition): $ X \perp!!!\perp Y \mid Z \Rightarrow h(X) \perp!!!\perp Y \mid Z $
- 약한 결합(Weak Union): $ X \perp!!!\perp Y \mid Z \Rightarrow X \perp!!!\perp Y \mid (Z, h(X)) $
- 축약(Contraction): $ X \perp!!!\perp A \mid B $이고 $ X \perp!!!\perp B $이면 $ X \perp!!!\perp A, B $
- 교집합(Intersection): 확률 분포가 양수( strictly positive)일 때, $ X \perp!!!\perp Y \mid Z, W $이고 $ X \perp!!!\perp W \mid Z, Y $이면 $ X \perp!!!\perp W, Y \mid Z $
일반적인 독립과의 차이
중요한 점은 두 사건이 (무조건) 독립이라고 해서 반드시 조건부 독립인 것은 아니며, 반대로 조건부 독립이라고 해서 무조건 독립인 것도 아니라는 점이다. 예를 들어, 두 주사위의 눈금은 일반적으로 독립이지만, "두 눈금의 합이 짝수"라는 조건이 주어지면 조건부 독립이 성립하지 않게 된다. 반대로, 어떤 두 변수는 전체적으로는 상관관계가 있더라도 특정 조건(예: 연령)을 통제하면 조건부 독립이 될 수 있다.
활용 분야
조건부 독립은 확률론적 그래프 모델(Probabilistic Graphical Models), 베이즈 통계(Bayesian statistics), 인과 추론(Causal inference), 베이지안 네트워크(Bayesian networks), 마르코프 무작위장(Markov random fields) 등 현대 통계학 및 기계 학습의 여러 분야에서 핵심적인 개념으로 사용된다. 특히 Judea Pearl(2011년 튜링상 수상자)이 발전시킨 인과 추론 이론과 그래프 기반 통계 모형의 수학적 토대를 이루고 있다.
