귀류법(歸謬法, 문화어: 귀유법)은 논리학과 수학에서 사용되는 간접 증명법의 하나로, 어떤 주장이나 명제가 참임을 직접 증명하는 대신, 그 명제를 부정하였을 때 논리적 모순이나 이치에 맞지 않는 결론이 도출된다는 것을 보임으로써 원래의 명제가 참임을 입증하는 방법이다. 라틴어로는 "레둑티오 아드 아브수르둠(Reductio ad absurdum)"이라 하며, 영어로는 "reduction to the absurd" 또는 수학에서는 "proof by contradiction(모순에 의한 증명)"이라고 한다. 배리법(背理法) 또는 반증법(反證法)이라고도 불린다.
어원
한자어 '귀류법'은 '돌아갈 귀(歸)'와 '잘못 류(謬)'를 써서 "오류로 귀착된다는 것을 보이는 방법"이라는 뜻을 지닌다. '배리법'은 '이치에 어긋난다(背理)'는 의미이며, '반증법'은 '반대 증거가 나타난다(反證)'는 의미이다. 라틴어 'Reductio ad absurdum'은 "터무니없는 것으로 환원"이라는 뜻이다.
논리학에서의 귀류법
귀류법은 기본적인 추리 규칙 중 하나로, 어떤 논증의 타당성을 입증하기 위해 사용된다. 구체적으로, 증명하고자 하는 명제 P가 있다고 할 때, P를 부정한 명제 ¬P를 가정한 후 논리적 추론을 전개하여 모순(contradiction)이 발생함을 보인다. 모순이 발생하였다는 것은 가정한 ¬P가 거짓임을 의미하므로, 배중률(배타적 중간의 원리, law of excluded middle)에 따라 원래 명제 P가 참임이 증명된다.
귀류법의 논리적 형식은 다음과 같이 표현할 수 있다.
- ¬P를 가정한다.
- ¬P로부터 추론을 진행하여 모순(⊥)을 도출한다.
- 따라서 P는 참이다.
이는 자연연역(natural deduction) 체계에서 RAA(Reductio ad Absurdum)라는 규칙으로 형식화된다.
수학에서의 귀류법
수학에서 귀류법은 어떤 수학적 명제가 참임을 증명하는 방법으로 널리 사용된다. 증명하려는 명제의 결론이 부정이라고 가정하였을 때, 이미 알려진 사실이나 정의, 정리 등과 모순되는 결과가 나온다는 것을 보여 원래의 명제가 참임을 증명한다.
귀류법은 고대 그리스 수학자 유클리드(Euclid)가 기원전 3세기경 저서 《원론》(Elements)에서 소수의 개수가 무한함을 증명할 때 사용한 것으로 알려져 있으며, 이는 귀류법을 사용한 가장 오래된 증명 사례 중 하나로 꼽힌다.
대표적인 예로, √2가 무리수임을 증명하는 과정이 자주 인용된다.
- √2가 유리수라고 가정한다. 따라서 √2 = b/a로 둘 수 있다. (단, a, b는 서로소인 자연수)
- 양변을 제곱하여 정리하면 2a² = b²이므로, b²은 2의 배수이고 따라서 b도 2의 배수이다. b = 2b'로 둘 수 있다.
- 이를 대입하면 a² = 2b'²이므로 a²은 2의 배수이고, 따라서 a도 2의 배수이다.
- a와 b가 모두 2의 배수라는 것은 a와 b가 서로소라는 가정에 모순된다. 따라서 √2는 유리수가 아니다.
귀류법의 의의와 한계
귀류법은 직접 증명이 어렵거나 복잡한 명제를 증명할 때 유용하게 사용된다. 특히 명제의 부정이 구체적인 반례나 명백한 모순을 쉽게 도출하는 경우 효과적이다. 그러나 귀류법은 배중률에 의존하므로, 직관 논리(intuitionistic logic)와 같이 배중률을 인정하지 않는 논리 체계에서는 일반적으로 수용되지 않는다. 직관 논리에서는 귀류법 대신 간접적으로 모순을 도출하는 다른 방식의 증명이 사용된다.
