귀류법

어떤 주장이 맞는지 직접 증명하기 어려울 때, '만약 반대가 맞다면 어떤 말도 안 되는 일이 벌어질까?'를 보여주어 진실을 밝혀내는 탐정의 추론법이에요.

정의 귀류법(증명하고자 하는 명제의 반대를 가정한 뒤 모순을 이끌어내어 원래 명제가 참임을 증명하는 수학적 논리 방법)은 '틀린 길로 끝까지 가보면 막다른 벽이 나온다'는 사실을 이용해 올바른 길을 확인하는 증명 방식이에요.

범인을 찾는 탐정의 거짓말 게임

친구가 '나는 어제 저녁 7시에 학원에 있었어'라고 알리바이를 주장한다고 상상해 보세요. 이때 친구의 말이 거짓임을 밝히려면 어떻게 해야 할까요? 일단 친구의 주장이 맞다고 믿어보는 거예요.

'그래, 네가 7시에 학원에 있었다고 치자. 그런데 왜 7시 5분에 집 앞 편의점 영수증에 네 서명이 남아있을까? 5분 만에 학원에서 집까지 순간이동하는 건 불가능하잖아!'처럼 가정이 가져온 명백한 모순을 지적하는 방식이에요.

이렇게 '친구가 학원에 있었다'는 생각이 말이 안 되는 엉터리 결론으로 이어지므로, 원래 주장인 '학원에 있었다'는 거짓이고 '학원에 없었다'가 참이 돼요. 일상에서도 자주 쓰는 아주 강력한 논리적 생각법이에요.

귀류법의 원리 다이어그램 가정이 거짓으로 판명! 결론 도출 원래 주장 참! 모순 발생! 원래 주장 반대로 가정 출발: 명제 검증

수학자들은 왜 이 우회로를 좋아할까요?

수학에서 어떤 성질이 '영원히 계속된다'거나 '절대로 존재하지 않는다'는 것을 증명하기는 무척 어려워요. 모든 숫자를 끝없이 하나하나 검사해 볼 수는 없으니까요.

이럴 때 귀류법이 빛을 발해요. 고대 그리스의 수학자 유클리드는 소수(1과 자기 자신으로만 나누어떨어지는 수)가 무한히 많다는 사실을 증명할 때 이 방법을 썼어요. '소수가 딱 100개처럼 유한하게만 있다고 쳐보자'라고 거꾸로 가정한 뒤, 그 소수들을 전부 곱하고 1을 더하면 새로운 소수가 반드시 튀어나온다는 계산을 보여준 거예요.

'소수가 유한하다'는 가정이 스스로 모순을 낳았으니, 결국 소수는 무한히 많을 수밖에 없다는 결론이 깔끔하게 내려져요. 직접 끝까지 가보지 않고도 무한의 비밀을 밝혀낸 셈이에요.

조금 더 정확히 말하면: 배중률의 마법

귀류법이 완벽하게 작동하려면 한 가지 중요한 전제가 필요해요. 바로 논리학에서 말하는 배중률(어떤 명제는 참이거나 거짓 중 하나일 뿐, 중간은 없다)이라는 규칙이에요.

'A가 아니면 무조건 B다'라는 세상이어야만 'A가 아니다'를 부정했을 때 B가 진실로 확정돼요. 만약 흑과 백 사이에 회색처럼 '참도 거짓도 아닌 제3의 상태'가 있다면 귀류법만으로 결론을 내리기 어려워질 수 있어요.

현대 수학의 거의 모든 분야는 배중률을 바탕으로 세워져 있기 때문에, 귀류법은 수학의 기초를 단단하게 받쳐주는 가장 우아한 도구로 인정받고 있어요. 루트 2가 분수로 나타낼 수 없는 무리수라는 유명한 증명도 바로 이 귀류법으로 완성되었답니다.

🤔 흔한 오해

✕ 오해

귀류법은 반대 주장이 마음에 들지 않을 때 말싸움에서 꼬투리를 잡는 기술이다.

✓ 사실

단순히 트집을 잡는 게 아니라, 반대되는 가정을 논리적 규칙대로 철저히 전개했을 때 수학적·논리적 모순이 발생함을 빈틈없이 보여주는 엄밀한 연역 증명법이에요.

🧺 일상에서 만나요

1 루트 2(√2)가 분수로 나타낼 수 있는 유리수라고 가정한 뒤, 약분이 더 이상 안 된다는 약속이 깨지는 모순을 보여 무리수임을 증명해요.
2 방 안에 나 혼자 있었는데 과자가 사라졌을 때, '내가 안 먹었다'고 가정하면 유령이 나타나지 않는 한 설명이 불가능하므로 내가 먹었음이 확실해지는 추론이에요.
💡 그러니까 한마디로

주장의 반대를 사실이라고 가정한 뒤 생겨나는 엉터리 모순을 찾아내어, 원래 주장이 참임을 완벽하게 증명하는 생각법이에요.