완벽주의와 수학의 관계

이전에 다뤘던 해밍의 강연에서 애매함(ambiguity)의 중요성에 대해 강조하는 부분이 있습니다. 대략 훌륭한 과학자는 이론을 충분히 믿어서 밀고 가기도 하고, 의심도 충분히 하기 때문에 오류나 허점을 발견하고 새로운 이론을 만들내기도 하는 균형을 필요로 한다는 내용입니다.

한때 수학은 완벽주의를 기반으로 돌아가는 학문이라고 생각했고, 그래서 수학도라면 당연히 완벽주의를 추구해야 한다고 믿었던 때가 있습니다. 왜냐하면 빈틈없이 엄밀한 증명이 뒷받침되는 명제는 완벽성을 띄기 때문입니다. 어떤 공리계의 규칙을 주춧돌에서 논리로 쌓아올린 지식들이 수학이고, 따라서 수학에서 다루는 것들은 완벽하다, 그런 생각입니다. 그리고 더 나아가 현실 세계에서도 모든 일을 완벽하게 해내려고 해야 된다고 생각하기도 했습니다.

하지만, 수학의 발전사를 보면 공리계 또한 끊임없는 논의를 통해 발전해왔고, 우리가 아는 수학이 모순이 없는 체계라는 사실을 알 수 없다는 것도 증명되었기 때문에 (힐베르트 프로그램¹를 무너뜨린 괴델의 불완전성 정리²) 결국 수학에서도 모순이 없는 완벽한 이론체계는 보장되지 않습니다. 공리계에서 논리적으로 증명된 명제들이 있다고 해도, 공리계 자체가 모순적일 수 있다는 위험을 언제나 내재하고 있습니다.

이처럼 탄탄한 논리 위에서 쌓아올려진 것처럼 보이는 수학도 사실은 완벽주의적 관점에서 불안하기 짝이 없습니다. 이런 부분이 수학을 근거로 세운 완벽주의를 버리고 애매함을 추구해야 하는 설명이 될 것 같습니다.

(여담으로, 바나흐-타르스키 이론의 관점에서 수학의 공리계와 실증주의의 관계를 계속 생각해보고 있습니다. 실증주의 이후 그것을 반박하는 과학 철학을 다시 살펴봐야 할 것 같습니다)