페북에 김모군이 수학을 이해한다는 것이 어떤 것인가 하는 글을 올렸다. 세 가지 경우를 제시하고 이 중 어느 정도이면 이해했다고 할 수 있는가 하는 질문이었다. 그 세 가지는 첫 줄만 옮기면 다음과 같다.

  1. 연역적 논리 전개 과정을 따라갈 수 있으면 이해한 것이다.
  2. 전체적인 증명 과정이 머리속에 자연스럽게 그려져야한다.
  3. 직관적으로 그 명제가 참이라는 것을 이해할 수 있어야 한다.

이 세 가지에 대해서 긴 설명을 덧붙였지만 여기서는 생략하기로 한다. 그리고 이 세 가지보다 더 많은 단계를 경험해 보았지만... 여기서는 이해한다는 것에 대해 내가 느끼는 점을 적어본다.


수학을 공부하면서 항상 목표로 하고 있는 것은 공부한 내용을 이해하겠다는 것이고, 학생시절에 나도 위의 세 가지 등을 가지고 여러 가지 생각을 했다. 처음에는 증명을 따라가면 이해되었다고 생각한 적도 있고, 이 증명을 보지 않고 적을 수 있을 때, 증명이 환하게 떠오를 때, 원래 증명을 한 번도 안 본 상태 또는 잊어버린 상태에서 새로 만들어낼 수 있을 때, 그 정리가 적용되는 예를 통한 이해, 그 정리의 조건들이 만족되지 않을 때 각각의 반례 등등 여러 단계를 이해라고 생각했었다.


잠시 사이드로 빠져서 수학의 증명 방법에는 소위 루틴한 증명과 그렇지 않은 특이한 방법이 있다. 루틴한 방법이란 기본적인 수학 전개법을 알면 많은 사람들이 할 수 있는 증명 방법이다. 이것은 증명이 복잡하거나 길다는 것과는 상관 없다. 경우를 나눈다면 두 경우로 나누든 20 경우로 나누든 걸리는 시간에만 차이가 있을 뿐 각 스텝은 생각해내기도 그리 어렵지 않고 실제로 증명을 써나가는 것도 어렵지 않다는 것이다. 이에 반해서 특별한 아이디어를 필요로 하는 것은 그 아이디어가 떠오르지 않으면 그 증명을 하기 어려운 경우를 말한다. 대표적인 쉬운 예로 칸토르의 대각선 논법은 짤막한 증명임에도, 그 증명하려는 대상 명제의 용어들의 정의를 들어다보는 것으로는 그 생각이 떠오르지 않는다. 이런 방법을 떠올릴 수 있는 사람은 상대적으로 극소수 뿐이라는 것이 루틴하지 못하다는 것이다. 증명을 외우는 방법은 위의 분류에 따라 루틴하지 못한 것을 구별하여 내서 이런 것은 그냥 아이디어를 외운다. 한편 루틴한 것은 빨리 생각나게 하려면 증명의 과정에서 중요한 turning point를 기억해둘 필요는 있지만 기억하지 않았어도 시간만 많이 있으면 결국은 증명해낼 것이라고 생각된다.


이제 이런 과정을 거치면 증명들을 환하게 기억하는 수준을 만들 수 있다. 그런데 이런 상황에서 수학을 잘 하는 사람과 이야기해 보면 많이 부족하다는 것이 느껴진다. 어딘가에도 썼지만 내가 박사과정에서 지도교수님과 이야기할 때 느꼈던 것을 이야기하면... 대학원에서 기하학을 공부하면 잘 이해되지 않아서 왜그런가를 질문하면 많은 경우 선생님은 "설명은 거의 한마디로 할 수 있는 간단한 건데..." 하는 식이다. 그 한마디가 사실이라는 것은 잘 알고 또 믿지만 잘 이해되지는 않는다던가 그럴 것 같지만 확실히는 어째서인지 잘 모르겠다는 식으로 따져 들어가면 금방 "학부 해석학에서 이런 정리가 그거쟈나" 하는 말씀을 한다. 알았다고 하고 돌아와서 그 정리를 찾아서 음미해보면 아 이 정리가 그런 식으로 쓰이는 것이었구나 하고 새롭게 보인다. 그 정리는 증명도 환하게 알고 있고 예도, 또 반례도 알고 있었지만 이렇게는 알지 못했다.


이해에 대해서 여러가지로 생각해 보면 어떤 내용도 이해가 완벽하게 되었다는 상태는 없다는 생각이 든다. 예전에 만들어진 수학을 생각해 보면 당시의 수학자들은 자신의 이론을 잘 이해하고 있었다고 생각되지만, 그 이후에 만들어진 새로운 개념들 위에 그것이 적용되는 새로운 상황을 보고 나면 예전에 이것을 만들었던 사람들이 이런 상황을 보면 뭐라고 할까 하는 생각이 든다. 이런 상황을 보고 나면, 말은 변하지 않았고 정의도 똑같지만, 예전의 단순한 상황에만 적용되던 그 개념이라고 할 수 있을까 라는 생각이 들면서 이 적용 상황이 복잡해진 만큼 개념도 복잡해졌다고 해야 할지 모르겠다. 하지만 그 정의는 변하지 않았으니까 수학적으로는 개념의 변화가 없다고 하는 것이 옳을지 모르므로 말을 바꾸어서 이 수학 개념에 대한 이해가 깊어졌다고 말하는 것이 옳다고 생각된다.


이런 경험을 통해서 알게 된 것을 몇 자리에서 다른 사람들에게 설명한 적이 있다. 한 가지 예를 들어서 설명했지만 결론만 이야기하면 다음과 같다: 우리가 안다(이해한다)는 것은 그 대상(개념)을 그냥 들여다보면서는 안된다. (예를 들어 1을 아무리 들여다봐도 1을 알 수 없다.) 오히려 이것을 어떻게 쓰는지를 알아야 이해가 된다. (1+1=2가 이에 대한 이해를 증진시켜준다.) 이런 상태를 간단히 대상과 그 위에 작용하는 operator 사이의 관계라고 말할 수 있다. 그리고 operator는 그의 작용대상을 이해할 수 있게 해 주는 방법이다. 이 operator는 일반적으로 function(함수)라고 지칭된다. 그리고 함수는 대상에 작용하는 것으로 일종의 dual object이다.


비슷한 맥락이지만 어떤 대상을 이해하려면 그와 비슷한 다른 대상(예를 들면 1에 대해서 2 같은 것)과 어떤 관계(+)를 가지는지(즉 1+1=2, 2+1=3,...)를 알게 됨으로써 1에 대한 이해가 깊어진다는 것이다. (동시에 +에 대한 이해도 깊어진다는 것은 매우 중요하다. object와 dual object(function)에 대한 이해는 동시에 깊어진다.) 이 function은 수학의 경우에는 함수이지만 일반적인 이해는 이보다 좀 복잡해서 관계(relation)라고 생각하면 좋다. 즉 어떤 대상을 이해하려면 이 대상과 주변 대상 사이의 관계를 파악해야 하고, 이 관계가 늘어날수록 이해가 깊어진다고 할 수 있다. 따라서 이해가 끝났다는 그런 상태는 없다는 것이다.


앞에서 이야기했던 증명을 외운다, 예와 반례를 안다, ... 등등의 방법도 당연히 이런 관계를 파악해 나가는 과정이라고 할 수 있다. 따라서 이런 관계를 빨리 얻어들으면 수학의 이해가 깊어진다. 그리고 이것은 높은 수준의 이야기를 얻어듣는 것이 된다. 단지 초등학생이 대학교 강의에 가면 무슨 말인지 모르니까 그런 식으로는 아니다. 그리고 이렇게 배우는 것은 보통 이야기하는 선행학습은 더욱 아니다. 하지만 학교 선생님은 이런 것을 해 줄 수 없다.(능력이 없다) 그래서 대학원 세미나 강의는 갓 박사를 마친 사람이 제일 잘 하지만 초등학생들 상대의 강의는 어쩌면 은퇴한 老 수학자가 가장 잘 할지 모른다고 하는 것이다.(이것은 내 말임)


일반인에게 이런 이야기를 한 맥락 중의 한 가지는 아름다움에 대한 것이었다. 사람이 아름다움을 느끼는 것은 수학은 이해하는 것과 매우 비슷한 과정을 거친다고 생각된다. 사실 위의 과정은 수학의 이해와 꼭 마찬가지로 아름다움을 느끼는데도 그대로 적용된다고 보인다. 어떤 이론을 이해하면 즐거운 것이 당연하다. 수학이 아름다워 보이는 것이 전혀 이상하지 않다.



블로그 이미지

그로몹

운영자의 개인적 생각을 모아 두는 곳입니다.

댓글을 달아 주세요

  • ㅇㅇ 2019.06.15 01:56  댓글주소  수정/삭제  댓글쓰기

    좋은글 감사합니다. 본문에서 말씀하신 '어떤 대상을 이해한다는것'은 교육심리학에서의 '정교화'개념과 비슷한 측면이 있는것 같네요

    수포자여서 다시 수학공부에 매진중인데...시행착오를 겪어가며 이제는 '수학사'에 대해서 알아보고자 구글링하다 우연히 들리게 됬습니다 ㅜ