'수학/수학에 대하여'에 해당되는 글 22건

* 오래 전에 번역했던 글을 옮긴다. 원래 나의 홈페이지에 있었는데 사정상 홈페이지가 변경되고 글을 옮겨두지 못했다. 후카야 교수의 허락을 받은 번역은 아니다. 이 것을 보고 후카야 교수의 글을 읽는 사람이 많이 생겼으면 한다.

이 책은 일본의 젊은 수학자(기하학자)인 후카야 켄지 교수가 쓴 책을 번역한 것이다.  이 책의 번역을 써 두는 것은 우선 내가 읽고 싶기 때문이다.  여러번에 걸쳐서 읽고 싶은 책이지만 일본말을 모르는 나로서는 원서를 두 번씩 사전을 찾아가며 읽을 수는 없다.  그래서 이렇게 번역한 것을 적어두기로 한다.  혹시 일본말을 모르는 사람들이 후카야 교수의 생각을 접할 수 있는 기회가 된다면 더할 나위가 없을 것이다.

수학자의 시점(視点)

후카야 켄지(Fukaya Kenji)

머리말

   이 책은 “수학세미나”에 1994년 4월에서 1999년 3월까지 연재된 수필 “수학자의 시점”을 책으로 펴낸 것으로, 수학에 관하여, 수학자에 관하여, 나름대로 생각하고 있었던 것을 쓴 것이다.

   다시 한번 읽어보고, 표현이나 설명이 불충분한 점이 많다는 것을 알았지만, 다소의 보충을 후기로 적었을 뿐, 많은 수정은 하지 않았다.  심각한 문제를 화제로 삼고 있지만, 고지식하게 정면으로 부딪혀 논하느니 보다는, 가볍게 이야기한다라는 것이 “수학세미나” 연재 중의 스탠스이기도 했기 때문이다.

   수학과 수학자에 관한 잡담을 상대하는 것 같은 느낌으로 읽어주기 바란다.  그 중에 현재의 수학과 수학자가 처해있는 상태를 다소나마 느낄 수 있다면 다행으로 생각한다.

   “수학세미나” 연재 중에 많은 도움을 주신 일본평론사의 橫山伸씨, 연재를 책으로 만들어주신 이와나미서점의 松永眞弓씨, 宮內久男씨에게 이 곳을 빌어 감사함을 전합니다.

1995년 12월

후카야 켄지

1. 보이지 않는 것을 보기 위하여

포앙카레는 고차원을 보았는가

   Computer Graphics가 유행한다고 한다.  Algorithm을 바탕으로하여 자동적으로 생성되는 도형은, 때로는 예술가가 만드는 것보다 신비적 매력이 있다.  그런데 그러한 도형과 같을 정도, 또는 한층 더 신비적인 도형을 수학자는 오랜 동안 연구해왔다.  (새삼스럽게 또라고 말씀하실지 모르지만) 고차원의 도형을 말하는 것이다.  우선, 과연 수학자는 고차원의 도형을 “보고” 있는지에 대하여 써보고 싶다.

   포앙카레의 “과학과 방법”의 가운데, 공간인식에 관하여 쓰여진 부분이 있다.  포앙카레의 결론은, 간단하게 말하면 삼차원 공간에 있어서 생활한 경험(결국 자기가 공간 내에서 운동한, 그것이 시각과 촉각이 결합된 경험)이 공간인식을 만드는 것 같다고 생각한다.  이것과 칸트의 선험적 인식 운운과의 관계 등을 논한 철학자도 있는 것 같다.

   그러하지만 포앙카레가 이것을 쓴 당시, 틀림없이 고차원의 기하학의 중심이 될만한 수학, 즉, 위상기하학을 건설중이었다는 것을 철학자들이 알고 있었는지 어땠는지는 뚜렷하지 않다.

   포앙카레에 있어서, 예컨대 4차원의 공간이 과연 “보이”는가라는 것은 인식론의 문제라기보다, 고차원의 기하학을 어떻게 해서 건설할 것인가라는 실제적인 문제였을 것이다.  그 결론이 이러한 것이었다고 하면 포앙카레로 하여금 결국 4차원은 “보이지 않았다”라고 해야할지 모른다.

도형적 직감

佐藤幹夫씨는 어떤 대담 가운데서 원(圓)의 인식에 언급하여, 원을 이해하려면 “ 이라는 방정식에 의하는 것이 결국 제일 좋다”라고 강조하고 계시다.  위대한 佐藤선생에게 거역하는 것은 분수를 대단히 넘는 일이지만 기하학자로서는, 원이 지니는 도형적 이미지의 면을 방정식보다 소중하게 여기고 싶다.  머리 속에 그려진 둥근 이미지야말로 원이라고 생각하고 싶다.

   인간의 뇌 가운데 시각에 관한 부분은 대단히 많고, 시각을 통하여서의 인식은 인간이 물건을 생각하는 중심에 위치한다고 한다.  수학에 있어서도 도형적 직감은 사물을 인식하는 가장 명쾌한 방법이다.  예를 들면, 논문에서는 긴 식으로 설명이 되어있어 이해가 곤란한 것을, 연구집회 같은 곳에서 저자가 그림을 하나 그린 찰나, 곧 알 수 있다는 것은 쉽게 경험할 수 있는 일이다.

   그러한 의미에서는, 고차원의 도형을 연구할 때 사용하는 것도 역시 도형적 직감이다.  그렇다고 하면 100년 가까운 수학의 진보는 포앙카레에게 보이지 않았던 고차원의 도형을 보는 것을 가능하게 했을까?

   답은 예스이기도 하고 노우이기도 하다.  만일 본다는 것을 보통 우리들이 (눈으로) 물건을 본다.  또는 본 일이 있는 어떤 물건을 생각해 묘사하는, 그런 의미라면, 포앙카레보다 잘 “보이는” 수학자들은 그리 많지 않다.  그러나 현재 한창 연구되고 있는 고차원의 기하학은 도형적 직감 없이는 있을 수 없다.

Exotic한 구면

   예를 들면, exotic한 구면이라는 것을 아는가?  정확히는 7차원 구면과 위상동형이지만, 미분동형은 아닌 도형이다. (위상동형이라든가 미분동형이라는 것은 여기서는 설명하지 않는다.  무엇인가 구라는 보통 것 같으면서 그것과는 다른 것이 7차원에는 있다고 생각하면 된다.)  이것에 관하여 서술한 Milnor의 논문은 짧으므로, 위상기하학의 전문가라면 누구든지 Milnor가 행한 구성을 전체적으로 이해할 수 있다.  그러나 그렇게 해서 만들어진 도형 전체를 눈으로 본 것 같이 생각하고 그려서, 그것이 7차원 구면과 위상동형이기는 하나 미분동형은 아닌 것을 시각적으로 납득하는 것은, 적어도 필자에게는 불가능하다.  그러면 수학자는 어떻게 그것을 이해하고, 그래도 거기에 기하학적 직감을 사용할 수 있는 것인가?

   우선, 좀 더 쉬운 예를 들어 말해보자.  평면 위에 두 줄의 직선이 있으면, 그것은 (평행하지 않은 한) 한 점에서 교차한다라고 하는 것은 물론 독자는 잘 알 것이다.  그러면 (3차원)공간의 두 직선이면 어떨까?  물론 이 책의 독자는 일반적으로 공간의 두 직선은 교차하지 않는 것을 알고 있고, 그것을 나타내는 그림을 머리로 생각하며 그릴 수도 있겠지만, 예를 들어 수학을 잘 못하는 중학생에게 이것을 질문하면, 정답률은 100%에서 어느 정도 떨어질 것이다.  그러나 누구에게라도 3차원 공간 안에 두 줄의 직선이 그어진 그림을 보여주면 이것을 이해할 것이다.  그리하여 그것을 납득하면 다음부터는 그 그림을 자기 혹자서도 머리속에서 생각하여 떠올릴 수 있을 것이다.

4차원의 도형적 직감의 쉬운 한가지 예

   이것은 간혹 3차원의 문제로, 실제로 그림으로 그려진다.  그러면 4차원공간 가운데의 두 개의 (2차원)평면이면 어떨까?  이것을 처음 들으면 우선 망설일 것이다.  아마 많은 사람에게는 그림을 생각해내서 직접 답을 내는 일을 즉시는 못하기 쉬울 것이다.

   여기서 식을 사용할 필요가 있다.  즉 4차원 공간 중의 평면이란 4변수의 두 줄의 연립1차 방정식의 해이며, 이 것은 보통 단 하나 존재한다.  이렇게 해서 4차원공간 중의 두 개의 평면이 보통은 한 점에서 교차하는 것을 알며, 그러면 다음부터는 4차원에서 두 개의 평면이 한 점에서 교차하는 그림이 어쩐지 머리 속에 그려질 것 같아진다.

Exotic한 구면을 만든다

   이 것이 제 1단계이다.  이 것은 보여지고 있다고 하여도 좋을 것이다.  그러나 많은 문제에서는 이와 같이 “보여지고 있다”는 고찰만으로는 끝나지 않는다.  “보이는” 것은 전체 상(像) 중의 그저 명색뿐인 일부분에 지나지 않는다.  예를 들면, 처음에 쓴 exotic한 구면의 경우를 생각하자.  이것을 만드는 한가지 방법은 다음과 같다.

   우선 딘킨도형 을 생각한다.(그림) 이것이 무엇인지 설명은 안 해도 이것은 그래프니가 분명히 눈으로 볼 수 있다.  다음에 4차원 구면의 접bundle을 여덟 개의 딘킨도형에 따라 펴 합한다. (따라서 편다는 의미도 생략한다.)  4차원 구면의 접bundle이라 함은 8차원의 도형으로 4차원 구면에 두께를 더한 것이라고 생각하면 된다.  이것은 앞서 말한 4차원 중에서 두 개의 평면이 한 점에서 교차하는 것이 “보인다”라는 의미에서라면 보인다.  그것으로 생긴 도형도 뭔가 보인다는 것에 속한다.  Exotic한 구면은 이 도형의 경계이다.

   여기까지 오면 적어도 필자에게는 이것이 구면과 위상동형이라는 것은 “한눈에”는 알 수 없다.  더욱이 이것이 구면과 미분동형이 아니라는 것의 증명이라하면, 눈으로 본다는 것은 가능하다고는 생각하지 않는다.  물론 그 증명의 각각의 스텝은 도형적 직관에 따라 “보인다”.  그러나 그것들의 스텝은 이론으로 결부시켜져 있고, 전체는 그림으로 이해하였다고는 도저히 말할 수 없다.

본다는 것의 새로운 바람직한 자세

이 설명으로 이해되었는지 어떤지 자신은 없지만, 한가지 강조해 놓고 싶은 것은, 수학의 엄밀성과 추상성이 이 과정에서 불가결하다는 것이다.  수학 이외의 세계에서 무엇을 논할 때, 우리들은 단지 삼단논법만을 따라서 옳은 것을 이해하는 것은 아니다.  각 단계에서 주장되고 있는 일이 경험에 비추어서 납득하기 어려우면, 어떤 방법으로 논리를 납득하여도 그 결론은 거부할 것이다.  그러나 수학의 세계에서는 자주 그 각 단계에서의 정당성의 지침이 되는 경험이 결여되어있다.  시각적 직감으로 아는 것은 부분상(像)에 불과하다.  직감을 잃었을 때 사용되는 것은 논리밖에 없다.  그러나 그렇게 해서 엄밀한 증명을 통하여 많은 사실을 집적하였을 경우, 최후에 몇 개의 도형적 직감(어떤 것은 직접 시각적이고, 어떤 것은 그렇지 않은)이 얻어진다.  그리하여 이해가 깊어져가는 것을 보여져간다고 한다면, 우리들은 고차원을 보고 있다고 해도 좋을 것이다.

   지난주 연구실을 청소하다, 고교생 때 읽던 책이 몆 권 나왔다.  상대성이론이라든가 우주론이라든가 하는 계몽서와 더불어, 사차원 공간이라든가 뭔가가 (다소 애교스럽게) 써있는 책도 있다.  당시 수학을 공부하면 차원이 높은 공간이 눈에 보일 것이라고 동경하고 있던 일이 생각난다.  그 기대는 저버렸다.  결국, 기하학의 전문가가 되어도 4차원의 도형을 눈으로 본 것 같이 생각해 그리지는 못한다.  그러나 그 대신, 본다는 것의 새로운 바람직한 자세는 알았다.  상상력과 논리의 결합에 따라 보이지 않는 것을 본다는 것.  이것은 대단한 일이 아니라고 하겠는가?

2. 피카소 미술관에서 생각한 일

피카소와 北齊

   근래에는 백화점의 일부에 전람회용 공간이 잘돼있다.  이러한 장소와 옛날부터의 미술관과의 한가지 차이는 전시의 종류로, 독립된 미술관이라면 여러 시대로부터 여러 가지 종류의 작품을 모아 놓았는데 대하여, 전람회라고 하면 특정한 사람의 작품만을 전시한다는 점이 많다는 것일 것이다.  이점에서 피카소 미술관 같은 것은, 오히려 백화점의 전람회에 가깝다.  현대의 작품을 필자와 같은 비전문가가 보는데는, 차라리 특정인의 그림이 여러 장 동시에 전시되어 있는 쪽이 도움이 된다.

   예를 들면, 다 빈치라던가, 반 아이크라던가, 北齊라던가라면, 한 장 보는 것만으로도 “훌륭하다”라는 것은 분명하다.  그러나, 예를 들어 피카소의 분석적 큐비즘 시대의 즉품을 한 장 (예비지식 없이) 보고, 이 것이 훌륭한 작품임을 알아내는데는, 보통 감수성이 있는 것이 아니지 않을까?  적어도 필자에게는 알 수 없다.  그러나, 그렇지만 열 장, 스무 장이라도 보고 있으면, 그것이 회화의 표현에 혁명적인 영향을 미쳤으리라는 것을 조금은 알게 된다.

과학자가 지녀야할 능력

   이와 같은 20세기의 예술과 19세기까지의 예술의 자세의 차이를, 현대에 가까워지면서, 문화적 생산물에서 자립시킨 작품 그 자체의 가치가 희박해져서, 그것이 생겨난 사회적 상황과 그에 주어진 영향과 같은 넓은 의미에서의 “정치적 의미”를 빼내고 나면 작품이 말하기 어려워진다고 요약하는 것도 가능할 것이다.  그와 동시에 문화적 생산을 위하여 요구되는 능력도 다양화된다.  예를 들면 (사실인지 거짓인지 모르지만) 실험실을 빌린 것만으로 노벨상을 받았다는 이야기가 있기도 하다.  해야할 실험을 적절히 판단하여, 그것이 실현될 수 있도록 예산을 획득하여, 또 그것을 훌륭히 해낼 수 있는 스태프를 모아‥‥‥라고 하는 것이 과학자가 지녀야할 능력으로서, 작지 않은 부분인 시대가 되었을 것이다.  동네에서 떨어진 연구실에서, 주위로부터 이상한 사람 취급을 받으며, 터무니없는 연구를 완성한다는 등의 이야기는 SF의 세계에서만 있고, 인간과 상대하기가 싫은 과학자는, 자금을 모으기 힘들기 때문에 결국 하나의 영화도 찍지 못하는 “천재 영화 감독”과 같은 존재가 되어가는 것인가?

수학자의 세계

   수학과 관계가 없어 보이는 것을 길게 쓴 것은, 아마 수학자의 세계야말로, 사회적 상태와 관계없이 가치가 정해지는 문화적 생산물이 존재하며, 다만 수학을 잘하는 “것만” 할 수 있는 사람들이 그것을 만들어낸다고 하는 것이 가능한 마지막 자리일지 모른다고 생각했기 때문이다.

   이것은 한가지 면으로는 또 확실히 그렇다고 보인다.  갈루아(Galois)나 아벨(Abel)의 이야기(1)는 이제는 옛 이야기로, 수학의 세계에서는 뛰어난 가치를 지닌 업적은, 가령 아무리 몹시 서투르게 설명되어있어도, 우선 그 가운데에서는 이해되고 평가되며, 우수한 업적을 올리는데 값비싼 실험 설비가 필요하지는 않다.  많은 연구자와의 교류는 확실히 힘이 되지만, 변변히 정보를 갖지 못한 세계의 한쪽 구석에 있는 무명의 수학자가 대리석을 발견하는 것도 아직까지는 가능하다.

   SF에 나오는 mad scientist를 그대로 하는 수학자도 아직 있다.  그런 사람들은 학생 상대의 강의든지 공동연구자 상대의 토론이라든지 같은 어조로 지껄인다.  화려한 퍼포먼스등과는 관계없이, 학회에서 발표할 때도, 자신이 하는 일을 잘 보이기 위하여 훌륭하게 선전문구를 생각하거나, 전문 밖에 있는 사람에게도 알기 쉽게 다소 부정확해도 예를 들어 이야기하거나 하는 것은 하지 않는다.  언제든지 엄밀하게 논문에 쓰는 그대로 정리를 서술하고, 논문과 같은 어조로 증명을 한다. (필자가 하고 있는 것 같은, 논문 이외의 잡문을 쓰고 있다든가 하는 “타락”은 결코 하지 않는다.)

   그러한 수학자들은, 어떤 사람들에게서는 상아탑 속에서밖에 살아나가지 못할 우물안 개구리 연구자라고 불릴 것이다.  그러나 지금도 수학의 진보를 지탱하고 있는 것은 그러한 연구자들이며, 그런 사람들이 살지 않는 세계가 되면, 수학의 세계의 매력은 반감되게 된다.  키튼의 영화는 단지 우당탕거려 우습기만 해서 채플린과 같은 깊이가 없다든지라고 말하는 동안은 영화팬으로서는 아직 수행이 부족하고, 진정한 영화팬은 키튼의 “예(藝)”야말로 영화라고 알고 있을 것이다.  정리와 증명을 일견 무미건조하게 되풀이하는 가운데 프로의 예(藝)가 있는 것을 이해하기 바란다.

   수학에서라면, 옳다고 증명해버리면 누구도 할 말이 없다.  선전이 훌륭하던 그렇지 않던, “사회적 상황”이 어찌되었던, 우수한 정리는 누구도 부정할 수 없다.  그러한, 예를 들면 채점방식의 피겨스케이팅에 비하여 100미터 달리기가 가지고 있는, 깨끗함을 기분 좋게 생각하며 수학자가 된 사람은 (필자를 포함하여) 적지 않다고 생각한다.

   그러나 최근에 와서는 수학의 세계도 그것만으로는 해결할 수 없게 되어가고 있다.

현대수학의 리-더들

지난번의 국제수학자회의京都(1990년)에서 위튼(Witten)이 Fields상을 수상했을 때, 江口徹씨는 일본수학회지에 실린 소개글에서, 위튼을 통하여 물리학자가 현대수학의 수법을 교육적 효과를 언급했다.  수학 쪽에서 보면, 위튼에 의해 수학자가 현대의 소립자론의 수법을 받아들이게된 것은 위튼의 중요한 업적이라고 간주될 것이다.

   또, 20세기 후반을 대표하는 수학자 아티야(Atiyah)의 1980년 이후의 업적을 볼 때, 아티야 자신이 새롭게 증명한 정리도 그러한 것처럼, 그것보다도 오히려 중요한 것은, 아티야가 여러 가지 수단을 통하여 수학의 진보 방향을 리드한 그 영향력이었다.

   다른 분야에서는 그것은 당연할지 모르지만, 수학의 세계에서 무엇인가 정리를 증명했다던가 정의를 했다던가 밖의 일이 업적으로 취급받는 일은 오히려 드문 일이다.  그러한, 예컨대 교육적 효과 같은 것은, 지금은 오히려 일류수학자들의 여기(余技)로 간주되고있었던 것같이 생각된다. (결국 그것이 되면 그것도 훌륭하지만, 되지 않는다고 하더라도 대단한 일은 아닌 정도의 평가였다고 생각된다.  물론 힐버트(Hilbert)의 “수학의 문제”의 제출 등, 예외도 있지만)  그리하여 만일에 영향력이 수학자의 능력의 주요 부분이 된다면, 우물안 개구리로 여유롭게 수학을 하고 있을 수도 없을 것이다.  아티야도 위튼도 강연의 명수이지만, 그렇지 않고서는 그만큼의 영향력을 가질 수는 없을 것이다.

수학의 세계의 매력

   그렇다 하면 매드 사이언티스트의 최후의 파라다이스도 붕괴 직전일까?  필자에게는 알 수 없는 일이다.  

   정리를 그냥 증명하는 것 밖의 부분도 중요하고, 그러한 것도 정확히 평가받지 않으면 안 된다고 하는 것은 안다.  예를 들면, 전문가 외의 사람들에 맞게 개설(槪說)을 쓴다던가, 혹은 수학자 이외의 사람에게 수학을 설명한다던가가 수학의 세계에서는 2류의 일로 간주되어온 것은 확실하고, 그것은 잘못이다.

   그러나 최후에는 엄밀히 증명된 정리와 그것이 지니는 객관적 가치로 승부하는 것이 수학세계의 매력의 많은 부분을 형성해왔음을 잊어서는 안 된다.

최후의 보루

   20세기의 많은 예술은 예술운동이라는 형태로 전개되었다.  그것은 한가지로는 작품 개개의 자립된 가치가 희박해져서, 새로운 표현양식의 제시라는 “사회적” 또는 “정치적”인 일이 창조의 전면에 나타난 까닭도 있을 것이다.  그 일이 과연 20세기의 예술에 바람직한 일이었나를 논할 자격은 필자에게는 없지만, 다른 가능성이 있었는가 어떤가를 빼고 말하자면, 결국, 결과는 별로 좋지 않았던 것이 아닐까?

   한 쪽에서는 거대과학이 발전하여, 연구한다는 일이, 독립된 가치관을 가진 자유로운 개인에 의한 창조로부터, 조직 가운데서 톱니바퀴의 하나로서의 역할을 완수하는 것으로 바뀌어, 영향력을 지니려면 정치적 능력을 필요로하게 된다는 일이 일어난다고도 듣는다.

   그렇다고 하면, 순수수학을 자유로운 개인에 의한 창조의 최후의 보루로서 지키는 것도 의미가 있을지도 모른다.

   그러한 것을 생각하고 있었다.  IHES(고등과학연구소) 체재중에 찾아간 파리의 피카소 미술관에서‥‥‥.

(1) 둘 다 너무 시대를 앞서간 까닭에 이해되지 못하고, 젊어서 세상을 등진 것으로 유명한, 19세기의 수학자. 타카기 테-지(高木貞治) “근대수학사담”(이와나미 문고)등 참조.

페친분을 통해 읽게 된 어떤 글에서 이 분야 박사 한 분이 미래의 인공지능에 대하여 말씀한 것이 있다. 미래에는 인공지능을 모든 사람이 사용하게 될텐데 모두 수학을 공부할 수 없을 것이고 인공지능은 누구나 사용할 수 있게 되어서 어려운 수학공부는 필요 없고 인공지능을 활용해서 자신이 하는 일, 또는 사업에 어떻게 활용할지를 공부해야 한다는 것이다. 특히 인공지능들은 지금과는 달리 (마치 통계패키지처럼) 바로 쓸 수 있게 만들어질 것이기 때문에 활용이 가장 중요하다는 것이었다.

우선 인공지능의 활용이 가장 중요하다는 점에는 이견의 여지가 없다. 사용할 것이 아니면 뭣하러 배우겠는가? 하지만 위의 견해는 한 가지 가정을 하고 있다. 즉 인공지능이 가르쳐주는 것을 이해하는 것이 어렵지 않을 것이라는 점이다. 즉 인공지능이 말하는 것을 알아듣는 것이 쉬워야 어디다 활용할지만 고민해도 된다. 그런데 인공지능이 가르쳐주는 것이 이렇게 쉽지만은 않을 것 같다. 

우선 이렇게 사용하기 쉽다면 모든 사람을 똑같은 상황에 놓인 것이고 인공지능이 있든 없든 차이가 별로 없어야 한다. 이렇다면 (인공지능을 사용하기 쉽다면) 차이는 인공지능을 살 수 있는가 없는가 하는 돈을 가지고 있는가에 달렸겠지 라고 생각된다.

그런데 통계패키지처럼 인공지능이 잘 포장되었다고 하여도 이것은 너무 종류가 많을 것이고 정말 여러 가지 답을 줄 것이다. 서로 다 다른 답이 될 수도 있다. 마치 요즘 바둑 AI들처럼 이것이 좋다 저것이 좋다 하는 식으로 다른 답을 준다. 그러면 어떻게 판단하지 하는 생각이 든다.

또 답을 주는 것도 바둑같으면 다음 수를 예측해 준다거나 가장 좋은 과정을 추천해 주는 것이면 좀 낫지만 이보다 훨씬 복잡한 여러 가지 가능성을 보여주면서 이중의 하나를 선택해라 하는 경우도 많이 늘어날텐데, 이 때 각각의 경우가 어째서 좋은지를 AI 나름의 근거를 들어 설명하게 될 것이다. 이 때 AI가 설명하는 것을 알아들을 방법이 있을지? 예를 들어 바둑에서 다음 수는 a, b, c가 있는데  a는 다음 테이블 같은 특성을 가지고 있고,... 하는 식으로 여러 특성 수치를 들어준다면...?? 이 수치를 말로 바꾸는 것을 근본적으로 불가능하다. (이런 여러 수치를 설명해줄 수 있는 복잡한 언어 및 개념을 사람들은 가지고 있지 않기 때문이다. 개념을 만들면? 불가능하다. 너무 많은 단어를 만들어야하고 각각의 의미를 이해하는 것은 AI 자체를 이해하는 것과 같은데 이를 위한 가장 빠른 길은 이 AI의 수학을 이해하는 것이 될 것이기 때문이다.)

즉 사용하기 쉬운 interface를 만들어 인공지능의 활용성을 높이는 것은 한쪽으로는 계속 발전해야 하는 방식이지만 반대로 인공지능의 속을 이해할 능력을 키우는 것이 또 다른쪽으로 경주해야 할 노력일 것이다. 이것은 마치 50년 전쯤에 이제 컴퓨터가 발전하면 사람들은 컴퓨터에게 모든 것을 시키고 노력이 필요없을 것이라고 생각했던 것과 유사하다. 컴퓨터에게 일을 시키려고 해도 컴퓨터를 이해하고 코딩도 하고 문제를 모델링해야 하며 컴퓨터가 하는 말을 이해해야 하는 것처럼 AI에게 일을 시키려고해도 똑같다. 달라진 점은 AI는 자신이 이해한 상황을 설명할 말 (인간의 말)을 가지고 있지 않다는 점이다. 이 부분은 사람이 노력하는 수밖에 없고 AI의 생각을 전부 읽어낼 언어는 존재하지 않는다.

이 언어에 가장 가까운 것이 현재는 수학이다. 즉 인간은 지금 사용하는 언어와 개념보다 훨씬 정교하고 복잡한 언어와 개념을 지속적으로 만들어내야 한다. 그리고 이 언어의 바탕은 수학적 개념이 될 수밖에 없다. 이 상황을 인지할 수 있다면 미래가 사람에게 얼마나 힘든 세상인지도 알 수 있게 된다. 이 때는 정말로 머리가 좋은 사람과 나쁜 사람이 구별되는 세상이 될지도 모르며 머리가 좋은 (선천적이든 후천적이든) 것만이 자산이 될지도 모른다.

페북 수학그룹에 올라온 질문 중에 "고교 수학 교육과정을 따라가며 힘들거나 아쉬웠던 부분"에 대해 질문한 것이 있다. 많은 사람들이 대답을 해서 댓글이 많이 달렸는데 댓글마다 여러 이야기가 있다. 이 중의 몇 개에 대한 댓글을 여기다 단다. (순서는 대략 댓글 순서다.)

기하에서 보조선 긋기 기하에 보조선을 긋는 방법을 설명해 주지 않아서 답답하다는 것이 여러 사람이 느끼는 것일 것이다. 기하의 보조선 긋기는 왜 중, 고등학교에서 배우는가 하면 이렇습니다. 이것 자체는 우리가 실생활에 꼭 필요한 것은 아닙니다. 우리가 논증기하와 보조선에 의존하는 기하를 배우는 목표로 2차원, 3차원 공간지각능력을 키우는 것이 매우 중요하기는 합니다. 그러나 이것 뿐이 아니라 더 중요한 것이 있습니다. 이는 꼭 필요한 능력을 키우는 와중에 수학에서는 하나의 완성된 이론의 전범을 보여줍니다. 

   그러니까 기하를 배우면 몇 가지 기본되는 정의, 정리 등을 배우는데, 이것을 실제에 활용하게 되면 정리만으로는 불충분하고 실제 문제를 다루는 법을 익히게 됩니다. 이 다루는 법이라는 것은 한두 마디 말로 설명할 수 없고 실제로 사용하는 사람들을 보면서 스스로 터득해야 되는 것입니다. 그러니까 기하를 빌미로 수학이란 이렇게 공부하는 것이라는 것을 한 번 보여주고 싶은 것인데, 이론과 공식만 가지고 사는 것이 아니라 이것을 적재 적소에 아이디어를 내서 적용하는 것이 진짜 공부하는 것임을 잘 볼 수 있는 쉬운 수학이 기하이기 때문입니다. 

보조선 하나 찾기가 이렇게 어려운데도 이것이 쉽다고 말하는는 것은 이것은 그래도 눈에 보이는 대상이고 문제니까 답을 알면 자기가 무엇을 하고 무엇을 못하는지 알 수 있으니까 그런 것이지요... 그래서 쓸데 없어보이는 문제더라도 꼭 한 번 가르치고 싶은 것입니다. 혹시 배운 것을 써먹는 방법을 익혀야 한다는 것을 더 잘 알 수 있는 과목이 생긴다면 아마도 기하는 교육과정에서 없어질지도 모릅니다. 요즘 중요해지고 있는 내용은 이산수학과 기하학입니다. 이 과목에서도 몇 가지 공식만 배우는 것은 아무 쓸모가 없습니다. 헤매면서 이런 도구를 어떻게 쓸 수 있는지 알아내는 것이 꼭 가르치고 싶은 것이지요. 대학에서 보조선 긋는 문제 필요없다고 안가르칠 그런 문제가 아닌 것이지요.

솔루션 매뉴얼 솔루션 매뉴얼 없이 공부하는 것이 가능한가? 하고 질문한 사람이 있었다. 당연히 가능합니다. 우리가 공부할 때는 솔루션 매뉴얼 하나도 없었어요. 책의 뒤에 홀수번 답조차도 없었지요. 그래도 다 공부하고 잘 했습니다. 내가 솔루션 매뉴얼을 잘 활용한 한 번은 대학원 학위 자격시험 때였습니다. 그 때 이것을 써 보고 시험을 위한 준비, 그리고 주어진 내용을 짧은 기간 내에 일정한 수준까지만 정말 잘 이해하려면 솔루션이 아주 효과적이라는 것을 알게 됐습니다. 학교에서 시험을 잘 보려면 솔루션 매뉴얼을 잘 활용하는 방법이 있습니다. (그냥 보고 외우는 것은 별 도움이 안 된다.) 그러나 제대로 수학을 이해하는 데는 이것은 별로 좋지 않습니다. 자기만의 생각으로 설명해 내는 연습을 많이 해야 합니다. 솔루션을 참고하지 말라는 선배가 조금 있다는 말은 아직 잘 모르는 것이지요. 수학을 제대로 배우고 연구하는 사람은 모두 그것을 사용하지 말라고 할 것입니다.

증명 증명을 제대로 하지 않고 풀이법만 가르치는 우리 현실을 지적한 댓글도 있다. 물론 한 가지만 가르치는 것은 나쁘지요. 증명에 대해서 이야기한다면 증명은 몇 가지 효능이 있습니다. 우선 증명은 논리적으로 완벽한 하나의 체계를 갖추는 방법입니다. 이것도 없으면 제대로 하는 것이 아닙니다. 둘 째, 증명을 따라가면서 내용을 머리 속에서 그림으로 그릴 수 있다는 장점이 있습니다. 뭔지 알 수 없는 것을 이해하는 데 증명을 따라서 이해하는 것도 한 가지 방법입니다. 셋 째, 내가 생각하는 것이 맞는지 확인하는 방법으로 증명이 효과적입니다. 내 생각에 빠진 틈은 없는지 보려고 하면 증명해 보다가 찾을 수 있습니다. 증명은 수학에서 한 가지 방편이고 전부는 아닙니다. 수학을 이해하는 데는 계산도, 그림도, 응용문제 풀이도 모두 중요하다. 물론 증명이 중요합니다.

교과서 "학생들의 why를 해결해 줄 수 있는 완벽한 교과서를 보고 싶어요."라고 했고 물론 그 댓글에 완벽한 교과서란 없다고 누군가 말했지만... 왜에 대해서 답하지 못하는 수학은 물론 문제가 많은 것이지요. 만족할만한 답을 할 수 없는 이유 또한 어쩔 수 없는 것이지만요. 만족할만한 답은 그 내용을 다 알고 이해하고 난 다음에야 있는 것이니까요. 단지 충분한 동기를 주는 것은 중요합니다. 시간이 문제지요.

   교과서가 이런 역할을 못하는 것에 대해서는 역사도 조금 봐야 합니다. 우리나라가 일본의 손에서 벗어나서 우리가 가르치게 됐을 때는 우리나라가 너무 경제적으로 열악해서 교과서를 사서 볼 수 있는 사람이 거의 없었지요. 그래서 나라는 교과서를 정말 싸게 보급하기로 했습니다. 그런데 책이 너무 두꺼우면 책값이 비싸지므로 책의 분량을 제한하기로 한 것 같습니다. 이것은 지금까지도 이어져서 고등학교 수학교과서는 몇 쪽 이내로 쓴다 하는 제한이 있지요. 대신 교과서 값은 정말 쌉니다. 이제는 선택해야 하지요. 미국처럼 수백쪽이나 천쪽이 넘는 책을 만들고 돈을 좀 내도록 할 것인지...

교육과정 새 교육과정에서 구분구적법이 빠진다거나 수열의 극한 없이 함수의 극한을 배운다거나 하는 것은 물론 여러 가지 이유를 가졌을 것이고 댓글에 언급한 이유도 있을 것입니다. 특히 이것이 없으면 나중에 여러 가지 분야에서 수학을 사용할 때 개념적으로 문제가 생길 수도 있습니다. 그런데 이것을 안 배워도 논리적 문제가 없는가 하는 것은 꼭 문제가 되는 것은 아닙니다. 지금까지 우리가 배운 수학도 수학을 전부 배운 것은 아니니까 필요한데 모르는 것이 많았지요. 새 교육과정이 무엇인가 조금 빼도 그런채로 공부한 다음 필요한 것은 스스로 알아서 처리하면 되는 것은 맞지요... 새 교육과정에서 문제인 것은 뺀 것은 그렇다고 해도 이것이 새로운 내용이 더 들어가야 해서 예전 것에서 몇 가지 빠지는 것이 아니라는 것입니다. 즉 배우는 내용이 줄어드는 것이지요. 그런데 이것보다 더 중요한 것은 빠지는 것이 체계적이지 못하다는 것입니다. 3차 교육과정 정도에서는 하나의 완벽한 체계로서의 수학을 가르쳤습니다. 비록 이 대부분이 미국과 일본의 체계를 적절히 조합한 것일지라도 그 체계는 매우 훌륭했는데요. 지금의 교육과정은 이런 체계는 무시하고 수준만 맞춘 이상한 것으로 바뀌고 있습니다. 

   예를 하나만 든다면 맨 처음 교육과정에서 빠지게 된 "원순열"이란 것이 있습니다. 이것은 물건들을 동그랗게 늘어놓는 방법의 개수를 세는 것인데요. 특히 염주순열이라고 빨간 염주 몇 개와 하얀 염주 몇 개를 이어서 동그란 목걸이를 만들 때 나타나는 모양의 개수를 세는 문제가 복잡합니다. 염주순열이라고 불렀던 듯합니다. 이 문제가 왜 있는가 하면 경우의 수(합의 법칙과 곱의 법칙)를 배우고 기초적인 공식인 순열과 조합을 배우고 나면 이것을 현실에 활용하는 방법을 가르쳐줘야 합니다. (그러니까 기하에서 보조선 긋는 것에 해당하지요.) 이 모든 것을 한 문제에서 보여줄 수 있는 것으로 염주순열이 아주 적당합니다. 경우를 조금 나눠야 하고 각 경우에 개수를 세는 것은 공식을 사용할 수 있고, 세기의 기초가 되는 도형을 활용합니다. 그러니까 아주 훌륭한 연습문제입니다. 그래서 순열, 조합 단원의 맨 마지막을 장식하는 단 한 문제였지요. 이 문제는 당연히 앞의 다른 문제보다 어렵습니다. (이것은 기하에서 단순한 삼각형의 각의 계산 같은 것보다 보조선 긋는 문제가 어려운 것과 똑같지요.) 이것을 빼면 순열, 조합 단원이 절름발이가 되는 것입니다. 꼭 마찬가지로 삼각형, 사각형 평행선 다 배운 다음에 보조선을 하나라도 학생이 그려야 하는 문제는 못 물어보는 것과 똑 같습니다.

   제가 보기에 염주순열을 뺀 사람은 염주순열이라는 좋은 말이 있어서 요것만 빼자 한 듯이 느껴집니다. 기하에서는 보조선 긋는 문제에 다른 이름이 없어서 빼지 못하는 것이 아닐까 생각이 듭니다. 대신 기하에는 다른 말을 하지요. 기하 문제는 전부 어려워서 기하를 모두 빼자는 말을 하는 사람이 있는 것 같습니다. 왜 이런 생각을 하는 것인지 이해가 안 되는 것이 정상이지요.

학원 고등학교 수학을 학원가지 않고 스스로 공부하면 제대로 할 수 없을 것 같다는 말을 한 사람이 있다. 당연하고 또 그렇지 않기도 합니다. 문제는 짧은 시간(예를 들면 2년) 안에 우리나라 입학 시험에 합격할 만큼을 하려면 누군가의 도움이 있어야 한다는 것입니다. 우리 교육과정은 무엇이 문제인가? 외국은 어떻게 하는가? 하고 생각해 보지요. 고등학교 공부는 교과서와 문제집 가지고 혼자서도 공부할 수 있습니다. 시간이 문제입니다. 외국에서는 수학을 잘 모르겠으면 조금 못한 (어떤 때는 많이 나쁜) 대학에 들어가서 천천히 수학을 공부해도 됩니다. 고등학교도 1년 더 다녀도 됩니다. (반대로 빠른 사람은 2년에 졸업해도 됩니다.) 우리나라에서 이것이 안 된다면 (학교가 하게 해 줘도 안된다면 이란 뜻입니다) 그 이유가 무엇인지 생각해 봐야 합니다. 이것은 수학이 해결해줄 수 없는 것이지요. 적어도 나중에 취직할 때 고등학교 1년 더 다녔다는 것이 문제되지는 않는다는 것을 저는 압니다. 저라도 그런 것은 문제삼지 않을겁니다. 일을 잘 하는가가 관건이지요. 

엄밀하지 못한 강의 "미적분 정의도 모르고 공부했다"고 불만인 사람도 있다. 이 문제에 대해서 선생님은 대학에 가서 배운다고 설명해 주지 않았다고 하는데, 이에는 두 가지 면이 있지요. 우선 입시 문제를 풀기 위해서, 특히 많이 이론적으로 어렵지 않은 선다형 문제라면 생각을 많이 하면 점수에는 불리합니다. 그래서 선생님이 내용을 많이 또는 제대로 설명하지 않으려는 부분이 있습니다. 또 하나는 수업 시간이 많지 않은데 제대로 된 설명과 "왜"에 대한 질문 대답 등은 많은 시간을 잡아먹기 때문에 선생님들이 이를 잘 안 하려는 것입니다. 또 이러다 보니까 선생님들이 잊어버리고 잘 모르게 되기도 하지요. 하지만 수학을 제대로 익히려면 이런 질문이 중요하고 이를 설명해 주는 많은 예와 반례를 알아보는 것이 중요하지요. 이 과정이 실제로 문제 풀이와 연계되는 것이고요. 그런데 현재 우리 수업은 이런 것이 불가능합니다.

수1의 어려움 고등학교 후반부의 미적, 기벡 등에 비해서 수1 부분이 더 어렵게 느껴진다고 말하는 사람이 있다. 이것은 하나도 이상한 것이 아닙니다. 수1 부분은 보통 대수와 기하라고 하는 기본 사고 및 계산 방법입니다. 어떻게 보면 이것은 아무리 오래 공부해도 더 공부할 것이 있는 부분입니다. 우리 같은 수학자가 평생을 공부해도 계산방법은 극히 일부밖에는 모를 정도이죠. 그러니까 익숙해져서 쉽게 계산을 활용하고 그림을 머리에 그릴 수 있게 되려면 많은 연습이 필요합니다. 오히려 미적분은 몇 가지 계산방법만 배우면 고등학교 수준에서는 더 생각할 것이 없죠. 즉 미분가능한 함수를 미분하는 것은 아주 쉬운 문제입니다. 적분에서도 치환적분과 부분적분을 다룰 수 있게 되면 충분하고 이조차도 대부분 수1 식의 계산이 복잡해서 잘 못할 뿐이지요. 

   미적분이 수1 보다 더 고급 수학인 이유는 모든 점에서 미분이 가능하지는 않은 함수들을 다루다 보면 아주 복잡해서 머리 속에 그림을 그리기 어려운 것들이 나타나고 이것을 잘 알아내기 위해서 많은 계산을 해 봐야 하는 문제가 나오기 때문이죠. 이것은 대학 수학을 다 공부해도 여전히 어려운 문제이고요. 심지어는 어려운 적분을 모두 잘 이해하는 것보다도 더 어려울 때가 많아서 미적분이 수1의 내용보다 더 나중에 개발되고 아직도 이론을 연구중인 이유이지요. 고등학교는 미적분 문제에서 한계를 딱 지어 놓았으니까 어렵지 않지요. (수1 부분은 한계가 없어요. 1700년대까지 계산하던 내용이므로 고등학생들은 이것을 모두 잘 알 수 있어야 한다는 것이니까요.)

문제의 유형 시험문제가 유형 위주로 되어 있는 것이 싫다는 답글이 있었다. 문제를 풀 때 처음 본 문제라고 생각하고 풀면 시간이 많이 걸리는 문제를 내고 유형에 따라 생각하지 말고 풀라는 것은 요즈음 고등학교 문제들이 가진 가장 나쁜 문제점이다. 이 교과과정의 내용을 결정하는데 결정적인 역할을 하는 분들이 수학 문제를 이렇게 푸는 것이라고 생각하고 있는지 모르겠다. 그래서 유형에 따라서 답을 찾을 때 간단하게 적히는 (정답지만 봐서 몇 줄 안되는) 문제가 쉬운 문제라고 생각하는 듯하다. (선생님들은 이런 문제만 가르친다면 선생님 스스로 생각하고 스스로 공부할 필요가 없어지니까 일이 쉬워진다.) 하지만 이런 문제를 처음 보는 문제라고 생각하고 들여다보면 정말 많은 생각을 하게 된다. 이 문제들이 결코 쉽지 않은 문제라는 뜻이다. 이런 문제를 짧은 시간에 풀라고 하면 어쩔 수 없이 유형별 풀이법을 생각없이 (이것도 이유를 생각하면 시간이 많이 뺏긴다) 풀어나갈 수밖에 없다. 교육적으로도, 나라의 경쟁력을 생각해도 가장 나쁜 교육의 표본이다. 단지 행정하는 사람들만 교육의 문제들을 설명하는데 드는 노력이 없어 편한 것이 아닐지?

오늘 새벽에 페북에 데이터 분석을 하려면 수학을 얼마나 공부해야 하나 하는 질문이 있었다. 아마 모든 사람들이 궁금해 하는 질문일텐데 대부분 조금만 하면 좋겠는데 무엇을 해야 하는가가 궁금할 것이다. 데이터 분석에 관심이 부쩍 늘어나는 중이라 나도 이 질문의 답이 궁금하다. 답글 달린 것처럼 많이 알면 좋겠지만 시간이 부족하니... 

인터넷을 통해서 알게 된 웹페이지 하나를 보면 몇 가지 수학을 들고 있다. pie chart를 써서 나타내 준 것에는... linear algebra, prabability, statistics, multivariate calculus, algorithm & complexity 등등이 있다고 되어 있다. 이것은 아마도 누구나 알아야 하는 것이겠다. 앞의 세 가지는 꼭 필요한 것이고, 뒤의 algorithm 등은 코딩을 조금은 알아야 하니까, 또 날코딩은 안 하더라도 남이 만들어 놓은 코딩은 이해할 수 있어야 하니까... 그리고 요즘의 deep learning은 무슨 1억개 변수인 함수의 최대최소를 다룬다는 사실 정도는 파악할 수 있어야 하니까 다변수해석학의 개념은 잘 가지고 있어야 한다.

이것만이면 되는가? 글쎄 잘 모른다. 지금 새로 생긴 분야. 이제부터 왕창 발전할 분야를 제대로 사용하려면 무엇을 알아야 하는가라고 물어보면 지금 아는 사람은 없다. 단지 유추해볼 수 있는 몇 가지 곁가지 사실을 보자. 

1970-90년대에 데이터분석을 위해서 많은 사람들이 공부하던 것이 있다. 소위 조합론(combinatorics)인데 특히 기하학적 조합론 또는 조합론적 기하학(combinatorial geometry)이다. 당시에 마구 주어진 데이터(보통 고차원이다)를 공간에 찍어놓고 구조를 찾으려고 이 점들을 연결해 놓고 연구했다. 이것은 graph라고 부르는 것인데 이것들에 대해서 알려진 사실들이 많다. 새로운 시대의 데이터 분석은 이런 기법을 활용하는 것도 한 몫 할 것같다. 이런 수학 지식은 위에 나열한 데에는 없다. (사실 이것은 비교적 이해하기 쉬운 수학분야쪽에 들어간다.) 

많은 수를 다루는 데서 가장 기본적인 도구는 특정한 종류의 대상이 몇 개인가를 세는 것이다. 이것을 counting이라고 하고 사실 수학에서 제일 어려운 문제들이다. 고등학교 때는 경우의 수라고 해서 배운 것인데 몇 개의 공식만을 활용해서 문제를 풀 수 없는 독특한 과목이었다. 대부분 수학과목이 몇 개의 공식만 잘 이해하면 끝나는데 그렇지 못한 분야가 몇 개 있다. 조합론이 그런 분야이고 고전 논증기하가 그런 분야이다. (counting을 요즈음은 초등학교에서 `헤아리기'라고 부른다고 들었다.) 그런데 데이터를 다루려면 이 counting이 기본이 될 수밖에 없고 이것은 컴퓨터만으로는 잘 셀 수 없다. 최근에 우리나라 수학계에 혜성처럼 나타난 허모박사도 세상에서 가장 어렵다는 대수기하학의 방법을 써서 아무도 못 푸는 counting하는 문제도 풀고 해서 유명한 것이라 한다. 이것이 현실과 동떨어진 것이 아니라 데이터 분석에 바로 사용될 수도 있을만한 내용이라는 점이 함정이다.

배경지식은 이만큼 하고, 그러니까 데이터 분석을 하려면 수학을 얼마나 공부해야 할까? 

이렇게 이야기하자. 내가 보는 바로는 미래에 데이터를 분석하는 사람은 한 가지 관점에서 보아 두 가지 그룹으로 나뉜다. 관점은 수학을 얼마나 사용하는가이고, 두 가지 그룹은 당연히 수학을 조금만 쓰는 사람들과 많은 수학을 필요에 따라 찾아보면서 사용할 수 있는 사람들이다. 이사람들은 어떻게 다를까. 수학을 조금만 쓰는 데이터 분석가의 수는 매우 많아질 것이다. 특히 새로 나오는 컴퓨터 기법을 익히고 수학을 조금만 쓰는 사람은 예전의 기법을 배운 사람들보다 경쟁력이 높을 것이므로 기업/개인은 계속해서 젊은 사람들을 싼 값에 쓰려고 할 것이고 과당경쟁으로 출혈경쟁이 될 가능성이 많다. 지금도 여러 가지 일에서 이런 현상을 많이 본다. 예를 들면, 지금도 하지 말라고 하는 날코딩하는 기사와 비슷한 처지가 될 가능성이 높다. 한편 수학을 많이 이해하고 사용할 줄 아는 데이터 분석가는 나름 경쟁력을 가질 것이다. (수학을 잘 아는 사람은 항상 수가 매우 적다는 가정이다.) 이런 사람을 필요로 하는 곳은 지금보다 매우 늘어날 것으로 보인다. (단지 내 바램만은 아니다.) 따라서 이 사람들은 몸값이 올라갈 가능성이 많다. 즉 이 직업에서도 극과 극으로 갈라질 것으로 보인다. 

미래는 모든 것이 이렇게 극과 극으로 갈린다. 한 동안은 그럴 것이다.(아마도 10-30년. 그리고 그 이후는 전혀 감도 안 간다.) 이럴 때는 차별화돼야 한다. 다시 말하면 조금만 준비하면 들어올 수 있는 부분은 너도 나도 경쟁해서 결국 도움이 안 된다. 전 세계 사람들에게 완전히 까 놓고 "나는 이렇게 이런 것을 한다"고 알려줘도 따라 들어오기 어려운 것을 적어도 하나 가지고 있어야 제대로 된 위치를 가질 수 있을 것이라고 생각된다. 이제부터 경쟁은 전 세계 경쟁이니까 국내 법에 근거한 어떤 보호장치도 작동하지 않을 것이다. (이미 수십년 전부터 미국의 모든 AS 응대 서비스는 인도 같은 곳에서 한다. 물론 질이 매우 저하 됐다. 하지만 비싼 돈을 쓰면서 고급 AS하는 회사는 더 이상 없다. 우리나라 삼성/엘지만 그런 듯하다.) 

이런 미래를 생각하고 데이터 분석도 생각해야 할 것이다. 

안그래도 미래를 계획하는 공부를 하고 있는 중이다. 필요한 일이 있기도 하다. 요즘 읽어보는 글들을 보면 미래를 사는 사람들은 자신의 생애에 평균 10번도 넘게 직업을 바꿀거라고 한다. 어떻게 그런 예측을 하는지 잘 모르겠지만 지금 추세대로라면 그런 일이 벌어진다고 놀라지 않을 듯하다. 그런데 수학을 가르치면서 보면 요즘 학생들은 꼭 필요한 공부만 쏙 빼놓고 하고 있다는 느낌이 든다.

미래를 살려면 무엇을 알아야 할까? 미래에도 수학공부를 해야 하나? 미래에 잘 산다는 것은 어떤 것일까? 이런 질문을 해 보지만 알 수 있는 것은 하나도 없다. 페북에서 본 어떤 미래학자가 이야기한 것처럼 지금은 사회가 대대적으로 변하는 변혁기이다. 아마도 르네상스가 시작하던 시기, 산업혁명으로 정신없던 시기, 조선이 생기던 시기, 조선 말기의 혼란기, 6.25를 지나고 정신없이 일하던 시기보다 더 심한 변화가 생길 것 같다.

전공이 수학이라 "미래에도 수학공부를 해야 하나?" 하는 질문은 자주 생각한다. 답은 yes와 no가 혼재한다. 본질적으로 생각안하고 살 수 있는가? 하는 것이 질문의 핵심이다. 생각을 해야 한다면 수학공부를 해야 한다. (수학은 생각의 핵심이다.) 혹시 생각하지 않고 살 수 있다면 공부는 안 해도 된다. 이 이분법이 마음에 들지 않으면 혹시 생각은 해야 하지만 뭔가 좋은 기계가 생겨서 대신 생각해준다면...? 하고 상상해 볼 수 있겠다. 모르기는 매한가지지만 혹시 200년쯤 후에는 이런 일도 가능하겠지만 아마 20년 정도 후에도 사람은 자기가 생각해야 할 것이 많을 것 같다. 

그러니까 good news인 no라는 답 부분은 지금 공부하는 수학은 많이 안 해도 될거 같다는 것이고, bad news인 yes라는 답 부분은 지금 수학은 필요 없지만 다른 수학이 나타나서 나를 공부해라 할 것 같다는 것이다. 지금 공부하던 수학은 어떻게 되는가? 또 잘은 모르지만 이런 것을 생각해 보면 어떤가? 그러니까 요즘 나오는 컴퓨터 프로그램들은 예전에 손으로 고생해서 하던 계산을 모두 시간도 안 걸리고 계산해준다. 틀리지도 않는다. 이런 것은 예전만큼 고생하며 익힐 필요는 없는 것 같다. 

예를 들자. 

이런 생각을 하면서 지금의 공부 단계를 보자. 고등학교 1학년에 온 힘을 바쳐서 연습하는 것은 이런 다항식 계산이다. 그런데 그 원리와 작동 방식은 자주 봐서 잘 익혀나가야 하지만, 틀리지 않으려는 연습을 빼도 된다면 아마도 필요한 시간이 반도 안 될것이다. 그러니까 배울 수 있는 내용은 늘어난다. 예전에는 계산이 안 되는 사람은 미적분을 못 배운다고 생각했을 것이다. 하지만 꼭 그런 것은 아니다. 지금 나는 나이가 들어서 계산하면 항상 틀리지만 미적분은 학생 때보다 더 잘 알고 있다. 그러니까 계산을 꼭 알아야 하지만 미적분을 잘 알기 위해서 계산을 꼭 틀리지 않아야 하는 것은 아니다. 그러니까 미적분을 일찍 배울 수도 있다. 그리고 아는 사람은 다 알지만 미적분은 사실 별로 많은 것을 익히지 않아도 된다. 정말 많은 연습이 필요한 것은 다항식과 함수의 계산이지 미적분 개념이 아니다. 

미래를 보면 지금은 없는 여러 가지 새로운 직업이 난무한다. 이것들은 모두 창의적 생각이 가미된 직업이고 단순노동 (계산도 여기 포함된다) 같은 것은 안 해도 되는 직업뿐이다. 그러니까 물리적 단순노동은 로봇이 해주게 되고, 정신적 단순노동은 컴퓨터가 해 준다. 사실 고급 정신노동도 컴퓨터가 leaning을 가지고 해결해 주려고 하고 있을 것이지만 이것이 얼마나 믿음직스러운지는 확실치 않다. 적어도 지금은... 그러니까 생각을 제대로 하기 위해서 "수학적 생각" 방법을 연습하는 것은 매우 중요하지만 수학의 공식을 바로 쓰고 싶어서 그런 것이 아니라, 수학에 나타나는 정말 여러 가지 아이디어 가운데 한 가지씩 필요에 따라 뽑아 쓰고 싶은 것이다. 즉 미래를 사는 사람들은 정말 많은 수학을 알아야 할지 모른다. 내가 전공하는 리만기하학의 내용도 모두 다 알고 그 핵심인 접속connection이 어떻게 벡터장 같은 변화하는 물리적 양을 미분해주는지를 이해하고 있을지도 모른다. 단지 그것을 계산하라 했을 때 나타나는 텐서 계산을 손으로 하는 것은 안 해봐도 될 것 같다는 것이다. 이것은 이미 컴퓨터가 잘 한다.

이런 생각 끝에 상상되는 것은 미래에는 배우는 수학의 양이 늘어난다는 것이다. 단지 배우는 데 만 보면 시간은 훨씬 덜 걸릴 것이다. (계산 연습이 많이 빠지니까. 완전히 빠지지는 않지만...) 즉 지금 우리나라에서는 선행학습 금지당한 많은 것들을 겉핥기 처럼이라도 알고 나갈 것 같다. 그리고 그것을 잘 아는 것처럼 자유자재로 활용할지도 모른다. 컴퓨터의 도움을 옆에서 받으면서... 그리고 이런 능력을 가진 사람들, 특히 예술적 창의성을 적용하는 데, 그 대상이 지금은 박사를 받아도 들어본 적도 없는 수학 공식들이고 그것도 지금 한 명의 박사가 아는 내용의 10배나 100배를 자유자재로 활용하는 수준인 그런 사람들이 온 세상에 깔려 있는 세상이 상상된다면...? 이런 사람들을 키우려면 이제는 어떻게 가르쳐야 할까?

이런 사람이 되려면, 공부할 때 새로운 아이디어가 들어있는 이론에서 아이디어를 재빨리 파악하는 능력이 필요하고, 그런 기본적 구조에 컴퓨터의 계산력을 곧바로 적용하는 능력이 필요할 것이다. 그리고 이런 일 하느라고 매 번 컴퓨터를 기본 언어에서 부터 코딩하는 것은 말도 안 된다. 당연히 최 첨단의 언어, 모든 코딩이 다 구비되어 있는 프로그램에서 그 기능을 최대한 활용하여 시간이 걸리지 않고 이 복잡한 과업을 해낼 수 있어야 할 것이다.

수학과 교수를 30년 넘게 했다. 다음 링크의 글이 수학과 졸업 후의 진로의 실상과 허상을 이야기한다. 사실이든 아니든 이 글은 상당히 설득력 있다. 현장을 몰라서 이런 생각을 못하는 것이 아닐 것이다. 수학이 무엇인가를 알게 되고 이것으로 무엇을 할 수 있는지를 생각해 보면 이 글의 내용이 상당히 그럴듯하다는 것을 알게 된다. 비록 미국에서 가장 좋은 직업이 수학과 졸업생에게 열려있다는 보도가 몇 년째 계속되고 있지만... 결론만 이야기한다면 우리나라에서 수학을 전공하고 졸업하면 핑크빛 미래가 열려있는가 하면 결코 그렇지 않다. 그러면 무엇이 미국과 다른가?

순수수학자로서 볼 때 우리나라에서 교육받은 수학자로서 외국과 경쟁력을 가지려면 우리나라 교육이 한 단계 도약하여야 한다. 순수수학은 국내에서 경쟁하는 것이 아니다. 따라서 졸업하고 환영받으려면, (물론 박사는 마쳐야 하겠지만), 외국의 좋은 대학 졸업생만큼의 실력을 갖춰야 한다. 물론 이것이 쉽지 않다. 아마도 서울대, 카.., 포.. 중에서도 친구들이 부러워할 만큼 잘 해야만 보장된 미래를 가질 것이다.

그러면 왜 우리나라에서 박사를 받으면 여기에 도달하지 않는가? 이것은 간단히 말할 수는 없다. 나도 답을 찾으려고 노력하지만 상당히 복합적이라고 밖에는 말하기 힘들다. 학교에서의 교육과정이 낙후한 것, 학생들이 어려움을 쉽게 지나가려고 핵심 강의를 듣지 않고 따라서 시험 등이 경쟁적으로 쉬워지는 것, 4-5년 안에 실패없이 졸업시켜야 한다는 강박관념에 교수들이 힘든 과정을 거치게 하지 않는 점, 한 학교의 교수 수가 작아서 여러 분야의 강의와 연구 관점을 들어보지 못하는 것, 전국 어느 곳에도 전문적 자료가 거의 없다는 것 등등이다. 여기서 소위 잘한다는 서카포 학생들도 들어가서 반은 실패 가까운 경험을 하는 미국이나 이보다도 훨씬 힘든 과정을 거치게 하는 유럽 국가들과는 전혀 다르다고 하겠다.

이것은 순수수학 분야이고 보통 사람들은 이 부분은 생각도 않을 것이고 잘 알지도 못할 것이다. 우리나라 발전에 당장 도움이 되는 응용 분야를 보자. 이것은 이렇다. 예를 들어 수학을 잘 하고 공부가 끝나면 누가 데려가는가? 미국에는 IBM, Bell, AT&T, Google, Hugh 같은 수 많은 회사들이 수많은 수학박사들을 채용한다. 시키는 일은 따로 없다. 자기가 좋아하는 것을 연구하면 된다. 그리고 계속 보고서를 낸다. 그 회사들은 왜 이런 짓을 하는가? 그들은 이런 소위 think tank를 운영하고 있으면 새로운 아이디어가 필요할 때, 새로운 문제에 봉착해서 해법이 필요할 때 그들이 그에 대한 해법을 내 주고, 그리고 가끔은 그런 친구들이 생각한 이상한 문제에서 생기는 새로운 아이디어가 떼돈을 벌게 해 주는 것을 알고 있다. (예를 들면 Lorentz가 Alamo의 연구소에서 할일 없이 쬐꼬만 컴퓨터로 쓸데없는 미방을 가지고 장난하다가 Chaos 이론을 발견한 것과 같이 말이다.)

그래서 한 회사가 한 연구소에 할일 없는 수학박사를 수백명 내지는 천명도 넘게씩 고용하고 일을 (안) 시키고 있다. 우리의 삼성은 (현대, LG 등은 물론이고) 이것을 모른다. 아니면 너무 급해서 이것을 알지만 실행할 틈이 없었다. 그리고 아직도 없다. 그러니가 이공계 출신 CEO가 90% 가깝다고 하는 (정말인가?) 미국에서는 CEO들이 이런 연구집단을 운영하는 것이 죽고 사는 것을 결정하는 하나의 축이라는 것을 보고 있지만, 여기 CEO들은 수학은 커녕 공학자만해도 정말 쬐꼬만거 하나 조금 변형시키면서 큰 돈을 받는 것을 고깝게 생각하고 있는 것은 아닌지?

자, 회사가 잘 못하고 있지만 수학을 졸업하고 모두 저런 자리를 찾는 것은 아니다. 수학을 전공하면 잘 간다는 금융공학은 정말 현대 응용수학의 꽃이다. 결코 이해하기 쉽지 않은 확률과정론을 응용해서 확률미분방정식이라는 도저히 상상이 안 되는 괴물같은 것을 다루면서 이것으로 금융의 새로운 도구로 당당히 입성한 금융공학이다. 그런데 위의 글은 이것을 요구하는 자리가 몇 안된다고 하였다. 글쎄 그럴지 난 잘 모른다. 이것은 돈을 벌겠다는 사람이라면 모두 알고 싶은 것이다. Simons가 전공자도 아니면서도 어떤 아이디어와 그 기본만 가지고도 세계 몇대 재벌이 되는 것을 보면 이런 것을 잘 하는 사람을 필요로 하는 사람들은 많을 수 밖에 없다. 뉴욕의 Wall Street에는 이런 전문가가 10,000명인가 100,000명인가 있다고 한다. 문제는 이렇게 꿈같은 일 말고도 제대로된 보수를 받고 할 수 있는 일은 많다.

지금은 우리나라에 들어와 계시는 교수님들 중의 몇은 미국에서 박사학위를 받고 나서 미국 대학에서 강의하고 연구하는 때에 동네 회사의 여러 문제를 프로젝트로 맡아서 일하고 연구하고 논문을 썼다. 예를 들어 한 분은 어떤 공장에서 나오는 배출해야 할 가스를 배출하는 관을 제대로 배치하는 문제를 푸는 프로젝트를 했다고 한다. 배출구의 위치가 있고 이런 가스가 나오는데가 여러 군데 있고 그리고 이 관들을 모아서 배출구로 연결하는데 이 관이 길어지고 돌아가서 뽑아내는데 힘이 많이 들게 되면 배출 팬의 전기를 많이 쓰게 된다. 이것을 최소화하는 관의 굵기, 배치 등을 최적화하면 많은 비용을 절약하게 된다. 아마도 이 프로젝트를 맡기는데 든 비용은 공장이 절약하는 배기 비용과 비교하여 보면 단 2-3년이면 본전을 뽑을 것이다. 이런 공장은 우리나라에도 많다. 그리고 이런 것을 알면 공장도 돈을 절약하고 수학자는 일거리가 생기는 Win-Win 상태가 될 것이 뻔하지만... 문제는 공장장은 이런 것을 찾을 생각도 안 하고 있고 (물론 모를 것이다. 혹시 알아도 실제로 절약하는지 믿기 힘들 수도 있다. 아니면 2-3년 후에 본전을 뽑을 투자를 할 생각이 없는지도...) 수학자들은 아무리 이야기하여도 프로젝트를 맡기는 사람이 없으니 그냥 포기하고 있는 것과도 비슷하다. 즉 그런 공부를 많이 하지 않는 것이다.

그러니까 응용수학을 하여도 금융공학이라면 경제, 경영 문제를 같이 공부하는 식으로 해서 현장에 바로 들어가야 한다. 비슷하게 다른 분야의 응용수학을 하겠다고 하면 수학을 전공하고 계속 수학공부를 하면서 응용하려는 분야의 공부도 하지 않으면 안 된다. 그렇지만 이런 과정을 거친 후에는 분명히 경쟁력이 월등하다. 응용하려는 분야(경제학 같이)만 공부한 사람은 절대로 할 수 없는 것을 할 수 있다. 이런 것을 공부하고 나서 우리나라 회사에서 찾지 않으면 외국으로 가면 된다. 물론 힘든 일이지만 살 길이 없는 것은 아니라고 생각된다. 이 정도 도전은 할 각오를 해야 좋은 자리를 잡을 수 있을 것이다.

결론은 현재 우리나라에서 수학을 전공하고 취직자리를 찾으면 미국에서 수학이 가장 좋은 전공이라는 말과는 상당히 다르게 느껴질 수 있다는 것이다. 그러나 우리나라가 지금 역동적 변화(좋은 변화도 있고 나쁜 변화도 있다.)의 와중에 있다는 것을 생각하면 안정화된 선진국같을 수는 없다. 즉 조금은 능동적으로 노력해야 하고 그만한 보상은 있다는 것이다. 우리 삼성도 분명히 이공학을 전공한 CEO를 늘려갈 수 밖에 없을 것이다. 그리고 이공학 전문가에게 제대로된 대우를 해 주지 않을 수 없을 것이다. (안 그런다면 망할 가능성이 두 배는 높아지겠지.) 그 동안 우리는 우리 능력을 높이는데 주력하지 않으면 안 된다. 그리고 팀을 이루고 노력해 보는 것도 해 볼만 하다.

페북에 올라온 질문 중에 카테고리 이론(Category Theory)이 어떤 이유에서 만들어진 것인지 모르겠다는 질문이 올라왔다. 이 이론은 20세기 중반에 Homology 이론이 만들어지고 나서 우리가 수학에서 이론을 만든다는 것에 Homology 이론이 그 전범이 된다고 생각하여, 이렇게 한 가지 대상을 이해하기 위하여 우리가 잘 아는 다른 대상과 사이에 구조적인 동일형태관계를 맺고 그 두 번째 대상을 통하여 문제의 대상을 이해한다는 도식을 (메타)수학 이론으로 정리한 것이라고 생각할 수 있다.

20세기 전반부에는 수학을 이해하는 도구로는 집합론을 꼽을 수 있다. 이것은 수학의 이론이란 것은 모두 어떤 대상을 가지고 있는데 이 대상의 모임을 집합이라 부르고 각각의 대상은 이 집합의 원소로 보는 방법이다. 그러나 이런 대상을 이해하려면 집합만으로는 부족하며 이와 유사한 집합 사이의 관계를 파악함으로써만 가능하다는 사실을 곧바로 파악하여 두 집합 사이의 관계(relation) 특히 함수(function)을 써서 이해한다는 집합론을 만들었다.

그런데 호몰로지 이론이 나오기 이전까지 위상공간은 위상공간 사이의 문제만 생각했고 따라서 연속함수나 homeomorphism을 공부한 반면, 대수학에서는 군, 환, 체 등을 생각했고 그들 사이의 homomorphism이나 isomorphism만을 생각하면 된다고 생각했다. 그런데 새로이 호몰로지 이론이 개발되면서 위상공간마다 군이나 모듈(가군)을 대응시키고 continuous map마다 homomorphism을 대응시키는 생각을 하니 이전에는 알지 못했던 엄청난 것을 알 수 있다는 사실을 알았다.

이런 대응도 함수임에는 틀림 없지만 우리가 생각할 때는 위상공간 전체의 모임에서 군 전체의 모임으로 한꺼번에 대응시키므로 뭔가 새로운 말을 만들 필요가 있었다.(사실 이런 대상 전체의 모임이 집합이 되기에는 너무 크다는 것도 다른 용어의 필요성을 제기했다.) 그래서 이런 어떤 구조를 갖는 대상 전체의 모임 (위상공간의 모임, 군의 모임, 등등)을 category라고 부르고, 두 category 사이에 대응을 functor라고 부르기로 하였다. 그런데 homology 이론을 잘 들여다 보면 이 대응관계(functor)만 알면 이 이론의 결과를 얻게 된다는 것을 알 수 있었다. 즉 우리는 category의 여러 성질을 알아내는데 그 성질은 functor가 다 가지고 있다는 것이다. 여기서 집합론으로 돌아가 보아도 마찬가지 사실을 알 수 있다. 어떤 집합의 성질에 대하여 알고 싶은데 이 집합의 원소는 전혀 보지 않고 이 집합에서 나오고 들어가는 함수들 전체의 합성관계만 다 알면 이 집합의 집합으로서의 성질을 다 알 수 있다는 사실을 알게 되면서 집합과 원소의 성질을 결정하는 것은 원소 자신이 아니라 함수라는 새로운 사실이 중요한 사실로 대두되었다.

그래서 구체적인 category (위상공간의 category, 군의 category,...)에 대한 이야기 말고, 일반적인 category의 이론을 만들려면 (집합론처럼 무정의 술어를 써서 공리적으로 만들듯이) 이 개념의 핵심을 잡아야 하는데 결국 핵심은 우리가 대상(object)이라 잡는 category의 원소들은 중요하지 않고 이들 사이의 함수에 해당하는 사상(morphism)의 합성관계만이 필요하니까 object는 집합이라던가 하는 가정할 필요가 없어지게 되었다. 즉 object 자체는 원소를 가진다거나 하는 가정 없이 무정의 술어이고 morphism도 더이상 함수라던가 할 필요가 없지만 합성이라는 것은 할 수 있어서 이들이 어떤 식으로 합성되는지 그 작용소만 정의되었다고 해도, homology 이론에서 하던 것과 같은 모든 이야기를 할 수 있다. 그리고 마음만 먹으면 이 morphism에서부터 object에 어떤 원소가 있는지도 어느 정도 알아낼 수 있다는 생각을 하게 된 것이다.

그러니까 category 이론은 집합론의 meta 이론이고, 어떤 의미에서 집합론이 집합을 주 대상으로 하고 이로부터 함수가 파생되어 나온 구조를 가지고 있다면, category이론은 함수(morphism)이 주 대상이고 이로부터 object의 성질이 파생되어 나오는 것을 연구하는 소위 집합론에 dual한 형태의 이론으로 자리잡게 되었다.

초기에는 이런 새로운 방법론이 집합론이 다루지 못했던 새로운 문제를 해결하리라고 생각했지만 이런 일은 일어나기 힘들다는 것을 알게 되었고, 따라서 매우 효율적인 언어임에는 틀림 없지만 집합론을 하는 것보다 더 알려주는 것은 없다는 비판을 받게 된다. 그러나 이 언어는 현대 수학의 모든 부분에서 집합만을 다루는 것보다 훨씬 편리하고 직관적이어서 현대수학의 언어로 자리매김하였다.

그런데 이후 수십년이 지나면서 여러 다른 곳에서 이 개념을 가져다 쓰게 되었다. 우선 컴퓨터에서 네트워크를 연결할 때 그 연결 네트워크의 구조를 그쪽 이론에서 보통 topology라고 부르는데 이것이 컴퓨터의 내부와는 무관하므로 컴퓨터를 한 점이라고 보아 object라고 부르고 네트워크가 연결되면 morphism이 하나 있다는 식으로 사용하기 시작하여 category 이론의 정리들을 거기 적용하였다. 한편 훨씬 더 시간이 지나 최근에는 논리학에서 어떤 논리학을 category와 morphism으로 설명하고 이를 바탕으로 확장된 논리학을 만들어나가는 등의 이론이 새로 생겨 양자논리(?) 라는 등의 새로운 시도가 되고 있다. 이 이론은 sheaf(층)의 이론과 맞물려 논리학 자체가 또 다른 방향으로 매우 추상적인 수학으로 변모해 나가는 것을 보여준다.

역시 수학의 발전은 끝이 없다.

페북에 김모군이 수학을 이해한다는 것이 어떤 것인가 하는 글을 올렸다. 세 가지 경우를 제시하고 이 중 어느 정도이면 이해했다고 할 수 있는가 하는 질문이었다. 그 세 가지는 첫 줄만 옮기면 다음과 같다.

1. 연역적 논리 전개 과정을 따라갈 수 있으면 이해한 것이다.
2. 전체적인 증명 과정이 머리속에 자연스럽게 그려져야한다.
3. 직관적으로 그 명제가 참이라는 것을 이해할 수 있어야 한다.

이 세 가지에 대해서 긴 설명을 덧붙였지만 여기서는 생략하기로 한다. 그리고 이 세 가지보다 더 많은 단계를 경험해 보았지만... 여기서는 이해한다는 것에 대해 내가 느끼는 점을 적어본다.

수학을 공부하면서 항상 목표로 하고 있는 것은 공부한 내용을 이해하겠다는 것이고, 학생시절에 나도 위의 세 가지 등을 가지고 여러 가지 생각을 했다. 처음에는 증명을 따라가면 이해되었다고 생각한 적도 있고, 이 증명을 보지 않고 적을 수 있을 때, 증명이 환하게 떠오를 때, 원래 증명을 한 번도 안 본 상태 또는 잊어버린 상태에서 새로 만들어낼 수 있을 때, 그 정리가 적용되는 예를 통한 이해, 그 정리의 조건들이 만족되지 않을 때 각각의 반례 등등 여러 단계를 이해라고 생각했었다.

잠시 사이드로 빠져서 수학의 증명 방법에는 소위 루틴한 증명과 그렇지 않은 특이한 방법이 있다. 루틴한 방법이란 기본적인 수학 전개법을 알면 많은 사람들이 할 수 있는 증명 방법이다. 이것은 증명이 복잡하거나 길다는 것과는 상관 없다. 경우를 나눈다면 두 경우로 나누든 20 경우로 나누든 걸리는 시간에만 차이가 있을 뿐 각 스텝은 생각해내기도 그리 어렵지 않고 실제로 증명을 써나가는 것도 어렵지 않다는 것이다. 이에 반해서 특별한 아이디어를 필요로 하는 것은 그 아이디어가 떠오르지 않으면 그 증명을 하기 어려운 경우를 말한다. 대표적인 쉬운 예로 칸토르의 대각선 논법은 짤막한 증명임에도, 그 증명하려는 대상 명제의 용어들의 정의를 들어다보는 것으로는 그 생각이 떠오르지 않는다. 이런 방법을 떠올릴 수 있는 사람은 상대적으로 극소수 뿐이라는 것이 루틴하지 못하다는 것이다. 증명을 외우는 방법은 위의 분류에 따라 루틴하지 못한 것을 구별하여 내서 이런 것은 그냥 아이디어를 외운다. 한편 루틴한 것은 빨리 생각나게 하려면 증명의 과정에서 중요한 turning point를 기억해둘 필요는 있지만 기억하지 않았어도 시간만 많이 있으면 결국은 증명해낼 것이라고 생각된다.

이제 이런 과정을 거치면 증명들을 환하게 기억하는 수준을 만들 수 있다. 그런데 이런 상황에서 수학을 잘 하는 사람과 이야기해 보면 많이 부족하다는 것이 느껴진다. 어딘가에도 썼지만 내가 박사과정에서 지도교수님과 이야기할 때 느꼈던 것을 이야기하면... 대학원에서 기하학을 공부하면 잘 이해되지 않아서 왜그런가를 질문하면 많은 경우 선생님은 "설명은 거의 한마디로 할 수 있는 간단한 건데..." 하는 식이다. 그 한마디가 사실이라는 것은 잘 알고 또 믿지만 잘 이해되지는 않는다던가 그럴 것 같지만 확실히는 어째서인지 잘 모르겠다는 식으로 따져 들어가면 금방 "학부 해석학에서 이런 정리가 그거쟈나" 하는 말씀을 한다. 알았다고 하고 돌아와서 그 정리를 찾아서 음미해보면 아 이 정리가 그런 식으로 쓰이는 것이었구나 하고 새롭게 보인다. 그 정리는 증명도 환하게 알고 있고 예도, 또 반례도 알고 있었지만 이렇게는 알지 못했다.

이해에 대해서 여러가지로 생각해 보면 어떤 내용도 이해가 완벽하게 되었다는 상태는 없다는 생각이 든다. 예전에 만들어진 수학을 생각해 보면 당시의 수학자들은 자신의 이론을 잘 이해하고 있었다고 생각되지만, 그 이후에 만들어진 새로운 개념들 위에 그것이 적용되는 새로운 상황을 보고 나면 예전에 이것을 만들었던 사람들이 이런 상황을 보면 뭐라고 할까 하는 생각이 든다. 이런 상황을 보고 나면, 말은 변하지 않았고 정의도 똑같지만, 예전의 단순한 상황에만 적용되던 그 개념이라고 할 수 있을까 라는 생각이 들면서 이 적용 상황이 복잡해진 만큼 개념도 복잡해졌다고 해야 할지 모르겠다. 하지만 그 정의는 변하지 않았으니까 수학적으로는 개념의 변화가 없다고 하는 것이 옳을지 모르므로 말을 바꾸어서 이 수학 개념에 대한 이해가 깊어졌다고 말하는 것이 옳다고 생각된다.

이런 경험을 통해서 알게 된 것을 몇 자리에서 다른 사람들에게 설명한 적이 있다. 한 가지 예를 들어서 설명했지만 결론만 이야기하면 다음과 같다: 우리가 안다(이해한다)는 것은 그 대상(개념)을 그냥 들여다보면서는 안된다. (예를 들어 1을 아무리 들여다봐도 1을 알 수 없다.) 오히려 이것을 어떻게 쓰는지를 알아야 이해가 된다. (1+1=2가 이에 대한 이해를 증진시켜준다.) 이런 상태를 간단히 대상과 그 위에 작용하는 operator 사이의 관계라고 말할 수 있다. 그리고 operator는 그의 작용대상을 이해할 수 있게 해 주는 방법이다. 이 operator는 일반적으로 function(함수)라고 지칭된다. 그리고 함수는 대상에 작용하는 것으로 일종의 dual object이다.

비슷한 맥락이지만 어떤 대상을 이해하려면 그와 비슷한 다른 대상(예를 들면 1에 대해서 2 같은 것)과 어떤 관계(+)를 가지는지(즉 1+1=2, 2+1=3,...)를 알게 됨으로써 1에 대한 이해가 깊어진다는 것이다. (동시에 +에 대한 이해도 깊어진다는 것은 매우 중요하다. object와 dual object(function)에 대한 이해는 동시에 깊어진다.) 이 function은 수학의 경우에는 함수이지만 일반적인 이해는 이보다 좀 복잡해서 관계(relation)라고 생각하면 좋다. 즉 어떤 대상을 이해하려면 이 대상과 주변 대상 사이의 관계를 파악해야 하고, 이 관계가 늘어날수록 이해가 깊어진다고 할 수 있다. 따라서 이해가 끝났다는 그런 상태는 없다는 것이다.

앞에서 이야기했던 증명을 외운다, 예와 반례를 안다, ... 등등의 방법도 당연히 이런 관계를 파악해 나가는 과정이라고 할 수 있다. 따라서 이런 관계를 빨리 얻어들으면 수학의 이해가 깊어진다. 그리고 이것은 높은 수준의 이야기를 얻어듣는 것이 된다. 단지 초등학생이 대학교 강의에 가면 무슨 말인지 모르니까 그런 식으로는 아니다. 그리고 이렇게 배우는 것은 보통 이야기하는 선행학습은 더욱 아니다. 하지만 학교 선생님은 이런 것을 해 줄 수 없다.(능력이 없다) 그래서 대학원 세미나 강의는 갓 박사를 마친 사람이 제일 잘 하지만 초등학생들 상대의 강의는 어쩌면 은퇴한 老 수학자가 가장 잘 할지 모른다고 하는 것이다.(이것은 내 말임)

일반인에게 이런 이야기를 한 맥락 중의 한 가지는 아름다움에 대한 것이었다. 사람이 아름다움을 느끼는 것은 수학은 이해하는 것과 매우 비슷한 과정을 거친다고 생각된다. 사실 위의 과정은 수학의 이해와 꼭 마찬가지로 아름다움을 느끼는데도 그대로 적용된다고 보인다. 어떤 이론을 이해하면 즐거운 것이 당연하다. 수학이 아름다워 보이는 것이 전혀 이상하지 않다.

최근에 포항공대 박형주 교수님이 국가수리연의 수학원리응용센터장으로 부임하셨다. 이 기회에 박교수님을 인터뷰한 기사가 실렸다. 이 기사는 수학이 나라 발전에 얼마나 중요한가 하는 것을 박교수님의 이야기를 통해 잘 소개하고 있다.

준용이가 고등학생 문제 풀어주다가 \( 2 \times 2 \) 행렬의 \( n \) 승 멱이 가지는 성질을 발견했다고 해서 증명을 어찌하는가 생각해 보았는데... 아마 이미 많은 사람이 알고 있겠지만...

TeX을 사용해서 이 블로그에 쓸 수 있으니까 오랜만에 한 번 써보자. 근데 AMSTeX 명령도 듣나?

문제는 \( A=\begin{pmatrix} a & b \\ c & d \end{pmatrix} \) 라고 하면 \( A^n \) 의 두 entry에 대해서 \( a_{12}:a_{21}= b:c \) 라는 것이다.

\[ A^{n-1}=\begin{pmatrix} e  & \alpha b \\ \alpha c & f \end{pmatrix} \]

라고 하자. 그러니까 수학적 귀납법을 써서 \( A^{n-1} \) 에 대하여도 성립한다고 하자. 그러면

\[ A^n=A A^{n-1}=A^{n-1}A \]

이다. 그러니까 위의 표현을 이 두 가지로 계산하면 같아야 한다.

이 표현에서 해당하는 (1,2) 원소와 (2,1) 원소는 각각 \( b(\alpha a + f) = b (e + \alpha d) \) 와 \( c(e + \alpha d) = c(\alpha a + f) \) 이다. 여기서 \( \alpha a + f = c + \alpha d \) 가 항상 성립한다는 것을 알 수 있고 \( A^n \) 에 대하여도 가설이 성립한다. \(n=1\) 일 때는 확인하지 않아도 되겠지?