오늘날의 기하학이란 (1)

제목을 '기하학이란'이라고 써 놓고 나서 세부 카테고리를 수학으로 할까 기하학으로 할까 잠시 망설였다. 수학이 더 맞는 것 같다. 그러나 그냥 누구나 생각하듯이 기하학으로 잡았다. 아무도 신경쓰지 않을 문제일까?

2-3일 기하학의 한 가지 문제에 대한 오타교수의 개요논문 번역을 마저 하느라 시간을 들이고 나서 열심히 노력하는 임박사에게 전해주며 페북에 쓴 글을 보니 거리와 위상이 있는 수학이 해석학이라고 주장해서 딴지를 걸었다. 왜 거리와 위상을 가지고 하는 것이 기하학이지 해석학인가? 요즘 해석학은 아마도 비선형 함수해석학에 확률도 들어가다 보니까 거의 기하학 근처에 와 있는 것 같다. 그래서 해석학이 언제 위상과 가까워졌는가를 더듬어 보았다.

해석학의 시작에 있는 극한 개념을 사용한 미분은 비록 이것이 위상 개념의 시작인 것은 맞지만 오늘날 말하는 본격적인 위상수학이라고 하기는 어렵다. 그러니까 본격적 위상수학이란 위상이 해석학에 사용된 것을 말하고 이것은 위상수학이란 말이 생기기 좀 전에 일어난 일이다. 나는 그것을 리만이 타원함수 이론을 보고 단박에 이것은 곡면을 보지 못하고 평면의 영역으로 해석하려 해서 잘 못 풀고 있는 것이라는 사실을 알아보았을 때라고 생각한다. 이것을 보면서 곡면 위의 (복소)해석학과 함께 곡면이 주는 정보를 단순하게 이해할 수 있는 기틀을 마련했다. 생각으로만 있었던 이 신 개념은 베티가 리만에게 병문안 왔을 때 또는 리만이 이태리에 갔을 때 베티에게 전수되었고 베티는 베티 넘버를 만들어 대수위상수학을 전개해 나갔다. 오일러가 처음 한붓그리기와 오일러 수로 시작한 문제제기의 현대적 답을 준 것이라고 하겠다. 그러나 물리학은 20세기에 들어오면서 두 가지 큰 변혁을 맞게 되고 앞의 문제(빛의 속도)는 아인슈타인이 밍코브스키가 만들어 놓았던 미분기하의 개념을 사용하여 카르탕의 결정적 도움으로 해결하였으며, 두 번째 문제(양자 문제)는 힐버트를 위시한 여러 학자들의 아이디어를 종합해서 해석학으로 해결하는 방향을 택했다. 아직도 완결짓지 못했다는 양자역학이다. 이 과정에서 편미분방정식의 이론적 풀이가 중요해졌고 위의 여러 사람이 제안한 무한차원의 선형기하가 꼭 필요했다. 기하 중에서도 꼭 필요한 것은 위상 개념을 동원한 극한의 계산이었고 이것이 없으면 우리가 구체적으로 다룰 수 있는 유한차원선형대수를 무한차원선형대수로 확장할 수가 없었다. 힐버트가 가이드하는 대로 이것을 전개해 나가서 오늘날의 함수해석학이 되었다.

이에 들어가는 위상은 해석학을 위한 위상이 맞다. 하지만 이 이론을 잘 들여다보면 모두 다 어떤 norm 종류들 사이의 크기 비교 부등식이다. 즉 어떤 식의 거리 비교를 하고 있는 것이고 이것은 비록 해석학에 사용되기는 하지만 당연히 기하학이다. 임박사가 헛갈리는 것도 이해가 간다. 미분가능성을 재는 척도를 거리로 나타냈는데, 이제 이 것리가 어떠어떠하니까 대상은 미분가능하다고 한다면 이것이 해석학인가 기하학인가? 그러니까 두 함수 f, g에 대해서 {f+g}(x) = f(x) + g(x) 를 계산하는데 덧셈을 한 것이니까 대수학인가 아니면 함수를 계산한 것이니까 해석학인가? 이 부분만을 보면 잘 모르겠다. 하지만 덧셈의 대수적 성질이 중요한 역할을 하면 대수학에 가깝고 덧셈 계산만을 쓴다면 해석학에 가깝겠지. 그러니까 거리랑 위상도 거리, 위상의 기하학적 성질을 사용하면 기하학에 가깝고 단지 거리 위상은 말만 나오는 것이라면 해석학에 가까울 것이다. 이름에 붙은 함수해석학(정확히는 '범함수 해석학')은 당시의 새로운 학문의 하나로서 해석학이라는 말이 붙은 것이다... 마치 위상수학은 당시에는 위치의 해석학(analyse situs)라고 붙은 것처럼... 그 이전의 수학은 계산법(=미적분=calculus=ODE)와 (복소)함수론과 새로운 대수학과 기하학으로 나뉘어 있었는데 이 situs도 functional도 그 때까지는 못보던 것들이어서 여기다 분석(해석)이라는 이름을 붙였는데 이 당시 시작된 것이 모두 PDE 이론으로 수렴되다 보니까, 즉 모든 이론을 제대로 전개하고 나서 보니까 PDE만 해결하면 되는 상황이 되어서, 함수의 새로운 이론이 해석학으로 굳어졌다고 보인다. 물론 미분기하학의 문제 (대표적으로 극소곡면)도 PDE로 귀결되었고 이런 입장에서는 미분기하학도 해석학 같이 된 것이 맞다.

20세기 함수해석학이 수학에 엄청난 영향을 끼쳤지만 이것은 결정적으로 선형이론이라는 한계를 가지고 있었다. 그러니까 국소이론 밖에는 되지 못하는 것이다. (나는 처음에 이 말을 이해할 수 없었다. 벡터 공간 전체에서의 이론은 국소이론이고 벡터 공간의 열린 부분집합에서의 이론은 대역적 이론을 포함한다는 것이 무슨 말인가...? 를...) 즉 사람들이 진짜로 풀고 싶은 문제는 비선형 문제이고 이것은 본질적으로 우리가 보는 함수(PDE의 잠재적 해)를 모두 모은 공간이 굽어있다고 생각해야 한다는 것이다. 즉 무한차원 곡면을 생각해야 한다면 다시 본질적인 기하학 문제가 대두된다. 20세기 말의 해석학은 이 근처에 서서 비선형으로 들어갈까 말까를 저울질하고 있는 것 같다. 아니면 들어가야 하는데 발 디딜데도 없고 문도 잘 안보여서 우왕좌왕하고 있다고 할까...

(계속)