'수학/기하학 이야기'에 해당되는 글 6건

조건희 군이 메일로 보내느라 앞 뒤에 인사가 있는 것은 빼고 본문만 옮겨 놓습니다.

그래서 기하학이란 무엇인가?

앞에서 한 이야기에서 여기 저기 기하학이 나타나지만 기하학이 순수하게 도형만을 써서 기하를 한 것은 논증기하학 뿐이다. 당연히 데카르트를 지나면서 가하학은 좌표를 사용하게 되었고 미분가능한 함수를 사용하는 것은 당연하다. 그러니까 당연히 선형대수와 미적분학을 사용한다. 물론 앞에서 이야기한 편미방을 풀어야 할 때는 해석학도 많이많이 사용한다. 그러니까 기하학이란 무엇인가? 요즘은 대부분 기하학이란 미방을 풀어서 또는 그 밖의 방법으로 기하학적 대상을 구성하는 것이다. 아니면 주어진 기하학적 대상의 성질을 여러 해석학적 방법으로 연구해서 그 대상의 위상적 성질을 발견하는 것 정도로 생각한다.

꼭 말하고 싶은 미분기하학의 기초적 이론은 그 출발을 미적분에 둔다. 그 밑에는 수렴을 다루는 위상이 있지만 미분기하학은 그 부분을 굳이 알려고도 하지 않는다. 즉 수학 이론 전체에서 미분가능성 아래쪽은 안 들여다본다. 모든 것은 Taylor 전개에서 나오는 것에서 출발하고, 모든 것을 미분이 주는 선형구조 (미분형식)으로 바꿔서 이해한다. 이것이 19세기 말의 기하학자들의 결론이고 결국 카르탕이 만들어 준 새로운 미분기하학이다.

미분기하학만 공부하다 보니 다른 수학은 공부하기 어렵게 느껴진다. 특히 확률론을 들여다보면 정신이 하나도 없다. 마치 수렴을 이해하기 위해서 일반위상수학을 공부하면 예와 반례들을 모두 따져 보던 것과 똑같다. 이런 저런 거리를 다루면서 특징을 알아보는 것과 똑같고 함수공간에 어떤 위상이 잘 맞는지를 찾느라 무한차원 선형위상공간의 이론을 연구하던 때와 똑같다. 20세기 중반에 선형위상공간의 이론이 난무하던 적이 있었지만 무엇이 어떤지 알고 나서는 복잡한 위상들은 다 사라진 듯하고 소볼레프와 횔더, L^p 정도 남아서 서로 잘 엮어서 사용되는 것같다. 여기도 결국 필요한 것만 남기면 된다고 생각하고 있는 듯하다. 미분기하가 복잡한 수럼은 다 없애고 smooth 함수와 미분형식만 남겨서 잘 살고 있는 것처럼.

확률론은 그럴 수 없는가? 왜 항상 시작하면 가측함수로 내려가는가? 실제로 구체적인 예도 제대로 들 수 없는 것들인데... 미분기하처럼 stochastic Taylor 전개 정도를 기점으로 그 아래는 모두 버리고 이토 미적분 (또는 이와 비슷한 것들)의 공식만을 가지고 출발해서 훨씬 직관적으로(기하학적으로) 바꿔 설명할 수 있지 않을까? 그 밑은 누군가 한 번 해봤으면 충분하다. 집합의 기초론을 아무도 걱정하지 않고 사용하듯이 말이다. 이런 의미에서 확률론은 아직 집합이 AC나 CH를 가지고 고민하던 시절이나, 함수해석이 온갖 이상한 위상(pseudo norm으로도 정의할 수 없는 그런 것들)을 가지고 헤매던 시절과 같은 수준의 이야기를 써야 설명되는 것이라고 생각하는 듯하다.

기억력이 일천한 나는 이런 설명은 더이상 감당할 수가 없다. 학부 때, 대학원 때 몇 번 해본 것으로 더 파고들 힘이 남아있지 않다. 임박사가 이런 부분을 해결해 줄 수 있을까 하는 생각을 해 본다. (나에게 숙제를 준 반대 급부인가?^^)

기하학을 설명하려니까 결국 기하학은 없는 이야기가 되고 만다. 좋은 일이다. 무엇을 이해하는 것은 그것이 아닌 것을 모두 이해하는 것과 원리적으로 똑같고 방법적으로는 이 편이 더 낫다. 그러나 기하학에 대해서도 할 말은 있다.

19세기 말 - 20세기 초반의 수학 및 물리학 발전은 우리에게 새로운 개념을 심어주었다. 리만이 한 일 (오일러가 단초를 놓은?)이 발단이 되었지만... 오일러 수, 한붓 그리기, 리만의 타원함수이론과 리만면,... 이런 것을 보면 문제의 해결에는 국소적인 계산과 이것을 이어 붙여서 전체를 바라볼 수 있게 해 주는 독특한 방법이 작용한다는 것이다. 즉 오일러 수가 뭔가를 이야기하는 것은 국소적 현상(꼭지점, 모서리, 면 등)을 잘 붙이면서 곡면 전체의 모양을 설명해 주는 무엇인가(실제로는 위상적 표현)를 얻는다는 것이다. 미분기하에서 이것이 적나나하게 보인다.

19세기가 끝날 때까지 미분기하는 이탤리에서 연구되었다. 이것도 리만이 미분기하를 공부하는 방법을 이탤리 학자들에게 넘겨주었기 때문이라고 보인다. (독일은 바이어슈트라스가 (또는 디리클레 빼고 모든 다른 수학자들이) 리만을 디스하려 했던 덕분에 리만한테서 아무 것도 못 얻었다. 리만을 독일은 디스하고 몽땅 이탤리에게 넘겨준 듯.) 이 이탤리 학자들이 연구한 것은 굽은 공간에서의 기하학적 미적분이었지만 이것은 완전히 국소적 이론이었다. 그리고 이것은 19세기가 끝나면서 이론 연구도 끝이 나서 당시 이것을 연구했던 사람들은 '이제 미분기하학은 끝났다' (망했다는 뜻이 아님, 더 이상 연구할 것이 없고 이제는 사용하기만 하면 된다는 뜻임.) 라고 호언장담했다. 하지만 오늘날의 입장에서 보면 '국소이론 끝 대역이론 시작'에 해당되는 시점이었다. 아니나 다를까 단지 몇년만에 돌멩이 한 개가 나타나서 세상을 뒤집었다. 아인슈타인이 특수상대성이론을 만든 것은 단순히 우주 어느 점에서도 (그 근처만 봤을 때 = 국소적으로) 물리학 이론이 똑같다는 가정과 당시 실험으로 알려진 빛의 속도가 정해져 있다는 사실만 가정하고 이룩한 것이다. 그러니까 국소적 가정만으로 전체가 어떻게 돼야 하는지를 알아낸 것이라고 할 수 있다. 그러니까 리만이 보여준 것을 물리에서 재현한 것인데. 물론 리만에 대해서는 눈꼽만큼도 모르면서 한 것이다. 어쨌든 덕분에 모든 사람들이 우리 우주는 어떻게 생겼지? 하는 문제를 제기하게 된 것 같다. 그리고 그것을 푸는 것은 국소적 물리 모델을 모두 모아서 전체의 위상 등등을 알아내겠다는 구상이 되었다.

당연히 기하학적 문제인데 이것을 해결한 것은 원래 오일러가 했던 것처럼 붙이는 부분을 잘 count해야 한다. 즉 대수학을 사용했고 결국 리만처럼 할 수밖에 없었다. 다시말하면 대수위상수학 문제로 귀결되었다. 그래서 호몰로지 이론을 개발하고 열심히 연구하게 되었는데... 여기까지 도달하는 데도 편미분방정식의 숨은 역사가...

사실 처음으로 이런 문제를 제대로 해결한 것은 일본의 숨은 해석학자 오카였다. 오카는 고차원 복소영역 안의 코시리만 방정식을 풀려고 했다. 2차원 복소원판의 곱 형태의 영역에서 적분으로는 쉽게 풀 수 있는데 그 밖의 영역에서는 방법을 알 수 없었다. 오카가 낸 아이디어는 이렇게 국소적으로 푼 해를 이어 붙여서 전체로 확장된 해가 존재하려면 어떤 조건이 필요한지를 연구하였고 이것이 대수위상적 조건이란 것을 알아냈다. 이것은 대학 1학년 미적분의 뒤쪽에서 벡터장의 포텐셜함수가 있는가 없는가 하는 문제와 본질적으로 똑같다. 그때의 답은 벡터장의 정의역 가운데 일종의 본질적 구멍이 있으면 불가능하다는 것이고 오카도 똑같은 식의 답을 얻었다. (진짜 구멍만은 아니지만...) 그러니까 편미방을 푼다는 것은 두 가지 일을 해야 한다. 각 점의 충분히 작고 모양도 예쁜 영역에서 푸는 것... 이것을 국소적 이론이라 부른다. 보통 함수해석학을 쓰는 것... 그 다음에 이것을 이어붙여서 공간 전체로 확장되는 조건을 찾는 것. 이것은 코호몰로지 이론이 될 수밖에 없다. 그러니까 해석학자들은 여기서 앞부분만 하고 있는데... 그것도 compactness를 잘 사용하는 방법 밖에는 모른다. (근사해를 찾고 이것을 계속 낫게 바꿔나가서 해로 수렴시키려고 하는데... 수렴하는지 보려면 우리가 찾아나가는 함수열이 compact 집합 안에 놓이는지를 보이면 되고, 이것은 거리를 잘 재서 해결하는 방법이다. 아마 아직도 모든 함수해석이 이런 방법을 벗어나지 않은 것이 아닐지 싶다.

결국 아직도 기하에는 못 들어갔네...ㅠㅠ

(계속)

제목을 '기하학이란'이라고 써 놓고 나서 세부 카테고리를 수학으로 할까 기하학으로 할까 잠시 망설였다. 수학이 더 맞는 것 같다. 그러나 그냥 누구나 생각하듯이 기하학으로 잡았다. 아무도 신경쓰지 않을 문제일까?

2-3일 기하학의 한 가지 문제에 대한 오타교수의 개요논문 번역을 마저 하느라 시간을 들이고 나서 열심히 노력하는 임박사에게 전해주며 페북에 쓴 글을 보니 거리와 위상이 있는 수학이 해석학이라고 주장해서 딴지를 걸었다. 왜 거리와 위상을 가지고 하는 것이 기하학이지 해석학인가? 요즘 해석학은 아마도 비선형 함수해석학에 확률도 들어가다 보니까 거의 기하학 근처에 와 있는 것 같다. 그래서 해석학이 언제 위상과 가까워졌는가를 더듬어 보았다.

해석학의 시작에 있는 극한 개념을 사용한 미분은 비록 이것이 위상 개념의 시작인 것은 맞지만 오늘날 말하는 본격적인 위상수학이라고 하기는 어렵다. 그러니까 본격적 위상수학이란 위상이 해석학에 사용된 것을 말하고 이것은 위상수학이란 말이 생기기 좀 전에 일어난 일이다. 나는 그것을 리만이 타원함수 이론을 보고 단박에 이것은 곡면을 보지 못하고 평면의 영역으로 해석하려 해서 잘 못 풀고 있는 것이라는 사실을 알아보았을 때라고 생각한다. 이것을 보면서 곡면 위의 (복소)해석학과 함께 곡면이 주는 정보를 단순하게 이해할 수 있는 기틀을 마련했다. 생각으로만 있었던 이 신 개념은 베티가 리만에게 병문안 왔을 때 또는 리만이 이태리에 갔을 때 베티에게 전수되었고 베티는 베티 넘버를 만들어 대수위상수학을 전개해 나갔다. 오일러가 처음 한붓그리기와 오일러 수로 시작한 문제제기의 현대적 답을 준 것이라고 하겠다. 그러나 물리학은 20세기에 들어오면서 두 가지 큰 변혁을 맞게 되고 앞의 문제(빛의 속도)는 아인슈타인이 밍코브스키가 만들어 놓았던 미분기하의 개념을 사용하여 카르탕의 결정적 도움으로 해결하였으며, 두 번째 문제(양자 문제)는 힐버트를 위시한 여러 학자들의 아이디어를 종합해서 해석학으로 해결하는 방향을 택했다. 아직도 완결짓지 못했다는 양자역학이다. 이 과정에서 편미분방정식의 이론적 풀이가 중요해졌고 위의 여러 사람이 제안한 무한차원의 선형기하가 꼭 필요했다. 기하 중에서도 꼭 필요한 것은 위상 개념을 동원한 극한의 계산이었고 이것이 없으면 우리가 구체적으로 다룰 수 있는 유한차원선형대수를 무한차원선형대수로 확장할 수가 없었다. 힐버트가 가이드하는 대로 이것을 전개해 나가서 오늘날의 함수해석학이 되었다.

이에 들어가는 위상은 해석학을 위한 위상이 맞다. 하지만 이 이론을 잘 들여다보면 모두 다 어떤 norm 종류들 사이의 크기 비교 부등식이다. 즉 어떤 식의 거리 비교를 하고 있는 것이고 이것은 비록 해석학에 사용되기는 하지만 당연히 기하학이다. 임박사가 헛갈리는 것도 이해가 간다. 미분가능성을 재는 척도를 거리로 나타냈는데, 이제 이 것리가 어떠어떠하니까 대상은 미분가능하다고 한다면 이것이 해석학인가 기하학인가? 그러니까 두 함수 f, g에 대해서 {f+g}(x) = f(x) + g(x) 를 계산하는데 덧셈을 한 것이니까 대수학인가 아니면 함수를 계산한 것이니까 해석학인가? 이 부분만을 보면 잘 모르겠다. 하지만 덧셈의 대수적 성질이 중요한 역할을 하면 대수학에 가깝고 덧셈 계산만을 쓴다면 해석학에 가깝겠지. 그러니까 거리랑 위상도 거리, 위상의 기하학적 성질을 사용하면 기하학에 가깝고 단지 거리 위상은 말만 나오는 것이라면 해석학에 가까울 것이다. 이름에 붙은 함수해석학(정확히는 '범함수 해석학')은 당시의 새로운 학문의 하나로서 해석학이라는 말이 붙은 것이다... 마치 위상수학은 당시에는 위치의 해석학(analyse situs)라고 붙은 것처럼... 그 이전의 수학은 계산법(=미적분=calculus=ODE)와 (복소)함수론과 새로운 대수학과 기하학으로 나뉘어 있었는데 이 situs도 functional도 그 때까지는 못보던 것들이어서 여기다 분석(해석)이라는 이름을 붙였는데 이 당시 시작된 것이 모두 PDE 이론으로 수렴되다 보니까, 즉 모든 이론을 제대로 전개하고 나서 보니까 PDE만 해결하면 되는 상황이 되어서, 함수의 새로운 이론이 해석학으로 굳어졌다고 보인다. 물론 미분기하학의 문제 (대표적으로 극소곡면)도 PDE로 귀결되었고 이런 입장에서는 미분기하학도 해석학 같이 된 것이 맞다.

20세기 함수해석학이 수학에 엄청난 영향을 끼쳤지만 이것은 결정적으로 선형이론이라는 한계를 가지고 있었다. 그러니까 국소이론 밖에는 되지 못하는 것이다. (나는 처음에 이 말을 이해할 수 없었다. 벡터 공간 전체에서의 이론은 국소이론이고 벡터 공간의 열린 부분집합에서의 이론은 대역적 이론을 포함한다는 것이 무슨 말인가...? 를...) 즉 사람들이 진짜로 풀고 싶은 문제는 비선형 문제이고 이것은 본질적으로 우리가 보는 함수(PDE의 잠재적 해)를 모두 모은 공간이 굽어있다고 생각해야 한다는 것이다. 즉 무한차원 곡면을 생각해야 한다면 다시 본질적인 기하학 문제가 대두된다. 20세기 말의 해석학은 이 근처에 서서 비선형으로 들어갈까 말까를 저울질하고 있는 것 같다. 아니면 들어가야 하는데 발 디딜데도 없고 문도 잘 안보여서 우왕좌왕하고 있다고 할까...

(계속)