갈로아와 아벨

대학때의 기억은 술, 당구, 그리고 최루탄밖에 없다. 내가 대학을 다닐 당시, 교수들의 수준은 기대 이하였다. 내가 다니던 학과는 거의 대부분 노교수들이었고, 내용을 제대로 이해하지도 못하고 책만 읽어 주는 수준이었다. 따라서, 거의 독학으로 공부를 하였고, 학문에 대한 흥미는 당연히 떨어졌다. 다행히 4학년이 되니 미국 유학을 마치신 젊은 교수님들이 몇 분 join 하셔서 그 분들의 전공 분야로 관심을 가지게 되었다.

 

그 와중에 수학과의 여러 과목은 재미있게 들었는데, 나이가 들어서 물리학 공부를 취미로 하는 지금, 상당히 도움이 되곤 한다. 가장 인상에 남는 과목은 대학 4학년에 수강한 현대 대수학 (abstract algebra)라는 과목이다. 그 과목의 마지막은, "... 따라서 5차 방정식의 일반적인 해는 존재하지 않는다 " 이다. 교재는 Fraleigh 교수의 "A first course in abstract algebra" 였다.

 

우리는 항상 숫자(number)를 사용한다. 2+3, 3*4 등등, 우리는 숫자의 연산에 능하다. 수를 연구하는 학문이 number theory 이다. 정수론이라고도 한다. 정수론에서 중요한 문제는, 어떤 수 x가 소수이냐 아니냐일 것이다. 자연수는 직관과 일치하는 수이다. 그러나 0과 음수의 존재는 직관과는 일치하지 않는다. 따라서 인류는  자연수를 발견한 후, 수천년동안 0과 음수를 다루면서도 그 실체성은 인정하지 않았다. 0을 표기하는 문자, 즉 '0'의 발견은 number라는 책에서 세상을 바꾼 위대한 수 5개 중 하나로 소개될 정도로 획기적이었다.

 

복소수를 생각해 보자. 제곱해서 음수가 되는 수, 제곱해서 -1이 되는 것을 수라고 불러야 할까? 도대체 수란 무엇일까? 제곱해서 -1이 된다는 것을 대수학적으로, 디오판토스의 미지수 표현으로 하면 x^2+1=0의 해에 해당하는 수일 것이다. 이제 재미있는 상상을 해서 세상에 존재하는 방정식을 수라고 생각할 수는 없을까? 즉, 우리가 1,2,3.. 이라고 부르는 것만이 수가 아니라, 수의 연산과 같은 규칙을 가진 그 무엇인가를 수라고 볼 수 없을까? 예를 들면 다항식을 수라고 볼수는 없을까? (1+x+x^2)를 1, (1+2x)=2라고 두면 1+3x+x^2=3이라는 수에 해당할 것이다. 

 

현대대수학에서 말하는 수에서 1, root(2), -1같은 숫자의 모양은 전혀 중요하지 않다. 중요한 것들은 그들 간의 관계, 즉 대수 체계이다. 행렬이, 벡터가, 방정식이, 함수가 수가 될 수도 있는 것이다. 그러면 대수 체계란 무엇인가? 원소와 원소들간의 연산 관계를 의미한다. Group(군)이라는 대수 구조는 원소가 있고 +와 -가 정의되는 대수 공간이다. Field(체)란 대수 구조는 원소가 있고 4칙연산이 정의된 대수 공간이다. 아래는 4개의 원소를 가지는 Galois field이다. 아래 표와 같이 연산을 정의하면 4개의 원소로 이루어진 대수체계 GF(4)를 완성한 것이다.

 

이러한 얘기를 누가 처음 시작했을까? 그들, 아벨(Niels Henrik Abel; 1802-1829)과 갈로아(Evariste Galois; 1811-1832)는 공통점이 많다. 비슷한 시기에 살았고, 비슷한 분야를 연구하였으며 둘 다 20대에 요절한 천재들이다. 오래전부터 인류는 2차 방정식의 해법, 근의 공식을  알고 있었고,  이탈리아의 수학자들, 타르탈리아(Niccolo Tartaglia; 1499-1577), 카르다노(Girolamo Cardano; 1501-1576)에 의해 3차방정식, 카르다노의 제자인 페라리(L. Ferrari;  1522-1565)에 의해 4차방정식의 일반적인 근의 공식이 발견된다. 당연히 5차 이상의 방정식의 일반적인 해의 공식을 만들기 위해서 3백년동안 애를 썼으나 오일러도, 가우스도 구할 수 없었다. 

 

정녕 불가능한 것인가.. 왜.. 왜...? 갈로아와 아벨이 이 문제를 풀기 위해서 취한 접근법은 너무나 독특했다. 그들은 방정식의 해를 구하는 문제를 방정식으로 구성된 추상적인 수의 소인수 분해 문제로 바꾼 후, 5차 이상의 방정식으로 이루어진 대수체계에서는 소인수 분해가 불가능함을 보임으로써 간단히 그 문제를 해결한다.  그 내용을 논문으로 발표했지만, 가우스도, 코시도, 푸리에도.. 그 내용을 이해한 이들은 거의 없었다. 사실 관심을 가지고 보기에는 너무나 희안한 내용이었던 것.. 수학이라기 보다는 별 희한한 기호학 같은 내용이었기 때문일 것이다. 

 

"천재는 천재를 알아본다..." 이것이야말로 전혀 근거없는 통설 중 하나이다. 인간들은 자신들이 보고 싶은 것, 익숙한 것만 인정할 따름이다. 아벨은 불과 21세라는 젊은 나이에 5차방정식의 일반해가 존재하지 않음을 증명하고, 없는 살림에 출판비를 절감하기 위해 종이까지 아껴가며 가우스에게  논문을 보냈으나, 바로 쓰레기통으로 직행한다. 

 

아벨은 또한 1826년에 타원 곡선 다양체에 관한 논문을 파리과학아카데미에 제출하였으나, 심사위원인 대 수학자 코시(Cauchy)는 논문을 읽지도 않고 구석에 팽개쳐 둔다. 타원 곡선에 기반한 아벨 그룹 이론은 현대 암호학에서 가장 중요하게 사용되는 타원 곡선 암호의 이론적 근거가 된다. 혹시 블록체인에 관심이 있다면 종종 타원 곡선 암호를 들어볼 것이다. (아래에서 타원 곡선과 만나는 세점 P,Q,R은 아벨 군을 구성한다)

 

 

불과 몇년도 안되는 짧은 시기의 연구만으로도 수학사에 엄청난 획을 그은 그는 1829년 27살의 나이에 굶주림으로 인한 폐결핵으로 쓸쓸히 죽어간다. 독일 수학자 Jacobi (Karl Gustav Jacobi; 1804-1851)는 본인이 연구한 타원 곡선 이론을 자신보다 훨씬 먼저 아벨이 연구했음을 발견하고 파리과학아카데미에 항의하고, 학회는 부랴부랴 뒤늦게 코시가 뭉개둔 그 논문을 찾았지만, 이미 아벨은 이 세상을 떠난 상태였다.

 

오늘날, 40세 이하의 수학자에게만 부여되는 필즈상(4년마다 수상)과 더불어 평생의 업적을 고려하여 수여하는 아벨상은 수학분야에서 노벨상만큼의 권위가 있다.

 

아벨만큼 불운한 또 한명의 천재가 갈로아(Galois) 이다. 아벨과 마찬가지로 갈로아도 현대 대수학의 기본 이론을 혼자서 나이 19세가 되기 전에 모두 만든다. 오늘날 통신 시스템의 오류 정정 부호인 해밍, BCH, Reed-Solomon 부호 등은 그가 만든 Galois field 의 대수 구조를 이용한다. 갈로아는 두세편의 논문만 썼는데, 그것을 코시에게 보내지만 그는 아벨의 논문을 내팽게친 것으로도 모자라 갈로아의 논문은 심지어 분실한다 (코시는 그 자신이 위대한 수학자였지만, 뛰어난 두 천재 아벨/갈로아의 앞길을 막은(?) 인간으로 수학사에 기록된다). 다시 갈로아는 그의 논문들을 정리하여 푸리에에게 보내지만 푸리에가 사망함으로 다시 논문은 사라진다. 

 

그가 살던 당시 프랑스는 루이 필리프 1세가 왕이었는데, 갈루아는 왕정에 반대하는 급진적인 공화주의자로 활동하다가 나이 21세 어느날 사랑하는 한 여인을 사이에 둔 결투에서 복부에 총상을 맞고 사망한다. 결투 상대는 명사수였으며 갈로아도 본인이 그 결투에서 죽을 것을 예측하고 있었지만, 그 결투를 피하지 않았다. 

 

결투를 앞둔 그는 미리 써둔 유서에서 자신의 편지(논문)을 Jacobi와 Gauss에게 전달하고 그 내용의 정당성이 아니라, 그 내용의 중요성에 대한 의견을 받아 줄것을 부탁한다. 결국 그의 업적은 14년 후 프랑스의 대 수학자 리우빌(Joseph Liouville; 1809-1882)에 의해 발표되어 큰 빛을 발하였다.