현대수학의동향 양재현 ( 인하대학교교수 ) I. 머리말 수학이란학문은많은다른분야보다도역사가길다. 기원전 6~7 세기전부터주로그리스의철학자와수학자들에의하여수학이란학문이정립되었다고생각한다. 가령, 피타고라스정리, 유크리드기하학이등장하였으며원주율과소수의연구가나름대로수행되었다. 그당시에는주로정신적으로나경제적인여유가있는상류층의사람들이모든학문의기본이라고할수있는철학과수학에관심을가지고학문적이론을세워나갔다. 플라톤학파가그중의대표적인예이다. 그리스가로마제국의식민지가된이후부터는수학뿐만아니라거의모든분야가암흑기에접어들게되었다. 중세기에와서야유럽의사람들이어두운시대의잠에서깨어나기시작했다. 갈릴레오, 파스칼, 데카르트같은과학자및철학자들이수학에관심을가지고연구하였다. 이전에수학에관심을가진사람들이있었지만체계적으로연구가수행되지못하였다. 17세기에와서 Bernoulli의일가족을중심으로이루어진학파와 Newton (1642-1727), Leibniz(1646-1716) 등의수학자들에수학이란학문이제대로틀이잡히면서연구가되기시작하였다. Fermat(1601-1665) 는취미로연구를한비전문적인수학자도있었다. 그후 18세기에는 Leonard Euler(1707-83), Carl Friedrich Gauss(1777-1855), B. Riemann(1826-1866) 등의위대한수학자들이등장하여현대수학의기초를세웠다. Gauss는비유크리드기하학을포함하여현대미분기하학의기초를세웠을뿐만아니라수론 (number theory) 의연구의틀을잡아주었다. 그리고 Riemann은리만기하의기초를세웠고함수의해석적접속 (analytic continuation) 이란중요한개념을소개하였다. 이외에도 Jacobi (1804-1851), Weierstrass(1815-97), Fourier(1768-1830), Dedekind(1831-1916), Gantor(1845-1918) 등의위대한수학자들도훌륭한업적을창출하여수학발전에큰기여를하였다. 19세기말엽부터는이전보다상대적으로수학자의수가급증하여독일과프랑스를중심으로수학이빠른속도로발전하였다. 독일에서는 D. Hilbert(1862-1943), 프랑스에서는 H. Poincaré (1854-1912) 를중심으로하여
수학의많은분야의연구가수행되었다. 가령, 19세기말엽에는 Hilbert는그당시에큰이슈중의하나인불변론을완성하였고유체론의기초를세웠다. 20세기에와서는 H. Weyl(1885-1955), E. Cartan(1869-1951), C. L. Siegel(1896-1981), T. Takagi(1875-1960), A. Weil(1906-98) 등의수학자들은 20세기초반의수학의발전에큰기여를하였다. 이강연의제목이 현대수학의동향 인데실제로는현대수학의개념을뚜렷하게무엇이라말하기가쉽지않다. 그래서본인은최근 20~30 년동안활발하게연구가수행되고있는중요한수학문제를중심으로이야기를풀어나갈까합니다. 20세기중반부터는소위 Bourbaki 학파들이 1970년중반까지세계수학계를주도하였다고할수있다. 그들의연구방법은추상적이었고아주중요하고구체적인수학문제를추상적으로일반화하여해결하려고하였다. 20세기초반의독일의괴팅겐학파와는다른연구방법이었다. 대표적인 Bourbaki 학파의수학자로는 A. Weil, H. Cartan(1904-2008), A. Grothendieck(1928- ), J.-P. Serre(1926- ), L. Schwartz(1915-2002) 등이있다. 이기간동안수학의많은분야 ( 특히, 대수기하학, 수론 ) 가추상적으로일반화되어젊은수학자들이본질적인수학문제에접근하기위해서는적지않는시간을보내며많은양의지식을습득하여야하여야만하였다. 그렇지만이것을기초로하여함수체상의리만가설과 Mordell 가설 ( 지금은 Faltings 의정리가되었지만 ) 등의중요한문제가해결되었다. 1980년초반에와서는대수기하학의퇴조가나타나기시작하여대수기하학자들이수학계에설땅을잃기시작하였는데다행히도 1980년후반에수리물리학에서의끈이론 (string theory) 과거울대칭 (mirror symmetry) 의이론의등장으로다시일어서기시작하였다. 왜냐하면끈이론과거울대칭의이론의연구를성공적으로수행하기위해서는대수기하학의많은지식을필요로했기때문이다. 1960년말경에는 R. Langlands(1936- ) 는소위 Langlands 프로그램을제시하여보형형식의이론과군표현의연구에큰이정표를이루었다. 그리고 1994년에는프린스턴대학의교수인 A. Wiles(1953- ) 가 350여년동안미해결문제인페르마마지막정리를해결하였다는사실을언급하고싶다. 지금은수학에많은세부적인분야가있는데이많은분야의최근동향을설명하 기에는본인에게는큰무리이기때문에본인의연구와관련된여러중요한수학문 제를중심으로하여현대수학의동향에관하여강연하고자한다.
II. 새천년문제들 (Millenium Problems) 지난 2000년 4월에 Clay 수학연구소에서오랫동안해결되지않은중요한수학문제들중에서일곱문제를골라서각문제의해결에 100만불의상금을내걸어총 700만불을내놓았다. Clay 수학연구소는 1998년 9월에 Landon T. Clay 의기금으로미국의캠브리지에서설립되었다. Clay는미국보스턴시의성공한사업가로서여러자선단체나대학에많은금액을기부한사업가이다. Harvard 대학의수학과에재직중인 J. Arthur 교수의제안을받아 Clay 는자신의재산을헌납하여자기의이름을따서수학연구소를설립하였다. 이연구소의교수진은 J. Arthur, A. Connes(1983년 Fields 상수상자 ), A. Wiles(1998년필즈상수상자 ), E. Witten(1990년필즈상수상자 ) 등의수학자들로서구성되어있다. Clay 수학연구소의개소식은 1999년 5월 10일에약 450 명의수학자들이모인가운데 MIT에서열렸다. 설립원년에는학술적인활동이없었지만그다음해에는 700만불이나되는촟상금을내걸고새천년문제 (millenium) 를세계수학계에제시하였다. 신문, 라디오방송, TV 등의메스컴을통하여전세계에알려졌다. 이로인하여 Clay 수학연구소는하루아침에전세계수학계에알려졌다. 일곱개의새천년문제는아래와같다. [1] P versus NP problem [2] Hodge conjectures ( 하지가설 ) [3] Poincaré conjecture ( 뽀앙카레가설 ) [4] The Riemann Hypothesis ( 리만가설 ) [5] The Birch-Swinnerton-Dyer conjecture ( 버어취-스위너톤-다이어가설 ) [6] The Navier-Stokes equation ( 네이비어-스톡스미분방정식 ) [7] Yang-Mills equation ( 양-밀즈미분방정식 ) 본인은리만가설, 버어취 - 스위너톤 - 다이어가설, 뽀앙카레가설을간략하게 소개하며설명하겠다. 1. 리만가설 소수는수중에서가장기본이되는수이다. 소수로써거의모든수를설명할수있기때문이다. 오래전부터위대한수학자들은소수의신비와분포에관하여연구하여왔다. 1859년에리만 1) 은베를린학술원의회원으로선정되었다. 베를린학술원의헌장에의하면, 새로이선출된회원은반드시
최근의연구업적을보고하게되어있었다. 그래서리만은 주어진수보다작은소수의개수에관하여 (On the number of primes less than a given magnitude) 의제목으로보고서를학술원에제출하였다.( 참고문헌 ( ㄷ ) 참조 ) 그는이보고서에서리만제타함수의성질들을열거하고소위, 리만가설 (the Riemann Hypothesis)을제시하였다. 이미이전에소수의분포에관하여오일러 2), 르장드르 3), 가우스 4) 등의위대한수학자에의하여 연구되었다. 오일러는소수의분포를연구하기위하여아래의제타함수 (1) ζ 를공부하였다. 그는 단 는실수 (2) ζ 의관계식을보였다. 여기서 는모든소수 들의곱을나타낸다. 관계식 (2) 는 오일러곱 (Euler product) 이라고불린다. 이사실로부터소수의개수가무한임을알수있다. 를주어진 양의실수라고하고 π 는소수 라고하자. 여기서 는모든자연수들의집합을나타내고 는집합 의개수를나타 낸다. 오일러는 (3) π 이라는것을가설로제시하였다. 오일러, 르장드르, 가우스와같은위대한수학자들이 (3) 을증명하 려고시도하였지만실패하였다. 1854 년에체비쉐프 5) 는논문집 Memoires de l Academie des Sciences de Saint Petersburg 에서 (4) π 의등식을증명하였다. ( 단, 이고 임 그러나체비 쉐프는 (3) 의극한값이존재한다는사실은증명하지않았다. 1850 년경에리만은 (1) 에서실수변수 뿐만아니라복소수변수 까지생각하였다. 그는 을만족하는영역에서 ζ 는해석적함수이고해석적접속 (analytic
continuation) 을지님을증명하였다. 게다가 ζ 의함수방정식을발견하였다. 끝으로그는 ζ ζ ζ ζ 단 은자연수 임을증명하고 (RH) ζ 의다른영점 (zero) 은모두 의선상에놓여있다. 라는사실을주장하였다. 그러나리만은이주장을증명하지않았다. 그의사후에제타함수 ζ 는 리만제타함수 (the Riemann zeta function) 라고불렸고주장 (RH) 는 리만가설 이라고불렸다. 그후프랑스수학자 Jacques Hadamard (1865~1963) 와 Charles de la Vallée-Poussin (1866~1962) 등과같은유명한수학자들이리만가설을해결하려고하였지만실패하였다. 아직까지도이가설은풀리지않고있다. 1941년에프랑스수학자베이유 6) 는함수체 (function field) 인경우에 (RH) 를증명하였고, 1949년에유한체 (finite field) 상에서정의되는대수다양체의제타함수에대하여 (RH) 와유사한소위, 베이유가설 (Weil conjecture) 을제시하였다.( 참고문헌 [16] 과 [17] 참조 ) 그후, 1974년에벨기에수학자데리네 7) 가매끄러운사영다양체 (nosingular projective variety) 인경우에베이유가설이옳다는것을증명하였다.( 참고문헌 ( ㄱ ) 참조 ) 이업적과하지이론의업적으로데리네는 1978년에수학의노벨상인필즈상을수상하였다. 1980년에일반적인다양체 (complete variety) 인경우에베이유가설이진실이라는사실을증명하였다.( 참고문헌 ( ㄴ ) 참조 ) 리만가설은정수론분야에서중요한 소수정리 (the Prime Number Theorem) 와아주밀 접한관계가있다. 가령, 주장 (3) 은 ζ 단 인실수 이라는주장과 동치이다. [ 참고문헌 ] ( ㄱ ) P. Deligne, La conjecture de Weil, I, Publ. Math. IHES, Vol. 43 (1974), 273-307. ( ㄴ ) P. Deligne, La conjecture de Weil, II, Publ. Math. IHES, Vol. 52 (1980), 137-252. ( ㄷ ) B. Riemann, Über die Anzahl der Primzahlen unter einen gegebenen Grösse Gesammelte mathematischen Werke (1859), 145-153 (Dover, 1953). ( ㄹ ) Weil, On the Riemann Hypotheses in function-fields, Proc. Nat. Acad. Sci., Vol. 27 (1941), 345-347. ( ㅁ ) Weil, Numbers of solutions of equations in finite fields, Bull. Amer. Math. Soc., Vol. 55 (1949), 497-508.
2. The Birch-Swinnerton-Dyer 가설 타원곡선 (elliptic curve) 이란 3 차방정식 (5) 단 는상수 의해에의하여주어질수있는곡선이다. 이곡선은종수 (genus) 가 1 이며특이점이없는사영곡선 (nonsingular projective curve) 이다. 이곡선에무한점 를첨가하면이집합상에자연스런기하학적인덧셈연산을얻을수있으며이연산에대하여이집합은군구조 (group structure) 를지니고무한점 는이군의단위원소의역할을한다. 그래서타원곡선은간단한공간인데다가기하학적인군구조를지니고있기때문에다른일반적인다양체에서찾아볼수없는매우아름다운성질뿐만아니라풍부한정보를타원곡선의이론에서발견할수있다. 타원곡선의이론은 19세기경에 Gauss, N. H. Abel(1802-1829), Jacobi 등의위대한수학자들에의해연구되었던타원함수이론에서나타난다. 이제는타원곡선의이론은현대수학의여러분야 ( 가령, 수론, 복소함수론, 대수기하학등 ) 와밀접하게지난 30여년동안세계수학계에서각광을받으면서심도있게연구되어왔다. 유리수체 Q 상에서정의되는타원곡선 의 - 급수 는 Δ Δ 으로정의된다. 여기서, Δ 는 의판별식이고 는소수를나타낸다. 그리고소수 가 Δ 인경우에, 축소된곡선 (reduced curve) 가 에서첨점 (cusp) 을가지면, 가 에서분리노드 (split node) 를가지면, 가 에서비분리노드 (nonsplit node) 를가지면 이라정의하고소수 가 Δ 인경우에는 (7) 이라정의한다. 그러면 는 > 인영역에서절대수렴한다. 의 는 의국소적인성질들을측정하는함수라고대충말할수있다. 불행하게도아직까지 의전복소평면 C 상으로해석적으로접속이가능
하다는사실이아직밝혀지지않았다. 일때 (5) 에의하여주어지는타원곡선 상의점들중에서이들의좌표가모두유리수인점들과무한점 으로이루어진집합을 로표기한다. 그러면 는타원곡선 로부터이어받은덧셈연산에대하여유한하게생성되는가환군이된다는사실이 1922년에영국수학자 L. J. Mordell (1888-1972) 에의하여증명되었다. 1960 년대초반경에영국수학자 B. Birch (1931- ) 와 H.P.F. Swinnerton- Dyer (1927- ) 는 의계수 에관한가설을제시하였다. The Birch-Swinnerton-Dyer 가설. 를 Q사에정의되는타원곡선이라가정하자. 그러면 rank =. 3. 뽀앙카레가설 뽀앙카레가설. 단순연결이고닫힌 3 차원의공간은 3 차원구면과위상동형이 다. [A simply connected closed manifold of dimension 3 is homeomorphic to a three-dimensional sphere.] Generalized Poincaré conjecture. Any homotopy -sphere is homeomor- phic to an -dimensional sphere. III. 비가환조화해석이론 지난 50여년전부터지금까지계속활발하게연구되어오고있는중요하고깊은분야인비가환조화해석 (noncommutative harmonic analysis) 이론을간략하게소개하겠다. 이이론은수론, 군표현론, 양자역학등의여러분야와아주밀접하게연관되어있다. 우선 Lie 군의표현의개념을간략하게설명하겠다. 집합 가군구조를지닌 매끄러운공간으로아래의사상
이매끄러울때 를 Lie 군이라한다. 이제, Lie 군 와복소 Hilbert 공간 가주어져있다고하자. 를유계 (bounded) 이며가역적인사상 들의집합이라하자. 그러면 는 Lie 군이된다. 군동형사상 π 가매끄러운사상일때사상 π 를 상의 Lie 군 의표현이라고한다. 의부분벡터공간 가있어임의의원 에대해 π 인관계가성립될때 를군표현 π 에대하여불변부분공간이라한다. 군표현 π 에대하여불변부분공간이 과 밖에없을경우표현를기약이다라고한다. 두개의 Lie 군의표현 π 와 ρ 가주어져있을 π 때임의의 에대하여 ρ Φ Φ π 인관계식을성립시키는유계이며가역적인선형사상 Φ 가존재하면두표현 π 와 ρ 는서로동치이다라고한다. 복소 Hilbert 공간 의내적이있어임의의 에관하여 π 가유니털 ; 일때, 즉임의의 와 에관하여 π π 인관계가성립할때 π 를유니터리표현이라고한다. 대하여 를 Lie 군이라하고 이라하자. 이때 와 에 로정의되는자연스런군표현 를 의오른쪽정칙표현 (right regular representation) 이라부른다. 이표현은 의유니터리표현이며일반적으로기약이아니다. 그래서이표현을기약인표현으로분해하면서 의기약인유니터리표현을구할수있다. 이런측면에서이표현은중요하다. 비가환조화해석의이론에서중요한문제는 의유니터리쌍대, 즉 의기약인유니터리표현의집합을구하는것이다. 게다가 의유니터리쌍대위에적절한측도 (Plancherel measure) 를구하는것도중요한문제중의하나이다. Γ 가 의수적인부분군 (arithmetic subgroup) 일때공간 Γ 의 -공간을기약인유니터리표현으로분해하는문제는정수론적인측면과트레이스공식의이론의연구에서매우중요하다. 이것은소위 Langlands 프로그램중의하나이다. IV. 끝맺음말 상기에서소개한수학문제이외에도많은중요한문제들이연구되고있다. 예 를들면, Goldbach 가설이그중의하나이다. 이가설은 4 보다큰임의의짝수
는홀수인두소수의합으로쓸수있다 라는것을주장하고있다. 이주장은아직까지해결되지않았다. 1960년대에는 M. Atiyah(1929- ) 와 I. M. Singer(1924- ) 에의해소위 Atiyah-Singer Index 이론이수립되었고 A. Grothendieck(1928- ) 에의하여새로운형태의추상적인대수기하학이소개되었다. 1970년경에는 S.-T. Yau (1949- ) 에의해이루어진 Calabi 가설의해결이미분기하학과대수기하학의발전에큰기여를하였다. 1980년대초반에는 Gerd Faltings(1954- ) 가 Mordell 가설을해결하여정수론의붐을일으켰으며 G. Frey 와 K. Ribet 등의모둘러곡선에관한연구로페르마마지막정리의해결에실마리를제공하기도하였다. 반면에 1980년대에는대수기하학의분야가침체기에빠졌으나 1980년대후반에수리물리학에서의끈이론과거울대칭이론의출현으로인하여대수기하학자들의연구활동이활성화되었다. 1990년대에와서는 20세기의수학계에큰업적이이루어졌으니다름이아닌 350여년동안풀리지않았던페르마마지막정리가 A. Wiles(1953- ) 에의하여증명되었으며이와관련하여 Taniyama 가설도수년후에해결되었다. 그리고 Langlands 프로그램중의하나가 M. Harris 와 R. Taylor 에의하여해결되었다. Clay 수학연구소에서제시한 7 개의새천년문제는본질적으로고전적인문제인 동시에깊이가있는중요한문제이다. 21 세기에는이런고전적이고깊이있는문제 들을연구하며수학을발전하여나갈것으로믿는다.