Chapter 1 소수 정리 1.1 여는 글 수학에서 가장 아름다운 것은 무엇일까? 물론 아름다움은 지극히 주관적이라 그 답은 개인마다 모두 다르겠다. 오일러의 공식이 가장 아름답다 하는 사람도 있을 것이고, 프랙탈과 차원이론, 위상수학의 정리들, 혹은 정수론의 마법

Chapter 소수 정리 여는 글 수학에서 가장 아름다운 것은 무엇일까? 물론 아름다움은 지극히 주관적이라 그 답은 개인마다 모두 다르겠다 오일러의 공식이 가장 아름답다 하는 사람도 있을 것이고, 프랙탈과 차원이론, 위상수학의 정리들, 혹은 정수론의 마법 같은 정리들이 아름답다고 주장하는 수학자들 또한 있을 것이다 이번에는 그럼 질문을 약간 바꿔보자 가장 많은 수학자를 매료시킨 개념은 무엇일까? 필자 는 이것을 소수라고 생각한다 아주 오랜 시간 미스터리로 남아, 수학의 어떤 분야를 연구하던 꼭 언젠가는 마주하게 되는 소수 오늘날의 RSA 암호 체계 또한 가장 기본적인 소수의 특성, 나뉘지 않는다는 성질로부터 착안한 것이다 물론 그 미스터리는 아직도 많이 남아있지만, 그렇다고 소수 연구에 진척이 전혀 없었던 것 은 아니다 무려,000여 년 전 이미 유클리드에 의해 소수가 무한히 많다는 사실이 증명되었다 유클리드뿐만 아니라 소수가 무한히 많음을 증명한 수학자는 여럿 있는데 오일러는 소수의 역 수의 합이 무한으로 발산한다는 것을 증명했고, 퓌르스텐베르그는 위상수학을 이용해 소수의 무한성을 증명해내기도 했다 소수 연구의 찬란한 업적이라면 소수 판별 알고리즘도 빠질 수 없겠다 페르마 소수판별법 을 필두로 0세기에는 솔로베이-스트라센, 밀러-라빈, 타원곡선 판별법 등 다양한 판별법들이 개발되었고, 마침내 00년에는 최초로 일반적, 다항 시간, 결정론적, 무조건적이라는 성질을 모두 만족하는 AKS 소수판별법이 만들어졌다 이 외에도 소수에 관련된 여러 연구가 진행되 었고, 많은 부분은 해결되었다 이번 장에서는 그 수많은 연구에서 가장 중요한 정리, 이른바 소수의 꽃이라고 할 수 있는 난제 소수 정리의 역사를 살펴볼 예정이다

개요 소수 추측을 처음으로 발표한 수학자는 프랑스의 아드리앵마리 르장드르(Adrien-Marie Legendre) 그는 798년 소수의 개수에 대한 추측을 제기했다 물론 소수의 개수는 무한히 많다는 것은 그로부터,000여 년도 전에 유클리드에 의해 증명이 되었지만, 수학자들이 궁 금했던 것은 소수의 개수가 얼마나 빨리 증가하느냐, 다시 말해, 임의의 수 > 0에 대해서 보다 작거나 같은 소수의 개수는 어느 정도 될까 하는 의문을 품어왔다 그리고 그 함수를 소수 계량 함수 π()라고 정의했다 르장드르가 처음에 제시했던 소수 추측은, 지금 우리가 알고 있는 소수 정리와는 사뭇 다른 모습을 띤다 그는 π() A log B 를 만족하는 상수 A, B의 존재를 예견했다 약 0년에 걸쳐 소수의 개수를 직접 구해 데이터를 분석해본 그는, 더 개량된 버전의 소수 추측을 발표했다 추측 소수 추측(Prime Number Conjecture): π() 3 log A() 이다 여기서 A()는 가 무한으로 발산할 때 08366 으로 수렴하는 함수라고 추측했다 가장 먼저 소수 추측을 발표했던 수학자는 르장드르이지만 소수 추측을 가장 처음 떠올린 수학자는 가우스(Gauss)였다 워낙에 완벽주의자의 성격에 추측은 물론이고 증명 또한 자신의 기준에서 완벽하지 않으 출간하지 않았다 덕분에 수학자들이 새로운 발견에 들 떠 가우스에게 찾아가 이러한 정리를 증명한 것 같다고 이야기하면 가우스는 자신이 남긴 발견 자료를 뒤적여 찾아줬다고4 그의 회고록에 따르면 소수 추측을 자신이 5살 때 떠올렸다고 한다5 그렇다고 가우스가 아무런 데이터도 없었던 상태에서 소수의 증가율을 찍어 맞춘 것은 아 니다 그는 누구보다도 소수에 관심이 많았던 수학자로, 틈틈이 소수의 개수를 구하곤 했었다 자신의 제자인 엔케(Encke)에게 보낸 서신에는 자신이 3,000,000 이하의 소수 개수가 6,745 개라고 적혀져 있는데, 실제로 3,000,000 이하의 소수 개수는 6,86개로, 고작 003%의 차 이밖에 나지 않는 수치였다6 그는 데이터를 토대로 임의의 자연수 n 근처의 소수의 빈도가 Rb / log n정도인 것을 파악하고, [a, b] 구간내의 소수의 개수는 a dn/ log n이 되지 않을까 하고 추측했다(여기서 log는 자연로그 ln을 의미한다) 엔케가 가우스에게 보낸 서신에는 르장드르의 추측, π() /(log A())을 소개했는 R 데, 가우스는 그에 대한 답변으로 자신의 결과, π() dt/ log t가 더 정확하다고 소개한다 더 나아가, 3백만까지 계산해본 결과 르장드르가 도입한 A()가 실제로 07 까지 떨어지며, 가 무한으로 발산하면 이 값이 로 수렴할 것이라 추측했다7 지금에 와서 소수 정리라 불리는 공식은 르장드르가 제시했던 추측과는 사뭇 다른 모습을 띠고 있다 정리 소수 정리(Prime Number Theorem, 이하 PNT): π() log

여기서 은 가 무한으로 발산할 때 두 함수의 비율이 로 일치한다는 것을 의미한다 오 R 늘날에는 디리클레가 제안한 로그적분함수 Li() dt/ log t가 π()에 더 가깝기에 π() Li()에 근사하기도 한다8 808년 르장드르가 출간한 논문에는 소수 추측 이외에도 소수에 관련된 강력한 추측이 하 나 있다 이 추측은 837년, 수학자 디리클레(Dirichlet)에 의해 해결되어, 디리클레 등차수열 정리라고 불린다 이 정리가 PNT 증명에 결정적인 아이디어를 제시하므로, 이 책에서도 역시 다룰 예정이다 정리 디리클레 등차수열 정리(Dirichlet s Theorem on Arithmetic Progressions, 이하 DTAP): gcd(k, l) 을 만족하는 자연수 k, l에 대해서 πk,l ()를 이하의 p kn l 꼴의 소수의 개수라고 정의할 때, 면 πk,l () 이다 그렇다면 이제 DTAP와 PNT를 증명하기에 앞서 알아야 할 몇 가지 개념들을 살펴보도록 하겠다 3 해석적 수론 한 움큼 일단 첫 번째로 소개할 것은 두 함수의 증가 비율을 비교할 때 사용하는 점근 표기법(Asymptotic Notation)이다 점근 표기법은 수학자 바흐만(Bachmann)이 894년에 개발하고 란다 우(Landau)가 909년 대중화시켜, 바흐만-란다우 표기법, 혹은 간단하게 란다우 표기법이 라고도 종종 불린다9 앞서 PNT에 거론된 또한 란다우 표기법의 한 예제인데, 그렇다고 란다우가 PNT가 제시되었을 때의 사람은 아니다 란다우의 표기법이 쉬우므로 차용되었을 뿐, 소수 추측이 해결된 것은 9세기 말, 란다우는 0세기 초에 활동하던 수학자였다 점근 표기법의 대표적인 세 예제는, O, 그리고 o가 있으며, 혼란을 방지하기 위해 O는 큰 오(Big O), 그리고 o는 작은 오(little o)라고 불린다 정확한 정의는 다음과 같다 (논리 기호에 익숙하지 않은 독자들은 주석을 참고하라) 정의 f (n) g(n) > 0 n0 n > n0 f (n) 0 g(n) < 정의 f (n) O(g(n)) k > 0 n0 n > n0 f (n) k g(n) 정의 3 f (n) o(g(n)) k > 0 n0 n > n0 f (n) k g(n) 이 정의는 다음과 같이 조금 더 쉽게 이해될 수 있다 lim f (n)/g(n) 이면 f (n) g(n) n 3

lim f (n)/g(n) < 이면 f (n) O(g(n)) n 3 lim f (n)/g(n) 0이면 f (n) o(g(n)) n 큰 오와 작은 오에 사용된 등호 표기는 남용의 소지가 분분해 몇몇 수학자들은 으로 표기하 곤 한다3 하지만 그럼에도 등호 표기를 포기할 수 없는 이유는 방정식을 정리하는데 너무나 편하기 때문이겠다 종종 점근 해석을 처음 배우는 학생들이 자주 하는 오해가 f (n) g(n)이면, f (n) g(n) 이 발산하지 않을 것이라는 착각이다 둘의 비율이 로 수렴하더라도 둘의 차이는 무한으로 발산할 수 있다 간단하게 그 증명을 살펴보면, n 일 때 f (n)/g(n) 이라고 가정 해보자 그렇다면 (f (n) g(n))/g(n) 0을 유도할 수 있다 하지만 예컨대 g(n) n이고 f (n) g(n) log n이라고 가정해보면 둘의 비율은 n이 무한으로 발산하면 0으로 수렴하지 만, 여전히 log n자체는 무한으로 발산한다 즉 PNT가 참이더라도 π()와 / log 의 차이는 여전히 무한으로 발산할 수 있다는 것이다 점근 표기에 대한 설명은 이쯤으로 마치고, 이번엔 산술 함수에 대해서 알아보도록 하자 산술 함수란 f : N C를 만족하는 함수로, 그 정의역이 자연수인 만큼 미지수를 n으로 사 용한다 가장 대표적인 산술 함수의 예제로는 소수 계량 함수인 π(n)가 있겠다 물론 π()는 이하의 소수의 개수를 뱉어내는 함수이기 때문에 가 자연수가 아닌 실수에서도 정의될 수 있긴 하다 소수 계량 함수 말고도 대표적인 산술 함수는 다소 복잡한 정의를 가진 뫼비우스 함수이다 정의 4 뫼비우스 함수(M obius Function): n의 소인수분해를 pa pakk 라고 두었을 때, a a ak 이면, µ(n) ( )k 그렇지 않다면 µ(n) 0 과연 뫼비우스의 띠만큼이나 기이한 정의가 아닐 수 없다 약간의 설명을 달자면, 뫼비우스 함수는 임의의 자연수 n이 k > 에 대해서 k n을 만족한다면 0을 내뱉는 함수이다 만약 k n을 만족하는 k > 가 존재하지 않는다면 µ(n)는 소인수의 개수가 홀수면 을, 짝수면 을 내뱉는다 이름이 제시하듯, 뫼비우스 함수는 우리에게 익숙한 수학자 뫼비우스가 정의한 함수이다 뫼비우스의 띠가 그렇게 어려운 정의가 아니라서, 학생들도 종종 뫼비우스가 조금 더 이른 시대의 수학자로 착각하곤 하는데, 뫼비우스는 9세기에 활동했던 수학자로 해석적 수론이 태동했을 시기의 수학자였다 수학자 이야기는 이쯤으로 마치고, 다시 뫼비우스 함수로 돌아와 보겠다 뫼비우스 함수는 다음과 같은 특이한 성질을 가진다 4

성질 d n µ(d) 0 n n n> Proof 일단, µ() 은 자명하다 n의 소인수분해를 pa par r 라고 두자 d n에 대해서 p d라면 µ(d) 0일 것이다 그러므로 급수의 항은 d가 제곱소인수를 가지고 있지 않은 경우만 살펴보면 된다 µ(d) µ() µ(p ) µ(pr ) µ(p p ) µ(pr pr ) µ(p pr ) d n r r r ( ) ( ) ( )r ( )r 0 r 마지막 등식은 이항 정리에 의해서 성립한다 그냥 n > 이면 0이고 n 이면 이라고 해도 될 걸 굳이 /n에 가우스 기호를 끼워 넣느 냐고 의문을 품을 수 있겠다 이렇게 표현해주는 이유는, 해석적 수론에서는 [/n]가 꽤 자주 P 등장하는 편인데, 그럴 때마다 d n µ(d)로 치환하면 의외의 결과가 종종 나오기 때문이다 다음으로는 오일러 피 함수를 살펴보겠다 (이제서부터 (n, k)를 n과 k의 최대공약수라고 정의하겠다) 정의 5 오일러 피 함수(Euler s phi (totient) function): ϕ(n)은 k n이며 (n, k) 을 만족하는 k의 개수이다 역시 이름이 제시하듯 오일러 피 함수는 오일러가 고안한 함수이다 정확히 말하면, 오일 러는 당시 φ데신 π라는 표기를 사용했었다4 하지만 어째선지 가우스는 π대신 φ를 고집했고, 가우스의 표기법이 이제는 전통이 되었다56 오일러 피 함수는 다음과 같은 흥미로운 성질을 가진다 성질 ϕ(d) n d n Proof 자연수 에서 n까지의 집합을 N 이라고 둔다 N (d) {k n : gcd(k, n) d}라고 [ 정의한다 그렇다면 임의의 d 6 d 에 대해서 N (d ) N (d ) 을 만족하고, N (d) N d n 이다 그러므로 d n N (d) ϕ(d) n이다 d n 언뜻 보면 피 함수와 뫼비우스 함수는 별 연관이 없는 것 처럼 보이지만, 둘은 다음과 같은 등식을 이룬다 5

성질 3 ϕ(n) d n n µ(d) d Proof ϕ(n)는 자연수 k n에 대해서 (k, n) 을 만족하는 k의 개수였다 이라는 값을 한번 살펴보자(여기서 이 정의를 염두에 둔 채, k n에 대해서 (k, n) []는 가우스 함수로 를 넘지 않는 가장 큰 정수를 내뱉는다) 만약 (k, n) > 이라면 분모가 보다 큰 값이 될 테니, 가우스 함숫값은 0이 될 것이다 그리고 k와 n이 서로소라면, 이 분수는 이 되며, 가우스 함숫값은 일 것이다 즉 이 가우스 함수를 k 에서 n까지 더한다면, k 과 n과 서로소일 때는 을 더해주고, 그렇지 않을 때는 0을 더해줄 것이다 이는 ϕ(n)의 값과 일치하게 된다 즉, ϕ(n)는 다음과 같이 정의할 수 있다 ϕ(n) n k 앞서 증명한 d n gcd(k, n) µ(d) 이라는 성질을 이용하면 다음과 같은 결과를 얻을 수 있다 n ϕ(n) n µ(d) k d (n,k) n µ(d) k d n d k d n에 대해서 이 급수에 µ(d)라는 항이 더해지기 위해서는 d k를 만족해야 한다 즉, k qd 를 만족하는 d에 대해서만 µ(d)가 더해질 수 있으며, 이 µ(d)는 q번 더해진다 k n 은 q n/d로 표현이 가능해지고, 이를 만족하는 자연수 q의 개수만큼 µ(d)가 더해지는 것이다 그러므로 위의 공식은 다음과 같이 표현해줄 수 있다 ϕ(n) n/d d n q µ(d) d n µ(d) n/d q d n n µ(d) d 이해가 잘 되지 않는다면, 한번 작은 n값에 대해서 직접 풀어보는 것을 추천한다 급수에 딸린 조건을 계산에 더 용이하게 바꾸는 것은 실제로 해석적 수론에서 자주 사용되는 테크닉 이다 이 사실을 기반으로 임의의 자연수 n에 대해서 ϕ(n)를 더 쉽게 구할 수 있다 Q 성질 4 ϕ(n) n p n p 여기서 p는 소수 6

Proof n의 소인수분해를 pa par r 이라고 둔다 p n p pi i r i<j r ( )r pi pj p pr 우변의 분모에는 중복되는 소인수가 없고, 분자는 분모에 있는 소인수의 개수가 홀수개라면 µ(d) 이고, 짝수개라면 이다 이 값은 와 동일하다 d d n Y n 이 성립한다 µ(d) 임을 보였으니, ϕ(n) n 앞서 ϕ(n) d p p n d n 수학자들은 새로운 개념을 만들어내면 곧장 체계화, 이른바 대수적 구조로 만드는 버릇 이 있다 산술 함수 역시 예외는 아니다 하지만 대수적 구조를 만들기 위해서는 연산자를 정의하는 것이 우선이다 산술 함수의 대표적인 연산자는 디리클레 합성곱으로, 이름에도 나 와 있듯 이 연산을 처음 제안한 수학자는 9세기에 활동했던 디리클레(Dirichlet)라는 이름의 수학자이다 동시에 DTAP를 증명한 바로 그 수학자이다 디리클레에 대해 소개를 건너뛸 수가 없겠다 그는 일곱 남매 중 막내로 태어났는데, 부유하 지 않았던 가정이었지만 유년시절에 초등학교를 다니고 가정교육을 받은 등 그럭저럭 교육의 특혜를 누렸었다 부모님은 상인으로 키우고 싶어 하셨지만, 어디 수학자가 되고 싶다는 자 녀의 고집을 꺾을 부모님이 어디 있을까, 그는 0대 후반이라는 어린 나이에 더 많은 교육을 받고 싶다는 이유로 파리로 떠난다 FLT(5)를 부분적으로 해결하고, 더 나아가 독립적으로 FLT(4)를 증명하는 등,7 고작 0살이라고는 믿어지지 않을 파격적인 행보를 걸어왔다8 그 의 주 연구 분야는 수론과 해석학이었지만, 물리학에도 깊은 조예가 있어 포텐셜 이론, 열역학, 그리고 유동 역학에 대한 연구와 강의도 진행했었다9 산술 함수는 정의역이 정수라는, 이른바 정수론적 입지와 함수라는 해석학적 입지가 골고 루 섞인 개념이었다 그러니 디리클레가 산술 함수의 연산자를 만든 것도 크게 이상한 일은 아니리라 그는 다음과 같이 디리클레 합성곱을 정의했다 정의 6 디리클레 합성곱(Dirichlet Convolution): 임의의 두 산술함수 f (n)와 g(n)의 디리클레 합성곱을 다음과 같이 정의한다 f g(n) d n f (d)g n d 그렇다면 우리가 막 살펴본 성질 3 또한 디리클레 합성곱의 꼴로 표현해줄 수 있겠다 산술 함수의 항등 함수, 그러니까 n을 대입하면 n을 내뱉는 함수를 종종 N 이라고 쓰는데, 이 7

함수를 이용해서 다음과 같이 표현해줄 수 있겠다 ϕ µ N 정의만 살펴보면 디리클레 합성곱은 우리가 알고 있는 곱과는 많이 다를 것 같다 하지만 실 제로 디리클레 합성곱은 교환법칙과 결합법칙이 성립하는 연산자이다 그렇다면 수학자들이 다음으로 할 일은 무엇일까? 당연히 디리클레 합성곱을 연산자로 삼는 대수적 구조를 만드는 일이지! 결합법칙도 성립하고 교환법칙도 성립하겠다, 항등원과 역원의 존재만 살피면 산술 함수라는 집합은 아벨군으로 승격하게 된다 그렇다면 이 합성곱의 항등원에 해당하는 함수는 무엇일까? 일단 바로 위에서 언급된 항등 함수 N 는 아닐 것이다 만약 N 이 항등원이었다면 µ N 는 µ여야만 한다 그렇다면 항등원에 해당하는 함수는 무엇일까? 임의의 산술 함수 f (n)을 가정해보자 그리고 디리클레 합성곱의 항등원을 I라고 두자 임의의 자연수 n에 대해서 f I(n) f (n)을 만족해야 한다 일단 f ()의 경우부터 살펴보면, f I() f ()I() f ()이어야 한다 즉 I() 이다 하나만 더 살펴보자 n 인 경 우는 어떻게 될까? f I() f ()I() f ()I() f ()를 만족해야 한다 I() 이므로, f ()I() 0을 만족해야 한다 하지만 여기서 산술함수 f 는 임의의 함수이니 f () 0을 보장하지 않는다 그러므로 I() 0이어야만 한다 그렇다면 n > 인 경우는 어떨까? 대충 예상해보자면 I(n) 0일 것 같다 하지만 이는 예상일 뿐 정확한 증명이 필요한데, 이 경우 사용될 증명법은 강한 수학적 귀납법 이다 수 학을 조금 배운 학생이라면 수학적 귀납법이라는 증명 테크닉에 익숙할 것이다 임의의 명제 가 자연수 k에서 성립할 때 이를 (k)라고 표기하자 수학적 귀납법이란, 임의의 명제 P 가 모든 자연수에서 성립한다는 것을 보이고자 할 때 사용하는 방법으로, 먼저 P ()을 증명하 고, 임의의 자연수 n에 대해서 P (n)이 성립하면 P (n ) 또한 성립한다는 것을 증명해주면 된다 그렇다면 도미노가 차례로 무너지듯 P () P () 의 연쇄작용으로 모든 자연수에서 P 가 성립한다 강한 수학적 귀납법이란 이보다 더 강한 조건을 다는 것이다 앞서 귀납법은 P (n) P (n)임을 증명했다면 강한 귀납법은 P () P () P (n) P (n)임을 보여주는 것이다0 사실 일반 귀납법과의 차이라고는 P (n)만을 조건으로 삼느냐 아니면 n이하의 모든 자연수에서의 P 가 성립함을 조건으로 삼느냐의 차이일 뿐, 결과적으로는 전혀 상관이 없다 심지어 모든 일반 귀납법은 강한 귀납법으로 동일하게 해결될 수 있다 하지만 그럼에도 강한 귀납법이 있는 이유는 이 경우는 일반 귀납법으로 해결될 수 없기 때문이다 관찰 임의의 자연수 n 에 대해서 I(n) 0이다 8

Proof 앞서 I() 0의 경우를 살폈으니, 바로 귀납으로 넘어가겠다 임의의 n 에 대해서 이상 n 이하의 모든 자연수 k에 대해서 I(k) 0이 성립한다고 가정해보자 그렇다면 임의의 산술 함수 f 에 대해서 다음이 성립한다 f I(n ) f (d)i d (n) n d f (n )I() f (d)i d (n) d<n n d 하지만 k n에 대해서 I(k) 0이라 가정했으니, 위의 급수는 d 의 경우를 제외하고 모두 0이겠다 즉 다음이 도출된다 f I(n ) f (n )I() f ()I(n ) f (n ) 이를 만족하기 위해서는 I(n ) 0이어야 한다 즉, k n에 대해서 I(k) 0이라면 I(n ) 0이다 그러므로 n 에 대해서 I(n) 0이 성립한다 이 증명을 하는데 일반 귀납법으로는 불충분한 이유는 한번 독자 스스로 고민해보길 권유 해본다 지금 정의된 I 함수는 디리클레 합성곱 연산자에서 항등원에 해당하는 함수다 이 함수를 유닛 함수라고 부르며, 정확한 정의는 다음과 같다 정의 7 유닛 함수(Unit Function): I(n) 0 n n n> 만약에 u(n)을 임의의 자연수 n에 대해서 항상 을 내뱉는 함수라고 정의한다면, 성질 또한 다음과 같은 디리클레 합성곱꼴로 표현해줄 수 있다 I µ u 다시 말해, 뫼비우스 µ함수는 만을 내뱉는 상수함수의 역원이다 P 만약에 임의의 산술 함수 g(n)에 대해서 f (d)는 f (d) d n g(d)라고 정의되었다고 가정 해보자 이는 f g u라고 써줄 수 있겠다 그렇다면 다음과 같은 관계가 성립할 것이다 f g u f µ (g u) µ g (u µ) g I g 그러므로 다음과 같은 정리를 얻을 수 있다 9

정리 3 임의의 산술 함수 f (n)와 g(n)에 대해서 다음 둘은 동치이다 g(d) f (n) d n g(n) d n f (d)µ n d 비록 증명은 넘어갔지만, 교환법칙도 결합법칙도 성립하겠다, 그리고 앞서 항등원 격인 함수도 찾았겠다 남은 건 임의의 산술 함수 f 에 대해서 역원 g를 찾아내는 것이다 증명이 복잡한 것은 아니지만 성가신 부분이 많은 관계로 생략하겠다 임의의 산술 함수 f 에 대해서 그 역원 함수 g는 다음과 같다 g(n) n f g(d) f () d d n d<n 주목해야 할 점은 f 의 역원이 존재하기 위해서는 f ()이 0이어선 안된다는 점 즉 디리클레 합성곱을 연산자로 삼는 아벨군은 f () 6 0을 만족하는 산술 함수의 집합이 되겠다 산술 함수 아벨군에 대한 이야기는 이쯤으로 마치고, 해석적 수론에 사용되는 몇 가지 산술 함수의 예제들을 더 살펴보도록 하겠다 정의 8 산술 함수 예제: 망골트 함수(Mangoldt Function): log p Λ(n) 0 만약 n이 소수 p와 자연수 m 에 대해 n pm 이라면, 그 외의 경우 리우빌 함수(Liouville Function): λ(n) ( )a ar n n의 소인수분해를 pa par r 이라 할 때 약수 함수(Divisor Function): σα (n) dα d n 0

마지막으로 산술 함수의 도함수를 정의함으로 이 장을 마치도록 하겠다 정의 9 산술 함수의 도함수: 임의의 산술 함수 f (n)의 도함수는 f 0 (n) f (n) log n으로 정의한다 위 미분 법칙들은 우리가 일반적으로 알고있는 미분 법칙을 따른다 성질 5 임의의 산술 함수 f, g와 상수 c에 대해서 다음의 성질이 성립한다 (cf )0 cf 0 (f g)0 f 0 g 0 (f g)0 f 0 g f g 0 4 디리클레 지표와 디리클레 L-함수 이번에 잠깐 살펴볼 것은 지표라는 개념이다 지표는 군의 원소를 숫자에 대응한 것으로, 정 확한 정의는 다음과 같다 정의 0 지표(Character): 임의의 군 G를 가정하자 임의의 원소 a, b G에 대해서 f (ab) f (a)f (b)를 만족하며, 모든 c G에 대해서 f (c) 6 0을 만족하는 함수 f : G C를 G의 지표라 정의한다 지표의 조건은 앞서 언급한 곱셈적 함수보다 조금 더 강력한 성질을 가지고 있다 임의의 두 수 혹은 원소 a, b에 대해서 f (ab) f (a)f (b)를 만족하면, 이를 완전 곱셈적 함수(Completely Multiplicative Function)이라고 부른다 여기서 눈여겨봐야 할 것은 항등원 e의 경우이다 임 의의 c G에 대해서 f (c) f (ce) f (c)f (e)이므로, f (e) 이라는 결론이 나온다 더 나아가, 만약 군의 크기가 유한하다면, 임의의 원소 a에 대해서 an e를 만족하는 자연수 n > 0이 있을 것이고, 이를 기반으로 f (e) f (an ) f (a)n 이라는 사실을 알 수 있을 것이다 즉, 군의 지표는 항상 의 거듭제곱군 값만을 내뱉는다 임의의 군은 그렇다면 얼마나 많은 지표를 가질 수 있을까? 일단 첫 번째로는 모든 g G 에 대해서 f (g) 을 만족하는 아주 지루한 지표 가 있겠다 이 지표를 주 지표(Principal Charcter)이라고 부르고, 주로 f 이라고 표기한다 이번엔 크기가 작은 군을 한번 떠올려보자 크기가 인 군은 어떨까? 예컨대 (G, ) {e, a} 라는 군을 떠올려보자 e는 항등원이고, a는 a e를 만족하는 원소다 이 군의 지표 f 는 다 음의 조건을 만족해야 한다 f (e) f (a ) f (a)

이를 기반으로 f (a) ±임을 알 수 있다 그러므로 G의 지표는 다음과 같이 둘 뿐이다 (G, ) e a f f 예제를 하나만 더 살펴보자 크기가 3인 군 (H, ) {e, a, b}라는 군을 말이다 이 군은 a b이고, ab e라는 성질을 만족한다 즉, 이 군의 지표 g는 다음의 조건을 만족해야 한다 g(e) g(a)g(b), g(a)3 g(b)3 의 세제곱근은 과 ω ( i 3), 그리고 ω ( i 3)뿐이다 그리고 g(a)g(b) 을 만족해야 한다는 조건을 기반으로 h의 지표는 다음과 같이 셋뿐임을 알 수 있다 (H, ) e a b g g ω ω g3 ω ω 위의 두 예제만 살펴보면 임의의 군의 지표 개수는 군의 크기와 같을 것으로 보인다 정확한 관찰이다 그 증명이 다소 복잡해서 생략하겠지만, 군의 크기와 군의 지표 개수는 같다 지표가 임의의 군에서만 정의되었다면, 디리클레 지표는 자연수에서 정의된 지표라 할 수 있겠다 디리클레 지표를 정의하기 위해서는 곱셈군 (/n) 을 알 필요가 있다 (/n) 는 (k, n) 을 만족하는 자연수 k n의 집합으로 곱셈에 닫혀있는 군이다 군의 크기는 ϕ(n)이다 이 군으로 지표 f, fϕ(n) 이 정의될 수 있겠다 임의의 자연수 k에 대해서 kˆ k (mod n)이라고 정의하자 그렇다면 주기를 n으로 삼는 임의의 디리클레 지표 χi 는 fi 을 다음과 같이 확장한 함수이다 f (k) ˆ i χi (k) 0 만약 (n, k) 만약 (n, k) > 이 함수는 지표와는 다르게 자연수 N을 정의역으로 삼는다 눈여겨 볼 것은 이 지표는 여전 히 완전 곱셈적 함수라는 것이다 주기를 n으로 삼는 지표를 가정해보자 (/n) 지표를 기반으로 정의되었기 때문에 (k, n) 을 만족하는 자연수 k에 대해서는 당연히 완전 곱셈적 성질을 만족한다 만약 (k, n) > 이라면, 임의의 j에 대해서 χ(jk) χ(j)χ(k) 0일 것이다 그러므로 (k, n) > 인 경우에도 완전 곱셈적 성질은 성립한다

그렇다면 주기가 n인 디리클레 지표의 개수는 얼마나 될까? 이 디리클레 지표는 곱셈 군 (/n) 의 지표의 정의역을 자연수로 확장한 것이다 그러므로 디리클레 지표의 개수는 (/n) 의 지표의 개수와 같으며, 그러므로 ϕ(n)개의 디리클레 지표가 존재한다 그렇다면 이번에는 특정한 주기 k의 디리클레 지표의 예제를 살펴보도록 하자 첫 번째로 k 4의 경우, 다음과 같이 ϕ(4) 개의 디리클레 지표가 존재한다 Dir Char 0 3 χ 0 0 χ 0 0 n > 4의 디리클레 지표 값은 n k (mod 4)를 만족하는 χ(k)값과 같음을 잊지 말길 바란다 마찬가지로 k 7의 경우는 다음과 같이 ϕ(7) 6개의 디리클레 지표가 있다 (여기서 ω eπi/3 ) Dir Char 0 3 4 5 6 χ 0 χ 0 ω ω ω ω ω ω ω ω ω ω ω ω ω ω ω χ3 χ4 χ5 χ6 0 0 0 0 ω 디리클레 지표에 대한 이야기는 이쯤으로 접고 다시 수학자 디리클레에 대한 이야기로 돌 아와 보자 앞서 디리클레는 수론과 해석학, 그리고 수리물리학에 깊은 조예가 있던 사람이라고 소개했다 하지만 그의 가장 찬란한 업적중 하나는 함수의 정의를 넓혔다는 점이겠다 디리클 레 이전까지 함수란, 구간 [a, b]에서 정의된 하나의 규칙, y f ()이었다 하지만 디리클레는 훨씬 더 추상적인 함수를 꿈꿨다 구간 [a, b]에 포함된 에 따라서 각기 다른 조건을 내건 함수, 이른바 개별식 함수(Piecewise Function)라는 개념을 고안해내었다 예컨대 그의 이름이 붙은 디리클레 함수(Dirichlet Function)는 다음과 같이 정의된다 f () 0 Q R\Q 이 함수는 전 구간 비연속이라는 특이한 성질을 가진다 더 나아가, 우리가 알고 있는 적분법, 이른바 리만 적분이 불가능한 함수이다 더 나아가 디리클레는 수열이나 함수로부터 정의되는 급수, 그리고 함수를 떠올렸다 이를 각기 디리클레 급수, 그리고 디리클레 L-함수라고 부른다 임의의 수열 {an }과 복소수 s로부터 3

정의된 디리클레 급수는 다음과 같다 an n ns 물론 수열이 아니라 산술 함수로 정의될 수도 있다 임의의 산술 함수 f 와 복소수 s로 정의된 디리클레 급수는 다음과 같다 f (n) n ns 위 경우 모든 n에 대해서 f (n) 인, 이른바 f u의 디리클레 급수는 다음과 같을 것이다 ζ(s) s s ns 3 n 이를 리만 제타 함수(Riemann eta Function)이라고 정의한다 미해결 에서 소개될 리만 가설에서 언급하는 제타 함수가 바로 위의 함수를 일컫는 것이다 산술 함수가 디리클레 지표인 경우는, 이를 디리클레 L-함수라고 부른다 디리클레 L-함수 의 정의는 다음과 같다 정의 디리클레 L-함수(Dirichlet L-Function): 임의의 디리클레 지표 χ와 복소수 s 를 가정하자 디리클레 L-함수 L(s, χ)는 다음과 같이 정의된다 L(s, χ) χ(n) n ns 디리클레 L-함수는 보다시피 두 개의 변수를 가진다 하나는 s로, 분모의 승을 정의하고, 다 른 하나는 디리클레 지표 χ이다 예컨대 앞서 제시된 7을 주기로 삼는 6개의 디리클레 L-함수는 4

다음과 같다 L(s, χ ) L(s, χ ) L(s, χ3 ) L(s, χ4 ) L(s, χ5 ) L(s, χ6 ) s s s s s s s s s s s s 3 4 5 6 8 s s s s s s 3 4 5 6 8 ω ω ω ω s s s s s s 3 4 5 6 8 ω ω ω ω s s s s s s 3 4 5 6 8 ω ω ω ω s s s s s s 3 4 5 6 8 ω ω ω ω s s s s s s 3 4 5 6 8 마지막으로 주가 아닌 디리클레 지표 χ와 s 에 대해서 디리클레 L-함수의 도함수는 다음과 같다 0 L (, χ) χ(n) log n n n 이제 DTAP를 증명하기 위한 재료들이 얼추 모인 것 같다 그렇다면 DTAP의 증명을 간략하게 따라가보도록 해보자 5 DTAP 증명 DTAP를 증명하기 위해서는 다섯 개의 소정리가 필요하다 이 장에서는 다섯개의 소정리를 소개하고, 이들이 어떻게 DTAP를 유도하는지 대략적인 개요를 소개할 예정이다 첫 번째 소개할 소정리는 다음과 같다 소정리 k > 0이고 (h, k) 이라면, > 에 대해서 다음 등식이 성립한다 p h p (mod k) log p log O() p ϕ(k) 여기서 급수는 p h (mod k)를 만족하는 이하의 소수 p 만을 더한다 DTAP를 상기해보면, (h, k)를 만족하는 자연수 h와 k에 대해서 p nk h꼴의 소수는 무 한히 많다는 정리였다 위의 정리는, 이하의 p nk h꼴의 소수의 합은 log /ϕ(k)과 O() 5

만큼의 오차가 있다는 의미이다 O()은 정의상 무한으로 발산하지 않는 함수를 의미한다 즉, 급수와 log /ϕ(k)의 차이는 유한하다는 의미이다 이 식에서 주목해야 할 부분은 우변에 log 가 있다는 것이다 log 는 그 속도가 매우 느리 지만 발산하는 함수이기에, 에 대해서 log /ϕ(k)는 무한으로 발산한다 이 값과 급수의 차이는 유한하니, 좌변 역시 무한으로 발산할 것이고, 즉 p nkh꼴의 소수에 대해서 log p/p 의 급수는 무한으로 발산한다 즉, 해당 꼴의 소수는 무한히 많다는 의미가 되겠다 더 나아가, 우변에는 h가 포함되어있지 않기 때문에, (h, k) 만 만족한다면 p nk h꼴의 소수는 항상 무한히 많다는 의미가 된다3 그렇다면 소정리 은 어떻게 유도될까? 바로 다음의 소정리로부터 유도된다 소정리 k > 0이고 (h, k) 이라면, > 에 대해서 다음 등식이 성립한다 p h p (mod k) ϕ(k) χr (p) log p log p log O() χr (h) p ϕ(k) ϕ(k) p r p 위에 제시된 공식에서 주의해야 할 점은 두 번째항의 첫 번째 급수가 r 에서 ϕ(k) 까지라는 점이다 즉, 주 디리클레 지표를 제외한 다른 모든 디리클레 지표에서의 합만을 생각 한다 소정리 가 소정리 을 의미하기 위해서는 두번째 항이 O()이어야 된다는 조건이 붙는다4 두번째 항의 /ϕ(k)와 χr (h)의 급수는 수렴한다 그러므로 χr (p) log p p p O() 임을 성립함을 보이면, 소정리 로부터 소정리 을 유도할 수 있다 그렇다면 저 급수가 O()인 것은 어떻게 알 수 있을까? 다음의 정리로부터 도출해 낼 수 있다 소정리 3 > 이고, χ 6 χ 이라면 다음 등식이 성립한다 χ(p) log p p p L0 (, χ) µ(n)χ(n) O() n n 제시된 조건이 증명되기 위해서는 주가 아닌 디리클레 지표 χ에 대해서 L0 (, χ) µ(n)χ(n) n n O()이 성립함을 증명해야 한다 좋은 소식은 이 책에서는 생략되었지만 χ가 주 디리클레 지 표가 아닐 때 L0 (, χ)와 L(, χ) 둘 다 O()이라는 것 그러므로 급수부만 O()임이 증명하면 충분하겠다 이 조건은 다음의 정리로부터 얻어낼 수 있다 6

소정리 4 > 이고, χ 6 χ 이라면 다음 등식이 성립한다 L(, χ) µ(n)χ(n) O() n n 만약에 L(, χ) 6 0이라면, 양변을 L(, χ)로 나눠 급수부가 O()임이 증명된다 즉 주 디 리클레 지표가 아닌 지표 χ에 있어서 L(, χ) 6 0임을 보이는 것이 DTAP 증명의 핵심이라고 할 수 있겠다 증명이 생략되었지만 실숫값을 갖는 디리클레 지표 χ에 대해선 L(, χ)은 항상 0이 아니다 그렇다면 복소수 값을 갖는 디리클레 지표 χ 중에서 L(, χ) 0인 디리클레 지표가 존재할까? (이를 복소 디리클레 지표라 일컫겠다) 임의의 복소 디리클레 지표 χ가 있다고 가정하면 χ역시 디리클레 지표의 조건을 만족하므 로, 역시 디리클레 지표이다 임의의 주기 k에 대해서 L(, χ) 0을 만족하는 복소 디리클레 지표의 개수를 N (k)라고 정의해보자 만약 임의의 복소 디리클레 지표 χ에 대해서 L(, χ) 0 이라면 그 켤레 디리클레 지표인 χ에 대해서 L(, χ) 0일 것이다 즉 N (k)라는 것 이 사실을 염두에 둔 채 다음 소정리를 살펴보자 소정리 5 > 이라면 다음 등식이 성립한다 p p (mod k) log p N (k) log O() p ϕ(k) 주목할 점은, N (k) 라고 가정할 때, N (k)가 음수가 되어버리면서 에 따라 우변은 로 발산한다 하지만 우변은 모두 양수의 급수이기 때문에 이는 모순을 낳는다 그러므로 N (k) 0이어야만 한다 DTAP증명을 다시 한 번 간략하게 요약하면 다음과 같다 소정리 5: p p (mod k) log p N (k) log O()을 증명 p ϕ(k) 소정리 5로부터 N (k) 0을 유도 3 L(, χ) O()을 증명 4 소정리 4: L(, χ) µ(n)χ(n) O()을 증명 n n 7

5 L(, χ) 6 0이므로, µ(n)χ(n) O() n n 6 소정리 3: χ(p) log p p p L0 (, χ) µ(n)χ(n) O()을 증명 n n 7 L0 (, χ) O()을 증명 8 소정리 3와 7번으로부터 χ(p) log p p 9 소정리 : p p h (mod k) p O()을 유도 ϕ(k) χr (p) log p log p log χr (h) O()을 p ϕ(k) ϕ(k) p r p 증명 ϕ(k) χr (p) log p 0 8번과 소정리 로부터 O()을 증명 χr (h) ϕ(k) p r 소정리 와 0번으로부터 소정리 : p p p h (mod k) log p log O()을 유도 p ϕ(k) 소정리 의 양변의 로 왼변의 급수가 무한으로 발산됨을 유도 3 번으로부터 DTAP를 유도 DTAP는 (a, k) 에 대해서 p a (mod k)꼴의 소수의 개수가 무한하다는 것밖에 보여 줄 수 없다 이하의 p a (mod k)꼴의 소수의 개수를 πa,k ()라고 할 때, 에 따라서 이 함수는 그렇다면 어떻게 증가할까? 임의의 자연수 k에 대해서 더 빨리 증가하는 πa,k ()가 존재할까? (b, k) (a, k) 을 만족하는 자연수 a, b에 대해서 πa,k ()와 πb,k ()는 다른 증가 양상을 보일까? 직관에 따르면 πa,k ()의 증가율은 π()의 증가율에 비례할 것 같다 그리고 k와 서로소인 a와 b에 대해서 πa,k ()와 πb,k ()의 증가 양상은 비슷할 것 같다 수학을 공부할 때, 직관이라는 이정표는 때로는 놀랍도록 정확한 답을 주지만 또 때로는 완전히 틀린 답을 주곤 한다 하지만 걱정 마라 이번엔 직관이 정확히 맞아떨어졌으니 말이다 DTAP의 연장으로 다음의 정리가 증명되었다 정리 4 (a, k) (b, k) 을 만족하는 자연수 a, b, k에 있어서 다음이 성립한다 에 따라 πa,k () πb,k ()이다 8

에 따라 πa,k () π() 이다 ϕ(k) DTAP에 대한 이야기는 이쯤으로 마치고 이제 PNT로 돌아와 볼까 한다5 6 PNT의 동치를 찾아서 앞서 FLT의 경우에서도 봤지만, 어떤 난제가 직접 해결되는 경우는 손에 꼽는다 대신 수 학자들은 그 난제를 유도하는 다른 문제를 찾아 해결하거나, 그 난제와 동치인 다른 문제를 해결하는 등, 간접적인 방법으로 난제를 증명하곤 한다 PNT도 역시 다를 바 없기에, 이번 장에서는 PNT의 동치에 해당하는 몇몇 주장들을 살펴볼 것이다 그에 앞서 두 가지 새로운 함수를 살펴볼 것이다 바로 제종, 제종 체비쇼프 함수이다 그 정의는 다음과 같다 정의 체비쇼프 함수(Chebyshev Function): 임의의 > 에 대해서 체비쇼프 제 종, 제종 함수는 다음과 같이 정의된다 제종 ϑ 함수: ϑ() log p p 제종 ψ 함수: ψ() Λ(n) n 망골트 함수 Λ(n)의 정의를 다시 상기해보면, n이 임의의 소수 p에 대해서 pm 꼴이면 log p 를, 그렇지 않다면 0을 내뱉는 함수였다 그렇다면 이번엔 임의의 에 대해서 두 함수의 값을 비교해보도록 해보겠다 예컨대 의 경우를 살펴보면, 각각의 함수의 값은 다음과 같다 ϑ() log p log log 3 log 5 log 7 log p ψ() Λ(n) log log 3 log log 5 log 7 log log 3 log n 헷갈리지 말아야 하는 것은 n pm 에 대해서 Λ(n) log p이지 log pm 이 아니라는 것이다 위의 예제를 살펴보면 임의의 > 4에 대해서 ψ() > ϑ()가 만족한다는 사실을 대번에 알 수 있다 이번엔 두 함수 사이의 관계를 밝혀보도록 하겠다 두 함수 모두 log와 소수에 깊은 연관 이 있으므로 한 함수를 다른 함수의 꼴로 나타내 줄 수 있을 것으로 보인다 ψ 함수를 일단 살펴보자 9

임의의 자연수 n이 pm 꼴이 아닌 경우는 어차피 ψ(n) 0이므로, ψ 함수는 다음과 같이 표현해줄 수 있겠다 ψ() Λ(pm ) m p pm pm 는 p /m 으로 대체해줄 수 있으니, 다음과 같이 다시 써줄 수도 있을 것이다 ψ() log p m p /m 위 식을 보면 약간의 의구심이 들 법도 하다 정해진 에 대해서 m을 에서 무한까지 더해야 한다고? 하지만 앞서 선보인 ψ()의 경우는 급수의 항의 개수가 무한하지 않았잖아? 좋은 지적이다 하지만 너무 걱정할 필요는 없다 m이 아주 커지면 /m 이 보다 작아지는 순간이 있을 것이다 그 경우는 p /m 을 만족하는 소수 p는 존재하지 않게 된다 그러므로 이 급수는 무한히 많은 항을 더하는 것처럼 보일지 몰라도 실제로는 유한개의 항을 더한다 그럼 m이 몇 이상이면 /m 보다 작은 소수가 멸종될까? 가장 작은 소수는 이니 /m < 를 만족해주면 되겠다 양변에 log를 씌우면 쉽게 해결된다 log log < log m > log m log 즉 ψ함수는 다음과 같이 다시 써줄 수 있다 ψ() log p m log p /m ϑ(/m ) m log 이 사실을 염두에 둔 채 다음의 정리를 증명해보자 정리 5 > 0에 대해서 0 (log ) ψ() ϑ() log Proof 일단 ψ() ϑ()라는 사실과 ψ() ϑ(/m )로부터 다음과 같은 부등식을 m log 0

얻을 수 있다 [log ] 0 ψ() ϑ() ϑ(/m ) ϑ() m [log ] ϑ() ϑ(/m ) ϑ() m ϑ(/m ) m log ϑ가 어떻게 정의되었는지를 상기해보면 다음과 같은 부등식이 자연스럽게 유도된다 ϑ() log p p log log p 여기서 ϑ(/m ) /m log (/m) 으로 다음의 식을 유도해줄 수 있다 0 ψ() ϑ() /m log(/m ) (log ) log m log log (log ) log log log 양변을 로 나눠주면 정리에 제시된 등식이 유도된다6 어쩌면 해석적 수론의 증명을 처음 살펴보는 독자들은 저렇게 대담한 부등식을 세워도 되는 건가 하는 생각이 들지도 모르겠다 오차가 저렇게 큰 부등식들로 증명된 정리가 과연 어떤 의미를 지닐까 하는 의구심도 들 수 있겠다 하지만 필자는 그것이 해석적 수론의 매 력이라고 생각한다 어떤 목적에 도달하기 위해 너무 깐깐하고 오차가 적은 부등식보단 때론 대담한 부등식을 세우거나 때론 그 거대한 오차를 O(f ())로 넘겨버리는 것이 마치 의미와 무의미의 경계에서 아슬아슬하게 줄타기를 하는 느낌이라고 해야 할까? 그렇다면 독자들은 다음과 같은 의문을 가질 수 있을 것이다 도대체 무슨 목적을 위해서 위의 정리에서는 저렇게 대담한 부등식들을 세웠나? 그 의미는 로 보낼 때 수면 위로 떠오른다 다시 정리로 돌아와 보자 0 ψ() ϑ() (log ) log 이 부등식은 로 향할 때 로피탈의 정리를 사용하면 우변이 0으로 수렴함을 알 수 있다 앞서 언급했듯 4에 대해서 ψ() > ϑ()는 항상 참이었다 그리고 가 무한히 커지면 커질수록 둘의 차이는 점차 벌어질 것이다 하지만 막상 둘의 차이에 /을 곱해주면,

로 향하면 이 값은 오히려 0으로 수렴한다는 것이다 앞서 배운 점근 표기법을 이용해주면 ψ()/ ϑ()/라고 표현해줄 수 있겠다 그렇다면 체비쇼프 함수와 소수 계량 함수 사이에는 무슨 연관이 있는 걸까? 증명은 생략 하겠지만, 아래의 정리에서 둘 사이의 관계가 조명된다 정리 6 에 대해서 다음의 두 등식이 성립한다 π(t) ϑ() π() log dt t ϑ(t) ϑ() π() dt log t log t 그리고 해당 정리를 이용하면, 다음과 같은 동치 관계를 얻을 수 있다 정리 7 다음의 관계식은 모두 동치이다 lim π() log ϑ() lim ψ() 3 lim 증명을 거치기 이전에 염두에 두어야 할 것은 이 정리는 세 관계식이 모두 동치, 그러니까 모두 참/거짓 여부를 공유한다는 것에만 초점을 둔다 실제로 이 관계식이 참인지 거짓인지는 이 정리에서는 증명되지 않는다 어디까지나 우리는 3만을 증명할 것이다 Proof ψ()/ ϑ()/라고 증명했었으니, 3은 증명되었다 증명을 완성하기 위해 서는 만 보여주면 되겠다 정리 6에 나온 두 등식의 양변을 로 나눠준다 π() log π(t) ϑ() dt t π() log ϑ() log ϑ(t) dt t log t () () π(t) 이 참이라고 가정하자 그렇다면 ()이 를 유도하기 위해서는 lim dt 0을 t 만족해야 한다 의 관계식으로 돌아가, log 를 우변으로 넘기면 다음과 같이 표기해줄 수 π() 있을 것이다: log

의 기호의 정의를 다시 한 번 상기해보자 임의의 f (t)와 g(t)에 대해서 f (t) g(t) 라면 lim f (t)/g(t) 이라는 것이었다 그리고 이는 당연히 lim f (t)/g(t) < 이므로, t t f (t) O(g(t))로 표기가 가능하다 물론 그 역인 g(t) O(f (t))로도 표기가 가능하다 즉 위의 점근 관계식은 π(t)/t O(/ log t)로 다시 써 줄 수 있겠다(편의상 미지수를 t로 대체 했다) 이로써 ()의 마지막 항은 다음과 같은 큰 오 함수로 표기해줄 수 있다 π(t) O t log t π(t) t O log t dt dt O 7 log t 그렇다면 위의 적분 값은 어떤 값을 가질까? 일단 조금 더 계산을 쉽게 진행하기 위해, 정적분을 다음과 같이 두 구간으로 나눌 것이다 dt log t dt log t dt log t 구간 [a, b]에서 항상 f () > 0를 만족하는 함수를 가정해보자 그리고 [a, b]에서 f ()가 갖는 Rb 최댓값을 M 이라 정의하면, a f ()d M (b a)이라는 부등식을 만족한다 위의 경우 t > 일 때 / log t > 0을 만족한다 그리고 / log t는 항상 감소하는 함수이다 그러므로 첫 번째 적분에서는 t 일 때 최댓값을, 두 번째 적분에서는 t 에서의 최댓값을 갖는다 즉, 다음의 부등식이 성립한다 dt log t log log 우리가 궁금한 것은 에 따라 lim dt 0이 성립하는가이다 log t dt lim log t 0 log log 해당 식은 로피탈의 정리로 0으로 수렴한다 이로써 을 보여주기 위해서는 반대로 에 따라 log R ϑ(t) t log t dt 0임을 보여주면 된다 이번엔 ϑ() 이니, ϑ() O()로 둘 수 있겠다 그러므로 다음의 점근 관계식이 성립한다 log ϑ(t) log dt t log t O(t) dt O t log t log dt log t 3

이 적분 역시 [, ]와 [, ]라는 두 구간으로 나눠 다음의 부등식을 유도해줄 수 있다 dt log t dt log t 역시 우리가 궁금한 것은 에 따라 log lim log dt lim log t dt log t log log dt 0이 성립하는가이다 log t 0 log log 역시 로피탈의 정리에 따라 0으로 수렴하니 또한 증명되었다 그러므로 3임이 증명되었으니, 제시된 세 점근 관계식은 모두 동치이 다 위 동치 관계식과 비슷한 정리가 또 하나 있다 증명은 생략하도록 하겠다 정리 8 pn 을 n번째 소수라고 정의할 때, 다음의 점근 관계식은 모두 동치이다 π() log lim π() log π() pn lim n n log n lim 하지만 이것만으로 PNT를 뛰어들기에는 아직 이르다 PNT를 증명하기에 앞서 복소해석 학을 조금 알아둘 필요가 있다 7 복소해석 한 움큼 역사적으로 PNT는 896년 아다마르(Hadamard)롸 발레푸생(Vall ee-poussin)에 의해서 독립 적으로 증명되었다 비록 가우스가 더 일찍 떠올리긴 했지만, 르장드르가 학계에 소수 추측을 던진 것이 797, 98년경이니, 거의 00년 만에 풀린 난제라 할 수 있겠다 필자는 개인적으로 이 어려운 문제가 거의 비슷한 시기에 독립적으로 증명된 이유가 리만 (Riemann)에 기인한다고 생각한다 859년 리만이 남긴 고작 8쪽짜리의 논문 주어진 수보다 작은 소수의 개수에 관하여 에는 해석적 연장이라는 고급 테크닉으로 제타함수의 정의역을 을 제외한 모든 복소평면으로 넓히는 마술을 선보인다8 복소해석학이 포함된 증명을 해석적 4

증명(Analytic Proof), 그렇지 않은 증명을 초등적 증명(Elementary Proof)이라고 수학에서 는 분류하는데 당시 아다마르와 발레푸생이 발견한 증명은 둘 다 해석적 증명이었다 해석적 증명을 완성하기 위해서는 제타함수의 해석적 연장이라는 아이디어가 필수불가결한데, 이는 리만의 논문에서 이미 증명이 되었다 물론 리만의 논문과 PNT의 증명 사이에는 40년이라는 격차가 있었지만, 그럼에도 리만이 PNT 증명에 결정적인 힌트를 남긴 수학자라는 사실에는 아마 대부분 동의할 것이다 하지만 안타깝게도 많은 대학원생용 교재들은 발레푸생과 아다마르의 증명을 담고 있지 않다 그들의 아이디어를 토대로 조금 더 세련된 증명을 소개하고 있다 이 책에서는 필자가 해석적 수론을 입문할 때 공부한 책에 나오는 증명을 간단하게 소개해볼 요량이다 이 증명은 해석적 증명이며, 증명을 어느 정도 따라잡기 위해서는 약간의 복소해석학 지식이 필요하다고 생각한다 복소해석학이란 말 그대로 해석학을 복소수의 범위로 확장한 학문이다 해석학이 함수에 대한 연구이니 복소해석학은 복소함수를 연구하는 학문이라 할 수 있겠다 복소함수와 실함수 가 과연 얼마나 다른 함수이길래 하나는 해석학 다른 하나는 복소해석학으로 분야가 나뉠까? 그 대표적인 예제는 미분 가능성에서 살펴볼 수 있다 보통 실수에서 정의된 함수 f ()가 0 에서 미분할 수 있다면, 다음의 두 극한이 같은 값으로 수렴함을 의미한다 lim 0 f () f (0 ) f () f (0 ) lim f 0 (0 ) 0 0 0 차원의 실수선에서 가 0 로 다가가는 방법은 단둘 뿐이다 하지만 차원의 복소평면에서는 이야기가 다르다 임의의 복소함수 f (z)가 z0 에서 미분이 가능하기 위한 조건은 다음과 같다 f 0 (z0 ) lim z z0 f (z) f (z0 ) z z0 차원 실수선에서는 f 가 미분되어지기 위한 조건으로 0 와 0 단 두 가지 극한만을 살폈다 하지만 차원 복소평면에서는 z0 으로 향할 수 있는 모든 방향의 z에 대해서, 즉 360 모든 방향에 대해서 이 극한의 값이 일치해야 한다 예를 하나 살펴보자 f (z) z는 임의의 복소수 z iy를 대입했을 때, 그 켤레 복소수 z iy를 내뱉는 함수이다 그렇다면 f 0 (0)은 다음과 같이 정의가 될 것이다 lim h 0 f (h) f (0) h lim h 0 h h 5

여기서 h가 실수선을 따라 0으로 수렴한다고 가정해보자 그렇다면 실수 h에 대해서 h h 이므로, 위의 값은 로 수렴한다 반면 h가 허수선을 따라 0으로 수렴한다 가정해보자 그렇 다면 허수 h에 대해서 h h이므로, 위의 값은 -로 수렴한다 그 외에도 h가 사선방향, 즉 y 선을 따라갈 경우를 살펴보면, h u iu라고 치환할 수 있는데,9 h u iu가 되고, 이것은 h/h (u iu)/(u iu) i가 된다 마지막으로 y 선을 따라가면 i가 나온다 즉, 0으로 수렴하는 모든 방향에 따라 모두 다른 값을 내뱉으므로 이 함수는 도함수를 정의할 수 없는 함수가 된다 다음으로 살펴볼 것은 해석함수(Analytic Function)이다 아마 해석적 이라는 정의에 익숙하지 않을 독자들이 많을 것이다 그 정의는 다음과 같다 정의 3 해석적: 임의의 함수 f ()가 0 에서 해석적이라면, 0 근방의 모든 에 대해서 다음을 만족하는 급수가 존재한다 f () an ( 0 )n a0 a ( 0 ) a ( 0 ) n0 만약 개집합 D에 포함된 모든 점 에서 f ()가 해석적이라면 함수 f 는 D에서 해석적이라고 정의한다 즉, 임의의 함수가 0 에서 해석적이라면 국소적인 조건(0 의 근방)에서 모든 점은 하나의 급수로 표현이 가능해진다는 뜻이다 이 급수는 다항식의 꼴을 띠기 때문에 무한히 많이 미 분이 가능하다는 특성을 가진다 만약 복소평면 C 전체에서 해석적이라면 이를 전해석 함수 (Entire Function)이라고 정의한다 즉, 일반적으로 해석적이라는 조건은 미분 가능하다는 조건보다 훨씬 더 강력하다 실함수 의 경우 한번은 미분이 가능하지만, 무한히 미분이 가능하지 않은 함수는 여럿 있다 굳이 예를 들자면, 미분이 불가능한 함수를 적분한 경우가 있겠다 이 함수는 한번은 가능할지 몰라도 여 러 번 미분될 수는 없다 하지만 복소함수의 경우 미분 가능성은 실함수보다 훨씬 더 까다로운 조건이 붙었었다 그리고 흥미롭게도, 복소해석학에서의 해석적임과 미분 가능성은 동치이다 즉, 한 번만 미분이 가능한 복소함수는 무한번 미분이 가능하다는 뜻이다 아마 실해석에서는 상상하기 힘들었던 결과가 아닐까 싶다 이 외에도 복소해석학은 실해석에서는 의구심이 들법한 결과물들이 마구 쏟아져나온다 예컨대 리우빌의 정리는 유계가 있는 전해석 함수, 그러니까 모든 z에 대해서 f (z) < M 을 만족하는 M 이 존재하는 함수는 상수함수뿐이라는 대담한 정리가 있다30 실함수의 경우 f () sin 는 전해석 함수이지만(다시 말해 무한번 미분이 가능하지만), 어디에서도 무한 으로 발산하지 않는다 하지만 이 sin의 정의역이 복소평면으로 확장되면 어딘가에서는 다시 무한으로 발산하게 된다 그 외에도 함수 f 가 개집합 D에서 해석적이면 D에 포함된 단순 닫힌 6

곡선 궤도3 γ에 대해서 R γ f (z)dz 0이라는 등, 일반적으로 상상하기 힘든 대담한 정리들이 마구 튀어나온다 이런 복소해석학은 도대체 무엇에 초점을 두고 연구하는 학문인가? 예전에 어딘가서 얼핏 들었던 말인데, 복소해석학을 연구하는 수학자들은 f (z)가 0이거나 특이점이 아닌 다른 점은 아무 관심을 둬 주지 않는다고 한다 그만큼 0과 특이점은 복소해석에서 중요한 역할을 한다는 의미이다 그렇다면 특이점이란 무엇일까? 해석적이지 않은 점을 말한다 만약 임의의 점 z0 에서 함수 f 가 해석적이지 않지만, 그 근방의 다른 모든 점이 해석적이라면, 이를 고립특이점(Isolated Singularity)이라고 부른다 고립 특이점은 다음과 같이 세 가지로 분류가 될 수 있다 정의 4 고립특이점의 분류: 복소 함수 f 에 대해서 z0 가 고립특이점이라고 가정하자 lim (z z0 )f (z) 0이라면 z0 은 제거가능 특이점(Removable Singularity)이다 z z0 lim f (z)가 존재하지 않으면 z0 는 본질적 특이점(Essential Singularity)이다 z z0 lim f (z) 라면 z0 은 극점(Pole)이다 z z0 정의만 살펴서는 각각의 특이점이 어떻게 다른지 분간하기란 다소 어려운 것 같다 이번엔 각각의 특이점의 성질과 예제를 살펴보자 일단 제거가능 특이점이란, 말 그대로 특이점이 제거될 수 있다는 의미이다 임의의 함수 f (z)에서 z0 가 제거가능 특이점이라고 가정해보자 z0 는 고립특이점이기 때문에 z0 근방의 z 에서는 f (z)는 유한한 값으로 정의되었을 뿐만 아니라 미분 또한 가능하다 그러므로 z0 가 제거가능 특이점이라면 f (z0 )에 적당한 값을 대입해 줌으로써 f 를 z0 에서 해석적이게 만들 수 있다는 것이다 제거가능 특이점의 대표적인 예로는 f (z) sin z/z함수가 있는데, 이 함 수는 z 0에서 정의가 불가능하다 하지만 0의 근방에서 이 함수는 유한한 값을 가지며, 해석적이다 그리고 이 함수를 z 0일 때 이라고 정의해버리면, 이 함수는 전해석 함수가 된다 본질적 특이점이란 극한값이 정의되지 않은 점이다 임의의 고립특이점 z0 에 대해서 z0 가 제거가능 특이점의 경우 z z0 에 따라 f (z)는 어느 일정한 값으로 수렴하며, z0 가 극점인 경우 z z0 에 따라 f (z)는 무한으로 발산한다 하지만 본질적 특이점인 경우, 방금 선보인 f (z) z처럼 z z0 에 따라 어느 특정한 값으로 수렴도 발산도 하지 않는다 대표적인 예로 f (z) e/z 가 있는데, 이 함수는 z 0에서 본질적 특이점을 가진다 z가 실수선에서 0을 향해 감소하면 극한값을 무한으로 향하지만, 0을 향해 증가하면 0으로 수렴한다 반면 z yi 가 허수선에서 0으로 수렴한다고 가정해보자 그렇다면 f (z) e/yi 라고 할 수 있겠는데, 7

이는 실수 M 에 대해 (eπi )M 꼴이며, 이는 절댓값이 인 복소수이다 limz 0 f (z)는 정의될 수 없으므로, 0은 본질적 특이점이다 함수의 극점은 해당 점에서 무한으로 발산해버리는 함수를 말한다 임의의 함수 f (z)에서 z0 가 극점이라면, 360 어떤 방향으로도 z가 z0 에 향해감에 따라 f (z) 는 무한으로 발산해버린 다는 의미이다3 대표적인 예로는 제타 함수가 있는데, 제타 함수 ζ(s)는 s 일 때 정의되지 않는다33 믿기는 어렵겠지만, s 로 향하는 모든 방향에서 ζ(s)는 무한으로 발산하며, 그러므로 s 은 극점이다 z0 에서 극점을 갖는 함수 f (z)는 사실 다음과 같은 꼴로 표현해줄 수 있다 f (z) a a n ak (z z0 )k (z z0 )n (z z0 ) k0 여기서 앞의 n개의 항 때문에 f (z)가 z z0 에서 무한으로 발산해버리는 것이다 다시 말 해, 위 함수 f (z)는 어떤 해석함수인 g(z)에 대해서 g(z)/(z z0 )n 꼴로 표현해줄 수 있다는 의미가 된다 여기서 n은 함수마다 다른데, 이 값을 극점의 계수(order)라고 정의한다 이 를 기반으로 다음과 같은 사실을 알 수 있다 임의의 함수 f (z)가 z0 에서 극점을 가질 때, limz z0 (z z0 )n f (z)이 유한한 값으로 수렴하는 가장 작은 자연수 n이 극점의 계수이다 앞서 제타함수는 s 에서 극점을 가진다고 언급했다 제타함수의 극점의 계수는 인데, 이는 다시 말해 ζ(s)는 다음과 같이 표기가 가능하다는 의미이다 ζ(s) an (s )n s n0 그렇다면 제타함수를 미분한 ζ 0 (s)는 어떻게 될까? 굳이 제타 함수의 정의로 돌아갈 필요가 없이, 위의 식을 미분해주면 된다 다음과 같이 말이다 ζ (s) nan (s )n (s ) 0 n0 즉 ζ 0 (s)는 s 일 때 여전히 극점을 가지며, 이 극점의 계수는 가 된다 그렇다면 마지막으로 ζ 0 (s)/ζ(s)의 극점의 계수는 몇일까? ζ 0 (s) ζ(s) P n n0 nan (s ) (s ) P n n0 an (s ) s P n n0 nan (s ) P n0 an (s )n (s ) s 일 때 이 함수는 발산한다 반면 (s )ζ 0 (s)/ζ(s)의 경우 분자에 있는 /(s )이 사 8

라지면서 s가 로 수렴함에 따라 어느 특정한 값을 갖게 된다 그러므로 ζ 0 (s)/ζ(s)의 극점의 계수는 이다 이제 PNT를 증명하기 위한 모든 재료는 모인 듯하다 이제 한번 직접 소수 정리의 증명을 따라가 보도록 해보자 8 PNT 증명 개요 앞 단원에서 우리는 PNT와 동치를 이루는 몇 가지 관계식을 살펴보았다 즉, 우리에게는 PNT를 정복하기 위한 여러 개의 산길이 마련되어있다 그중에서 우리가 택할 길은 이것이다: ψ() ψ ()를 다음과 같이 정의해보자 ψ () R ψ(t)dt 첫 과제는 ψ () /와 ψ() 가 동치임을 증명하는 것이다 사실 동치인지 따질 것까지 있는가 싶을 정도로 단순해 보일 수 있지만, 실제로 그 증명은 그보다 훨씬 더 신중하고 조심스럽게 진행된다 이후의 증명은 ψ () /의 증명에 초점을 맞춘다 아니, 정확히 말하면 가 무한으로 발산할 때 ψ ()/ 가 /로 수렴함을 증명하는 데 초점을 맞춘다 그러기 위해서는 ψ ()/ 이 어떤 형태의 함수인지 파악하는 것이다 정리 9 c > 과 에 대해서 다음이 성립한다 ψ () πi c i c i s s(s ) ζ 0 (s) ζ(s) ds 우변은 복잡한 함수를 s c i에서 s c i까지, 복소평면에서 임의의 c > 실수 점을 지나는 수직선에 따라 적분한 값이다 흥미로운 점은 c가 몇이든 무관하게 이 적분값은 ψ ()/ 이라는 것이다 그 다음 작업 ψ ()/ 와 /가 얼마의 오차를 갖는가를 확인하는 작업이다 다음의 정리를 통해서 파악할 수 있다 정리 0 c > 과 에 대해서 다음이 성립한다 ψ () c i s h(s)ds πi c i 여기서 h(s) s(s ) 0 ζ (s) ζ(s) s 위 정리를 잘 살펴보면 다음의 두 사실을 알 수 있다 첫 번째로 에 따라, 좌변의 ( /) 이 된다 그러므로 좌변은 ψ ()/ /꼴이 되며, 우리는 이 차이가 0으로 9

수렴함을 보이고 싶다 그러므로 우변이 0임을 보여주면 PNT는 증명된다 두 번째로 앞장에서 ζ 0 (s)/ζ(s)가 s 에서 계수가 인 극점을 가진다고 했다 그러므로 ζ 0 (s)/ζ(s) /(s )은 해석함수가 된다는 것이다 정리 0의 적분을 다시 살펴보자 이 적분은 임의의 실수 c > 를 가로지르는 수직선이 라 하였다 다시 말해 이 적분은 s의 허수부가 에서 까지 정도로 파악해줄 수 있겠다 s c it로 생각해준다면, c는 상수가 되고 t가 변수가 되겠다 정리 0에 제시된 식은 다음과 같이 다시 써줄 수 있다 ψ () c i it log e h(c it)dt π i 그러므로 다음이 성립하면 PNT는 증명된 c lim π eit log h(c it)dt 0 여기서 우리는 리만-르베그 소정리를 사용해준다 소정리 6 리만-르베그 소정리(Riemann-Lebesgue Lemma): R f (t) dt가 수렴한다 면, 다음이 성립한다 lim f (t)eit dt 0 리만-르베그 소정리의 eit 의 를 log 로 치환하고 c h(c it) f (t)로 여기면, 위에 R 제시된 식의 꼴이 나온다 그렇다면 우리에게 남은것은 c h(c it) dt가 수렴함을 보이기만 하면 되겠다 하지만 이 방법에는 c를 몇으로 설정하느냐의 문제가 생긴다 다시 위의 식으로 돌아와 보자 c lim π c > 인 경우, 그 증명은 생략하겠지만, eit log h(c it)dt R c h(c it) dt는 수렴한다 하지만 c > 0 가 되면서 c 가 된다 즉 c > 의 경우라면 이 극한은 0꼴이 되면서 정의되지 않게 된다 반면 c 을 대입하면, c 은 로 수렴하게 된다는 장점이 있다 하지만 h(s)의 정의를 기억해보자 h(s) s(s ) ζ 0 (s) ζ(s) s 문제는 ζ 0 (s)/ζ(s)부분도, /(s )도 모두 s 일 때에는 정의가 되지 않았다 c 의 수직선에서 c h(c it)는 과연 적분이 될까? 그리고 된다면 그 값은 수렴할까? 이 문제가 30

바로 PNT 증명의 핵심이자 고비이다 그 문제는 다음과 같이 해결된다 첫째로 s h(s)가 반평면 σ 을 포함한 어떤 거대한 영역에서 해석적임을 보여주어야 한다 임의의 영역 D에서 해석적인 함수 f (z)는 D에 포함된 R 임의의 단순 닫힌 곡선 궤도 γ에 대해서 γ f (z)dz 0을 만족한다고 앞 단원에서 언급했었다 임의의 실수 T 와 c > 에 대해서 it, it, c it, c it 를 꼭점으로 삼는 반시계방향의 직사각형 궤도를 Γ라고 정의하자 왼쪽 변을 Γ, 아랫변을 Γ, 오른쪽 변을 Γ3, 마지막으로 R 윗변을 Γ4 라고 정의하자 그렇다면 다음과 같은 등식을 얻을 수 있다(편의상 Γk s h(s)ds R 를 Γk 로 줄여 표기하겠다) Γ Γ Γ3 Γ Γ4 0 Γ Γ Γ3 Γ4 R R 증명은 생략하겟다만, 아랫변의 적분, 즉 Γ 와 윗변의 적분 Γ4 가 T 에 대해서 0으로 R R 수렴한다 이를 기반으로 Γ Γ3 라는 등식이 성립하며, 이는 원래의 표기로 돌아오면 다음과 같이 써줄 수 있다 i s c i h(s)ds i s h(s)ds c i 앞서 c > 에 따라서 s h(s)를 σ c를 따라 적분하면 그 값이 수렴한다고 언급했다 그리고 R 살펴본바, 이 값은 σ 을 따라 적분한 값과 같다 그러므로 c 에서 h(c it)c dt c 는 수렴하며, 리만-르베그 소정리에 따라 lim h(cit)eit log dt는 0으로 수렴한다 π 그러므로 에 따라 ψ ()/ 는 /로 수렴하며, 이를 기반으로 ψ () /를 도출, 즉 ψ() 이므로, π() / log 가 성립한다 9 스큐즈 수 소수 정리가 마침내 함락되었다 르장드르와 가우스의 예상대로 π()와 / log 의 비율은 로 수렴하게 된다 하지만 / log 는 절대로 π()를 따라잡을 수 없으며, 둘의 격차는 점점 더 벌어진다 물론 / log 도 π()의 훌륭한 근사이긴 하지만, 이를 더 개선할 수는 없는걸까? R 디리클레가 제안한 로그 적분 함수 Li() dt/ log t는 어떨까? 일단 Li() / log 이므로, PNT로부터 Li() π()를 유도할 수 있다 그렇다면 어떤 함수가 π() 에 더 가까울 까? 아래 그림 을 살펴보자34 그림 (a)는 π()와 각 함수와의 비율의 변화를 보여준다 / log 는 π()보다 항상 작으므로 둘의 비율은 로 향해 작아지며 수렴한다 반면 Li()의 경우,초반의 몇 예외를 지나면 0 4까지는 로 향해 커지며 수렴한다 Li()의 경우는 3

(a) 비율의 변화 (b) 오차의 변화 그림 : / log 와 Li()의 근사 비교 04 근방에서 그 비율이 098에 도달하지만, / log 의 경우는 04 까지도 0에 도달하지 못한다 그림 (b)는 π()와 각 함수와의 오차의 변화를 보여준다 앞서 말했듯, π()와 / log 의 차이는 가 무한히 커짐에 따라 발산한다 Li()와 π()의 차이도 / log 보단 느리지만 발산하는 것같 보인다 하지만 실제로는 그렇지 않다 로그 적분 함수는 Li()와 li()가 있는데, 둘의 차이라면 각 적분의 시작점을 로 잡았 R 느냐 0으로 잡았느냐의 차이밖에 없다 즉, li() 0 dt/ log t이고, 이를 기반으로 Li() li() li()라는 관계식을 얻을 수 있는데 li()는 에 가까운 상수이므로 Li()와 li()는 사실상 거의 같은 함수라고 할 수 있겠다 94년 영국의 수학자 리틀우드(Littlewood)는 π() li() 의 부호가 무한히 많이 바뀐다는 것을 증명했다35 다시 말해, 위의 그림에서는 li()와 별반 다를 바 없는 Li()가 π()보다 항상 클 것같아 보이지만, 실제로 이 오차는 어느 순간 0으 로 다시 도달하여 음수가 되고, 또 0을 지나 양수가 되고를 무한히 많이 반복한다는 것이다 하지만 그 역전이 언제서부터 시작되는지는 리틀우드는 함구할 수밖에 없었다 리틀우드의 지도학생인 스큐즈는 리만 가설이 참이라는 가정하에서 ee 적어도 한 번의 역전은 일어난다는 것을 증명해내었다36 이 값은 약 0 00 e79 33 보다 작은 에서 을 웃도는 엄청난 ee 7705 수이다 더 나아가 년 뒤 스큐즈는 리만 가설이 참이라는 조건을 떼어내고 ee 에서 적어도 한 번의 역전이 일어난다는 것을 증명해냈는데, 이 값은 값으로 현실적으로 확인해보긴 무리가 있는 수치이다37 0 00 963 보다 작은 을 훌쩍 넘는 그의 공로를 기리며, li()와 π()의 우위가 처음으로 역전되는 를 스큐즈 수라고 부르기 시작했다38 이 값은 현재로는 5 035 정도로 처음 스큐즈가 제안한 수에 비해 비약적으로 줄어든 결과이다 3

0 장을 마치며 앞장에서 살펴본 FLT와 비교해보면 DTAP와 PNT는 상대적으로 쉽고 친절한 문제인 것 같다 FLT는 300여 년간 풀릴 듯 말 듯 수학자들을 애태웠다면, 이 장에서 소개한 두 정리는 처음엔 도대체 어떻게 공략해야 할지 오랜 시간 감도 잡히지 않다가 어느 순간에 마법처럼 풀려버렸다 이 책에서는 생략된 부분이 많지만, 실제로 그 증명은, 필자가 직접 공부해본 입장으로서, 어느 정도 시간을 투자하면 학부를 졸업한 수준에서는 충분히 따라잡을 정도의 수준이다 비록 DTAP와 PNT는 FLT처럼 드라마같은 전개로 해결된 것은 아니지만, 굳이 말하자면 이 둘의 드라마는 해결됨으로 시작된다고 할 수 있겠다 PNT가 증명되고 π()와 li()의 오차 를 비교했듯, 수학자들은 πa,k () πb,k ()가 증명된 이후로 둘의 오차에 대한 연구를 진행해 왔다 이를 소수 경주라 하는데, 여전히 수많은 미스터리가 잠들어 있는 분야이다 더 나아가 DTAP는 949년 셀베르그(Selberg)에 의해 초등적 증명이 발견되었다39 소수의 등차수열에 관련된 정리는 이것으로 끝이 아니다 004년 수학자 그린(Green)과 타오(Tao)에 의해서 임의 의 n에 대해서 등차수열 {ak }nk 이 모두 소수인, 그러니까 a, a m, a m,, a (n )m 이 모두 소수인 수열이 존재한다는 것이 증명되었다 PNT는 이것보다 훨씬 더 극적인 전개가 뒤따랐다 PNT가 증명되기 이전, 수학자들은 PNT이 참이라는 가정에서 해석적 수론을 전개했다 그리고 PNT가 증명되면서 이 모든 발견 이 참이 되었다 PNT의 해결로 정수론에 또 한 번의 부흥기가 찾아왔다고 해도 결코 과언이 아닐 것이다 PNT는 949년 셀베르그(Selberg)와 에르되시(Erd os)에 의해 초등적 증명이 발 견되었고,40 더 나아가 980년 뉴먼(Newman)은 고작 4페이지 만에 PNT가 참임을 보이는 믿을 수 없이 간단한 증명을 내놓는다4 PNT의 아성이 정복됐지만, 그렇다고 소수의 미스터리가 모두 해결된 것은 아니다 아니, 어떻게 보면 PNT는 사실 아성이 아니라 소수 연구의 수많은 관문 중 하나가 아닐까 생각한다 여전히 계속해서 소수에 관련된 추측들은 제기되고 있고, 아주 가끔 해결될 뿐 대부분의 소수 추측은 계속해서 후대 수학자들의 과제로 남겨지고 있다 수학을 업으로 삼을 생각을 하는 당신 참으로 즐겁지 않은가? 당신의 시대에도 당신이 활약할 난제들이 아주 많이 남아있다는 사실이 말이다 소수에 대해 못다 한 이야기는 리만 가설 편에서 마저 다루기로 하고, 이번에는 다소 학부 생에게도 익숙하지 않은 분야로 넘어가 보도록 하자 다음에 소개할 분야는 위상수학이다 33

Notes to chapter 일반적이란, 임의의 자연수 n에 소수판별법이 적용할 수 있음을 말한다 특정한 꼴의 n에서 만 판별이 가능하다면 이는 일반적이라고 하지 않는다 다항 시간은 알고리즘의 작동 시간이 다항 시간 내에 걸림을 의미한다 결정론적은 소수인지 아닌지 확률적으로가 아니라 00% 확실하게 결정해주는 것을 말하며, 마지막으로 무조건적은 해당 알고리즘이 리만 가설같이 해결되지 않은 난제를 기반으로 하지 않음을 말한다 A M Legendre, Essai sur la th eorie de Nombres, st Ed 798, Paris, p9 3 A M Legendre, Essai sur la th eorie de Nombres, nd Ed 808, Paris, p394 4 대표적으로 수학자 보여이 야노시(Ja nos Bolyai; 헝가리 인이라 성이 앞에 온다)의 일화가 있다 보여이는 89년 비유클리드 기하학의 가능성을 발견하고, 3년의 연구를 거쳐 비유클리 드 기하학에 대한 논문을 출간했다 그 논문을 본 가우스는 자신의 친구이자 보여이의 아버지인 보여이 파카스(Farkas Bolyai)에게 다음과 같은 편지를 보냈다: 이 공로를 축하하는 것은 결 과적으로 스스로를 칭찬하는 일밖에 더 되지 않겠네만, 사실 자네가 발견한 것들은 30여 년 전에 내가 이미 발견한 것이니 말일세 덕분에 보여이와 가우스는 사이가 틀어졌다고 한다 5 C F Gauss Werke, Bd, st Ed, p444 447 G ottingen 863 6 C F Gauss, Gauss to Encke, translated by Peter Martinson; http://science larouchepaccom/gauss/ceres/pdf/sourcebook/gaussworks/pjm_gauss_849_enckecorresp pdf 7 IBID 8 log Li()이므로 크게 문제 될 것은 없다 9 Mark H Holmes (5 December 0) Introduction to Perturbation Methods Springer p4, ISBN 978--464-5477-9 f (n) 0 n > n0 에 대해서 < 을 만족하는, n0 > 0이 존재하면, f (n) g(n)이다 g(n) n > n0 에 대해서 f (n) k g(n) 을 만족하는 n0 과 k > 0이 존재하면, f (n) O(g(n)) 이다 n > n0 과 k > 0에 대해서 f (n) k g(n) 을 만족하는 n0 > 0이 존재하면, f () o(g()) 이다 3 예컨대 O()이며 동시에 O( )이다 문제는 O() O( )을 성립하지만 O( ) O()이 성립하지는 않는다 그래서 일부는 O()이며 O( ), 그리고 O() O( )이라고 쓰는 것이 바람직하다고 주장한다 4 L Euler, Speculationes circa quasdam insignes proprietates numerorum, Acta Academiae Scientarum Imperialis Petropolitinae, vol 4, (784), p 8-30 5 Gauss, Disquisitiones Arithmeticae article 38 34

6 소수 계량 함수와 혼동할까봐 π대신 φ를 썼을 것이라는 주장도 있지만, 이는 신빙성이 떨어지는 주장이다 소수 계량 함수를 π로 채택한 수학자는 그보다 가우스보다 00년은 뒤인 란다우였기 때문이다 당시에는 오일러 피 함수에는 소괄호를 붙이지 않았다는데, 아마 원주 율과의 혼동을 대비해서 π기호를 버린 것이 아닐까 추측해본다 오일러 피 함수는 오일러의 논문에선 πd, 가우스의 논문선 φa 라고 표기되었다고 한다 7 Krantz, Steven (0) The Proof is in the Pudding: The Changing Nature of Mathematical Proof Springer p 55 58 8 Elstrodt, J urgen (007) The Life and Work of Gustav Lejeune Dirichlet (805 859) 9 Gowers, Timothy; June Barrow-Green; Imre Leader (008) The Princeton companion to mathematics Princeton University Press pp 764 765 0 여기서 는 논리적으로 그리고 라는 의미이다 의심이 든다면, 연산표를 그려서 확인해보길 권유한다 크기가 3인 군은 항상 이 경우로밖 에 환원되지 않는다 그렇다고 적분이 아예 불가능하진 않다 리만 적분에 르베그 측도를 가미해 확장한 르베그 적분법으로는 해당 함수를 적분할 수 있다 이 함수를 [0, ]에서 르베그 적분한 값은 이다 3 물론 급수가 수렴한다고 항의 개수가 무한하지 않은 것은 아니다 하지만 급수가 발산하면 항의 개수는 무한해야만 한다 이 경우 참 운이 좋게도 급수가 무한으로 발산하므로 무리 없이 p h (mod k)를 만족하는 소수의 개수가 무한하다고 결론지을 수 있겠다 4 임의의 두 함수 f, g가 둘 다 O(h())라면 f g O(h())이다 즉 두 번째 항이 O() 이라면, 세 번째 항과 합쳐져 단순히 O()이 된다 5 이 장에서 제시된 모든 소정리와 증명은 Apostol의 Introduction to Analytic Number Theory 7단원을 출처로 삼는다 자세한 증명을 원한다면 해당 책을 강력히 추천하는 바이다 6 Apostol, Introduction to Analytic Number Theory, p76 7 큰 오 함수를 등호로 표기해주면 바로 이런 우수성 있다 양변에 적분을 취해주어도, 임의의 함수를 곱하거나 나눠도 여전히 등호가 유지한다는 것이다 8 이에 대한 자세한 설명은 리만 가설 편에서 더 자세히 다룰 예정이다 9 y 의 선을 따라 수렴한다 가정했으니 실수부와 허수부의 크기가 같아야 한다 p 30 복소수 z iy의 절댓값은 z y 이다 3 쉽게 말해 시작점과 끝점이 같으며, 겹치는 부분이 없는 궤도라고 생각하면 된다 3 무한으로의 발산은 실수부가 양의 무한, 음의 무한으로 발산하는 경우와 허수부가 양의 무한, 음의 무한으로 발산하는 경우 모두를 말한다 33 제타함수의 기본 정의만 살피면 s σ it에 대해서 σ 인 모든 경우에서 무한으로 발산할 것처럼 보이지만, 실제로는 그렇지 않다 이는 리만 가설 편에서 자세히 다룰 예정이다 35

34 각 그림은 위키피디아에 퍼블릭 도메인으로 올라온 그래프로서 저작관이 소멸된 저작물 임을 알려드립니다 https://uploadwikimediaorg/wikipedia/commons/8/87/prime_ number_theorem_ratio_convergencesvg, https://uploadwikimediaorg/wikipedia/ commons/6/6e/prime_number_theorem_absolute_errorsvg 35 Littlewood, J E (94), Sur la distribution des nombres premiers, Comptes Rendus 58: 869 87, JFM 4503050 36 Skewes, S (933), On the difference π() li(), Journal of the London Mathematical Society 8: p77 83 37 Skewes, S (955), On the difference π() li() (II), Proceedings of the London Mathematical Society 5: p48 70 38 정확히는 처음으로 역전되는 최소 자연수 n의 상계(upper bounds)를 스큐즈 수라 부른다 39 Selberg, Atle (949), An elementary proof of Dirichlet s theorem about primes in an arithmetic progression, Annals of Mathematics 50 (): p97 304 40 Goldfeld, Dorian (004) The elementary proof of the prime number theorem: an historical perspective In Chudnovsky, David; Chudnovsky, Gregory; Nathanson, Melvyn Number theory (New York, 003) New York: Springer-Verlag p 79 9 4 Newman, Donald J (980) Simple analytic proof of the prime number theorem American Mathematical Monthly 87 (9): p 693 696 36