리만가설, Georg Friedrich Bernhard Riemann

리만가설

  독일의 수학자 리만(Georg Friedrich Bernhard Riemann, 1826 ~ 1866)은 리만가설을 만든 사람입니다.
  저는 읽기만 해도 울렁울렁 거립니다. 수학은 저는 고대 그리스 철학자, 수학자, 종교가 피타코라스Pythagoras 아저씨를 만나고 구지 도형을 분석해야할까 하는 생각에 걍 있는 그대로 놔두고 보기로 결정했습니다. 리만가설에 대해 살짝 언급하겠습니다.

  현대 수학의 최대의 궁금증인 리만 가설이라는 것이 무엇인지, 왜 나온 것인지 이해하기 위해서 부지런을 떤다고 떨었는데도 그 가설이 무엇인지는 얘기하지 못했다. 파고들면 한이 없으므로 미진하더라도 이번 회에서는 마치도록 하겠다.

    리만의 논문

  리만의 여덟 쪽짜리 논문에 나오는 관계식은 다음과 같았다.

  이제 이의 역변환을 이용하면, 아는 사람은 다 알지만 모르시는 분들은 통 모르시는 다음과 같은 관계식이 나온다.

  형식적인 면으로만 보자면, 복소수에서의 푸리에 변환의 역변환 공식을 쓰면 몇 줄에 설명할 수 있지만 소개하지는 않겠다. 어쨌든 J 함수에 대한 정보를 알려면 log ζ(s)를 구하고, 이를 적분하는 방법을 알아야 한다는 것을 알 수 있다.

감마라는 친구

  제타함수 ζ(s)는 s=1만 아니면 잘 정의할 수 있다고 했다. 몇 가지 중요한 사실이 더 있지만, 여기서 설명하기에는 힘들기 때문에 일단은 인정하자.
    1. s가 음의 짝수, 즉, -2,-4,-6,-8,… 이면 ζ(S)는 0이다. 이런 의미에서 음의 짝수를 ζ(s)의 ‘자명한 해’라고 부른다. 
    2. 자명하지 않은 해는 모두 s의 실수부가 0 이상 1 이하인 영역인 ‘임계띠’ 내에 존재하며, s=1/2을 중심으로 대칭성을 갖는다.
  감마함수는 음의 정수에서는 정의할 수 없다는 사실을 언급한 바 있다. 예를 들어 (-1)! 을 정의할 수 없는 것은 a! = a (a-1)!에서 a 대신 0을 대입하면, ‘0으로 나누기’라는 문제가 생겼기 때문이다. 그런데, 이 감마함수를 다음처럼 제타함수와 엮으면 기묘한 일이 생긴다.

  s가 음의 짝수인 경우 (s/2)! 를 정의하기 곤란하게 만들었던 분모의 0 부분이 제타함수의 자명한 해가 절묘하게 메워준다는 것을 증명할 수 있다. 한편 s=1일 때는 제타함숫값이 무한값을 가지므로 정의할 수 없는데, 다음과 같이 조작한 함수는 잘 정의할 수 있다는 것도 증명할 수 있다. 즉, 다음과 같은 함수는 모든 복소수에 대해 무리 없이 정의할 수 있다.

  이제 이 함수가 0이 되는 값은 정확히 제타함수의 자명하지 않은 해와 같고, 이는 모두 임계띠 안에 있게 된다. 이제 제타함수의 자명하지 않은 근을 ｛p1,p2,…｝이라 해 보자. (근을 늘어놓는 순서도 중요하지만, 어차피 우리는 정확한 증명은 하지 않는다.) 따라서 오일러 식의 방법론을 쓰면 다음처럼 쓸 수 있다.

  이 지수함수 부분을 정확히 구하면, 다음과 같은 사실이 알려져 있다.

  이 식은 모두 곱으로 이루어져 있기 때문에, 로그의 성질로부터 다음처럼 log ζ(s)의 정보가 나온다는 것이 리만의 핵심 아이디어다.

로그 적분의 등장

  이제 위의 관계식에 로그를 취한 후 역변환 식에 대입한 후 길고 까다로운 복소적분을 거치면 (복소적분의 피적분자에 로그가 들어가는 순간, 초보 수학자들과 비수학자들의 악몽인 ‘분지’(branch)가 출몰하는 데다, 로그적분 함수 Li(x) 나 감마함수부터 복소수 정의역으로 확장하는 과정부터 밟아야 한다), 앞에서부터 차례대로 다음처럼 역변환이 되어 리만이 얻어냈던 다음과 같은 식이 나온다.

리만 가설

  리만은 계산을 거쳐 제타함수의 자명하지 않은 해를 몇 개 구하였는데, 이 해들의 실수부는 모두 1/2이었다. (실수부가 1/2인 직선을 임계선이라 부른다.) 이로부터 리만은 다음과 같은 예상을 했다.
  리만 제타함수의 자명하지 않은 해는 모두 실수부가 1/2이다.
  제타함수와 감마함수의 관계를 보더라도, 세상이 어쩐지 아름다워야 한다고 생각하는 수학자라면 제기할 수 있는 예상이긴 한데, 이를 리만 가설이라 부른다. 리만은 사실 이 가설을 별로 중요하게 여기지는 않았지만, 어쨌든 이 가설이 성립할 경우 위의 많은 항 중에서 로그적분 Li(x)가 전체를 좌우하는 ‘주요항’임을 보일 수 있으므로, ‘소수정리’를 증명할 수 있다는 것이 리만의 주장이었다.
  사실 세월이 흐르며 리만의 아이디어를 이해하고 분석하면서, 리만 가설보다 훨씬 약한 가정인 ‘제타 함수의 자명하지 않은 근의 실수부가 1이 아니다’는 사실만 증명해도 소수정리를 증명하는 데는 충분하다는 것을 알게 됐다. 이 사실은 비교적(!) 어렵지 않게 증명할 수 있으므로 소수정리는 증명되었다. 따라서 리만이 원래 의도했던 꿈은 성취한 셈이다. 한편 현재는 리만의 아이디어인 복소수를 쓰지 않은 소수정리의 증명도 나와 있고 이를 초등적인 증명이라 부르는데, 이름은 초등적인 증명이로되 증명은 훨씬 복잡하고 길다.
 [사진, 자료출처]NAVER