리만 가설이 중요한 이유 - liman gaseol-i jung-yohan iyu

미국의 부유한 수학 애호가들은 기금을 모아 1994년 ‘미국수학연구소’와 1998년 ‘클레이수학연구소’를 잇따라 만들었다.

이들 연구소의 공통점은 리만 가설을 증명하기 위해 세워졌다는 점이다. 이 중에서도 클레이수학연구소는 리만 가설을 증명하는 사람에게 100만 달러의 상금을 걸어 놓고 있다.

리만 가설이란 1859년 당시 학계에 잘 알려지지 않은 32세의 젊은 수학자 베른하르트 리만이 베를린 학술원에 제출한 논문 ‘주어진 수 이내에 존재하는 소수의 개수에 관한 연구’에서 제시됐다.

이후 147년간 전 세계 수학자들이 머리를 싸매고 노력했지만 리만 가설이 참인지, 거짓인지 증명하지 못하고 있다.

리만 가설이 중요한 이유는 소수(prime number)로부터 탄생한 현대식 컴퓨터 암호체계가 이것에 뿌리를 두고 있고 1970년대에는 원자핵물리학과 리만 가설이 밀접하게 연관돼 있다는 사실이 알려졌기 때문이다.

리만 가설이 풀린다면 현재 쓰이고 있는 공개키 암호 체계가 무용지물이 될 수도 있다고 수학자들은 지적한다. 신용카드, 은행예금 인출, 이메일 송수신, 휴대전화 사용, 기업이나 국방외교 기밀 보장 등에 사용되는 공개키 암호는 처음의 소수를 알아야만 메시지로 변환할 수 있다.

여기서 소수란 ‘고유 약수’가 존재하지 않는 수를 의미한다. 28을 예로 든다면 어떤 수로 이 수를 나눠야 나머지 없이 깔끔하게 나눠떨어질 수 있을까? 답은 1, 2, 4, 7, 14, 28이다.

이 가운데 1은 모든 수의 약수이고, 모든 수는 자기 자신으로 나눠도 나머지 없이 떨어지므로 ‘자명한 약수’는 2, 4, 7,14다. 수학에서는 이를 고유 약수라 부른다.

하지만 29는 1과 29로 나눌 때만 나머지가 생기지 않는다. 이런 수를 소수라 부른다. 1에서 100 사이에는 25개의 소수가 있다. 그렇다면 주어진 수보다 작은 소수는 몇 개일까? 이를 말해주는 공식은 존재할까? 이것이 바로 리만 가설이 제시하는 문제다.

수학자, 언어학자인 존 더비셔가 정리한 ‘리만 가설'(승산 펴냄)은 수학을 전공하지 않은 사람들에게는 어렵게만 보이는 리만 가설을 나름대로 알기 쉽게 설명한 책이다. 제타 함수 등 생소한 수학 단어들이 무더기로 나오지만 전문 수학자들이 가장 많은 관심을 갖고 있는 미해결 문제인 리만 가설이 과연 무엇인지 지적 호기심을 자극하는 책이다.

박병철 대진대 물리학과 초빙교수가 번역을 맡았고, ‘베른하르트 리만과 소수의 비밀’이라는 부제가 붙었다. 560쪽. 2만원.(끝) <저작권자(c)연합뉴스. 무단전재-재배포금지.>

(2964)

최근 영국의 수학자 마이클 아티야 박사(Michael Atiyah) 박사가 수학의 난문제 중 하나인 ‘리만 가설(Riemann Hypothesis)’을 증명했다고 해서 화제가 되었다.

아티야 박사는 수학의 노벨상이라 불리는 필즈 메달과 아벨상을 수상하는 등 많은 업적을 낸 원로 수학자이지만, 올해 90세에 가까운 고령이다 보니 수학계에서는 그다지 신뢰하지 않고 해프닝 정도로 보는 이들이 더 많은 듯하다.

최근 리만가설을 증명했다고 주장한 마이클 아티야박사 ⓒ Gert-Martin Greuel

리만 가설(Riemann hypothesis)이란 19세기 독일의 수학자로 복소함수(複素函數, Functions of complex variable)의 기하학적인 이론의 기초를 닦은 리만(Georg Friedrich Bernhard Riemann, 1826-1866)이 소수(素水)의 패턴에 관해 제기한 가설이다.

리만은 1859년에 발표한 논문에서 1과 그 수 자신으로만 나누어떨어지는 소수들이 일정한 패턴을 가지고 있을 것이라는 학설을 언급했는데, 이는 리만 제타(ζ) 함수라 불리는 복소함수가 0이 되는 값들의 분포에 대한 가설을 의미한다.

즉 “제타 함수(ζ function)의 자명하지 않은(non-trivial) 모든 근들은 실수부가 1/2이다”로 표현된다.

이 가설의 정확한 의미를 알려면 복소함수론 등에 대한 전문적 수학지식이 필요하므로 일반 대중들이 이해하기는 쉽지 않으나, 많은 수학자들이 지대한 관심을 가지고 해결하기 위해 노력해온 유명한 문제이다.

소수 분포에 대한 리만가설을 제안했던 독일의 수학자 리만 ⓒ Free photo

리만 가설은 150년 넘게 미해결 문제로 남게 되면서, 이제는 수학의 대표적 난제 중의 하나가 되었다.

17세기 프랑스의 수학자 페르마(Pierre de Fermat; 1601-1665)가 “나는 놀라운 정리를 발견하여 증명했지만, 지면의 여백이 부족하므로 증명은 생략하겠다.”라고 했던 ‘페르마의 마지막 정리’처럼, 유명한 난제들에는 으레 그럴듯한 일화가 뒤따르게 마련이다.

리만 가설 역시 1866년 리만이 사망한 후 가정부가 집을 정리하면서 그의 연구자료를 모두 불태워버려, 이 가설에 대한 증거나 리만의 관련 연구를 확인할 길이 없게 되었다고 한다.

수학에서 소수 관련 분야는 여전히 미해결 부분들이 적지 않은데, ‘골드바흐의 추측(Goldbach’s conjecture)‘ 역시 유명한 난제이다.

“2보다 큰 모든 짝수는 두 소수의 합으로 표시할 수 있다”는 이 추측은 리만 가설과 달리 초등학생 정도의 수학 상식만 있어도 그 뜻을 이해할 수 있을 것이다.

그러나 수백 년이 지난 오늘날까지도 이를 완벽히 증명한 수학자는 마찬가지로 한 명도 없다.

그런데 “리만 가설이 증명되면 소수의 비밀이 모두 풀릴 것이므로, 현행 암호체계가 모두 뚫려서 큰 혼란이 올 것이다.”라는 ‘암호 괴담’이 떠돌아서 대중들을 불안하게 하는데, 과연 정말일까?

대표적인 컴퓨터 공개키 암호방식으로서 숱하게 사용되는 RSA 암호는 물론 소수와 큰 관련이 있기는 하다.

두 개의 수를 곱하는 것은 쉽지만, 역으로 대단히 큰 자연수를 두 개의 소수로 소인수분해하기는 매우 어렵다는 데에서 착안하여 만들어진 것이다.

암호 풀이를 위한 소인수분해를 설령 컴퓨터로 계산한다고 하더라도 최소 수백년 또는 수만 년 이상의 많은 시간이 걸릴 것이므로, 안전한 암호체계를 구성할 수 있는 것이다.

그런데 리만 가설이 증명되면 소수 분포에 대한 새로운 사실을 제공할 것이라고 보는 사람들이 많지만, 설령 그렇다 하더라도 소인수분해를 실시간으로 매우 빨리 하는 것은 좀 다른 문제이다.

따라서 리만 가설의 증명으로 암호체계가 무용지물이 된다는 괴담은 지나친 비약이라 하겠다.

리만 가설은 미국 클레이수학연구소가 선정한 이른바 ‘밀레니엄 문제-7대 수학 난제’ 중의 하나로도 채택되었다.

미국의 부유한 사업가 클레이(Landon T. Clay)와 수학교수 등이 수학의 발전과 대중화를 위해 설립한 클레이수학연구소(Clay Mathematics Institute, CMI)는 지난 2000년, 수학 분야의 중요한 미해결 문제 7개를 선정하면서 그 해결에 각각 100만 달러씩의 상금을 내건 바 있다.

내비어스톡스방정식과 관련이 있는 유체의 소용돌이현상 ⓒ Free photo

이들 7개의 난문제는 각각 다음과 같다.

– ‘P대 NP문제(P vs NP Problem)’

– ‘리만 가설(Riemann Hypothesis)’

– ‘양-밀스 이론과 질량 간극 가설(Yang-Mills and Mass Gap)’

– ‘내비어-스톡스 방정식(Navier-Stokes Equation)’

– ‘푸앵카레 추측(Poincare Conjecture)’

– ‘버치와 스위너톤-다이어 추측(Birch and Swinnerton-Dyer Conjecture)’

– ‘호지 추측(Hodge Conjecture)’

밀레니엄 7대 난제의 하나인 P-NP문제를 설명하는 다이어그램 ⓒ Free photo

앞서 언급한 골드바흐의 추측은 왜 밀레니엄 7대 난제에 포함되지 않았는지 의문이 들 수도 있다.

필자의 개인적 생각으로는 수학적 측면뿐 아니라 다른 과학 분야와의 관련성이나 증명 시의 파급효과 등도 고려하지 않았을까 싶다.

즉 P대 NP문제는 컴퓨터 과학에서도 매우 중요한 의미를 지니고, 양-밀스 이론과 질량 간극 가설, 내비어-스톡스 방정식 등은 물리학의 난문제로도 꼽히기 때문이다.

이들 문제에 대해 수학자 중 누군가가 해법을 제시하면 약 2년간의 검증과정을 거치게 되고, 동료 수학자들의 검증을 통하여 해법에 별다른 문제가 발견되지 않으면 상금을 받을 수 있다.

최근 아티야 박사의 경우처럼, 그동안 이들 중 하나를 증명했다는 주장은 심심찮게 나왔지만, 대부분 실수나 해프닝으로 밝혀졌다.

꽤 오래전에 한국인 수학자가 7대 문제 중에 속한 P-NP문제를, 몇년 전에는 국내 원로 물리학자가 양-밀스 이론과 질량간극 가설을 각각 증명했다고 보도되었지만, 근거가 부족한 자가발전이었거나 심각한 오보로 귀결되었다.

위의 난문제 중에서 현재 푸앵카레 추측만이 유일하게 증명이 되었다.

프앵카레 추측을 증명한 러시아의 수학자 페렐만 ⓒ Free photo

지난 2002년 러시아의 수학자 페렐만(Grigory Perelman)이 밀레니엄 난제 중의 하나인 푸앵카레 추측에 관한 해법을 제시하고 동료 수학자들의 검증작업을 통해 그의 해법이 인정되었다.

그러나 그는 시골에 은둔하여 곤궁하게 살아가던 처지였음에도 불구하고, 100만 달러의 상금과 필즈 메달 수상을 거부해 화제가 되기도 했다.

(15189)