김 용묵의 절대공간 - 블로그

18세기를 살았던 레온하르트 오일러가 인류 역사상 얼마나 충격과 공포 괴수 급의 천재 수학자였는지는 자연계· 이공계 맛을 조금이라도 본 사람이라면 모를 수가 없을 것이다. 본인 역시 이에 대해서 이 블로그에 글을 쓴 바 있다.

그의 여러 업적 중에서 자연수들의 거듭제곱의 역수의 무한합과 관련된 것들이 특히 주목할 만하다. 이걸 일반화해서 그냥 리만-제타 함수라고 하는데, 가령 2승에 해당하는 ζ(2) = 1/1 + 1/4 + 1/9 + 1/16 ...이런 식이다.
오일러는 천재적인 직관으로 ζ(2) = pi^2 / 6이 된다는 것을 최초로 발견했다. 그는 더 나아가 이런 무한합이 다음과 같이 모든 소수들을 후처리한 값들의 무한곱과 동치라는 것을 증명했으며...

2 같은 짝수 승일 때는 이 값이 언제나 원주율을 거듭제곱 및 유리수배 한 형태로 나온다는 것까지도 알아냈다.
자연수의 거듭제곱의 역수의 무한합에는 원주율도 들어있고 소수의 분포도 들어있고.. 가히 노다지가 가득했다. 괜히 난해한 문제가 아니었던 것이다.

한편으로 짝수가 아닌 홀수 승일 때는 저 함수값이 정확하게 무슨 의미가 있는 형태로 표현되는지 아직까지 아무도 모른다. 무리수인 것까지는 알려졌지만 초월수인지조차 아직 정확하게 증명되지 못했다. (심증상으로는 어차피 매우 높은 확률로 초월수일 것 같다만..) 지금까지 인류의 지성이 캐낸 것만 해도 노다지 급인데, 이 함수의 정체는 아직까지도 다 밝혀지지 못해 있다. 홀수 완전수도 그렇고 홀수에 뭔가 이상한 특성이 있기라도 한가 보다.

게다가 이것이 이야기의 끝이 아니다.
언뜻 보기에 ζ(x)는 x > 1일 때에만 유의미한 값을 가지며, x가 커질수록 함수값은 1에 한없이 가까워질 것이다. 그리고 x <= 1이면 얄짤없이 무한대로 발산이니 함수에 대해 논하는 것이 아무 의미가 없다.
가령, ζ(1) = 1 + 1/2 + 1/3+ 1/4 ...는 로그 스케일로나마 발산한다는 것이 잘 알려져 있고, ζ(0)이면 1+1+1+1+...이 될 것이다. ζ(-1)은 역수의 역수이니까 1+2+3+4+...가 되니 이 이상 더 따질 필요도 없다.

그럼에도 불구하고 이 함수는 사실 1을 제외한 다른 모든 수에 대해서 함수값이 정의된다. 아니, 실수를 넘어서 복소수에서까지 정의된다. 어찌 된 영문일까? '해석적 연속'(analytic continuation)이라는 개념을 통해서 정의역을 확장할 수 있기 때문이다.

수학이라는 학문은 이런 식으로 사고의 영역을 확장하면서 서로 다른 개념이 한데 연결되고, 추상화의 수준이 상승하고, 거기서 아름다움과 일치, 질서를 발견하는 식으로 발전해 왔다.
고등학교 수준에서 가장 먼저 발상의 전환을 경험하는 건 허수와 복소수이다. "제곱해서 -1이 되는 수라니, 세상에 그런 황당무계한 물건이 어디 있냐? 그걸 도대체 왜 정의하며 그게 무슨 의미가 있냐?"라고 처음엔 누구나 자연스럽게 생각할 수 있다. 아니, 그렇게 고집을 부리는 게 이전까지 수학 공부를 정상적으로 제대로 한 사람의 반응이다.

그런데 그 개념만 하나 도입하고 나니 이제는 뭐 4제곱해서 -1이 되는 수 이런 식으로 이상한 숫자를 또 만들 필요 없이, 복소수 범위에서 i만 동원함으로써 정수 계수 n차 방정식의 근 n개를 언제나 모두 기술할 수 있게 된다. (대수학의 기본 정리) 이게 대단하다는 것이다.
물론, i로도 모자라서 j, k 같은 괴상한 수를 추가한 삼원수 사원수 같은 확장 개념도 있긴 하지만, 그건 벡터· 행렬과 연계해서 다른 특수한 용도 때문에 쓰이는 것일 뿐, 대수 내지 해석학적인 필요 때문에 쓰이는 건 아니다.

다음으로 거듭제곱을 생각해 보자. 이걸 동일한 숫자를 n회 곱하는 식으로만 정의한다면 끽해야 정수 내지 유리수 승밖에 생각할 수 없다. 그러나 거듭제곱의 역함수 격인 로그가 미분 가능한 연속함수이며, 자연상수의 거듭제곱 e^x를 다항식 급수로 풀어 쓸 수도 있다. 더구나 e^(I*x) = cos(x) + I*sin(x)로 자연상수와 I가 복소평면에서 삼각함수와도 만나게 되었으니, 이제 거듭제곱을 정수와 유리수의 영역에만 한정해서 생각할 필요란 전혀 없을 것이다.

이런 식으로 a^x 정도가 아니라 x^x나 x!(팩토리얼)마저도 매끄러운 함수 형태로 그래프로 그릴 수 있다. 특히 팩토리얼의 경우 '감마 함수'라고 별도의 명칭까지 있고 말이다.
또한 x는 실수가 아닌 복소수로 확장해서 2^I, I^I 같은 것도 생각할 수 있다.
고등학교 수학에서는 음수 로그는 생각하지 않고 지냈지만, 복소수 범위에서는 로그 역시 정의역이 복소수로 확장 가능하다. base(밑)도 0이나 1만 아니면 다 된다. 오일러가 정립한 e^(Pi*I)+1=0 이 괜히 위대한 발상이 아닌 것이다.

그럼 리만-제타 함수의 정의역은 어떤 방식으로 확장할 수 있을까?
일단 무한합 함수를 다음과 같은 형태로 바꾸면.. >1에 대해서만 정의되던 기존 함수를 1을 제외한 >0에 대해서도 정의되게 범위를 조금 넓힐 수 있다.

앞에는 뭔가 등비수열의 무한합 같은 계수가 곱해졌고, 뒤에는 1+2+3+4... 덧셈 일색이던 것이 1-2+3-4+... 형태로 바뀌었다. (참고로, s=1일 때.. 1 -1/2 +1/3 - 1/4...는 ln(2)로 수렴하는 것으로 잘 알려져 있음.)
이렇게 식을 써 주면, s>1일 때는 아까와 결과가 동일하면서도 0<s<1일 때는 음의 무한대로 발산하는 형태로 함수값이 추가로 정의되게 된다.

즉, 이 함수는 1에 대해서 좌극한과 우극한의 값이 서로 다르게 된다.
뭔가 (1, 1)이 중심인 반비례 그래프처럼 생겼지만 실제로 그렇지는 않다. 가령, ζ(4/5)는 -4.4375...이지만 -ζ(6/5)-1은 -4.5915...로 값이 서로 미묘하게 다르다.

그럼 0과 음수에 대해서는 어떻게 정의하느냐 하면.. 더 복잡하고 난해한 개념을 동원해야 한다.
구체적인 유도 과정은 본인도 다 모르겠고 시간과 지면이 부족하니 생략하지만.. 리만-제타 함수는 이미 정의된 함수값으로부터 다른 구간의 함수값을 해석적으로 유추할 수 있는 '함수 방정식'이 이렇게 정의되어 있다.

얘를 0과 음수에 대해서도 적용하면 된다는 것이다.
여기서 감마 함수 Γ(x)는 바로 (x-1)!의 해석적 확장 버전이며, 다음과 같이 정의된다.

x^n / e^x를 0부터 무한대까지 적분한 값이 n!이라니, 신기하기 그지없다.
더 신기한 것은, 리만-제타 함수도 기존의 >1 구간에 대해서는 감마 함수와 매우 유사한 형태로 이렇게 정의할 수 있다는 점이다.

저 복잡한 수식들이 논리적으로 서로 다 맞아떨어진다는 사실을 리만이라는 사람이 발견했다. 자연수의 거듭제곱의 역수 무한합이 도대체 몇 가지나 서로 다른 방식으로 표현되나 모르겠다..!
사실, 리만-제타라는 함수 이름도 저 사람이 정의역을 해석적으로 완전하고 깔끔하게 확장된 뒤에 붙은 이름이다. 그 전에 직관적으로 생각하기 쉬운 1보다 큰 실수 버전은 그냥 '제타 함수'였다.

리만-제타 함수는 음의 짝수에 대해서는 모두 0이 나온다. 함수 방정식에서 sin(Pi*x/2) 부분이 -180도의 배수가 걸리고 0이 돼 버리기 때문이다.
그럼 양의 짝수는 괜찮은가 하면.. 괜찮다. 저 함수 방정식에 포함된 감마 함수라는 놈은 음의 정수가 걸리면 무한대로 발산하며(제타 함수에서 원래 양의 정수가 들어왔을 때), 이 경우 함수 방정식의 값은 극한 형태로 구해야 하기 때문이다. 0과 무한대의 곱 형태의 극한은 원래 제타 함수의 값 형태로 나올 수가 있다.

비슷한 맥락에서 ζ(0)의 값을 구할 때도 극한을 동원해야 한다. 함수 방정식에 따르면 ζ(1-0) = ζ(1)을 동원해야 하는데 리만-제타 함수는 원래 1에서 값이 정의되지 않기 때문이다. 상황이 약간 까다롭다.
이런 우여곡절을 거치고 나면 리만-제타 함수의 음수 구간은 값이 상하로 진동하는데, 그 진동의 폭이 0에서 멀어질수록 급격히 커진다. 그래프의 모양이 얼마나 제멋대로인지 -20부터 4까지의 그래프를 그려 보면 다음과 같다.

그럼 리만-제타 함수의 0 이하 음수 구간은 수학적으로 도대체 무슨 의미가 있는가?
이것은 일명 '라마누잔 합'과 직통으로 연결된다. 20세기 초 인도의 천재 수학자 라마누잔의 이름에서 딴 명칭이다.

1+2+3+4... 무한합이 무한대도 아니고 -1/12라는 웃기는 짬뽕 같은 소리를 들어 보신 적 있나 모르겠다. 비슷한 논리로 1+1+1+1...은 -1/2라고 한다.
이건 0으로 나눗셈을 슬쩍 해 놓고는 "모든 수는 0과 같다", "0은 2와 같다" 같은 paradox 궤변· 유체이탈 화법을 늘어놓은 게 아니라, 무한급수의 합에 대한 정의 자체를 달리함으로써 도출 가능한 결론일 뿐이다.
실제로 모든 수를 0승 해서 1로 만든 것과 같은 ζ(0)의 값은 -1/2이며, 모든 자연수를 그대로 무한히 더한 것과 같은 ζ(-1)의 값이 -1/12이다.

리만-제타 함수와 직접적인 관계가 있는 수열은 아니지만 1+2+4+8+...의 무한합은 이런 체계에서는 -1이다. 자기 자신 s에 대해서 s = 1+2s가 성립되므로, s=-1이 된다는 식이다.
무한히 더하기만 하는 것 말고 더했다 빼기를 반복하는 1-2+3-4+5 ... 교대 무한합은 라마누잔 합에 따르면 등비수열의 무한합을 예외적으로 적용하는 방식으로 구해서 1/4가 된다.
1-1+1-1+1-1...의 교대 무한합은 1/2이다. 이건 1과 -1의 평균 같으니 그나마 좀 직관적으로 들린다.;;;

이들의 구체적인 근거와 계산 내역, 배경 원리는 이 자리에서는 역시 언급을 생략하겠다.;;
이거 무슨 고전 역학만 파다가 갑자기 양자역학이고 상대성 이론이고 하는 분야로 넘어간 듯한 느낌이다. 오일러가 뉴턴이라면 리만은 아인슈타인 정도? 진짜 그런 관계인 것 같다.
혹은 데카르트 좌표계와 유클리드 기하학만 열심히 파다가 갑자기 구면 같은 다른 기하학으로 넘어간 것 같은 느낌이다. (삼각형 세 각의 합이 180도가 아닐 수도 있는..)

무한이라는 개념이 이래서 다루기가 까다롭다. 뭐 하나 까딱 뒤틀면 별 희한한 등식이 다 나오기 때문이다.
0.99999...를 1과 동급으로 만들어 주는 것이 무한이며 그 새 발의 피 같은 소수의 역수들의 합을 발산시켜 주는 것도 '무한'이다. 그런데 한편으로 무한도 다 같은 무한이 아니기 때문에 자연수 전체의 개수보다 0~1 사이의 실수가 훨씬 더 큰 무한이라고 여겨진다.

아무튼 리만-제타 함수를 완전히 확장하고 나니 양수 구간에서는 오일러가 발견했던 그 어마어마한 의미가 담겨 나오고, 음수에서는 또 저런 신세계가 펼쳐지면서 한편으로 1을 제외한 전구간에서 저런 정교한 수학적 질서가 다 충족되었다.
그런데 수학자들의 욕심은 여기서 그치지 않고 이 함수를 복소수 구간에서까지 써먹을 생각을 하게 되었다. 당연히 얘의 저변에 있는 감마 함수, 삼각함수 등등도 전부 복소수 범위에서 값이 정의되어 있어야 할 것이다.

자 그럼 여기서.. ζ(x) = 0을 만족하는 근은 얼마나 있을까?
일단 양의 실수 중에는 그 정의상 존재하지 않는다. 그리고 음수 중에는 아까 말했던 짝수들이 모두 함수값을 0으로 만든다. 이들은 그냥 자명한, 중요하지 않은 trivial한 근이다.

그런데 문제는 이 함수는 복소수 범위에서 다른 근도 갖는다는 것이다. 이것은 유의미한, non-trivial한 근이다.
구하기가 무진장 어렵긴 하겠지만 베른하르트 리만은 0에 가까이 있는 것부터 시작해 근을 4개 정도 찾아내 봤다. 그런데 여기서 신기한 공통점을 발견했으며, 그는 다음과 같은 주장을 하기에 이르렀다.

그리고 우리는 이것을 리만 가설이라고 한다.
리만-제타 함수의 유의미한 근은 무수히 많이 존재하는데, 첫 몇 개가 다음 사이트에 올라와 있다. 실수부는 1/2이고 허수부가 저런 값인 복소수들 근이라는 얘기이다. 즉, 1/2 + 14.134725...I 부터 시작해서 1/2 + 21.02203963..I , 25.010857...I 등이다.
실제로 ζ( 1/2 + x*I )의 절대값을 그래프로 그려 보면 이렇다. 저 산들의 밑바닥이 근이라는 뜻 되겠다.

리만 제타 함수는 복잡한 함수들의 조합에다, 무한대 적분(정확한 부정적분 형태를 알 수 없는 놈을 대상으로 이상적분..)까지 동반하는 형태로 인해, 계산량이 실로 어마어마하다.
그렇기 때문에 평범한 다항함수, 삼각함수, 로그, 지수(일명 초등함수)로만 구성된 함수보다 그래프를 그리기가 훨씬 더 힘들다. 그러고도 저건 정확하게 그려진 게 아니다. (21 부근에 그래프가 정확하게 바닥까지 내려가지 않았음) 다른 건 다 해석적으로 확장한다 쳐도, 대소 비교가 존재하지 않는 복소수 구간에서 적분이란 게 어떻게 존재 가능하단 말인가?

그래프를 봐도 모양이 참 희한하다. 저기서 근들의(= 허수부 값) 분포에는 딱히 규칙성이 없는 것으로 여겨진다. 복소평면에서의 무슨 프랙탈 영역 그림 이래로 이 정도로 복잡기괴한 그래프를 보는 건 개인적으로 처음이다.;; 다만, 지금까지 셀 수 없이 많은 복소수 근들을 직접 구해 봤는데, 일단 리만 가설이 다 성립하긴 했다. 전부 1/2 + xx*I의 형태로 표현되었다. 자명하지 않은 근도 무한히 많이 존재하긴 하며, 이는 증명되어 있다.

아아.. 본인이 수학 분야에서 이렇게 길고 복잡한 글을 쓸 일이 이렇게 또 생길 줄은 정말 상상하지 못했다. 나도 머리가 뱅뱅 돌아 버리겠다.. ㅡ,.ㅡ;;
리만-제타 함수는 문제를 풀기는커녕 그 배경을 이해하는 것만으로도 복소해석학 등 최하 대학교 수학과 학부 이상의 고등 수학 지식을 요구한다.

공대 수준의 수학 지식이 아니다. 공대에서 배우는 통상적인 미적분의 개념을 아득히 초월하니 원.. 복소수는 그 정의상 실수부와 허수부의 관계가 아주 미묘하다 보니, 해석적으로 다루는 방법론도 평범한 다변수 기반 해석학과는 다르다.

이 함수의 자명하지 않은 근의 분포는 우리에게 도대체 무슨 의미가 있을까?
저게 다 규명되고 리만 가설이 증명 내지 반증된다고 해서 무슨 암호 알고리즘이 다 뚫리고 생활이 큰 혼란이 야기된다거나 하지는 않는다.
다만, 리만 가설은 현대 정수론의 금자탑이라 해도 과언이 아닌 소수 분포와 직접적인 관계가 있다.

자세한 내막은 모르겠지만, x보다 작은 소수의 개수를 나타내는 공식 x/log(x)은 제타 함수의 자명하지 않은 모든 근들의 실수부가 "1이 아니다" 내지 "1보다 항상 작다"와 동치 급으로 얽혀 있다고 한다. 즉, 소수 정리는 리만 가설이 참이라는 것을 얼추 전제로 하고 세워져 있다.

하지만 리만의 추측이 수학적으로 딱 엄밀하게 증명되거나 반증되지는 못한 상태이다. 마치 P와 NP의 관계 문제처럼 말이다.
전세계의 날고 기는 천재 수학자들, 심지어 필즈 상을 받은 사람도 내가 이 문제를 풀었다고 증명을 내놨지만, 어디엔가 오류와 불완전한 점(그게 왜 저렇게 연결되는데?)이 발견되어 종종 퇴짜를 맞곤 했다. 오죽했으면 20세기 초에 세계구급 수학자들이 이렇게 말을 했을 정도이다.

• 나는 잠들었다가/죽었다가 한 500년쯤 뒤에 깨어날 수 있다면, 벌떡 일어나자마자 주위 사람에게 "리만 가설 문제가 이제 풀렸나요?"라고 물어 보고 싶다. -- 다비트 힐베르트(1862-1943)
• 나는 배를 탈 일이 있으면 낚시로라도 "난 리만 가설을 증명했다. 하지만 증명을 다 적기에는 여백이 부족하다"라는 쪽지를 지니고 탄다. 그 상태로 사고가 나서 죽으면 세상은 낚시에 낚여서 나를 온통 안타까워하고 추모해 줄 것이다. 하지만 나는 무신론자이고, 신이 존재한다면 그런 내게 저런 영광을 허락해 주지 않을 것이기 때문이다." (즉, 저 쪽지가 나를 죽지 않게 하는 일종의 보험· 부적 역할을 할 것이란 말을 참 배배 틀어서 어렵게 표현했다. =_=) -- 고드프리 해럴드 하디(1877-1947)

사람에게는 오늘 당장 먹고 살기 위한 빵과, 내일을 준비하기 위한 꿈이 필요하다고들 그런다. 그것처럼 저명한 천재 수학자들은 다른 자기 전공 분야에서 논문 발표하고 연구 실적을 낸 뒤, 그걸 밑천으로 리스크가 큰(= 전혀 풀리지 않아서 시간과 노력만 낭비하게 될 수도 있는) 리만 가설에도 틈틈이 남 몰래 매달리는 식으로 시간을 분배하는 편이라고 한다.

이건 마치 침몰한 보물선을 인양하고 신대륙에서 금을 찾는 일에다가도 비유할 수 있을 것 같다. 금과 보물을 찾았다가는 인생한방 역전이지만.. 전혀 성과가 없으면 투자금만 날리고 사람을 완전 미치게 만들 수 있으며, 실제로 미쳐 버린 수학자도 몇몇 있다. (영화 뷰티풀 마인드 참고..)
그리고 미치지는 않았는데, 반대로 어줍잖은 실력으로 이 문제를 풀었다고 주장하면서 학계 사람들을 귀찮게 굴거나, 거짓 주작 사기를 치는 사람도 있다. 문화재를 거짓 조작한 사기꾼처럼 말이다.

그랬는데.. 지난 2018년 9월 말, 영국에서 '마이클 아티야'(1929-)라고 나이 90을 바라보는 어느 원로 수학자가 리만 가설을 수리물리학적인 방법론으로 접근하여 완전히 풀었다고 나섰다. 논문을 내고 방송 발표를 자청했다.

이 사람은 여느 듣보잡 관심종자가 아니었다. 무려 1966년(지금 본인과 비슷한 나이.ㅠㅠ)에 필즈 상을 받았으며 2004년에 아벨 상까지 받은 금세기 최고로 손꼽히는 천재요 수학계의 거장이었다. 소싯적에 리만 가설 만만찮은 연구 실적을 잔뜩 내기도 했고, 이딴 것 갖고 사기를 칠 아무 동기도, 이유도 없는 사람이었다.

그의 선언은 세계의 이목을 받았지만 정작 뚜껑을 열어 보니 학계의 반응은 허탈함과 아쉬움 일색이었다. "우리 대선배님이 갑자기 왜 이러시나.." 안 그래도 예전부터 그가 공개 석상에서 횡설수설하면서 오락가락.. 상태가 좀 안 좋다는 정황이 포착되어 왔는데, 이번 방송에서도 수학사가 어떻고 하면서 진짜 증명과 별 관계 없는 얘기만 늘어놓으면서 막무가내로 학계가 내 주장을 안 받아주는 거라고 우기는 식이었기 때문이다. 방송 말고 논문도 검증 과정이라고 하지만 예상 반응은 벌써부터 극히 회의적이다.

그래서 현직 수학자들은 이 사태에 대해서 언급을 극도로 꺼리면서 "비록 증명에 실패했다 하더라도 유의미한 연구의 밑거름이 될 것입니다" 덕담이나 하는 한편으로, "리만 가설이 위대한 수학자 한 분을 또 골로 보냈구나, 그것도 말년에.. 저분은 원래 늘그막에 저렇게 망신당할 군번이 절대 아닌데 아 슬프도다!" 이런 입장이었다고 한다...;;

사실, 본인은 이 뉴스 기사를 접하기 전에는 저 사람에 대해 알지도 못했다. 단지, 리만 가설 이상으로 악명 높고 역시나 여러 사람들을 골로 보낸 이력이 있던 "페르마의 대정리"를 풀어 낸 사람(앤드루 와일즈)이 영국 사람인 건 진작부터 알고 있었다. 저런 유럽 나라들은 어떻게 저렇게 수학· 과학이 발달할 수 있었는지 경이롭고 대단하게 느껴질 따름이다.

Posted by 사무엘

* 옛날 2014년에 썼던 글을 관련 내용을 크게 보강하여 리메이크 한 것이다.

디지털 컴퓨터라는 게 0과 1, 2진법을 사용하다 보니, 2^n이라 하면 정보량과 관련해서 특히 컴퓨터쟁이들에게 아주 친근한 수이다.
그런데 2^n보다 1 더 크거나 작은 수가 소수라면 제각각 수학적으로 좀 독특한 의미를 갖게 된다.

1.
2^n-1 형태인 수를 메르센 수라고 한다. n층짜리 하노이의 탑의 원반을 옆으로 모두 옮기기 위해서는 이 메르센 수만치 지수함수적으로 증가하는 횟수만치 원반을 이동시켜야 한다. 그리고 메르센 수 중에서 소수인 놈을 메르센 소수라고 한다.
얘가 소수이려면 n도 반드시 소수여야 한다. n을 a와 b라는 두 자연수의 곱이라고 생각하고 2^ab - 1을 인수분해해 보면 그래야만 하는 구조적인 이유를 알 수 있다.

(2^ab는 (2^a)^b 와 같다. 2^(a+b)하고 혼동하지 말 것.)

n이 합성수여서 2 이상인 두 자연수 a, b의 곱으로 나타내어질 수 있다면 2^n-1은 빼도 박도 못하고 무조건 합성수가 돼 버린다. 전체 결과가 소수가 되려면 a는 1이고 b는 소수로 귀착되는 것밖에 가능성이 없다. 비록 이 조건이 만족된다고 해서 2^n-1이 언제나 반드시 소수가 된다는 보장은 없지만 말이다.
가장 작은 반례는 2^11-1이다. 11은 소수이지만 2047은 23*89로 소인수분해 되는 합성수이다.

메르센 수는 2^n에서 1이 부족한 형태라는 특성상 2진법으로 나타내면 모든 자리수가 1이다. 컴퓨터에서 취급이 간편하기도 하고, 또 n의 소수 여부를 판정한 뒤에 곧장 무려 2^n-1이라는 방대한 수를 취급할 수 있다는 특성상.. 컴퓨터로 가장 큰 소수를 찾는 프로젝트는 대개 메르센 수를 대상으로 진행되곤 한다. 물론 실제로는 메르센 수가 아닌 소수도 많이 있으며, 반대로 메르센 수 중에서도 메르센 소수는 매우 드물다는 점을 감안할 필요가 있다.

저런 거 찾는 건 거의 애니메이션 렌더링과 같은 급으로 상상을 초월하는 계산량으로 컴퓨터를 열받게 하고 혹사시키는 작업이다. 그나마 양만 많지 내부 과정 자체는 단순무식한 편이니 병렬화가 수월한 건 다행인 점이다.

메르센 소수는 짝수 완전수와 필요충분 관계로 정확히 대응하는 것으로 유명하다. (약수의 합이 자신과 같은 6, 28, 496 같은 수) 메르센 소수 2^n-1에다가 2^(n-1)을 곱하면 완전수가 나오기 때문이다. 괄호 순서에 유의할 것. 즉, 저기서 n에다 소수를 집어넣으면 된다. 천재 수학자 오일러가 모든 짝수 완전수는 이런 형태라는 것을 증명했다.
현재까지 메르센 소수는 약 50여 개가 알려져 있으나, 무한히 존재하는지는 불명이다.

2.
그럼, 다음으로 2^n+1의 경우를 생각해 보자. +1은 -1보다 더 자비심이 없다. n은 소수가 아니라 반드시 2의 거듭제곱 형태여야 그 값이 소수일 일말의 가능성이 생긴다. 이는 n의 소인수 중에 홀수가 절대로 존재해서는 안 됨을 의미한다. 아까 전과 비슷한 방식으로 2^ab + 1을 인수분해해 보면 그 이유를 알 수 있다.

n의 소인수에 홀수가 존재해서 그걸 b라고 설정하면 아까 -1일 때와는 부호만 미묘하게 다르게 저렇게 인수분해가 되며, 이 수는 100% 합성수임이 보장돼 버린다. (2^a - 1)이라면 a=1인 걸로 맞춰서 없앨 수라도 있지만, (2^a + 1)은 도저히 처분할 방법이 없다.

하긴, 고등학교 공통수학 수준의 인수분해 공식을 생각해 봐도, n이 홀수일 때에 한해서 (a^n + b^n)은 a+b로 나눠 떨어지며 인수분해가 된다. 나눠진 몫에 해당하는 항은 a^n에서 b^n으로 a와 b의 차수가 조금씩 늘고 줄고 부호가 교대로 바뀐다.
이를 일반화하면, n이 굳이 홀수가 아니더라도 6이나 10처럼 홀수 소인수가 포함돼 있으면(3, 5) (a^n + b^n)은 굳이 a+b가 아니더라도 (a^2+b^2) 같은 것으로라도 나눠 떨어지며 인수분해가 된다. 그렇지 않고 홀수 소인수가 전혀 없다면 +의 경우는 인수분해를 할 수 없다.

부연 설명 차원에서 인수분해된 식들이 전개되는 양상을 시각적으로 살펴보면 이러하다.
a^n - b^n은 n의 값과 관계없이 언제나 a-b로 나눠 떨어지며, 나눠진 몫의 항들은 부호가 모두 +가 유지된다. 전부 +인 항들이 한 칸 옆으로 물러간 채 -로 바뀌어서 전부 +/-가 상쇄돼 버리고 맨 앞의 +와 -만 남는다
++++
 ----
+...- (a-b)

하지만 a^n + b^n일 때는 +와 -가 교차하는 항들이 한 칸 옆으로 맞물려서 상쇄돼야 맨 앞과 뒤의 +가 남을 수 있다. 그러니 이때는 항이 홀수 개여서 양 끝이 +가 유지돼야 인수분해가 가능해지는 것이다.
+-+-+
 +-+-+
+....+ (a+b)

(쪼개고 쪼개도 분자 단위에서 계속 앞뒤로 + - 극을 갖는 자석 같아 보이기도 하고..;;)
이 두 경우를 모두 종합한 듯이 인상적인 상황은 (a^n - b^n)에서 n이 2의 거듭제곱 형태일 때이다. n=8인 경우를 예로 들어 보면, 이 식은 (a^4 + b^4)(a^2 + b^2)(a + b)(a - b)라고 아주 드라마틱하게 인수분해가 된다. n이 2의 거듭제곱이면 (a^n + b^n)은 -일 때와는 반대로 인수분해가 도저히 더 되지 않는 다항식계의 소수(?) 같은 존재가 된다.

그렇기에 2^n+1도 n이 반드시 2의 거듭제곱 형태여야만 구조적으로 인수분해가 되지 않고 소수일 가능성이 생기는 것이다. 그리고 2^(2^n)+1 형태인 수를 페르마 수라고 하며, 그 중 소수인 놈을 페르마 소수라고 한다. 간단하게 2^n-1로 정의되는 메르센 수와는 양상이 다르다.

그러니, 태생적으로 딱 봐도 페르마 소수는 메르센 소수보다도 더욱 드물 것 같이 생겼는데, 실제로 그러하다.
n에 비례해서 숫자가 넘사벽급으로 너무 폭발적으로 커지는 관계로, 페르마 소수는 n=0..4인 처음 겨우 5개밖에 알려져 있지 않다(3, 5, 17, 257, 65537). n이 아니라 2^n으로 계산한 것이다.

여기서 페르마란 "페르마의 마지막 정리" 내지 추측을 제시했던 17세기 프랑스의 그 엄친아 변호사 겸 아마추어 수학자를 가리키는 거 맞다..
페르마 자신은 저런 형태로 생성된 모든 수들이 소수일 거라고 1637년에 추측하였으나, 그로부터 100여 년 뒤인 1732년, 오일러가 n=5인 2^32+1은 소수가 아니라고 반증을 해 버렸다. 아까 그 메르센 소수와 완전수 관계를 증명한 그 오일러 말이다.
지금이야 그 정도 크기의 수는 컴퓨터로 소수 여부를 아주 간단히 판별할 수 있지만 오일러는 컴퓨터도 없던 시절에 저걸 도대체 어떻게 알아낸 걸까? 찰스 웨슬리가 찬송시 And can it be that I should gain을 쓰기도 전의 일이다(1738).

제곱근인 65536 이내의 모든 홀수들을 브루트 포스 식으로 일일이 주판 돌려서, 제자들까지 멀티코어로 동원해서 나눠 본 건 물론 아니고..
2^32 + 1의 소인수는 반드시 64k+1 의 형태라는 것을 어떤 계기로 알아내고는 찾았다고 한다. 범위를 많이 좁힌 것이다.
실제로 2^32 + 1은 641 * 6700417인데, 이는 (64*10+1)*(64*104694+1)이다.
그는 이를 일반화하여 페르마 수의 소인수는 반드시 "2의 거듭제곱의 a배 + 1"이라는 사실까지 정립했다.

n=5에 속하는 2^32+1에 이어 n=6 (2^64 + 1)의 경우도 합성수라는 게 추가로 밝혀진 건 오일러 이후로 또 100년이 넘게 지난 무려 1855년의 일이다(by Thomas Clausen). 나머지 페르마 수들도 대략 32까지 구해 보니 줄줄이 다 합성수라는 것이 계산을 통해 밝혀졌다. 페르마의 예상과는 정반대로 흘러간 셈이다.
그러니 65537을 끝으로 페르마 소수는 더 존재하지 않는 게 아닌가 추측되고 있으나, 이 역시 홀수 완전수의 존재 여부만큼이나 정식으로 증명된 것은 아니다.

메르센 소수가 짝수 완전수와 동치 관계이듯, 페르마 소수 역시 굉장히 의외의 곳에 큰 의미를 지니고 있다. 이것은 작도 가능한 정다각형의 특성과 관계가 있다. 변의 개수의 소인수가 2 and/or 페르마 소수들로만 이뤄진 정다각형은 눈금 없는 자와 컴퍼스를 이용해 작도 가능하다. 작도 가능한 수는 아무래도 사칙연산과 '제곱근'만으로 기술 가능한 수이니, 제곱근만을 연달아 적용하는 건 2의 거듭제곱만치 또 거듭제곱을 하는 것과 심상면에서 비슷해 보이긴 한다.

그렇기 때문에 작도 불가능한 최초의 정다각형은 정칠각형이며, 반대로 정17각형은 절차가 굉장히 복잡하고 까다롭긴 해도 작도 가능하다. 17은 페르마 소수이니까. 이걸 발견하여 증명한 사람은 오일러...는 아니고 18세기 독일의 천재 수학자인 가우스이며, 그것도 굉장히 어린 나이에 발견했다. sin 1도가 초월수가 아니라 대수적인 수이듯, cos 2*PI/17 역시 형태만 복잡할 뿐, 대수적인 수임을 의미한다.

(그림의 출처: 나무위키)
뭐, 이론적으로만 가능하다는 거지, 실제로 해 보면 누적되는 오차와 지저분한 보조선들 때문에 감당이 어려울 것이다. 하물며 정257각형과 심지어 정65537각형은? 이것도 이론에서나 작도 가능하다는 얘기다.

자, 지금까지 한 얘기들을 요약하면 다음과 같다.

• a^n-b^n은 언제나 a-b로 나눠 떨어지며 2^n-1 역시 그런 꼴의 수이므로, 얘를 소수로 만들려면 a-b가 반드시 1인 상황을 만들어야 한다. 그리고 메르센 수에서 그 경우란 n이 소수인 경우밖에 없다.
• 그리고 2^n+1의 일반형인 a^n+b^n은 아까처럼 한쪽 인수를 1로 만드는 게 불가능한 대신에, 인수분해 가능 여부가 n의 차수에 따라 조건부로 결정된다. 소수를 만들려면 물론 애초에 인수분해를 할 수 없는 상황을 만들어야 하며, n은 단순히 짝수인 정도를 넘어 소인수에 홀수가 전혀 없어야 한다. 그래서 n 자체가 2의 거듭제곱 형태인 것만 남는다.

그러고 보니 페르마뿐만 아니라 메르센도 17세기 동시대를 살았던 프랑스 사람이기 때문에 둘이 공통점이 있다. 메르센은 블레즈 파스칼의 스승이기도 했다. 프랑스, 독일 그쪽은 수학· 과학 쪽으로 그때로부터 지금까지 한가닥 하고 있는 대단한 동네이다.

* 소수 관련 여담

(1) 소수 자체가 안 그래도 수가 커질수록 (log n) / n 급의 스케일로 자연수에서 등장 빈도가 극도로 드물어진다. 그런데 그 소수들 중에서도 굉장히 까다로운 조건을 만족하는 메르센 내지 페르마 소수 같은 것들은 한계치 최대치가 존재한다 해도 이상할 게 없을 것이다. 굳이 수 자체가 특이한 게 아니더라도 2 간격으로 나란히 존재하는 쌍둥이 소수 쌍(5와 7, 11과 13, 17과 19..) 같은 것도 말이다. 그런데 한계치가 있다면 그 최대값이 알려져 있어야 할 텐데 그것이 수수께끼이다.

(2) 오일러의 업적 중에는 소수와 관련해서도 정말 살떨리는 것들이 많다. 자연수의 제곱의 역수의 무한합이 원주율과 관계 있는 수로 수렴한다는 것을 규명했을 뿐만 아니라 이건 소수의 분포와도 관계가 있기 때문에 임의의 두 수가 서로 소일 확률과 같다고 입증한 건 뭐.. 할 말을 잃게 만든다. 예전에 본인의 블로그에서 다룬 적이 있다.

(3) 또한 그는 소수의 개수가 무한한 건 말할 것도 없고, 소수의 역수의 무한합이 무한대로 발산한다는.. 거의 충격과 공포 안드로메다급의 명제도 증명했다. 물론 속도는 이중 로그(로그에다 또 로그) 급으로 끔찍하게 느리니 기대하지 말자. 그냥 자연수의 역수의 합만 해도 얼마나 느린데 하물며 소수의 역수는! 쉽게 말해 10에다 0을 10의 20승개만치 붙인 영역만치 소수의 역수를 더하면 합이 20이 될까말까 한다는 뜻이다. 쟤가 도대체 제곱의 역수의 무한합보다 뭐가 더 나은 구석이 있다고 발산을 하는 걸까?

단, 쌍둥이 소수들의 역수의 합은 유한으로 수렴한다고 한다. 쌍둥이 소수가 유한하다면 당연히 유한 수렴이겠지만, 무한하다 하더라도 얘는 발산하지 못한다고.. 구체적인 값은 모르겠지만 추세가 그렇게 된다는 큰 그림만 증명을 한 것이다. 어떻게 증명했는지는 나한테 묻지 마시길.

(4) 가우스, 오일러 등 인류 역사상 수많은 괴수 천재 수학자들이 초월적인 업적을 남기고 갔지만, 어떤 형태로든 소수 생성 규칙을 표방하는 모든 예측· 추측은 지금까지 하나도 완벽하게 적중한 게 없었다. 저 페르마의 추측처럼 말이다.
소수를 생성하는 규칙을 무슨 정보 검색이나 패턴 매칭에다가 비유해서 설명하자면, 정밀도와 재현율(precision & recall) 어느 것 하나라도 확실하게 잡는 규칙이 지금까지 발견된 적이 없다는 것이다. 정밀도가 100%라면 모든 소수를 커버하지는 못해도 일단 이 규칙이 생성하는 수는 다 소수임이 보장되는 것이고, 재현율이 100%라면 종종 소수가 아닌 놈(false alarm)이 섞여 있더라도 소수는 하나도 빠짐없이 커버한다는 뜻이다.

(5) partition number라는 게 있다. f(2)라면 1+1, 2 이렇게 2가지, f(3)이라면 1+1+1, 2+1, 3 이렇게 3가지, f(4)라면 1 1 1 1, 2 1 1, 2 2, 3 1, 4 이렇게 5... 뭔가 테트리스 조합처럼 올라가는데, 이 수열이 2 3 5 7 11 (15 22...) 이렇게 앞부분은 소수와 굉장히 비슷한 양상으로 시작한다. 무슨 파이의 그럴싸한 근사값을 보는 듯한 느낌이나, 얘는 실제로는 소수와는 수학적으로 아무런 관련이 없는 놈이다.

n에 대해서 f(n)의 값을 구하는 건 다이나믹 프로그래밍으로 해결 가능하다. 피보나치 수열 구하는 것보다는 어렵고 꽤 재미있는 프로그래밍 excercise이므로 관심 있으신 분은 도전해도 좋다. 참고로 점화식 함수 내지 테이블은 보기와는 달리 1변수로는 안 되고 2변수 형태로 짜야 한다.

Posted by 사무엘

원이란 2차원 공간상의 한 점에서 거리가 같은 점들의 집합으로 정의된다. 공간이 3차원으로 확장되면 구도 이와 같은 맥락으로 정의 가능하다.
이 정의에 따라, 먼저, 0..r 범위에서 반지름이 r인 사분원을 나타내는 방정식

  f(x) = sqrt(r^2 - x^2)

를 정의하자.
이 사분원의 호의 길이는 거리의 적분에 따라

  int(  sqrt( f'(x)^2 + 1 ) , x=0..r)

(f'(x)는 f(x)의 도함수. int는 짐작하듯이 0부터 r까지 x에 대한 정적분을 나타냄)
을 풀면 PI*r/2 가 된다. 사분원의 길이이므로 여기에다 4를 곱하면
반지름이 r인 원의 길이는 2*PI*r이 나온다.
위의 적분식에서 1은 당연한 말이지만 적분변수가 약분되어 1이 된 것이며, 그걸 역시 제곱한 값이기도 하다. 괜히 더해진 게 아니다. ^^;;

넓이는 그냥 f(x)를 적분하면 바로 구해진다.

  int( f(x), x=0..r)

의 값은 PI*r^2 /4 가 되고, 역시 4를 곱하면 반지름이 r인 원의 넓이는 PI*r^2이 된다. 적분을 실제로 풀기 위해서는 치환 적분 기법이 필요하다.

이제 3차원 세계로 가서 구의 부피를 구하면 어떨까?
반구의 단면은 역시 0부터 r까지 반지름 자체가 원의 방정식과 같은 무수한 원으로 이루어져 있으며 이것들을 적분하면 부피를 구할 수 있다. 어렵지 않다. 즉, 원의 넓이 PI*r^2에서 r 대신에 f(x)를 넣으면 된다는 소리.

  int( f(x)*f(x)*PI, x=0..r)

의 값은 2/3 * PI * r^3이 된다. 반구의 부피이므로 이것에다 2를 곱하면 4/3 * PI * r^3이 바로 반지름이 r인 구의 부피이다.

마지막으로 구의 겉넓이를 구해 보자.
여기서 사람들이 제일 많이 틀리는 게 뭐냐 하면, 넓이를 그대로 적분하면 부피가 되었듯이 원호 길이를 그대로 적분하면 겉넓이가 될 거라는 생각이다. 그런데 그렇게 하면 적분을 해석적으로 풀든, 심지어 100개 1000개로 구간을 아무리 많이 나눠서 컴퓨터로 계산을 해 봐도 정확한 값이 나오지 않는다! 실제값보다 더 작은 값이 나온다.

원의 넓이나 구의 부피처럼 각 구간에서의 함수값만이 중요하다면 구간 수를 무수히 늘림으로써 정확한 값으로 수렴이 가능하겠지만, 구의 겉넓이는 앞서 다뤘던 '길이'를 구하는 것과 일면 비슷한 개념이다. 내 자신의 값뿐만 아니라 인접한 구간과의 기울기라는 개념이 감안되어야만 정확한 적분값이 나온다.
그래서 2*PI*r뿐만 아니라 원호를 구할 때 쓰던 식이 첨가되어야 한다.

  int( 2*PI * f(x)* sqrt( f'(x)^2 + 1 ), x=0..r)

이 적분식의 값은 2*PI*r^2이 나오며, 역시 2를 곱하면 반지름이 r인 구의 겉넓이는 4*PI*r^2임을 알 수 있다.

덧붙이는 말

1. 1부터 100까지 일일이 덧셈을 할 필요가 없이 등차수열의 합을 구하는 식에 대입만 하면 100이 아니라 1000, 10000까지의 합도 손쉽게 구할 수 있듯.. 우리가 알고 있는 리만 적분도 굉장히 대단한 지식이다. 수천, 수만 개의 구간을 나눠서 일일이 함수값을 구하며 뺑이를 칠 필요 없이, 함수식의 부정적분을 구한 후 하한값과 상한값의 차이만 구하면 된다니, 놀랍지 않은가? 게다가 여기에다 부분 적분과 치환 적분의 위력까지 더해지면 초월 함수를 다루기도 더욱 수월해진다.

2. 사실 미분과 적분은 서로 다른 별개의 분야에서 출발했다. 접선 기울기하고 면적/부피는 언뜻 보기에 분야가 다른 것 같은데, 함수의 부정적분이 도함수의 역함수와 같다는 것이 증명되면서 미적분학이라는 한 학문이 태동한 것이다. 옛날엔 '극한이라는 걸 수학적으로 엄밀하게 정의하는 게 가능하나?' '이건 너무 사악한 사고방식이 아닌가?' 이런 걸 갖고 고민하던 시절이 있었다. 그저 기계적인 계산 테크닉(로피탈의 정리 같은. -_-)만 달달 외워서 점수 따기에는 이 분야는 너무나 깊이 생각하고 느껴야 할 게 많다. 본인 역시 학창 시절엔 그런 걸 별로 경험하지 못했다. 세상에 이런 개념을 처음 만든 사람은 무슨 생각으로 이런 걸 만들어냈을지를 곱씹어 보자.

3. 리만 제타 함수라는 게 있다. ζ(n)은 1/1^n + 1/2^n + 1/3^n ..... 의 극한이다. n=1인 경우에 속하는 조화 수열은 0에 수렴하지만, 그 합은 로그 스케일로 매우 느리게 발산-_-하긴 한다. (일반적으로 미분과 적분을 거치면 x의 지수가 1 늘어나거나 줄게 마련인데, 지수가 -1에 속하는 1/x은 부정적분이 예외적으로 생뚱맞은 ln x로.. =_=) 하긴, 숫자가 커질수록 소수의 개수도 로그 스케일급으로 발견되며 매우 드물어진다. 소수의 개수 역시 무한하다는 뜻이기도 하다. 숫자가 커질수록 졸라 찾기 힘들어지겠지만 말이다. -_-;;

이런 함수가 왜 근사한 이름까지 붙어 있는가 하면, n이 2 이상의 짝수일 때 ζ(n)의 값은 PI의 n승의 유리수배의 형태로 산출되기 때문이며, 더구나 이 함수는 소수의 분포와도 관계가 있기 때문이다. 이 엄청난 발견을 해 낸 사람은 불세출의 천재 수학자인 오일러이다. 특히 삼각함수의 테일러 전개와 방정식의 근의 관계를 이용하여, ζ(2) = PI^2 / 6 임을 최초로 알아내기도 했다. 따라서 그 수는 초월수라는 것 역시 덩달아 증명된 셈.

나는 증명을 뻔히 보고도 뭔 말인지 못 따라가겠던데, 사실 저것도 수학에서 가장 아름다운 방정식이라는 e^(PI*I) + 1 = 0만큼이나 그의 위대한 업적이 아닌가 생각한다. 파이, 삼각 함수, 루트, 해석학, 기하학, 복소수 등등등... 다 위로 올라가면 서로 구분이 없이 여기저기서 다 만난다는 뜻이다. 심하게 경이로운 사실이다!

Posted by 사무엘