Barry Cipra, What's happening in the mathematical sciences, American Mathematical Society, 1993의 번역판인
김재겸, 김한두 역, 오늘날 수리과학에서는 어떤 일들이 일어나고 있는가 (I), 교우사, 1996 에서 발췌

---

명백해 보이는 것의 고차원에서의 반증

'명백한(obvious)' 모든 것이 반드시 참인 것은 아니다. 모든 분야의 과학자들은 명백한 결론들을 이끌어 낸다는 것이, 비록 그것이 충분한 근거가 있는 사실들에 연유한다 하더라도, 실험적 증거에 의해서 그런 결론들이 뒷받침되지 않으면 위험하다는 것을 알고 있다. 이와같은 것은 수학의 경우에서도 수학적 증명이 실험실의 실험 작업을 대신한다는 것을 제외하고는 마찬가지이다. 수학적 탐구에서는 직관이 길잡이 역할을 하게 되는데, 수학자들은 그러한 직관이 증명에 의해서 확증되었을 때만 '명백한 것'을 참으로 받아들인다. 이러한 접근은 때때로 명백해 보이는 것이 실제로는 참이 아니기 때문에 필요한 것이다.
수학자들은 1992년에 그런 일이 한번도 아니고 두번이나 일어나는 것을 보았다. 임의의 차원에 관한 성질들로 명백하게 일반화가 가능할 것으로 믿어졌던, 평면기하와 입체기하에서 동시에 성립하는 기하학적 도형들에 관한 성질 두 가지가 실제로는 그렇게 일반화되지 않는다는 것이 밝혀졌다. 그 두 가지의 성질들은 서로 유사하지만 완전히 독립적인 것이다. 이와 같은 발견들은 보통의 공간에서의 직관이 고차원에서의 사고에 부응하지 못할 것이라는 연구원들의 의혹을 재확인 시켜 주었다.
고차원 기하학이 수학의 많은 응용분야들에서 중요하게 사용되자 않는다면, 그러한 문제는 학문적인 관심으로 끝났을 것이다. "나는 언어 인식에 관심이 있는 사람들과 DNA를 다루는 알고리즘들에 관심이 있는 사람들로 부터 고차원 기하학에 관한 질문들을 받았었다."라고 미국 AT&T 벨 연구소(AT & T Bell Laboratories)의 연구원인 수학자 쇼어(Peter Shor)는 말한다. 다변수 문제나 자료의 긴 문자열들을 다루는 문제를 취급할 때 수학적 구조가 자연스럽게 대두되는데, 고차원 기하학은 그러한 경우의 수학적 구조를 제공한다. 특히, 위성 원격계측, 컴퓨터 모뎀, 컴팩트 디스크 등에서의 자료의 신뢰성있는 저장과 전송을 뒷받침하는 수학적 구조인 오류정정코드(error-correcting code)들의 개발에 고차원 기하학은 큰 역할을 한다.
'명백한' 일반화에 관한 한 문제가 미국 러트거 대학(Rutgers University)의 칸(Jeff Kahn)과 이스라엘 히브리대학(Hebrew University)의 칼라이(Gil Kalai)에 의해 본격적으로 다루어지기까지 60년동안 수학자들을 괴롭혀 왔다. 1933년 폴란드 수학자인 보르스크(Karl Borsuk)는 평면에서 '직경'(도형에 있는 점들 사이의 거리들 중 최대값)이 1인 임의의 영역은 각 부분의 직경이 1미만인 3개의 부분들로 분할될 수 있음을 증명하였다. (그림 1과 2참조) 이것은 직경이 1인 일차원 도형, 즉, 길이가 1인 선분은 더 짧은 2개의 부분들로 분할될 수 있다는 너무도 자명한 관찰을 일반화 한 것이다.

그림 1. 주어진 영역에서 A와 B가 가장 멀리 떨어져 있는 두 점이다. 그 두 점 사이의 거리를 그 영역의 '직경'이라 한다.

이 두 경우를 기초로 하여, 보르크스는 다음과 같은 명백한 질문을 제기하였다. 직경이 1인 임의의 d차원의 도형을 직경이 1미만인 d + 1개의 부분들로 분할하는 것이 항상 가능한가? 그 이후로 이 질문의 '명백한' 긍정적 대답을 보르스크의 추측이라 부르게 되었다.

그림 2. 더 작은 직경을 갖는 부분들로 원과 구를 분할하는 두가지 방법들

물론, 많은 도형들의 경우 d + 1개 보다 적은 갯수의 부분들로 분할하는 것이 가능하다. 예를 들면, 대각선의 길이가 1인 정사각형은 적당하게 반으로 분할하면 된다. 한편, 평면에서의 정삼각형, 3차원 공간에서의 사면체, 더 높은 차원에서의 이 도형들에 대응하는 도형들의 분할에는 차원이 d인 경우 꼭 d + 1개의 부분들이 필요하다. 왜냐하면, 그 도형들의 꼭지점의 개수는 d + 1개이고, 각 꼭지점들 사이의 거리가 모두 1이므로, 각 꼭지점들은 서로 분리되어야 하기 때문이다. 보르스크의 추측은, 모든 부분들이 원래의 도형보다 더 작은 직경을 갖도록 하기 위하여 모든 도형이 꼭 d + 1개의 부분들로 분할되어야 한다는 것을 말하는 것이 아니라, 필요한 부분들의 최대 갯수가 d + 1개라는 것이다.
1946년 보르스크의 추측에 관한 좋은 징조가 나타났는데, 스위스 수학자인 하트비거(Hugo Hadwiger)가 임의의 d차원 기하학적인 도형은 그 경계가 매끄럽다면 더 작은 직경의 d + 1개의 부분들로 분할될 수 있음을 보였다. 다른 말로 표현하면, 보르스크의 추측은 코너나 접힌 부분이 없는 d차원 구같은 도형에서는 참이라는 것을 보였다.
1955년 영국 수학자인 이글스톤(H.G. Eggleston)은 d = 3일 때 보르스크의 추측을 증명했다. 이 두 가지의 결과들이 1992년 칸과 칼라이가 본격적으로 뛰어들어 보르스크의 추측을 무너뜨릴 때까지 이루어진 연구의 거의 전부다.
실제로는, 칸과 칼라이가 보르스크의 추측을 완전히 배제한 것은 아니다. 보르스크의 추측은 상당히 많은 차원들에서 여전히 참일 수 있다. 그들이 보인 것은 고차원일 경우 임의의 d차원 대상을 더 작은 직경의 부분들로 분할하는 데 필요한 부분들의 최소의 갯수가 d + 1보다 급격히 빠르게 증가한다는 것이다. 특히, 칸과 칼라이는 그 최소의 개수가 1.1보다 크다는 것을 증명했다.
그 공식은 d의 값이 작아서 d + 1이 1.1보다 크게 되는 경우에는 잘 들어 맞지 않는다. 그러나 대략 d = 10000 에서 출발하면 칸과 칼라이의 공식이 적용된다. ("1.1이 d+1보다 커지는 첫 사례는 d = 9162일 때이다. 좀 더 자세히 살펴보면 2000보다 작은 값에 대해서도 성립하는 공식을 만들 수도 있다."라고 칸은 말한다.) 어쨌든, 그들의 결과는 보르스크의 추측이 고차원에서는 몹시 어긋나고 있음을 밝히고 있다. 또한, 필요한 부분들의 갯수가 선형적이 아니라 지수적으로 증가한다는 것이다.
이러한 결과의 형태를 보면 증명이 길고 복잡할 것 처럼 보인다. 제곱근이 지수로 나타나는 경우는 흔하지 않으며, 1.1도 그렇게 자연스러운 수는 아니기 때문이다. 그러나, 그 증명은, 놀랄만큼 짧다. 단지 몇 줄에 불과하다. 그러나, 그 증명의 길이가 짧다는 것이 그 증명을 얻기가 쉽다는 것을 의미하지는 않는다. "그것은 증명의 길이는 극히 짧지만 증명을 찾아내기는 아주 어려운 것의 하나의 예입니다."라고 칼라이는 말한다.
그 증명은 두 가지 아이디어들에 입각한 것이다. 그 중 첫째 아이디어는 영국 유니버시티 대학(University College)의 라만(David Larman)에 의한 것인데, 보르스크의 추측을 유한집합들과 그들의 교집합들의 족들에 관한 명제로 해석하는 것이다. 두번째 아이디어는 프랑스 국립과학연구센터(Centre National de la Recherche Scientfique)의 프랑클(Peter Frankl)과 미국 캘리포니아 공과대학(California Institute of Technology)의 윌슨(Richard Wilson)에 의한 것으로, 첫 번째 아이디어에 나오는 족들의 크기에대한 정리이다. (박스참조) 어려운 것은 "이러한 아이디어들을 가지고 무엇을 해야 할 지를 생각해 내는 것" 이었다고 칸은 회상한다. 그러나, 일단 그들이 무엇을 해야 할 지를 올바로 알자마자, 보르스크의 추측의 모순은 프랑클-윌슨(Frankl-Wilson)의 정리로부터 아주 간단하게 유도되었다.
보르스크의 추측이 일반적으로는 무너지고 말았지만, 칸과 칼라이의 반례들의 구성을 살펴보면 아직도 많은 차원들의 경우에서 미해결 상태로 남아있다.

---

보르스크의 추측에 대한 칸과 칼라이의 반증

만약 보르스크의 추측이 옳다면, 보르스크의 추측은 임의의 기하학적 도형에도 적용되어야만 한다. 특히, 보르스크의 추측은 d + 1차원 공간에서의 단위 정방체의 꼭지점들을 통과하는 d + 1차원 공간에서의 단위 정방체의 꼭지점들을 통과하는 d차원 '얇은 조각(slice)'에 대해서도 참이어야 한다. 이때, 단위 정방체의 꼭지점들의 좌표들은 모두 0이거나 1이고, 단위 정방체에서 앏은 조각을 잘라내는 방법은 꼭지점의 좌표가 지정된 갯수의 1을 갖는 그러한 꼭지점들을 통과하여 잘라내는 것으로 제한한다. (그림 3 참조).

그림 3. 3차원 공간에서 단위 정육면체의 꼭지점들을 통과하여 잘라낸 대각의 '얇은 조각'

각 꼭지점은 그 꼭지점의 좌표들이 1이냐 0이냐에 따라 {1, 2, ... , d+1}의 한 부분집합에 대응하는 것으로 생각될 수 있다. 예를 들면, (1,1,0,0,1)은 부분집합 (1,2,5)에 대응된다. 이런 해석에 의하면, 두 꼭지점들 사이의 거리는 그 꼭지점들에 대응하는 부분집합들간의 교집합의 크기와 관련되는데, 대응하는 부분집합들간의 교집합이 작아질 수록 꼭지점들간의 거리는 커진다.
이러한 설정하에서 라만은 보르스크의 추측이 집합들에 관한 다음과 같은 조합론적 주장으로 변형될 수 있다는 것을 알았다. S가 {1, 2, ... . d + 1}의 부분집합들의 족으로서, S에 속하는 부분집합(즉, S의 원소)들의 원소의 개수가 모두 같고, 또한, S에 속하는 임의의 2개의 부분집합들이 적어도 n개의 공통 원소들을 갖는다면, S를 d + 1개의 부분으로 분할하되 각 부분에 있는 임의의 2개의 부분집합들이 적어도 n+1개의 공통원소를 갖도록 분할 할 수 있다.
이렇게 변형된 보르스크의 추측을 이용하여, 칸과 칼라이는 보르스크의 추측이 거짓임을 밝혔다. 그들이 그러한 결과를 얻기 위하여 이용한 매개물이 다음과 같은 프랑클-윌슨의 정리이다. k가 소수(prime number)의 거듭제곱일때, S는 {1, 2, ... , 4k}의 부분집합들의 족이고, 각 부분집합(즉, S의 원소)들의 원소의 갯수가 2k개이고, S에 속하는 어떤 두개의 부분집합도 k개의 공통 원소들을 갖지 않는다면, S는 많아야 2_{4k - 1}C_{k - 1}개의 원소들을 가진다. (이 한계는 2k개의 원소들을 갖는 부분집합들의 전체 갯수보다 지수 인수만큼 작다)
프랑클-윌슨의 정리가 보르스크의 추측과 어떻게 상반되는지를 깊이 생각해보도록 독자에게 권유한다. 그러나, 독자들은 "그것은 증명의 길이는 극히 짧지만 증명을 찾아내기는 아주 어려운 것의 예이다."라는 칼라이의 경고를 기억해야만 한다.

---

특히, "4차원의 경우에서는 분명히 전체문제를 보는 다른 방법이 필요하다."라고 칼라이는 말한다. 이경우에서 보르스크의 추측은 사실일 수도 있고 거짓일 수도 있다. 누구도 모른다. 그리고, 그것을 누군가가 판명하기까지는 앞으로 60년이 걸릴수도 있으며, 혹은 600년이 걸릴수도 있다. 그러나 내일 안으로 증명될 수도 있다.
보르스크의 추측을 산산이 부수고만 칸과 칼라이의 결과는 1992년의 직관에 어긋나는 두개의 기하학적 발견들 중 두번째 것이었다. 1992년 초 AT&T 벨 연구소의 쇼어와 라가리아스(Jeff Lagarias)는 60년이나 된, 그 뿌리는 60년보다 더 오래된, 다른 문제에 도전했다. 그들이 주목했던 추측은 평면에서의 정사각형들에 대한 다음과 같은 간단한 관찰에 근거를 두고 있는 것이다. 똑같은 크기의 정사각형의 타일들로 평면 전체에 타일끼리 서로 포개어지지 않고 빈틈이 없이 꼭맞게 타일을 붙여 나간다면, 정사각형의 타일들의 변들 중 서로 다른 두 변이 완전히 일치되게 붙여지는 경우가 반드시 있다. 실제로, 정사각형의 타일들을 사용한 평면타일 붙이기는 본질적으로 한 종류 뿐이다. 즉, 정사각형의 타일들을 사용한 평면 타일 붙이기는 모두 서양 장기판에서 각 행들을 적당히 좌우로 이동시킨 형태들 중 하나이다. (그림 4a, 4b참조)
만일 어린이 장난감용의 쌓기 나무들로써 실험해 본다면, 평면 타일 붙이기와 유사한 일이 3차원에서도 참임을 누구나 쉽게 확신할 수 있다. 즉, 평면 타일 붙이기와 마찬가지 요령으로, 똑같은 크기의 정육면체들을 사용하여 3차원 공간 전체를 채워 나간다면, 정육면체들의 면들 중 서로 다른 두 면이 완전히 일치되게 채워지는 경우가 반드시 있다.

그림 4a. 단위 정사각형들을 사용한 평면 타일 붙이기

그림 4b. 정사각형 C가 화살표처럼 코너로 이동하면, C는 정사각형 A와 완전히 일치되는 공통변을 가지게 된다.

1930년 독일 수학자인 켈러(Ott-Heinrich Keller)는 대담하게도 이러한 관찰들의 일반화를 시도하였다. 그는 차원 d가 얼마이든간에, d차원 공간 '타일링(tiling)'을 한다면, 즉, 똑같은 크기의 d차원 '정방체'들을 사용하여 정방체들 끼리 서로 포개어 지지 않고 빈틈 없이 꼭 맞게 d차원 공간 전체를 채워 나간다면, 정방체들의 '면'(d-1차원임)들 중 서로 다른 두 면이 완전히 일치되게 채워지는 경우가 반드시 있다고 추측했다. 켈러의 추측을 다른말로 표현하면 똑같은 크기의 d차원의 정방체들로서 그 정방체들의 d - 1차원의 면들이 완전히 겹치는 경우가 없이 d차원 전체를 채우는 것은 불가능하다는 것이다.
정확하게 말하자면, 켈러의 추측은, 켈러의 추측이 기초가 된 관찰들과 똑같은 관찰에 기초하였지만 '격자 타일링(lattice tiling)'으로 한정된, 1907년에 있었던 민코프스키(Hermann Minkowski)의 추측을 일반화 한 것이다. 격자 타일링이란 정방체들의 중심들이 마치 다이아몬드 결정에서의 탄소 원자들 처럼 질서 정연하게 늘어서서 망상조직과 같은 격자를 형성하도록 타일링하는 것을 말한다. 훗날, 민코프스키의 추측이 옳았고 켈러의 추측이 틀렀음이 밝혀졌다.
페론(Oskar Perron)은 1940년 켈러의 추측이 6차원까지는 성립한다는 것을 보였다. 그로부터 2년후, 헝가리 수학자 하조스(Gyogy Hajos)는, 격자 타일링에 대한 민코프스키의 추측이 모든 차원에서 참임을 보임으로써, 민코프스키의 정당성을 완전히 입증하였다. 이제 켈러의 추측에 대한 7차원 이상의 경우만 남겨놓고 있었다. 이 문제는 그로부터 50년 동안 미해결인 상태로 남아있었다.
그러나, 더 이상 미해결 상태로 남아있지는 않았다. 라가리아스와 쇼어는 켈러의 추측에 대한 명백한 반례를 10차원 공간에서 발견하였다. 이것은 또는 11차원 이상에서의 켈러의 추측을 파괴하는 것이다. 왜냐하면, 켈러의 추측이 어떤 차원에서 참이 되지 못하면, 자동적으로 그보다 더 높은 모든차원에서 참이되지 못하기 때문이다. (켈러의 추측에 맞지 않게 d차원 정방체들에 의한 d + 1차원 공간 타일링이 가능하다면, 그렇게 타일링한 것은 d + 1차원 정방체들의 층으로 변환될 수 있고, 그 층의 복제물들을 완전히 겹치는 면들이 전혀 없도록 층들을 약간씩 이동하여 겹쳐 쌓아 켈러의 추측에 맞지 않게 d + 1차원 공간 타일링을 할 수 있다.) 이제 해결되지 못한 차원은 7, 8, 9차원 뿐이다.
어떤 의미에서는 이러한 7, 8, 9차원의 경우들은 인내심만을 필요로 할 뿐이다. 그리고, 아마도 거대한 은하수 크기의 초고속 컴퓨터가 필요할 것이다. 그 이유는 페론이 타일링하는 유한개의 서로 다른 방법들만을 조사함으로써 주어진 차원에서의 켈러의 추측을 검증할 수 있음을, 즉, 그 유한개의 방법들중에서 반례가 발견되지 않는다면 켈러의 추측이 주어진 차원에서 참이라는 것을 밝혔기 때문이다. 불행하게도, 그렇게 조사해야 할 타일링의 방법들의 갯수는 믿기 어려울 정도로 많다. d차원에서의 그러한 방법들의 갯수는 2의 2^d거듭제곱이다. 건전한 상태인 그리고 어떤 수학자도 7차원인 경우를 조사하기 위하여 2¹²⁸가지나 가능한 타일링의 방법들에 대한 조사를 시작하지 않을 것이다.
그럼에도 불구하고, 라가리아스와 쇼어는 10차원에서의 반례를 찾기 위한 작업을 하였다. 그들의 작업은, 반례들을 찾기 위한 새로운 접근법을 2년전에 소개한 바 있었던, 헝가리 에트베로랑 대학(Eötvös Loránd University)의 코래디(Kereszyély Corrádi)와 공과대학(Technical University)의 스자보(Sándor Szabó)의 연구를 토대로 하였다. 부분적인 컴퓨터 검색의 결과를 연구함으로써, 라가리아스와 쇼어는 3, 4, 5차원에서 가의 반례가 될 뻔한 타일링 방법들을 발견하였다. (물론 3, 4, 5차원에서의 반례들은 존재하지 않는다.) 그리고는, 이러한 목표 일보직전의 방법들을 잘 포장하여, 처음에는 12차원에서의 반례를 그리고나서 10차원의 반례를 만들었다.
똑같은 테크닉들이 7, 8, 9차원에서도 적용될 수 있을 지는 분명치 않다. 라가리아스와 쇼어는 켈러의 추측이 7차원에서 조차도 성립하지 않을 가능성이 있으나, 반례가 있다면 그 반례의 구조가 너무 간단하여 오히려 그 반레를 찾기가 힘드는 것이라고 말한다. "놀라운 일은 누구나 간단하게 발견할 수 있을만큼 충분히 간단한 구조를 갖는 반례가 분명히 존재한다는 것입니다."라고 라가리아스는 말한다.
켈러의 추측에 대한 그들의 반례가 오류정정코드등의 응용분야들에 직접적으로 응용될 수 있을지는 불분명하다. 따라서, 10차원 공간 타일링에 근거를 둔 콤팩트 디스크 플레이어(CD player)의 신제품이 내년에 등장하리라고 기대할 수는 없다. 그러나, 라가리아스는 정방체 타일링 구조들은 응용분야들에서 현재 이용되고 있는 선형 코드들과는 아주 다른 멋진 형태들의 '비선형' 코드들을 만들어 낸다고 지적한다.
이러한 최근의 두 결과들로부터 분명하게 알 수 있는 것은 기하학적인 직관은 믿을 수 없는 길잡이라는 것이다. "고차원 공간은 아주 이상합니다."라고 라가리아스는 말한다. "만일 고차원에 관한 추측을 만들 작정이라면, 관측된 값들을 이용하여 단순히 유추하는 외삽법(extrapolation)과는 다른 논리를 이용해야 합니다."라고 쇼어는 덧붙인다.
실제로, 쇼어는 "저차원 예들에만 근거한 추측은 고차원에서는 거짓이다."라는 고차원 기하학에 관한 그 자신의 추측을 만들 정도이다. 이 명제(즉, 자신의 추측)도 자신의 추측에 포함하라고 요청받는다면, 쇼어는 이 명제를 "저차원 예들에만 근거한 추측은 고차원에서는 '거의' 거짓이다."라고 수정할 것이다.

---

고차원에서의 반증의 쉬운 예

가장 최근의 결과들은 수학을 다소 과장하고 있는데, 고차원 기하학에서의 직관에 어긋나는 결과들 모두가 증명하기 어려운 것은 아니다. 혼자서 쉽게 '살펴볼 수' 있는 다음과 같은 것도 있다.
(1, 1), (1, -1), (-1, 1), (-1, -1)을 중심점으로 하고 반경이 1인 4개의 원들을 그린 다음, 원점을 중심점으로 하고 다른 4개의 원과 접하는 5번째 원을 그린다. (그림 5참조) 그러면, 이 중앙원은 분명히 4개의 바깥원들에 외접하는 정사각형에 포함된다.

그림 5. 안쪽의 작은 원은 반경이 1인 4개의 원들과 접하고 정사각형 내부에 있다.

똑같은 현상이 3차원에서도 일어난다. 8개의 점 (±1, ±1, ±1)들을 중심점으로 하고 반경이 1인 8개의 구가 있다면 그 8개의 구와 접하고 (0, 0 ,0)을 중심점으로 하는 9번째 구인 중앙구는 8개의 바깥구들에 외접하는 정육면체에 포함된다. (그림 6참조)

그림 6. 똑같은 현상이 3차원에서도 일어난다. 안쪽의 작은 구는 8개의 큰 구들과 접하고 정육면체의 내부에 있다. 그러나, 더 높은 차원에서는 더이상 참이 아니다.

차원 d가 얼마이든간에 '중앙구'는 항상 대응하는 d차원 '정방체'에 포함된다는 것은 명백해 보인다. 그러나, 그것은 분명히 참이 아니다.
그 이유는 다음과 같다. (일반화된) 피타고라스 정리에 의하면, 원점에서 바깥구의 중심점까지의 거리는이므로, 결국 중앙구의 반경은 이다. 그러나, 원점에서 대응하는 정방체의 임의의 면과의 최단거리는 항상 정확히 2이다. 따라서, d가 9이면 중앙구는 대응하는 정방체의 모든 면과 접하고 d가 9보다 크면 중앙구는 대응하는 정방체 밖으로 삐져 나간다.