2부 비유클리드 기하의 발견 6. 비운의 부자 W. 보리아이와 J. 보리아이 보리아이 부자와 가우스 필자 다음으로 비유클리드 기하 발견자 중 한 명인 요한 보리아이의 이야기로 들어가자. 보리아이는 스페링이 Bolyai인데 헝가리인은 보야이나 보요이라고 한다. 요한은 독일 이름으로 헝가리에서는 야노쉬라고 부르며 Bolyai János처럼 한국어 순으로 쓴다. 아버지 볼프강은 팔카슈지만 현재로서는 W볼리아나 아버지 볼리아라고 부르기로 하자.
J. 보리아이와 아버지 W. 보리아이는 불가분의 관계에 있기 때문에 조금 전과 중복되는 부분이 있는데 먼저 아버지 얘기를 하자.
W. 보리아이(17751856)는 헝가리 귀족 출신으로 소년시절 무엇이든 할 수 있는 신동이었던 것 같다. 화가가 되려고도 하고 배우가 되려고도 했고 어학도 수학도 좋아했기 때문에 무엇을 해야 할지 좀처럼 결심하지 못했다. 그러던 어느 날 화약실험으로 눈을 다친 뒤 머리만으로 할 수 있는 수학에 전념하게 됐다고도 한다. 훗날 마로슈 바샤르헤리라는 마을의 고등학교에서 수학 물리 화학 괴짜 교수로 생을 마감했다.
스무 살 무렵에는 평행선 공리 등 자기류에 관한 이런저런 생각을 하다가 스물한 살 때 괴팅겐대에서 유학할 때 두 살 연하의 가우스와 알게 돼 두 사람이 둘도 없는 친구가 됐다는 것은 앞서 말했다.
아버지 보리아이는 이윽고 고향에 돌아와서는 수학교사를 하면서 여전히 평행선 공리의 증명을 계속하고 때로는 가우스에게 자신의 결과를 알리면 가우스에게서는 그 잘못이 지적되어 돌아온다. 그런 일로 평행선에 사로잡힌 그는 실패에 실패를 거듭하는 동안 자신의 생활태도가 엉망이 되고 있음을 깨달았는데 그때는 이미 장년기에 이르고 있었다.
아들 야노쉬(1802~1860)가 태어난 것은 아버지 보리아이가 청년 시절이었는데, 이 아이가 보통 아이가 아니라는 것이 자랑스럽고 그 비정상적인 아이의 행동을 세세하게 가우스에게 알려주고 있다.
루소의 에밀이 대유행이던 시절이어서 불과 9세가 돼서야 예전처럼 과외를 채용했던 보통교육으로 돌아왔지만 수학은 물론 아버지 보리아이가 가르쳤기 때문에 12, 13세 무렵에는 해석 아래 2차 곡선론까지 나아갔다.
여동생이 하나 있었지만 일찍 죽었기 때문에 외아들 야노 히데를 응석받이로 키운 탓에 15세 무렵에는 화를 잘 내는 기분이 좋은 젊은이가 되어 있었다. 그러나 아버지의 가르침으로 과학, 특히 수학을 좋아했고 어학 실력도 상당한 데다 바이올린 심부름꾼이었다고 한다.
야노쉬가 아직 다섯 살이던 1807년 아버지 보리아이는 가우스에게 보낸 편지에서 자신의 아들에게 수학에 재능이 있음을 자랑했고, 15년쯤 지나 야노쉬를 당신에게 데려가 당신의 제자를 시키겠다는 뜻을 밝혔다. 그러나 W. 보리아이와 가우스 사이는 점차 멀어졌고, 다음 1808년 평행선 증명을 동봉한 W. 보리아이의 편지에 가우스가 회신을 하지 않은 것은 앞서 설명한 바와 같다.
A군 W. 보리아이의 증명이 또 틀렸기 때문에 연구를 계속하도록 용기를 줄 생각도 못했을 것이라고 말씀하셨습니다.
필자 외에도 가우스가 점점 바빠졌기 때문에 궁금한 편지 등은 좀처럼 쓰지 못했을 것이다. 그러나 W. 보리아이는 여전히 아들을 가우스에게 맡길 마음이 있었던 것 같고, 아들 야노쉬도 아버지가 거인 가우스와 친구라는 것이 자랑스러워 일찍 가우스 밑에서 수학을 연구하는 것을 동경했음은 충분히 상상할 수 있다. 하지만 W. 보리아이도 그렇게 쉽게 아들을 멀리 떨어진 괴팅겐으로 유학을 보낼 만한 재산도 없었기 때문에 마음이 아팠다. 다행히 야노 히데가 14세 때인 봄, 2년 뒤에는 장학금을 받을 가능성이 생기자 진작 마음먹었던 아이의 지도를 부탁하고자 1816년 4월 10일자로 가우스에게 다음과 같은 편지를 썼다.
먼저 내 아이의 수학적 재능을 자랑한 후
그 아이를 3년간 맡아 달라. 가능하면 당신 집으로요. 그 이유는 15살 아이를 혼자 둘 수는 없고, 그렇다고 집사를 붙여주는 것은 소송 문제 때문에 힘들어하는 저로서는 힘에 부치기 때문입니다. 물론 퍼스트레이디의 지출은 변상하겠습니다-만약 제가 그 아이와 동행할 수 있다면 만사가 잘 처리될 것입니다. 그래서 이 계획에 대해 다음 사항을 솔직하게 알려주세요.
⑴ 당신은 그 무렵 위험한 적령기에 있는 딸이 없습니다. 물론 청년은 반드시 이 위험한 전쟁터에 있기 때문에 조금의 이성만 있으면 맹목적인 총알에 맞아 이 도원경의 꿈에서 깨어나지는 않을 것입니다.….
⑵ 당신은 건전하고 가난하지 않은 생활을 하고, 조금 귀찮지 않을까요? 특히 퍼스트레이디는 여성으로서 특별한 분? 풍향계처럼 마음이 자주 바뀌는 건 아닐까요? 청우계가 바뀌면 요주의! 같은 일은 없겠지요?….
⑶ 여러 가지 사정을 생각해 보고 당신은 아주 간단하게 한마디로 좋다고 결정할 것입니다. 나는 당신이 따뜻한 마음을 가졌다는 것을 믿어 의심치 않기 때문입니다.
A군은 많이 특이한 편지 같은데 유럽인들은 이렇게 노골적인 편지를 쓰나요?
필자 설마 그럴까. 농담이겠지. W. 보리아이는 형편이 나빠졌지만 아직 양반집에서 자란 모습이 남아 있을 것이다. 가우스 선생님에게는 농담이 통할 것 같지 않아 그 당황하는 얼굴이 눈에 보이는 것 같다. 아니나 다를까 가우스에게서 온 회신을 아들과 함께 하루하루 가을의 마음으로 기다리던 W보리아이에게는 일주일이 지나도 한 달이 지나도록 회신이 오지 않았다. 급기야 가우스로부터의 회신이 없는 채 가우스와 W.보리아이 사이의 소식은 이후 15년간 끊기고 말았다.
아버지 보리아이의 놀라움에 기대했던 가우스의 답장이 없자 W 보리아이는 1818년 16세의 야노쉬를 빈에 있는 육군공대에 입학시켰다. 이는 다른 대학에 자신이 좋아하는 수학 지도자가 없다는 점과 W보리아이 자신이 군대생활을 선호했기 때문이다. 젊은 보리아이는 5년 뒤인 1823년 이곳을 우수한 성적으로 졸업하고 씩씩한 20세의 공병 소위로 임관됐다.
A군 J. 보리아이는 수학전문교육을 받지 않았군요.
필자의 고등수학 엄격한 교육은 받았지만, 뭐니 해도 자유로운 수학은 아니니까. 프랑스의 레콜 폴리 테크닉과는 다른 것 같다.
이것이 불운의 하나라고 생각한다. 그러나 아버지에게서 기하 초보자를 배우면서 어느새 평행선 문제를 생각하게 됐고, 공대 학생 때 이미 ‘직선 a에서 등거리에 있는 곡선은 직선이다.’를 증명하려 했다. 그러기 위해서는 <그림 2-26>과 같이 a상에 같은 간격으로 점 A, B, C, D, E…를 취하고 같은 길이의 수선 AA′=BB′=CC′=…를 세우면 A′B′=B′C′=C′D′=…가 될 것이 명백하므로 만일 A′, B′, C′…이 일직선이 되지 않으면 ⑤A′, ⑥ B′, ⑥ C′………는 2직각이 되지 않으며, 게다가 각은 같으므로, 이것은 모순이다. 따라서 a로부터 같은 거리에 있는 선은 직선이라는 증명이다.
<그림 2-26>
<그림 2-27>
1820년 봄 보리아이가 아버지에게 자신의 이 증명을 알렸을 때 아버지 보리아이는 심장이 멎을 정도로 놀랐다. 바로 이것과 같은 생각을, 자신은 20년전에 가우스에게 알리고, 게다가 가우스로부터 증명의 오류를 지적받고 있었기 때문이다(<그림 2-4> 참조, 2-3 가우스와 W.보리아이의 만남). 이후 자신은 평행선 공리의 증명에 완전히 사로잡혔고 마침내 자신의 반생애를 망쳤다. 이 잘못된 길을 소중한 외아들이 가르치기 전에 어느새 꼭 그대로 따라오고 있지 않은가.
A 군의 아버지 보리아이는 야노슈에는 평행선 공리에 대한 연구를 숨기고 있었군요.
필자 그렇구나. 그래서 놀란 아버지는 편지를 받으신 후 바로 긴 편지를 쓰셨다. 1820년 4월 4일자 편지이다. 이 편지에서 아버지 보리아이는 젊은 보리아이에게 평행선 공리 증명에 손을 대서는 안 된다. 평행선 연구에 뛰어든 끝에 실패한 나의 비참한 상태를 보라. 너를 이 꼴로 만들고 싶지 않다며 자신의 실패담을 처음으로 아들에게 자세히 알려줬다.
A군, 예를 들면 어떤 것입니까?
필자의 공리를 부정하고 a상에 없는 점에서 두 평행선을 긋을 수 있다고 가정하면 다음에 열거하는 것과 같은 여러 불합리가 생긴다는 것이다. 먼저
내각의 합이 얼마든지 작은 삼각형이나 다각형이 있다. 게다가 이 다각형 변의 수가 얼마든지 큰 것이 있다.
<그림 2-28>
너도 알기 쉽도록 <그림1-54> 모델을 사용해 그림을 그려보면 그 의미를 잘 알 수 있다. <그림 2-28>에서 <ABC의 정점을 원주에 가깝게 하면 A+B+C는 얼마든지 0에 접근한다. 다각형에서도 그렇다, 너에게는 아직 설명하지 않았지만(<보강 5> 참조). 다음에
일직선 a로 직교하는 직선을 모두 고려하면, 이 직선 전부로 교차하는 직선은 a뿐이다.
라고 하는 묘한 일이지만, 이것을 그리면 <그림 2-29>와 같이 되어 P에 모이는 직선이 원내에서는 a=(VU)로 수직이므로, 아버지 호리아이가 시키는 대로 됨을 알 수 있다(<보강 3> 참조). 물론 아버지 보리아이는 이런 그림을 모른다.
<그림 2-29>
크기에 관계없이 작은 모서리 안에 얼마든지 180° 가까운 둔각을 넣을 수 있다.
이것도 원의 그림<그림2-30>을 그리면 알 수 있다(유클리드 평면이라면 α내의 β각은 β가 작거나 같다). 이 밖에, 여러가지 예를 W·보리아이는 들고 있지만, 그만두자.
<그림2-30>
그런데 평행선의 공리가 없다면 필연적으로 이런 이상한 사실이 많이 일어난다. 그러나 이 신기한 것이 모순됨을 차마 증명할 수 없다. 그래서 자신은 평행선의 공리를 증명하는 것은 절대 불가능하다고 생각한다. 그래서 이런 쓸데없는 노력은 결코 하는 것이 아니라고 아버지 보리아이는 입이 시도록 아들에게 설득한 것이었다.
A군 평행선의 공리를 증명할 수 없다면 평행선 공리를 부정한 비유클리드 기하가 있는 것은 아닙니까?
필자여, 그건 네가 비유 크리드를 하라는 게 있다는 걸 흘려듣고 알기 때문에 그렇게 말할 수 있는 거다. 평행선의 공리를 부정하면 어떤 기하가 생기는지를 해보면 그 어려움을 알 수 있다. 정말 어찌할 바를 모르는구나. 게다가 늙은 보리아이는 체험으로 공리를 증명할 수 없다는 확신을 얻었는데, 그러면 공리를 부정하면 새로운 기하가 생기지 않을까 하는 그런 번뜩임을 하늘에서 줄 수 있는 행운은 없었다. 거슬리는 표현 방법을 쓰면요.
A군 천재가 아니었다는 말씀이시군요.
필자 기존의 수학적 사고를 깨는 것이기 때문이다.
