최석정특집기사 최석정선생, 오일러를최소 61 년앞서직교라틴방진을만들다 송홍엽 ( 연세대학교전기전자공학부 ) 1. 시작하면서정수론의기초를처음수강하던학생시절에, 중국인의나머지정리 (Chinese Remainder Theorem) 를접한기억이생생하다. 왜하필이면 중국인의정리 라고부를까. 그렇다면 한국인의정리 는없을까. 1997년가을에최석정 ( 崔錫鼎 ) 의직교라틴방진이오일러보다 60여년이상앞선다는 KAIST 수리과학과한상근교수님의논문을접했을때, 곧바로그기억을떠올리며, 이야말로 오일러의직교라틴방진 1) 이아니라 한국인의직교라틴방진 이라고불러야할것이라고생각했었다. 전세계수학교과서에 한국인의직교라틴방진 혹은 최석정의직교라틴방진 이라고이름이오른다면얼마나신날까. 중간에 라틴 이라는용어가조금거슬리기는하지만말이다. 2. 최석정의 9차직교라틴방진을만나다필자는미국샌디에이고 Qualcomm 사에서 2세대디지털이동통신표준안작성관련업무를끝으로 1995년가을학기부터연세대학교전자공학과에조교수로부임하였다. 필자의전공분야에서가장중요한학술대회는 IEEE Information Theory Society 2) 주관의국제학술대회 International Symposium on Information Theory (ISIT) 이다. 1997년여름에는이학술대회가독일울름 (Ulm) 에서개최되었는데여기에서나는뜻밖의반가운분을만났다. 그분은바로데니쉬박사님 (József Dénes) 이다. 데니쉬박사님은헝가리수학자로키드웰 (A. D. Keedwell) 과함께라틴방진에대해바이블이라인정받는저서 3) 를 1974년에출간하였고, 미국서던캘리포니아대학교 (Univ. of Southern 1) Pair of orthogonal latin squares. 그레코 - 라틴방진 혹은 오일러방진 이라고도함. 이개념을조합수학 (combinatorial mathematics) 의출발점으로보는것이현대수학사의입장임. 2) IEEE(Institute of Electrical and Electronics Engineers) 본부는미국의뉴욕에위치하고있으며 150 개국 45 만명의회원으로구성된전기전자공학에관한최대기술조직이며주요국제표준및연구정책을다룬다. 그산하에약 40 여개 Society 를포함하고있는데 Information Theory Society 는정보의표현, 생성, 처리, 보관, 전달등에관한공학적이론을주제로하며수학적접근방식을중시한다. 필자는현재 IEEE Information Theory Society Seoul Chapter 의 Chair 로봉사하고있다. 3) József Dénes and A. D. Keedwell, Latin squares and their applications, Academic Press, 1974. 2013 년 9 월호 The Newsletter of the KMS 5
California)에서 필자가 박사과정을 하던 중에 필자의 지도교수인 골롬 교수님(Solomon Golomb)을 자주 방문하셨던 인연으로 인사를 나누던 사이였다. 그런 분이 헝가리에서 독 일의 울름까지 ISIT 참석이 아니라 필자를 만나러 오셨었다. 그리곤 서 울에 돌아가면 1993년도에 한국의 수학저널에 게재된 직교라틴방진에 관한 논문을 찾아서 영문 번역까지 붙여서 보내달라고 요청하였다. 그 렇게 한상근 교수님의 논문 최석 정과 그의 마방진 4)을 접하였다. 한상근 교수님께 전화를 드려 최석 정의 구수략(九數略) 5) 사본을 요청하였는데, 이를 받아보고 무척 최석정의 구수략 목판본에 수록된 9차 직교라틴방진 참담했던 기억이 있다. 온통 한자로 기록된지라 이해하기 불가능함과, 한 편으로는 그 로 데니쉬 박사님은 돌아가셨고 최석정의 직교라틴 럼에도 불구하고 이를 국제 수학계에 알리기 위해 방진에 대한 내용은 내 기억에서 멀어져갔다. 그런 서는 영문으로 번역해야 한다는 것, 그리고 실제로 데 전혀 예상치 못한 일로 최석정의 직교라틴방진 국제 수학 학술대회에서 이를 발표해야한다는 의무 과 다시 연결되었다. 그것은 바로 조합론 디자인 감 등이 밀려왔기 때문이다. 공과대학의 신임 조교 편람(Handbook of Combinatorial Design) 과 이 수로서는 거의 불가능한 실정이었다. 라틴방진의 책의 편집진과의 친분이다. 대가이신 데니쉬 박사님이 이 논문을 접하였으니 테일러 박사님(Herbert Tayler)은 서던캘리포니 이제 그의 저서 2판을 출간할 때 이 내용이 들어 아대학교에서 연구교수로 필자를 공동 지도하신 분 가지 않을까 하는 바람을 가질 수 있었던 것이 그 이며 필자가 졸업 후 Qualcomm사에 근무할 당시 나마 다행이었다. 에는 샌디에이고 소재의 연구소에 몸담고 계신 덕 분에 자주 그의 집에 들러서 여러 가지 이야기와 3. Handbook of Combinatorial Design 논의로 시간을 함께 보내곤 했었다. 테일러 박사님 은 미국 버몬트 대학교 통계학과의 디니츠 교수 그런데 2002년 골롬 교수님의 70회 생신을 축 (Jeffrey Dinitz)를 처음 소개하셨고, 필자는 디니츠 하하는 기념학술대회를 준비하던 중, 안타깝게도 교수와 공저로 조합론 디자인 편람(Handbook of 데니쉬 박사님이 그 이전 해에 세상을 떠났다는 소 Combinatorial Design) 6)에 원고를 제출하였다. 식을 접하게 되었다. 저서 2판 출간을 남겨놓은 채 그런데 디니츠 교수를 처음 만난 것은 1995년 4) 오윤용, 한상근, 최석정과 그의 마방진, 대한수학교육학회지 시리즈A <수학교육>, 1993년 6월호. 이 논문은 최석정의 구수략에 수록된 9차 직교라틴방진에 대한 내용을 담고 있다. 그 이전 김용운 교수님의 崔錫鼎의 ó法陣 (한국사연구휘보, 1974)에도 최석정의 구수략과 마방진에 대한 언급은 있었고 몇몇 논문에 이를 다루긴 하였지만 직교라틴방진 을 언급한 것은 이 논문이 국내(외) 최초인 것으로 필자는 파악하고 있다. 5) 최석정(1646 1715)이 저자임을 확인하는 공식기록은 있지만 정확히 언제 탈고하여 출간했는지에 대한 기록은 없 다. 그의 몰년 1715년이라고 가정해도 오일러의 1776년 St. Petersberg 발표보다 61년이 앞선다. 6) C. Colbourn and J. Dinitz (co-editors), Handbook of Combinatorial Designs, 1st edition CRC Press, 1996, 2nd edition, Chapman & Hall/CRC, 2007. 6 대한수학회소식 제 151호
Section 1.2 Design theory: Antiquity to 1950 - 초반부 여름미국콜로라도에서개최된어느학회였다. 7) 디니츠교수는한동안 Dinitz Conjecture 로유명세를타던조합론의전문가였고애리조나주립대학교의콜본교수 (Charles Colbourn) 와공동편집한 조합론디자인편람 은별다른친절한설명을배재하고오직알려진사실의나열로이루어진백과사전식편집으로구성되었으며라틴방진에관한내용이거의절반을이룬다. 4. 최석정의 직교라틴방진 을해외에서공인받다세월이흘러 10여년이지난 2006년에디니츠교수로부터 Handbook 2판을준비중이니필자의기고문도그이후추가된결과가있다면수정해서 보내달라는연락을받았다. 나는 2판의목차 (Table of Contents) 를보자고요청했다. 1판에는없었던조합론의역사를다룬항목이있다는것을확인하고, 다시그부분의원고를보자고했다. 이항목은디니츠교수를포함한네명의저자가공동으로집필했는데, 예상대로, 오일러가 1776년발표한직교라틴방진에관한내용을조합수학의기원으로하여 Combinatorial Design의역사가서술되어있었다. 필자는이를 최석정의직교라틴방진 으로바꾸어야한다는일념으로, 데니쉬박사님과만났던이야기와한상근교수님의논문을영작한내용, 데니쉬박사님이 2판저서를출간하지못하고돌아가신사실, 만일 2판이출간되었더라면여기에이내용이포함되었을것이라는예상등을밤을새워 7) The R. C. Bose Memorial Conference on Statistical Design and related Combinatorics, Colorado State University, Fort Collins, Colorado, June 7-11, 1995. 2013 년 9 월호 The Newsletter of the KMS 7
Section 2.1 A timeline - 일부분 정리하여디니츠교수에게발송했다. 어쩌면나에게주어진마지막기회일지모른다고느꼈기때문이다. 그의답변은간단했다. 저자모두에게회람하여의견을들어보고회신한다는것이었다. 그리하여 2007년출간된 2판에는조합론의역사가새롭게작성되었다. 기록으로남아있는 9차직교라틴방진과이를이용한 9차마방진의생성이라는명백한증거를무시할수없었을것이다. 그래도라틴방진그자체에대한역사성은조선의수학자에게빼앗기기싫었는지, 많은예를들면서라틴방진에대한역사는훨씬더오래되었다는점을강조하였다. 하지만아무리그래도직교라틴방진과이를이용한마방진생성에관한한최석정의 구수략 에기록된 직교라틴방진 이오일러를훨씬앞서는세계최초임을부정하기는어렵게되었다. 5. 국내외발표및과학기술명예의전당위의사실은월간과학동아 2008년 8월호에국내에서는최초로발표되었다. 8) 옆의사진은그곳 에게재된필자의사진으로위사실이기록된 Handbook 2판을손에들고있는모습이다. ( 이사진은과학동아에서사진사용허락을받았습니다.) 한상근교수님은이사실을 2008년제주 ICC에서개최된 Global KMS International Conference 에발표할수있도록필자를초청해주셨는데, 기쁜마음으로이내용을발표하였다. 9) 이학회의조직위원장은서울대학교김도한교수님이었고, 외국인참가자도꽤많이보였는데내발표장에도몇몇의외국인이보였다. 2008년발표당시최석정이오일러보다 67년앞선다는언급을했었는데이는오일러의 1782년논문발표를기준으로계산한결과로, 이보다 6년앞서 1776년구두발표가있었으므로사실상 61년앞선다는표현이정확할것이다. 10) 이내용을기초로대한수학회저널에이를소개하는논문을작성하기 8) 강석기, 오일러앞지른최석정 - 직교라틴방진기록한최초의문헌구수략, 과학동아 2008 년 8 월호. http://coding.yonsei.ac.kr/article-2008-08.htm 9) H.-Y. Song, Choi's orthogonal Latin Squares is at least 67 years earlier than Euler's, 2008 Global KMS International Conference, 2008. 10. JEJU ICC, KOREA. http://www.kms.or.kr/gkms2008/inv.htm 10) L. Euler, Recherches sur une nouvelle espece de quarres magiques (Investigations on a new type of magic squares), presented to the St. Petersburg Academy on March 8, 1776, and published in Verhandelingen uitgegeven door het zeeuwsch Genootschap der Wetenschappen te Vlissingen 9, Middelburg 1782, pp. 85-239. 8 대한수학회소식제 151 호
로한상근교수님과약속했지만지금까지이를지키지못한것이죄송하고미안하다. 그자리에서한교수님과필자는 구수략 의책판이지금어딘가에존재할것이라는예상과, 그렇다면아마도합천해인사에있지않을까라는예상을해보았는데, 이는최석정의또다른문집인 명곡집 ( 明谷集 ) 책판이해인사에보관되어있기때문이었다. 최석정의 구수략 은건 ( 乾 ) 과곤 ( 坤 ) 으로나뉘었고, 건 ( 乾 ) 은다시갑 ( 甲 ) 과을 ( 乙 ) 로구성되고, 곤 ( 坤 ) 은병 ( 丙 ) 과정 ( 丁 ) 으로구성되었다. 나중에알게되었지만, 2006년에는한국수학사학회에서 구수략 의건 ( 乾 ) 과곤 ( 坤 ) 을각각자세한주석과함께국문으로번역출간하였다. 11) 갑 ( 甲 ) 을 ( 乙 ) 병( 丙 ) 이본서이고정 ( 丁 ) 이부록이며이부록에많은숫자의배열이기록되어있다. 다양한크기의마방진과이를생성하는직교라틴방진뿐만아니라, 정6각형의연속배열로이루어진그래프의꼭짓점에 1부터 30까지의숫자를한번씩사용하여모든육각형의꼭짓점에있는여섯개숫자의합이 93으로일정한 지수귀문도 ( 地數龜文圖, hexagonal tortoise problem) 는당시까지세계어느수학기록에도찾아볼수없는놀라운숫자의배열이며, 라틴방진및직교라틴방진과더불어오늘날까지도컴퓨터계산과학및조합수학분야에서관심받고있는주제이다. 12) 2008년발표자료를홈페이지에잠시올렸더니이를받아본많은사람들이있었고, 그중에서도대만의수학자는이를기초로논문을작성하여 Mathematical Association of America에서발간하는 Math. Magazine 에투고하였다. 13) 해당편집위원장은모든심사과정을마치고출판으로넘어가는단계지만내가한번은꼭검토해주기를바란다 최석정의지수귀문도 ( 地數龜文圖 ) 면서그원고를보내주었다. 그내용은최석정이 9 차직교라틴방진을아마도이러이러한방법으로생성했을것이라고추측한설명으로필자가보기에도꽤타당하고생각한다. 또한지금까지의개괄적인내용이한국수학사학회논문집에발표되었다. 14) 전문사학자의관점에서 구수략 전체를소개하고특별히정 ( 丁 ) 에수록된 9차직교라틴방진을포함한많은마방진과직교라틴방진에대한자세한해설을수록하고있다. 2011년초에필자는서울대수리과학부에서위의내용에대한특별강연을하게되었다. 15) 이자리에서처음인사드린서울대김도한교수님께서는후에최석정선생을 2013년대한민국과학기술명예의전당에헌정하기위한노력을기울이셨고, 결국이를성사시켰으며, 이사실은이제곧언론에공지될것이다. 11) 최석정, 구수략 조선시대산학총서, 정해남, 허민옮김, 교우사, 2006. 12) a) 김동진, 오영환, 지수귀문도의특성및해를구하는알고리즘, 한국정보과학회봄학술발표회논문집, 1989. b) 전용훈, 수학사의미스터리마방진, 과학동아 1999 년 7 월호 c) 문병도, 지수귀문도해결의열쇠유전자알고리즘, 과학동아 2003 년 7 월호 13) K.-W. Lih, A Remarkable Euler Square before Euler, Math. Mag. Vol. 83, No. 3, pp. 163-167, 2010 14) 김성숙, 강미경, 최석정의직교라틴방진, 한국수학사학회지제 23 권제 3 호 (2010 년 8 월 ) 21 31. 15) 송홍엽, Choi's orthogonal Latin Squares is at least 61 years earlier than Euler's, 서울대학교수리과학부 ε 강연, 2011 년 3 월, 서울대학교. http://stream.math.snu.ac.kr/lecture/each2011/110331.html 2013 년 9 월호 The Newsletter of the KMS 9
6. 마방진과라틴방진및직교라틴방진최석정의 9차직교라틴방진은일반적인직교라틴방진과달리몇가지특이한성질을추가로지닌다. 이를설명하기위해서먼저마방진과라틴방진, 그리고직교라틴방진에대하여소개하겠다. 자연수 이주어지면 차마방진은서로다른 개의숫자가채워진 정방의배열로써각행과열의합과두대각선의합까지총 개의합이동일하다는성질로정의된다. 여기서각행과열의합이동일하고대각선의합이다르면 준마방진 (semi magic square) 이라한다. 숫자가 1부터연속적으로 까지사용되면 정규마방진 (normal magic square) 이라한다. 16) 마방진은고대중국의하나라우왕시대 (BC 4000년경 ) 에거북등에나타난 3차마방진형상이존재한다는기록이있으며, 고대와중세를거쳐많은예가알려져있다. 독일미술가알베르트뒤러 (1471~1528) 의동판화에표현된 4차마방진은정규마방진이며, 인도의천재수학자라마누잔이영국의수학자하디와의대화도중자신의생년월일 1887년 12월 22일을첫행에사용한 4차비정규마방진을만들었다는기록이있다. 17) 차라틴방진은 개의서로다른심볼로채워진 정방의배열로써모든행과열이이 개의심볼각각을정확히한번씩포함해야한다. 일반적으로 개의서로다른심볼을자연수 부터 까지사용하기도하므로여기서도그렇게가정하기로하자. 두개의동일한크기의라틴방진이직교한다는뜻은이들을포개어동일한위치 (cell) 의숫자로순서쌍 개를만들었을때이들이모두다르다는것이다. 직교라틴방진이란, 직교하는라틴방진의쌍을의미한다. 다음은 4차와 5차의직교라틴방진의예를보인다. double-diagonal 직교라틴방진의예이는조금더특수한직교라틴방진인데, 그이유는방진에보이는 4개의대각선이모두 의순열 (permutation) 로이루어졌기때문이다. 이러한성질을만족하면 double-diagonal 직교라틴방진 이라하며, 6차를제외한모든 에대해서 차 double-diagonal 직교라틴방진 이존재한다고알려져있다. 18) 뒤러의마방진과라마누잔의비정규마방진오늘날모든자연수 에대해서 차마방진을생성하는매우간단한방법이알려져있다. 오일러의 1776년과 1782년발표는다양한크기의마방진을생성하는방법을연구한결과가요점이며, 특이한점은많은경우에직교라틴방진을사용했다는점이다. 직교라틴방진을설명하자면라틴방진을먼저설명해야한다. 7. 최석정의 9차직교라틴방진의두가지특성가장중요한특징으로는 9차마방진을만들수있다는것이다. 직교라틴방진의동일한쎌의숫자로순서쌍 를구성하여, 이를 로대응시키면그결과는 ( 정규 ) 마방진이된다. 이를편의상 표준생성법 이라부르자. 16) 각주 6) 과동일. 17) 박경미, 수학콘서트, 동아시아, 2006 18) 각주 6) 과동일. 10 대한수학회소식제 151 호
최석정의 9 차직교라틴방진 표준생성법 이항상성립할까? 다시말해서, 임의의직교라틴방진을가지고여기에 표준생성법 을적용하면항상마방진이될까? 안타깝게도그렇지않다고알려져있다. 즉, 이방법이성립하기위해서는추가의조건이필요한데, 이는표준생성법을적용하는직교라틴방진이 (1) double-diagonal 직교라틴방진 이거나 (2) 홀수차의경우라틴방진각각에서한개의대각선이상수 로이루어져야한다는것이다. 19) 여기서 3차의경우를다음그림으로설명한다. 그결과는 3차마방진임을쉽게확인할수있다. 사용된직교라틴방진의대각선네개중에두개의위치가상수 로채워져있음을쉽게확인할수있다. 다음그림에는또다른 3차직교라틴방진에 표준생성법 을적용한결과를보인다. 결과를살펴보면행과열의합은모두 로일정하지만두대각선의합은각각 와 가되어마방진이되지못하고준마방진에머무르게된다. 결국, 임의의직교라틴방진을만들어서여기에 표준생성법 을적용해도반드시마방진이만들어지는것은아니다. 마방진이만들어지기위해서는위와같은좀더특별한충분조건을만족하는직교라틴방진을사용해야하는데, 바로최석정의 9차직교라틴방진은이를만족하고있다. 그렇기때문에이를가지고 표준생성법 을적용하여 9차마방진이만들어진것이다. 둘째로언급할만한특징은두라틴방진이서로긴밀한관계에있다는것이다. 좌측라틴방진의첫행의순서를역순으로뒤바꾸면우측라틴방진의첫행이된다. 이러한관계는모든대응하는행에대해서성립한다. 결국, 좌우의라틴방진중에서한개만있으면이를좌우로뒤집어서나머지를쉽게찾을수있는데, 편의상이를직교라틴방진의 대칭성 (symmetry) 이라고부르자. 이러한성질은일부공학적응용에서는상당히쓸모가있다. 사실라틴방진이나직교라틴방진은순수수학적관심외에도공학분야에활용되는경우가종종있다. 필자가 IEEE 논문지에발표한 2008년의결과도라틴방진의특성을이용하여이동통신시스템설계의복잡도 (complexity) 를줄일수있다는내용이다. 20) 최석정의직교라틴방진의대칭성을좀더자세 19) 각주 6) 과동일. 20) D.-S. Kim, H.-Y. Oh, and H.-Y. Song, Collision-free Interleaver composed of a Latin Square Matrix for Parallel-architecture Turbo Codes, IEEE Communications Letters, vol. 12, Issue 3, pp. 203-205, March 2008. 2013 년 9 월호 The Newsletter of the KMS 11
히들여다보기위하여, IEEE 학회의논문지에 1993년발표된관련내용을소개할필요가있다. 21) 이논문은컴퓨터와메모리의연결을병렬로구성할때직교라틴방진을사용하면효율을높일수있다는내용인데, 놀랍게도여기에서제안하는직교라틴방진과최석정의직교라틴방진이크게다르지않다. 이논문에발표된 9차직교라틴방진을아래에보인다. 9차직교라틴방진 Kim and Prasanna (1993) 한가지주목할만한사실은위의 9차직교라틴방진은좌측라틴방진을주대각선중심으로대칭이동하면우측라틴방진이된다는것이다. 최석정의경우와는조금다른 대칭성 이지만이역시좌우중에한개만있으면나머지도쉽게찾을수있다는점에서는최석정의직교라틴방진과동일한특성을지닌다고할수있다. 물론이논문에서는 9차뿐만아니라 16차, 25차등등모든제곱수의크기에대해서직교라틴방진을생성하는방법을설명하고있으며이를공학기법에응용하는내용까지다루고있다. 이논문의첫저자인 K. Kim은현재서울시립대공과대학에근무하고있는김기철교수이며, 서던캘리포니아대학교대학원에서필자와비슷한시기에수학했고, 당시필자와함께위의 9차직교라틴방진을생성하는방법에대해고민했던기억이있다. 이제돌이켜보니여기발표된 9차직교라틴방진이최석정의 9차직교라틴방진과그리많이다르지않다는사실은놀라운일이다. 여기서 그리 많이다르지않다 는의미는대수학에서중요하게사용하는 isomorphism 과비슷한의미인데, 라틴방진에대해서는이를 isotopism 이라고한다. 두개의라틴방진이주어졌을때, 어느한개로부터시작하여행순서바꾸기와열순서바꾸기, 그리고숫자 의순서바꾸기의조합으로변형하여다른한개에도달가능하면이러한두라틴방진은 isotopic 관계에있다고말하고이러한변형을 isotopism 이라고한다. 22) 다시말해서, 두라틴방진이 그리많이다르지않고 또한조합론의분류 (classification) 관점에서는 같다 고할수도있다는뜻이다. 결론적으로, 최석정의 9차직교라틴방진은좌우대칭성을지니며, 위에서소개한 Kim-Prasanna 의 9차직교라틴방진과 isotopic 관계임을쉽게확인할수있다. 23) 이외에도몇가지특징이있지만지면관계상생략하기로하겠다. 앞서표시한그림을보면서또다른많은특징을찾아내는일을독자에게맡기려고한다. 들여다보면볼수록놀라운많은특징을찾아낼수있을것이다. 8. 맺음말 2013년대한민국과학기술명예의전당에최석정선생이헌정되다니매우기쁜일이아닐수없다. 공학과수학의영역에모두걸쳐있는필자로서는더욱그러하다. 이제이글의초반에언급한것처럼 오일러의직교라틴방진 이아니라 최석정의직교라틴방진 이라고전세계모든수학교과서에쓰이기위해서는더많은연구와노력이필요한시점이다. 최석정의 직교라틴방진 과함께개인적으로또관심이가는부분은 지수귀문도 ( 地數龜文圖 ) 이다. 이에대한명확한문제의형성과모든가능한변형들, 그리고이에대한모든가능한답을찾아내는일은이제남은또하나의과제가아닐까. KMS 21) K. Kim and V. K. Prasanna, Latin Squares for Parallel Array Access, IEEE Transactions and Parallel and Distributed Systems, vol. 4, Issue 4, pp. 361-370, April 1993. 22) 각주 6) 과동일. 23) 각주 9) 혹은 15) 참조. 12 대한수학회소식제 151 호