컴퓨터 공학자들: 기원과 미래 자유전공학부 10 김수열 April 24, 2015 추천 도서 및 참고 자료들을 종합해보면, 컴퓨터는 크게 세 가지 흐름이 부딪혀 만들어 낸 결과물이라고 할 수 있다. 세 가지 흐름 중 첫 번째는 기계적 과정을 통해 모든 참인 명제를 증명

컴퓨터 공학자들: 기원과 미래 자유전공학부 10 김수열 April 24, 2015 추천 도서 및 참고 자료들을 종합해보면, 컴퓨터는 크게 세 가지 흐름이 부딪혀 만들어 낸 결과물이라고 할 수 있다. 세 가지 흐름 중 첫 번째는 기계적 과정을 통해 모든 참인 명제를 증명할 수 있다. 는 것을 입증하기 위한 부단한 노력으로, 고트프리트 B. 라이프니츠에서 시작해 고틀로프 프레게, 다비드 힐베르트로 이어져 왔다. 그러나 두 번째 흐름이 바로 모든 명제의 참과 거짓을 기계적 과정으로 가려내는 것은 불가능하다. 라고 반박하는 주장이었 으며, 쿠르트 괴델과 앨런 튜링이 이를 입증했다. 그리고 마지막으로 튜링 기계를 구현화 할 수 있는 구체적 방법론을 제시한 세 번째 흐름이 있는데, 조지 부울과 클로드 섀넌이 여기 속해 있었다. 결과적으로 첫 번째 흐름은 뜻을 이루지 못하고 좌절하고 말았지만, 그 목표가 불가능하다는 것을 밝히는 과정에서 튜링 기계라는 혁신적인 개념이 발전하였으며, 이 개념은 부울 대수와 스위치를 통해 컴퓨터라는 이름의 현실 속 물건으로 구체화되었다. 하나의 역사적 사건을 가지고도 사람들은 서로 다른 다양한 감정을 느낀다. 마틴이 컴퓨터의 역사를 탐구하면서 우선적으로 느낀 감상과는 다르게, 나는 컴퓨터의 발명에 기여한 많은 학자들이 시간적, 공간적 거리로 인해 서로 토론하고 협업할 수 없었다는 점을 깨닫고 강한 안타까움을 먼저 느꼈다. 그러나 내 안타까움은 곧 기쁨으로 바뀌었는데, 현대로 올수록 생명 기술과 통신 기술이 발전하여, 연구자들 간의 시공간적 거리를 좁히고 협업을 가능케 하고 있음을 생각해냈기 때문이다. 따라서 현대로 오면서 연구자들은 서로의 의견을 확인하고 들 을 수 있게 되었고, 이것은 여러 사람의 아이디어가 더욱 활발하게 섞이고 종합되며 발전할 수 있게 되는, 매우 고무적인 결과를 낳았다. 그러므로 미래에 컴퓨터 공학을 전문적으로 연구하려는 사람들 입장에서는, 자신의 분야에 대한 전문성 이외에도 다른 다양한 분야의 전문가들과 의사 소통하고 협업할 수 있는 능력이 강력한 무기가 될 수 있을 것이다.

1 내용 요약 추천 도서 및 참고 자료들을 종합해보면, 컴퓨터는 크게 세 가지 흐름이 부딪혀 만들어 낸 결과물이라고 할 수 있다. 컴퓨터의 기원이라는 하나의 거대한 사건에는 여러 위대한 정신들이 등장한다. 이들은 각자 나름의 독립적인 연구를 했기에, (마틴 데이비스의 표현을 빌리자면) 튜 링을 제외하고는, 그들 중 누구도 자신의 연구가 그렇게 응용되리라고는 조금도 생각지 못했 1 다. 허나 그들의 연구는 결국 현대 문명에서 중요한 위치를 차지하는 컴퓨터라는 물체를 만들어냈다. 세 가지 흐름 중 첫 번째는 기계적 과정을 통해 모든 참인 명제를 증명할 수 있다. 는 것을 입증하기 위한 부단한 노력으로, 고트프리트 B. 라이프니츠에서 시작해 고틀로프 프레게, 다비드 힐베르트로 이어져 왔다. 위 주장이 사실이라는 것을 보이기 위해 애썼던 선구자는 라이프니츠 로, 그는 추론 계산법(calculus ratiocinator)라는 개념을 제안했다. 라이프니츠가 한 주장의 주된 내용은, 인류가 가진 지식들 중 기본이 되는 핵심 개념을 선택하고, 거기에 알맞은 기호를 부여한 후 그 기호들의 연산을 통해 모든 해법을 찾을 수 있게 될 것이라는 것이다. 그러나 라이프니츠 는 핵심 개념들 모두에 알맞은 기호를 부여하는 것이 어떻게 가능한지, 또 그 연산에 대해 어떤 규칙을 주어야 하는지 자세히 말하지는 못했고, 이 과제는 프레게에게 넘어갔다. 프레게는 개념 표기법(Begriffsschrift) 이라는 독일어 책자를 출간하여, 수학에서 사용되는 모든 연역적 추론들 을 기호화하고자 하였다. 이 과정에서 현재까지 쓰이는 주요 심볼들, 즉 (존재한다), (임의의), (아닌), (또는), (그리고) 같은 표기법들이 창안되었다. 프레게의 개념 표기법은 형식을 갖춘 인공 언어였고, 일반적인 컴퓨터 프로그램 언어의 선조라 할 수 있다. 그러나 버트런드 러셀이 제 시한 한 반례가 그의 논리학이 매우 포괄적이지만 완전하지 못함을 밝혀냈다2. 그렇게 프레게의 꿈은 완성되지 못했지만, 비교적 후대의 사람이라 할 수 있는 다비드 힐베르트는 완전한 체계를 만들기 위한 시도를 계속하였다. 위대한 수학자였던 힐베르트는 메타수학(meta-methematics) 라는 분야를 고안하여 몇 가지 공리로 이루어진 무모순 체계가 존재함을 증명하려 했다. 이는 이 문단에서 처음 제시된 목표와 부합하는데, 힐베르트가 말하는 무모순 체계란 그 안에서 기호로 표현될 수 있는 어떤 명제에 대해서도 유한한 과정(finite steps)을 거쳐 그 명제가 참이라고, 혹은 거짓이라고 증명될 수 있다는 의미이기 때문이다. 만일 이것이 가능하다는 것이 입증된다면, 또 다른 당대 최고의 수학자였던 푸앵카레의 야유 섞인 표현마냥 한 쪽 구멍에 돼지를 집어넣으면 다른 쪽 구멍으로 소시지가 나오는 기계처럼, 한 쪽 구멍에 공리들을 집어넣으면 다른 쪽 구멍으 로 정리들(다시 말해, 참인 명제들)이 나오는 3 기계 또한 고안하지 못하라는 법이 없었다. 그러나 두 번째 흐름이 바로 모든 명제의 참과 거짓을 기계적 과정으로 가려내는 것은 불가 능하다. 라고 반박하는 주장이었으며, 쿠르트 괴델과 앨런 튜링이 이를 입증했다. 물론, 이들은 어떻게 보면 첫 번째 흐름을 따라가다가 그것이 불가능하다는 것을 증명해냈으므로, 이 흐름은 일종의 지류(支流)라고도 할 수 있다. 그럼에도 불구하고 이 흐름은 첫 번째 흐름 못지않게 중요 한 역할을 차지했다. 힐베르트는 1900년 파리에서 열린 세계 수학자 대회에서 20세기에 풀려야 할 가장 중요한 23가지 수학적 문제를 제언했다. 그 중 두 번째 자리를 차지한 문제는 산술의 공리들이 무모순임을 보일 수 있는가 하는 문제였다. 이는 무모순의 완전한 체계를 그렸던 힐 베르트의 꿈을 반영한 것이라 할 수 있으며, 힐베르트는 자신의 발표가 이 문제에 대해 긍정적 1 마틴 데이비스 저, 박정일, 장영태 역, 라이프니츠에서 튜링까지-수학자, 컴퓨터를 만들다, 지식의 풍경, 2005, 287p. 자기 자신을 포함하지 않는 모든 집합 을 모아 둔 collection을 A라 두고, A가 스스로를 포함해야 하는지 2 러셀을 아닌지 물었다. A의 구축은 완벽하게 논리적이며 주어진 명제가 애매하지 않음에도 불구하고, 명제는 참도 거짓도 될 수 없다. 3 아포스톨로스 독시아디스, 크리스토스 H. 파파미트리우 글, 알레코스 파파다토스, 애니 디 도나 그림, 전대호 역, 로지코믹스-버트런드 러셀의 삶을 통해 보는 수학의 원리(원제: Logicomix: An Epic Search for Truth), 랜덤하우스, 2011, 152p. 1

답변을 이끌어 낼 수 있을 것으로-즉 누군가 무모순성을 증명해 줄 수 있을 것으로-희망했다. 그러나 1931년 괴델이 자신의 논문에서 반드시 결정 불가능한 명제, 다시 말해 체계 내부에서 참인지 거짓인지 판별할 수 없는 명제가 존재한다는 것을 보임으로써 힐베르트의 꿈, 나아가 첫 번째 흐름 전체에는 강력한 타격이 가해지고 만다. 그 후 드디어 (적어도 이론적인 면에서는) 컴퓨터의 직접적인 아버지라 할 수 있는 앨런 튜링이 등장한다. 그는 괴델의 불완전성 정리에 흥미를 갖고, 다른 방식의 증명 또한 생각하게 된다. 이 과정에서 튜링은 무한히 길고 정사각형 들이 일렬로 늘어서 있는 종이띠, 이 위의 데이터를 읽고 고칠 수 있는 기계, 그리고 상황에 따라 기계가 따라야 할 5순서열로 구성된 규칙표로 구성된 튜링 기계 라는 개념을 고안하였다. 튜링 은 이 기계가 수학에서 말하는 기계적 과정-예를 들면 덧셈, 곱셈, 숫자를 베껴쓰는 것 등등-을 모두 수행할 수 있다는 것을 보였고, 더 중요하게는, 만능 기계(universal machine)라는, 다른 모든 튜링 기계들이 할 수 있는 행위를 똑같이 할 수 있는 기계가 존재함을 보였다. 비록 튜링이 이 기계를 어떻게 현실에서 구현할 것인가에 대한 구체적인 답을 완성하지는 못했지만, 현대의 컴퓨터들은 결국 그가 제시한 튜링 기계 형태를 따르고 있기에, 앨런 튜링은 컴퓨터의 아버지라 불리기에 모자람이 없을 것이다. 그리고 마지막으로 튜링 기계를 구현화 할 수 있는 구체적 방법론을 제시한 세 번째 흐름이 있는데, 조지 부울과 클로드 섀넌이 여기 속해 있었다. 물론, 조지 부울은 튜링이 태어나기도 전의 사람이었기에, 그가 튜링 기계를 구현화하려는 목적을 갖고 있을 수는 없었다. 그러나 그가 고안한 부울 대수는 의도치 않게 튜링 기계의 구현에, 다시 말하면 현대 컴퓨터의 실체화에 많은 도움을 주게 된다. 그 연결고리는 바로 클로드 섀넌의 석사 학위 논문에 있는데, 섀넌은 여기서 부울의 논리 대수가 스위치 회로에 대응이 됨을 보였다. 다시 말해, 부울의 논리 대수로 스위치 회로 설계도를 만들 수가 있었고, 추상적이며 논리적인 개념인 부울 대수를 이용하여 더 복잡하 고 정교한 기계를 설계할 수 있게 된 것이다. 비로소 튜링 기계는 스위치를 통해 구체화 될 수 있었으며, 부울 대수에 힘입어 더 발전된 형태로 나타날 수 있었다. 부울 대수라는 체계 안에서, 논리적인 생각들은 기호의 형태로 가지를 칠 수도, 꼬리를 물 수도, 변형될 수도 있었다. 더구나 샤논의 연구 결과 덕에, 아무리 논리적인 생각들을 복잡하게 꼬거나 합해도 이는 스위치의 형태로 구현될 수가 있었다! 이러한 탄탄한 논리적 기반 위에서, ENIAC, ACE, EDVAC 같인 유명한 초기의 컴퓨터들이 등장하기 시작했다. 진공관, 그 이후의 트랜지스터의 개발로 엄청나게 많은 전기 스위치를 좁은 판 위에 세워 둘 수 있게 되면서, 많은 스위치들 중 전기 스위치가 현재까지 는 가장 효율적인 것으로 밝혀졌고, 컴퓨터는 더 작아지면서도 빠르게 많은 일을 처리할 수 있게 발전하여 일반인들의 생활 곳곳까지 파고들었다. 결과적으로 첫 번째 흐름은 뜻을 이루지 못하고 좌절하고 말았지만, 그 목표가 불가능하다는 것을 밝히는 과정에서 튜링 기계라는 혁신적인 개념이 발전하였으며, 이 개념은 부울 대수와 스위 치를 통해 컴퓨터라는 이름의 현실 속 물건으로 구체화되었다. 비록 컴퓨터의 탄생에 기여한 많은 사람들은 그들의 작업이 후대에 어떤 영향을 미칠지 몰랐지만, 오늘날 살고 있는 많은 사람들은 그들의 덕을 보고 있다. 2

2 개인적인 감상 하나의 역사적 사건을 가지고도 사람들은 서로 다른 다양한 감정을 느낀다. 예를 들어 제 2 차 세계대전 중 태평양 전쟁에 대해 말할 때, 많은 한국인들은 정신대, 강제 징용, 물자 공출 같은 비극적인 일화들을 떠올리며 슬픔을 느낄 것이다. 반면에, 일본 극우 세력은 히로시마와 나가 사키에 떨어진 원자폭탄을 언급하며 미국에 분노할 수도 있을 것이다. 컴퓨터의 발명이라는 큰 역사적 사건을 다루면서, 마틴 데이비스는 에필로그에 가서 짤막하게 자신의 감상을 내비친다. 위 에서 언급했듯 컴퓨터는 3세기에 걸친, 일종의 의도치 않은 산물이었다. 마틴이 보기에 이 사실은 오늘날에도 통하는 교훈을 던져주는데, 단기적이고 뚜렷한 연구활동만을 장려해서는 안된다는 것이다. 얼핏 보기에 쓸모없는 연구가 후대에 엄청난 성취를 이룰 수도 있기 때문이다. 마틴이 컴퓨터의 역사를 탐구하면서 우선적으로 느낀 감상과는 다르게, 나는 컴퓨터의 발명 에 기여한 많은 학자들이 시간적, 공간적 거리로 인해 서로 토론하고 협업할 수 없었다는 점을 깨닫고 강한 안타까움을 먼저 느꼈다. 물론 몇몇 학자들은 서로 교류했다. 예를 들어 러셀은 프 레게를 찾아가 논리학에 대해 대화를 나눴고, 존 폰 노이만은 앨런 튜링의 업적을 존중했을 뿐만 아니라 프린스턴에서 튜링과 함께 의견을 교환하기도 했다. 그러나 더 활발한 교류가 있었으면 어땠을까? 이를테면 라이프니츠가 부울을 만나서 서로의 꿈의 공통점을 찾고 함께 연구할 수 있었다면, 존 폰 노이만이 방사능의 여파로 죽지 않고 더 오래 살고, 튜링도 동성애자라는 이유로 자살이라는 비극적인 최후를 맞지 않고 더 오래 살아서 다른 연구자들과 활발한 연구활동을 했 다면 어땠을까? 역사에 가정은 없다지만, 아마 컴퓨터의 발전은 더욱 가속화 될 수 있었고 양자 컴퓨터가 이미 2000년이 오기 전에 구현될 수 있었을지도 모른다. 그러나 내 안타까움은 곧 기쁨으로 바뀌었는데, 현대로 올수록 생명 기술과 통신 기술이 발전 하여, 연구자들 간의 시공간적 거리를 좁히고 협업을 가능케 하고 있음을 생각해냈기 때문이다. 러셀은 유럽 대륙의 수학자들과 의견을 교류하기 위해서 배를 타고 도버 해협을 건너, 다시 유럽 의 나라들을 연결해주는 기차를 타는 수고를 들여야 했다. 하지만 오늘날엔 다행스럽게도 (물론 면대면으로 하는 것과는 질적 차이가 있지만) 이메일 한 번으로 코멘트를 교환할 수 있다! 더구나 영국-유럽 대륙만이 아니라 전세계적으로 이런 것이 가능하다. 뿐만 아니라 인간의 평균 수명은 계속 늘고 있으며, 연구자들도 예외는 아니다. 부울은 자신의 이론이 어떤 영향을 미칠지 모르고 섀넌도 만나지 못한 채로 50세에 죽었다. 힐베르트는 80세를 넘겨서 살며 괴델을 만나 자신이 추구했던 무모순 체계라는 꿈이 가능한지 불가능한지 결과를 알 수 있었다. 따라서 현대로 오면서 연구자들은 서로의 의견을 확인하고 들을 수 있게 되었고, 이것은 여러 사람의 아이디어가 더욱 활발하게 섞이고 종합되며 발전할 수 있게 되는, 매우 고무적인 결과를 낳았다. 더 이상 한 명의 정신적 거인에게 의존하는 일은 줄어든 대신, 집단 지성을 활용할 수 있게 된 것이다. 현대적 발명품인 원자폭탄은 맨하탄 프로젝트 에 의해 개발되었는데, 여기에는 물리학자, 군인, 기술자들을 포함하여 10만 명 이상의 사람들이 참여했다. 컴퓨터의 발명 또한 어느 한 명에게 공을 돌리기 힘든, 3세기에 걸친 긴 정신적 흐름의 산물이었다. 이렇듯 협업의 힘을 적극적으로 활용할 수 있게 되면서, 인류의 발명품들이 예전에는 상상도 하지 못할 만큼 정 교하고 규모가 커지게 될 수 있었기에, 당분간 이러한 기조는 변하지 않을 것으로 보인다. 더구나 미래에 다가올 컴퓨터의 발전은 다른 분야와의 융합을 통해 이루어질 확률이 크기에, 연구자들에 게 더욱 남들과 원만하게 지내고, 협업할 수 있는 능력 을 요구하게 될 것이다. 컴퓨터가 다양한 분야로, 그리고 일상 속으로 진출함에 따라 이러한 경향은 더 두드러질 것이다. 뉴욕 시립대학의 교수이며, 과학적 관점에서 본 미래 예측 전문가인 미치오 카쿠는 그의 저서에서, 컴퓨터는 더욱 작아져서 콘택트 렌즈 형태로 사용될 것이며, 벽지, 창문, 종이에마저도 칩이 부착되어 있어 컴 3

퓨터가 말 그대로 어디에나 있는(ubiquitous) 시대가 도래할 것으로 예측한다. 그렇다면 이러한 형태의 컴퓨터가 제대로 기능을 하고 사람들에게 받아들여지기 위해서는 과거에는 흔하지 않았던 형태의 협업이 필요할 것이다. 예를 들면, 컴퓨터 공학자들은 안과 의사나 건축 자재 전문가 같은, 이전에는 별로 마주칠 일이 없었던 사람들과도 같은 목적 아래 프로젝트를 진행할 수 있어야 할 것이다. 그러므로 미래에 컴퓨터 공학을 전문적으로 연구하려는 사람들 입장에서는, 자신의 분야에 대 한 전문성 이외에도 다른 다양한 분야의 전문가들과 의사 소통하고 협업할 수 있는 능력이 강력한 무기가 될 수 있을 것이다. 물론 이는 컴퓨터 공학에 한정된 얘기는 아니다. 경제학에서 심리학의 여러 결과들을 도입하여 행태경제학(Behavioral Economics)라는 필드를 만들었고, 생명과학에 서 통계학 및 계산과학의 기법을 적극적으로 받아들여 생물정보학(Bioinfomatics)이라는 필드를 만들었듯이 학제 간 융합은 어느 분야에서나 일어나고 있다. 따라서 다른 낯선 분야의 사람들과 적절한 언어로 의사소통하고 같은 목표 하에 연구를 진행할 수 있는 능력 또한 어디서나 요구될 것이다. 그러나 컴퓨터를 필요로 하지 않는 분야가 거의 없기 때문에, 컴퓨터 공학에는 특별히 더 다양한 분야의 사람들과 같이 일하고 결과를 창출할 수 있는 기회가 있을 것이고, 이를 잘 활용할 수 있는 컴퓨터 공학자는 풍성한 성과를 낼 수 있을 것으로 보인다. 4

Reference 마틴 데이비스 저, 박정일, 장영태 역, 라이프니츠에서 튜링까지-수학자, 컴퓨터를 만들다 (원제: The Universal Computer-The Road from Leibniz to Turing), 지식의 풍경, 2005. 미치오 카쿠 저, 박병철 역, 미래의 물리학 (원제: PHYSICS OF THE FUTURE), 김영사, 2012. 아포스톨로스 독시아디스, 크리스토스 H. 파파미트리우 글, 알레코스 파파다토스, 애니 디 도 나 그림, 전대호 역, 로지코믹스-버트런드 러셀의 삶을 통해 보는 수학의 원리(원제: Logicomix: An Epic Search for Truth), 랜덤하우스, 2011. 이광근, h컴퓨터 과학이 여는 세계i 2015년 1학기 강의노트, 2015. 5