고전논리학과대화논리학 형식논리학입문

고전논리학과대화논리학 형식논리학입문 洪聖基

고전논리학과대화논리학 형식논리학입문

책머리에 20세기초네덜란드의수학자브라우어Brouwer에의해제기된고전논리학에대한설득력있는비판은이후, 철학의윤리란정당화에있다 는신념하에배중율의제한없는사용이일체의정당성을결여했다는확신을갖고있는직관주의논리학자들은 논리학의구성주의적재구성 을목표로다양한모색을계속해왔다. 그결과의하나로서 P. 로렌젠Lorenzen이 1958년발표한 논리와투기 를단초로 K. 로렌즈Lorenz는직관주의논리학을철학적으로엄밀ㄹ하게정당화하는데, 즉구성주의적기초를마련하는데에성공하였다. 그결과가대화논리학이다. 그러나현재한국에서발간된논리학책의거의전부는고전논리만을다루고있어, 일반인들에게고전논리학이란일종의 천상의선물 로간주되고있는실정이다. 다른한편대화논리학의경우대부분의문헌이독일어로쓰여전공자들에게도접근이쉽지않은것이사실이다. 고전논리학이광범위한쓰임이있는것은분명하지만, 그렇다고해서그한계를잊어서도안된다. 특히컴퓨터의발전과대량보급에의해도래된 IT시대에바로컴퓨터의계산과정이유한하다는점에서, 유한성을전제로하는직관주의논리학의쓰임이점차커지고있다는점도고전논리학일색의논리교육을다시한번살펴보아야할이유라고할수있다. 논리학을배우는목적은물론논증의타당성을판단하는방법을 습득하는것이지만, 다른한편이를위해서는논리학에등장하는 많은전문적기술용어들의이해가필수적이다. 이전문용어들은 4 고전논리학과대화논리학

때로는논리학내부의기술용어이기도하지만, 때로는논리학의전제와관련된개념들이기도하다. 여기에서고전논리학과대화논리학의서로상이한개념정의와상이한전제들을서로비교하면서배운다는것은, 그자체가형식논리의이해에기여한다. 이런이유로이책은처음부터고전논리학의전제와그구성과정에대하여비판적인입장을취하고있다. 그렇다고해서고전논리학의세부사항이경시되지는않았으며, 논증의타당성에대한고전적접근방법도충분히소개하였다. 다만고전논리학과대화논리학을한학기에배우기위해서는연습의비중을줄일수밖에없었다. 그러나이런연습과정은이미출간된많은논리학책을통해쉽게보완할수있는부분이기도하다. 필자의은사이기도한로렌즈교수는논리학자이지만논리학의쟁점이결코기술적인것이아니며철학일반의상황, 즉인간이현실적으로하고있고할수있는행위와, 이행위에대한이론간에깊은단절이있음을보여주려고노력하였다. 예를들어대상언어의논리체계를도입하기위해서는우리가사용하고있는메타언어가필수적이지만 ( 행위의차원!), 고전논리학자들은바로이메타언어가암묵적으로이론화되어있고, 그것이바로대상언어와동일한논리체계라는전제를하고있다 ( 이론의차원!). 반면대화논리학에서는바로이메타언어의논리체계란암묵적이건명시적이건결코그논리적구조가자명하지않으며비로소인간의행위를통해재구성되어야한다고보고있다. 이런점에서 형식논리학 입문이라는부제를달은이책은, 그기술적측면을강조하기보다는논리적언어행위와이언어행위의이론적재구성에대한서로상이한이해와접근의기록으로볼수있다. 2009 년 11 월 책머리에 5

차례 (i) 책머리에 4 (ii) 차례 6 1. 고전논리학과비고전논리학 12 1.1 고전논리학의정의 12 1.2 고전논리학의전제 14 1.3 결정가능한진술 15 2. 논리학을위한사전지식 17 2.1 논리와궤변 17 2.2 비형식논리학과형식논리학 18 2.3 명제논리와술어논리 20 2.4 구문론과의미론 22 2.5 대상언어와메타언어 24 3. 명제논리의구문론 28 3.1 기본기호의도입 28 3.2 표현과정식 30 3.3 문장기호와보조기호의기능 32 4. 명제논리의의미론 34 4.1 부정 35 4.2 연언 38 4.3 선언 39 6 고전논리학과대화논리학

4.4 조건 42 4.5 쌍조건 45 4.6 셰퍼막대기와퍼스화살표 47 4.7 연결사의진리함수적해석 49 5. 명제논리논증의타당성 51 5.1 진리값매김, 만족시킴, 모형 51 5.2 항진, 우연, 모순 52 5.3 고전적명제논리의결정가능성 54 5.4 타당성의정의 54 5.5 타당성과항진성과의관계 57 6. 명제논리의모형이론 60 6.1 표준식 61 6.1.1 연언표준식 61 6.1.2 선언표준식 62 6.1.3 변환방법 62 6.2 Q-분석 63 6.3 약식진리치분석 65 6.4 간접증명 66 7. 명제논리의증명이론 70 7.1 증명이란? 70 7.2 자연연역 73 7.2.1 추론규칙 74 7.2.2 대치규칙 75 7.2.3 규칙의적용 76 7.2.4 조건증명규칙 78 7.2.5 귀류법과간접증명 81 7.3 진리나무 83 7.3.1 진리나무의특징 83 7.3.2 진리나무의원리 83 7.3.3 진리나무의전개규칙 84 7.3.4 진리나무의사용순서 87 차례 7

8. 술어논리의구문론 89 8.1 기호의도입 89 8.2 문장형식, 문장, 정식 93 8.2.1 문장형식 93 8.2.2 자유변항과구속변항 94 9. 술어논리의기호화 96 9.1 양화사문장의논리구조 96 9.2 양화사변형규칙 98 9.3 양화사영역의제한 101 9.4 다중양화 102 10. 술어논리의의미론 105 10.1 양화사의의미 105 10.2 모형이론 106 10.2.1 해석과모형 108 10.2.2 모형이론과논리적참 110 11. 술어논리의자연연역 111 11.1 완전성과결정불가능성 111 11.2 술어논리의추론규칙 112 11.2.1 보편양화사제거Universal Instantiation(UI) 112 11.2.2 존재양화사도입Existential Generalization(EG) 113 11.2.3 보편양화사도입Universal Generalization(UG) 115 11.2.4 존재양화사제거Existential Instantiation(EI) 118 11.2.5 양화사변형규칙 121 11.3 술어논리의분배와결합관계 122 11.3.1 x(ax Bx) xax xbx 123 11.3.2 xax xbx x(ax Bx) 123 11.3.3 x(ax Bx) xax xbx 124 11.3.4 x(ax Bx) xax xbx 125 11.3.5 x(ax Bx) xax xbx 126 11.3.6 xax xbx x(ax Bx) 127 8 고전논리학과대화논리학

12. 술어논리의진리나무 129 12.1 술어논리의전개규칙 129 12.2 진리나무사용순서 131 13. 대화논리학 134 13.1 발상 137 13.2 대화규칙의결정 141 13.2.1 운영규칙 141 13.2.2 진술규칙 146 13.2.3 단위명제규칙 (7번째운영규칙 ) 148 13.3 명제논리대화들 152 13.4 술어논리 155 13.5 함축, 동치 156 13.6 대화논리학의증명체계 158 부록 : 논리와투기 160 참고문헌 171 찾아보기 차례 9

규 칙은놀이에서교육의한보조물일수있다. 그것은학습자에게전달되며, 학습자는그것의적용을연습한다. 또는 그것은놀이자체의한도구이다. 또는 : 규칙은교육에서도놀이자체에서도사용되지않는다. 또한그것은어떤하나의규칙목록에기록되어있지도않다. 우리는다른사람들이놀이를어떻게하는지를구경함으로써놀이를배운다. 그러나우리는그놀이가이러이러한규칙들에따라행해지고있다고말한다. 왜냐하면어떤관찰자가그놀이의실천으로부터규칙들을 그놀이행동들이따르는어떤하나의자연법칙처럼 읽어낼수있기때문이다. 그러나이경우에그관찰자는놀이하는사람들의잘못과올바른놀이행동을어떻게구별하는가? ( 비트겐슈타인 철학적탐구 54)

I. 준비

1. 고전논리학과비고전논리학 1.1 고전논리학의정의 고전논리학古典論理學 /classical logic 이라함은진리값 truth value 을갖고 있다고간주되는문장 sentence( 진술 statement, 명제 proposition) 1) 들을위 한논리학의통칭이라고할수있다. 2) 바꿔말해 모든문장은참 아니면거짓이다 라는 2 가원칙二價原則 /bivalenc principle 이적용될수 있는진술들을위한논리학이다. 다른한편 1907 년네덜란드의 수학자이자논리학자인브라우어 Brouwer 가 지지할수없는논리적 원칙 De onbetrouwbaarheit der logische principes 이라는그의유명한논문 3) 에서고전논리의핵심원칙인배중률排中律 /tertium non datur 의무제한적 사용에설득력있는비판과대안을제시한이후, 20 세기에는직관 주의 intuitionism 라는명칭 4) 하에비고전논리학 nonclassical logic 이본격적 1) 이책에서는 문장, 진술, 명제 를모두동의어로사용한다. 언어철학에서는이들간에다음과같은구별을하기도한다. 이런견해에따르면칠판에 비가온다. 비가온다., It is rainig., Es regnet. 라고쓰여있다면, 세개의문장, 네개의진술그리고한개의명제가표현되었다고본다. 즉문장은일종의유형 type 이며, 진술은구체적인시간과장소에서발화내지는쓰인것으로서개별자 token 이다. 명제는진술이나문장의의미라고보는것이다. 2) 아리스토텔레스논리학 이라불리는정언삼단논증定言三段論證 /categorical syllogism 을고전논리학과혼동하는경우가있다. 정언삼단논증은고전논리학의일부이지만그역은성립하지않는다. 고전 이라는표현에대한오해이다. 3) Tijdschrift voor wijsbegeerte( 철학잡지 ), 2, 1908, 152-158 쪽. 4) 직관주의란자연수만이우리의직관에주어졌고, 나머지모든수는만들어졌다고본다. 여기서직관에주어졌다는표현이애매하다는비판이많이제기되었으나, 이문제는현대의직관주의자들에의해해결되었다. ( 부록의로렌젠논 12 고전논리학과대화논리학

으로연구되기시작하였다. 이때배중률이란 어떤문장혹은그문장의부정否定 /negation 중하나는참이며제3의가능성은없다 는원칙을말한다. 브라우어는그리스시대의수학이유한한과정을 5) 거쳐문제를해결해야한다는의미에서구성적構成的 /constructive이었고, 따라서배중률을논리적원칙으로도입할수있는반면, 19세기말독일의수학자칸토르Cantor가무한집합을 6) 수학의영역에도입하여고전수학의구성주의적특징이더이상보장되지않음에도불구하고배중률이계속통용되었다고비판하였다. 이런이유로브라우어는 수학이논리학에근거하는것이아니라논리학이수학에근거한다 는실용주의적pragmatic 사고로의전환을제창하였다. 7) 그러나고전논리학은직관주의계열의논리학이출현하기전에형식적으로다루어져왔던유일한논리체계였다. 그러나우리가뒤에서살펴볼대화논리학對話論理學 /dialogic logic은직관주의논리학을완전하게형식화하였을뿐더러, 8) 고전논리학이란대화논리학의체계내에서특별한경우로파악할수있다. 이를통해고전논리학의의미론적, 방법론적, 인식론적전제에대하여보다투명한조감을할수있게되었다. 문 논리와투기 참조.) 5) 그리스수학의주류는기하학이었고, 이때눈금없는자와컴퍼스를유한번사용하여작도문제를푸는것이관건이었다. 그러나데까르트가좌표를발명하여기하학을대수학으로연결시키는데에성공함으로써, 수학의주류는기하학에서대수학으로바뀌게되었다. 6) 아리스토텔레스이래, 무한은끝이나지않는다는관점에서가무한可無限 /possible infinity 으로만이해되었으나칸토르는무한이실제로존재한다고보는실무한實無限 /actual infinity 의입장을취했다. 7) 논리학에대한두가지입장이있다. 즉 인간의행위를논리학에맞추어야한다 (praxis on the top of theory) 는관점과 논리학을인간의행위에맞추어야한다 (theory on the top of praxis) 는관점이그것이다. 전자는고전논리학이, 후자는직관주의논리학이취하고있다. 8) 대화논리학은독일에어랑엔 Erlangen 학파의주요철학자 P. 로렌젠 Lorenzen 이착상하고, K. 로렌즈 Lorenz 가완전히형식화하였다. 두사람모두구성주의철학을지지한다. 1. 고전논리학과비고전논리학 13

1.2 고전논리학의전제 2 가성에기반을둔고전논리학은원칙적으로그진술의진위眞僞 가결정될수있는경우에한하여그정당성을보장받을수있다 고볼수있다. 그러나고전논리학을신봉하는논리학자, 철학자들 은고전논리학의진리값결정가능성에대한요구에대하여논의 자체를차단시키거나혹은형이상학적가정으로넘어가려는경향 이있었다. 일반적으로고전논리학의전제인 모든진술은참이거 나 true 아니면거짓이다 false. 라는 2 가원칙은 결정가능하게참이거 나 decidably true 아니면결정가능하게거짓이다 decidably false 라는이른 바결정가능성을수반하지는않는다. 예를들어 모든짝수는두 개의소수素數의합으로표현된다 는골드바하의추측 Goldbach's conjecture 은아직연역적으로증명되지도, 또지금까지검토한모든 짝수의경우에있어서경험적으로반증되지도않았다. 9) 왜냐하면 모든짝수가다검토될수는없기때문이다. 10) 바꿔말해우리는 골드바하의추측에대한증명이나반증을위한어떠한확실한수 단도사실상갖고있지못하다. 이경우골드바하의추측에대하 여배중률을적용하는사람에게그정당성을묻는다면, 골드바하 의추측이참아니면그부정이참이다. 라는배중율을적용한대 답이외에는전혀기대할수없다. 즉동어반복同語反覆에빠지며이 것은논리적으로순환논증의오류이다. 11) 따라서원칙적으로우리 는배중률이우선그적용대상이되는진술의진위가현실적으로 결정가능할때에만적용가능하다는점을주장할수있다. 12) 9) 4=1+3, 6=1+5, 8=1+7, 10=3+7, 12=1+11, 14=1+13,,100=3+97, 10) 비슷한문제로 모든완전수는짝수다. 라는주장에대해서는아직증명도반증도없다. 피타고라스가처음발견한완전수란자신을제외한약수의합이자신과같은수를의미한다. 예를들어 6=1+2+3, 28=1+2+4+7+14 임으로 6 과 28 은완전수다. 지금까지확인된모든완전수는짝수이지만, 홀수가아니라는증명이없다. 알려진것은다만 (2 n -1) 이소수일때, 2 n-1 (2 n -1) 은모두완전수라는것이다. 이것은등비급수의합을이용하면쉽게증명이된다. 11) 로렌젠, 앞의논문참조. 12) 물론고전논리학자들은이러한요구를받아들이지않는다. 즉골드바하의추측은수학의세계에, 예를들어플라톤의이데아의세계에이미결정되어있 문 14 고전논리학과대화논리학

제는결정가능한진술이무엇인가라는점이다. 1.3 결정가능한진술 우선진술에포함되어있는표현들의의미가언어공동체내에서일의적一義的으로결정되어있어야만한다. 예를들어미학적혹은윤리적규범과같이가치론Axiology과관련된진술은일반적으로보는사람들의관점에따라다르게판단되어그진위가항상분명한것이아니다. 예를들어 신윤복申潤福의 미인도美人圖 는명작이다!, 배꼽티를입고다니는것은망측罔測한행위이므로금지시켜야한다! 는주장들에대하여사회적합의를이루기는쉽지않다. 또한일상적맥락에서도애매모호한표현의경우에는진위판단이결정될수없다. 예를들어 철수는대머리다 는주장에대하여보기에따라애매한상황이있을수있다. 언어사용의정확성, 즉간주관성間主觀性 /intersubjectivity은학문세계의경우에도항상보편적으로보장되고있는것은아니다. 한개념을서로다른의미로사용함으로써무의미한논쟁을벌이는경우는실로비일비재非一非再한상황이다. 이점을결정가능성의의미론적semantic 전제라고말할수있을것이다. 다음으로사실판단의대상object과사실판단의수단methode이일치하는경우그진위판단이유보내지는포기될수있다. 잘알려진예로는 20세기오스트리아출신의철학자비트겐슈타인Wittgenstein 이 철학적탐구Philosophische Untersuchungen 에서거론한프랑스파리에보관되어있던미터원기Urmeter의 13) 길이가있다. 다는형이상학적가정을한다. 다만우리는아직그수학적진실을발견하지못하였을뿐이라는것이다. 이들의견해에의하면마치오랫동안풀리지않았던수학상의난제가풀리는경우가있는것처럼골드바하의추측도언젠가는진위가판별될수있다는것이다. 13) 미터원기는국제도량형위원회가 1889 년백금 - 이리듐합금으로제작한것으 1. 고전논리학과비고전논리학 15

우리는한사물에대해서는그것이 1m라고, 또 1m가아니라고도진술할수없는데, 그것은바로파리에있는표준미터이다. 그러나우리는물론그로써이것에다그어떤이상한속성을부여한것이아니다. 단지미터자를가지고하는측정놀이에서그것이행하는특이한역할을특징적으로나타내었을뿐이다. ( ) 언어내에서그것은묘사의대상이아니라, 묘사의수단이다. ( ) 존재해야만하는것으로보이는것은언어에속하는것이다. 그것은우리의놀이내에서하나의범형範形, 즉비교되는어떤것이다. 14) 우리는 ( 결정, 측정, 판단 ) 수단과 그대상간의독립성을결정가 능성의방법론적 methodological 전제라고부를수있다. 끝으로결정가능성에대한가장일반적인전제로서진술의진위가유한한절차를거쳐서결정되어야한다는주장이있다. 앞에서골드바하의추측의경우처럼진술의진위판단은신神이아니라인간이하는것이고그런의미에서무한의대상영역을인간이모두찾아다니며확인하거나조감할수는없다. 무한한대상영역을전제할경우진술의결정가능성에대한직관주의의비판을그인식론적epistemological 전제라고부를수있다. 여기서인식론적이라함은진술의진위나어떤존재의진위는그것을우리가인식할수있는수단이있거나유한한절차를걸쳐서구성할수있음을보여줄때에만가능하다는의미이다. 즉이것은구성주의철학의핵심요구사항이다. 15) 로서단면이 X 자이다. 1983 년에국제도량형위원회는 1m 를진공에서빛이 1/299,792,458 초동안진행한거리로재정의하였다. 14) L. 비트겐슈타인, 철학적탐구 이영철번역, 서광사, 1994, 51. 비트겐슈타인은미터원기이외에도 자신만이알고있는사적감정私的感情 /private sensation 역시그동일성판단을시도할경우, 대상과수단이일치한다고보고있다. 즉 지금이묘한감정은과거에도한번느낀적이있었다 라고할때우리는어떤기억을떠올린다. 그러나나의감정이완전히사적일때는그기억행위 ( 판단대상 ) 의정확성을판단하기위한유일한방법은과거로돌아가현재의기억과비교하는것이다. 그러나바로그과거로돌아간다는것이지금의기억행위 ( 판단수단 ) 자체이다. 15) 위에서언급한진술의결정가능성의전제조건을만족하지못하더라도고전논리학은존재론적 ( 형이상학적 ) 가정으로넘어가려함은이미말한바와같다. 16 고전논리학과대화논리학