Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology Vol.8, No.3, March (2018), pp

Size: px

Start display at page:

Download "Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology Vol.8, No.3, March (2018), pp"

승민 빈
4 years ago
Views:

1 Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology Vol.8, No.3, March (2018), pp 신경과학의비결정론적측면에서살펴본 중국어방논변과인공마음 김은미 1), 박재현 2) Chinese room argument and artificial minds viewed from the non-deterministic aspects of neuroscience Eun-Mi Kim 1), Jae-Hyun Pahk 2) 요약 본연구에서는존설 (John Searle) 의중국어방논변 (Chinese room argument) 에대하여그계산주의적관점과그에따른인과적결정론으로서의한계를고찰하고중국어방과딥러닝 (Deep Learning) 시스템, 그리고인공지능구현연구의최종목표인인간의뇌를비교, 분석한다. 이를통해결정론적인고전논리학의인과적필연성의틀속에서칸트적인식론을답습하고있는중국어방논변으로는인공지능의가능성을부정할수없음을살펴본다. 이는뉴런세포집합들의계층구조사이에서선택적순환고리와 positive feedback 이형성되는인간뇌의비결정론적작동방식이나이를모방한딥러닝시스템과는달리, 존설이생각한인공지능이고전적계산주의의결정론적한계에종속되어있음을의미한다. 따라서딥러닝과같은비선형시스템이나양자물리적으로설계된인공지능이고전논리학의영역을넘어서는비결정론적속성을포함하게된다면인간의의식이나마음을인공적으로구현할가능성이배제되지않는다. 핵심어 : 중국어방, 인공지능, 계산주의, 연결주의, 비결정론적속성 Abstract In this paper, we investigate the Chinese room argument by John Searle from the viewpoint of computationalism and its limit as an causal determinism, and compare it to deep learning systems and the human brain, which is the final goal of artificial intelligence research. As a result, it appears that the possibility of artificial intelligence can not be denied by the Chinese room argument, which follows the Kant s epistemology in the framework of the deterministic causal necessity of classical logic. This means that the artificial intelligence thought by John Searle is subordinate to the deterministic limitations of classical computationalism, unlike the non-deterministic behavior of the human brain in which the selective loops and positive feedbacks are formed between hierarchies of neuron cell assemblies or deep learning as its imitation. Therefore, if the artificial intelligence, which is designed as a nonlinear system such as deep learning or a quantum system, includes the indeterministic attributes beyond classical logic, the possibility Received (December 31, 2017), Review Result (January 10, 2018) Accepted (February 9, 2018), Published (March 31, 2018) 1 (Corresponding Author) Dept. Computer & Game, Howon Univ., 64 Howondae 3gil, Impi, Kunsan, Korea. ekim@howon.ac.kr Sangsan High School, Geuma Pyung 130, Wonsan-gu, Jeonju, Korea. jhpahk1441@naver.com ISSN: AJMAHS Copyright c 2018 HSST 419

2 Chinese room argument and artificial minds viewed from the non-deterministic aspects of neuroscience of realizing human consciousness or mind artificially is not excluded. Keywords : Chinese room, Artificial Intelligence, Calculationism, Connectionism, Non-deterministic property 1. 서론 ICT의발달과빅데이터의활용으로인공신경망 (Artificial Neural Network) 방식의기계학습기술인딥러닝 (Deep Learning) 기술이성공적으로구현됨에따라인간의뇌를능가하는인공지능을개발하려는시도가계속고무되고있고, 일부영역에서는인간의수준을뛰어넘는인공지능이출현하면서강한인공지능에대한기대와우려가교차하고있다.[1] 그중에서도가장근본적이고결론을도출하기어려운난제가바로 컴퓨터가지능 ( 또는넓은의미로마음 ) 을가질수있는가? 이다. 이에대해존설 (John Searle) 은 중국어방 이라는가상적실험을구상하여 우리는인간의지능을흉내내는기계는만들수있지만인간의지능자체를구현할수는없다." 고주장하였다.[2] 그러나이러한주장은 ICT 기술의발달과함께인간의뇌와그작용에대한연구가빠르게진척됨에따라많은비판과논란을가져왔다. 본연구에서는먼저, 단지뇌의작동방식을그대로모방했다고해서인간의지능등, 고등정신작용, 나아가의식이나마음까지구현한것은아니라는존설의중국어방논변 (Chinese room argument) 에대하여고전논리학의인과적결정론에기초한이주장의칸트적인식론의측면과한계를분석한다. 중국어방논변의결정론적한계를뛰어넘어최근인공지능연구의주류를이루고있는딥러닝, 그리고인공지능연구의최종목표인인간의뇌를비교분석함으로써인간마음의비결정론적본성에대한이해를바탕으로인공신경망등에의한강한인공지능의가능성에대하여분석한다. 2. 중국어방논변의쟁점 2.1 중국어방논변과존서얼의주장 중국어방실험은단순히튜링테스트만을활용하여기계가인공지능인지를판정할수없다는것을논증하기위해고안된실험으로 외부와차단된방안에중국어를모르지만중국어질문에답변할수있는매뉴얼을갖고있는사람이있다. 방밖에서이사람에게중국어질문을하면이사람은매뉴얼에따라중국어로된완벽한답변을할수있다. 고설계되었다. 이방안의사람이중국어를아는지모르는지를평가하는유일한방법은그가제공하는대답뿐이기때문에이사람을제외한모두는그가중국어를완벽하게구사한다고생각할것이다. 하지만이사람이정말로중국어를안다고할수있을까? 마찬가지로, 우리가완벽하다고생각하는인공지능이정말인간과동급의지능을가진것일까? 이에대해존설은 " 중국어방안의사람은중국어를안다고할수없 420 Copyright c 2018 HSST

3 Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology Vol.8, No.3 (2018) 다. 우리는인간의지능을흉내내는기계는만들수있지만인간의지능자체를구현할수는없 다." 고주장하였다. 즉, 존설이이예를통해서주장하는것은방밖의사람들은방안의사람이 중국어를잘이해하는사람이라고생각할수는있는반면정작방안의그자신은중국어를이해 하고있는것이아니라는주장이다. 중국어방논변과튜링테스트는유사하다고볼수있다. 중국어방의밖에있는사람이방안 의사람이중국어를잘이해하고있다고생각하는것은결국튜링테스트에서상대방의답변을듣 고사람의답변이라고생각하는것과같은의미인것이다. 따라서튜링테스트를통해단순히사람 과대화가가능하다고하여그기계가지능이있다고볼수없다는것이다. 2.2 중국어방을통한컴퓨터와인간의뇌비교 중국어방실험과컴퓨터, 인간의뇌를비교해보면 [ 표 1] 과같다. 인간은뇌가있기때문에지능 ( 생각 ) 이란것을가질수있다. 이러한뇌는뉴런들의집합으로구성되어있지만뉴런하나하나는단순히물리, 화학법칙을따라서작동할뿐인것으로서지능을가질수없다. 다만뉴런들이모여서뇌라는하나의시스템을구성했을때비로소지능 ( 생각 ) 이라는것을가질수있게되고중국어를이해할수있게되는것이다. 중국어방논변또한시스템을구성하는요소들, ' 방 ', ' 방안의사람 ', ' 매뉴얼 ' 은각각그자체로서는중국어를이해할수없다. 이것들이모여서 ' 중국어방 ' 이라는하나의시스템을구성하고이시스템을통해야만중국어를이해할수있게되는것이다. 또한이러한개념은현재의컴퓨터에도똑같이적용될수있으며인공지능도이러한개념을기반으로개발되고있다. [ 표 1] 중국어방과컴퓨터, 인간의인지구성요소 [Table 1] Chinese room, computer and human cognitive component 중국어방 컴퓨터 인간 방 하드웨어 뇌 방안의사람 소프트웨어 뉴런 질문 입력 외부로부터의자극 답변 출력 자극에대한반응 매뉴얼 데이터베이스 기억및학습 2.3 계산주의와연결주의 (Computationalism and Connectionism) 그리고딥러닝 계산주의는기호의표현을통해규칙과논리에기반을둔정보의직렬적계산을통해서지능 ( 또 는마음 ) 을구현하고자하는시도로서튜링기계가대표적인이다. 반면에연결주의는인지의특징 ISSN: AJMAHS Copyright c 2018 HSST 421

4 Chinese room argument and artificial minds viewed from the non-deterministic aspects of neuroscience 을컴퓨터가아니라두뇌의생물학적정보처리메카니즘인인공신경망구조에기반을둔다. 즉, 연결주의에따르면인지작용은수많은신경세포들이상호연결된망에서나타나는병렬적인현상이다. 계산주의자들은인공지능연구에많은성과를남겼지만지능을포함한실세계의형상을모두기호로구성하는것은불가능하다는비판을받으며연구의흐름을연결주의로바꾸게되었다. 두뇌의물리적구조에주목한연결주의는인공신경망을도입하고 학습 (learning)' 의중요성을강조했다. 1957년퍼셉트론 (Perceptron) 이최초로개발된후 1980년대부터신경망기반의연구가활발하게이루어졌으나컴퓨터성능의부족과학습데이터의부족으로이또한연구가부진했다. 최근 ICT의발달과빅데이터등을기반으로딥러닝이대두되었다. 딥러닝은다층 (Multi-layer) 인공신경망에기반을둔강화학습개념이도입된인공지능이다. 3. 신경과학관점에서의중국어방논변에대한비판 3.1 신경과학적관점에서본뇌의비결정론적작동원리 존설이생각한인공지능의작동방식은고전적계산주의를기반으로하고있다. 다시말해, 우리가만드는지능은어떠한정보를인식하면미리정해져있는일련의처리과정을거쳐일대일로대응되어있는답을출력하는매우결정론적인연산과정이라는것이다. 하지만인간의지능은비결정론적으로작동한다. 이는비선형동력계로작동하는신경망구조가갖는특성으로서, 동일한정보의입력에대하여여러가지결과의출력이나타날가능성을지니고있는상태에서실제로해당정보가입력되면가능한여러가지결과들중하나가선택적으로출력된다. 각각의결과가나타날가능성은각각다를수있고, 같은정보가여러번입력될때전부다른결과가나타나는것도가능하다. 실제로인공신경망구조에서히스테리시스 (Hysteresis) 현상이나타나고,[3] 이것이 positive feedback 알고리듬의직접적인결과로설명될수있음이밝혀져있다.[4] 이러한비결정론적특성들이생명의진화에서의다양성이나개체발생에서의세포의분화를설명하는선택의재인 (Recognition)[5] 이나선택적증폭 [6] 작용의근거가될수있다. 신경생리학적인관점에서우리의뇌를분석해보자. 뇌와신경망연구초기에는뉴런이트랜지스터하나와같은논리게이트역할을수행하는것이라고생각했다. 이러한뉴런모델을맥쿨록-피츠뉴런 (W. McCulloch & W. Pitts) 이라고하며, 수상돌기의입력신호를계산하여축색으로출력신호를전달하는단순화된모델이다.[7] 연구가계속진행되면서뉴런의 4가지영역 ( 수상돌기, 신경세포체와축색도입부, 축색나무, 시냅스 ) 에서신호처리가이루어진다는다중뉴런 (Multiplex Neuron, S. Waxman) 모델이제시되었다.[8] 이는트랜지스터가집적된반도체칩에비유할수있다. 현재에는한개의뉴런에서엄청난수의신호처리가일어나며이는컴퓨터이상으로복잡하다고생각하고있다. 다중뉴런의 4가지영역뿐만아니라, 축색이나수상돌기의분기각각이논리연산을수행하는것으로파악된다. 422 Copyright c 2018 HSST

5 Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology Vol.8, No.3 (2018) 헵 (Hebb) 의이론에따르면개개의뉴런이세포집합 (Cell Assembly) 을형성하여집단적으로행 동하고, 집합의집합그리고집합의집합의집합등을형성하여다층 ( 계층 ) 구조를이룬다.[9] 또한 계층들사이의상호작용과 positive feedback 작용에의한선택적증폭의순환고리를형성한다.[6] 이러한선택적순환작용을통한 positive feedback 의작동은다층구조신경망의비결정론적특성에 의하여구현될수있다. 따라서이러한다층인공신경망인딥러닝시스템은 positive feedback 에 의한선택적증폭이나그밖의비결정론적특성들을보여주는다양한정신작용들을구현할수있 는가능성이주목된다. [ 그림 1] 뉴런의다층구조를통한순환고리 [Fig 1] Circular loop through the multilayer structure of neurons 게슈탈트심리학의아래그림들은지능의비결정론적특성을보여주는대표적인예시이다.[ 그림 2] 가운데의그림을통해살펴보자. 이그림은토끼또는오리의두가지해석이모두가능하다. 우리의뇌는이그림을토끼로해석하기위한뉴런집합과오리로해석하기위한뉴런집합을모두가지고있고이그림을보는감각자극에함께연결되어이그림을보기전에는두가지해석의가능성을모두지니고있지만, 이그림을보는순간두지각의각각에해당하는뉴런집합중어느하나가선택적으로발화된다. 이를통해이그림을토끼로해석할지오리로해석할지가결정되는것이다. 동일한감각자극에노출되는동안뉴런집합들의계층사이에상호작용과 feedback 이계속유지되면서인식의결과가선택된다. [ 그림 2] 비결정론적특성을보여주는대표적인예 [Fig 2] Typical examples showing indeterministic properties 3.2 중국어방논변의한계및인공지능의가능성 존설은인공지능의작동방식을고전적인계산주의로만제한하여놓고중국어방논변을통해 ISSN: AJMAHS Copyright c 2018 HSST 423

6 Chinese room argument and artificial minds viewed from the non-deterministic aspects of neuroscience 인공지능의가능성을부정하려하였다. 또한고전적계산주의의결정론적인한계에얽매어컴퓨터프로그램으로는강한인공지능을만들수없고뇌에서마음을만들어내는역할을하는소위 'causal power' 에해당하는존재가주어져야함을주장하였다.[2] 이는뇌속에서계산이나기호처리의의미를해석해주는또다른존재이고, 이러한 causal power 를구현하는존설방식의인공지능은컴퓨터프로그램만으로는불가능하여또다시 causal power 를도입하게된다. 결국존설의인공지능은 causal power 의무한퇴행이거나, 인과적원리로구현할수없고오로지스스로자신의원인이되는자기참조의모순적구조로귀결된다. 즉 causal power 는마음의원인으로서마음을생성하는충분조건이고, 이러한 causal power 를필연적결과로생성하는원인이되는또다른충분조건이존재해야하므로이러한충분원인들의무한소급을피할수없게된다. causal power 와같은이충분원인들의무한소급의계열은칸트에의하면존재의필연적조건이따로필요없는무제약자의선험적개념으로서, 경험의세계내에서실재하지않으면초월적관념으로존재하고경험의세계에존재하면인과적필연성을붕괴시키는결정론의모순 ( 이율배반 ) 으로드러난다. 후자의경우는결정론적고전논리의체계에서는허용될수없으므로, 존설과마찬가지로칸트는무제약자에대하여전자의초월적관념론을추구할수밖에없는데, 이것이칸트에게는경험세계의현상들을설명하는자연법칙의필연적인과성과초월적절대자유의개념이양립가능하다는결론을선사하지만, 존설에게는마음을자연의법칙으로설명할수없다는결론을던져준다. 즉마음을설명하는존설의 causal power 는초월적이념이므로이를인간이경험의세계에서구현할수는없고, 따라서마음을가진강한인공지능역시불가능한결과물이되는것이다. 자기참조의논리구조를가진초월적이념으로서 causal power ( 의무한소급 ) 와같은무제약자는경험의세계에실재하면자연법칙의인과적통일성을훼손하고, 이는경험적현상들을고전논리학의결정론적체계에서벗어나게한다. 따라서결정론적논리체계를고집한다면자연의경험적현상들에대한궁극적설명은초월적이념에의존할수밖에없고, 자연현상으로서의마음역시자연의법칙으로이를설명하거나인간의이성적능력으로구현하는것이불가능해진다. 결국인간의마음을하나의자연현상으로이해하기위해서는고전논리학의결정론에서벗어나비결정론적인논리체계를받아들여야하고, 이러한필요성과정합적으로비결정론적현상들이존재해야하는데, 이미살펴본바와같이비결정론적인인지현상들이실재할뿐만아니라자연의기본법칙역시비결정론적인원리로작동하고있음이확인되었다. 결정론적인세계관에의하면, 경험세계의사건들에대한원인들의인과적무한소급의계열에서모든원인들은각각의결과를완전히설명할수있을만큼충분히규정되어야하는데, 이는곧필연적으로결과를산출할수있을만큼충분한기본조건들이동시에성립되고적용될수있어야함을의미한다. 즉이원인들은기본조건들의논리곱으로이루어진충분조건이어야한다. 고전논리학이적용되는뉴턴의역학체계에서는모든독립적인조건들이동시에성립하는기본조건들로서제한없이논리곱에적용될수있다. 이러한뉴턴역학의특성이자연현상에대한기계론적결정론을뒷받침하고있는것이다. 그러나이러한기본원칙은양자역학에의하여근본적으로부정되 424 Copyright c 2018 HSST

7 Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology Vol.8, No.3 (2018) 는데, 기본적인물리조건들이모두 ( 특히상보적성질들은 ) 동시에적용가능하지는않다는것으로 서소위 불확정성원리 라고표현되는것이다. 따라서충분조건을구성하는기본조건들의논리곱 이물리적으로완전히구현될수없게되어충분조건이충분히성립하지않는상황들이실재하므 로특정한결과의결정론적필연성이반드시보장되는것은아니다. 이러한양자역학의비결정론 적특성은양자논리학 (Quantum Logic)[10] 이나양자확률이론 (Quantum Probability Theory)[11] 의연구로이어져다양한비결정론적현상을설명하는이론적근거를제시할수있다. 중국어방이라는가상적인실험장치를거쳐 causal power 를끌어들이는존설의논변은단지 결정론적계산주의의바탕이되는고전논리학의한계를지적하고있을뿐이다. 딥러닝시스템이나 뇌와같은신경망구조는비선형계로서비결정론적행태들을보여주므로존설의논변에제약받지 않는다. 마찬가지로괴델의불완전성 [12] 역시자기참조의논리적구조가갖는결정론적고전논리 학의한계를드러내고있는데, 칸트가조명한충분조건들의인과적무한소급의계열에서반대방향 의인과적연결고리를살펴보면필요조건들의무한전개를마주하게된다. 이필요조건들의무한계 열로이루어진명제는어떠한다른명제들에의해서도증명될수없는, 명제자체가증명불가능 함을보여주는증명과정에해당하는것이다. 이러한고전논리학의형식체계가갖는증명불가능성 은곧계산불가능성 [13] 을의미하므로, 이를파악할수있는인간의의식과는달리계산만을하는 장치인컴퓨터가인간처럼생각할수없다는펜로즈와루카스의주장역시결정론적인고전논리학 의체계에한정된결론일뿐이다. 같은취지에서양자역학의원리를활용하여뇌의미시적작동원 리를설명함으로써마음이나의식의현상을설명하려는양자마음 (Quantum Mind) 에대한연구가 이루어지고있다.[14] 4. 결론 딥러닝에서사용되는인공뉴런은맥쿨록-피츠뉴런의단계로, 인공뉴런하나가가장기본적인논리연산하나를수행한다. 딥러닝과같은인공신경망은인간의뇌보다훨씬더많은계층구조로구성할수있지만인간의뉴런하나는엄청난복잡성을가지고있기때문에계층구조가얕더라도딥러닝보다는훨씬복잡하다. 아직인간의뇌를따라잡은단계는아니지만, 딥러닝시스템은인공신경망으로서비선형동력계의비결정론적속성을보여줄수있는데, 이를테면히스테리시스현상과같이다양한비결정론적현상들이신경망구조에서구현될가능성이있다. 비선형동력계이외에또다른비결정론적시스템은양자역학계로서고전논리학이나고전적확률이론이성립하지않고양자논리학과양자확률이론으로대체된다. 실제로양자마음분야와더불어, 양자인지 (Quantum Cognition) 분야에서는뇌의정보처리과정을양자물리학의방법으로모델링함으로써인지편향에해당하는인간의비합리적결정행태등을설명하고있다.[15] 따라서딥러닝과같은인공신경망모델이나양자신경망 (Quantum Neural Network) 과같이양자역학의원리가결합된비결정론적시스템을바탕으로인공지능이구현된다면존설의중국어방논변과같은강 ISSN: AJMAHS Copyright c 2018 HSST 425

8 Chinese room argument and artificial minds viewed from the non-deterministic aspects of neuroscience 한인공지능에대한반대논리로부터자유로울수있고, 인간의마음을모델링할가능성을기대할 수있다. References [1] D. S. Kim, Human vs machine, East Asia Publishers, Korea (2016). [2] J. Searl, Can Computer Think?, in Philosophy of Mind, Oxford University Press, Oxford (1983). [3] A. A. Adly, and S. K. Abd-El-Hafiz, Using Neural Networks in the Identification of Preisach-Type Hysteresis Models, IEEE TRANSACTIONS ON MAGNETICS, VOL. 34, NO. 3: (1998); F. Preisach, Über die magnetische Nachwirkung. Zeitschrift für Physik. 94: (1935). [4] A. Visintin, Differential Models of Hysteresis, Springer (1994). [5] G. Edelman, Bright Air, Brilliant Fire: On the Matter of the Mind, Penguin (1992). [6] E. Harth, The Creative Loop: How the Brain Makes a Mind, Addison Wesley (1993). [7] W. McCulloch, and W. Pitts, A logical calculus of the ideas immanent in nervous activity, Bulletin of Mathematical Biophysics, 5: (1943). [8] S. G. Waxman, Regional differentiation of the axon: A review with special reference to the concept of the multiplex neuron, Brain Res., 47: (1972). [9] D.O. Hebb, The Organization of Behavior. New York: Wiley & Sons. (1949). [10] G. Birkhoff and John von Neumann, The Logic of Quantum Mechanics, Ann. Math. 37 (4): (1936); Maria Luisa Dalla Chiara and Roberto Giuntini, Quantum Logic (2008). [11] P.-A. Meyer, Quantum probability for probabilists, Lecture Notes in Mathematics 1538, Springer-Verlag Berlin (1993). [12] Kurt Gödel, Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I, Monatshefte für Mathematik und Physik, v. 38 n. 1: (1931). [13] A. M. Turing, On Computable Numbers, with an Application to the Entscheidungs problem, Proceedings of the London Mathematical Society : (1937). [14] R. Penrose & S. Hameroff, Consciousness in the Universe: Neuroscience, Quantum Space-Time Geometry and Orch OR Theory, Journal of Cosmology. 1 (2011); J. R. Lucas, Minds, Machines and Gödel, Philosophy XXXVI: (1961). [15] J. Busemeyer and P. Bruza, Quantum Models of Cognition and Decision, Cambridge University Press, Cambridge (2012). 426 Copyright c 2018 HSST

제2강 생각하는 기계

제2강 생각하는 기계 제 2 강 생각하는기계 < 인공지능입문 > 강의노트 장병탁서울대학교컴퓨터공학부 & 인지과학 / 뇌과학협동과정 http://bi.snu.ac.kr/~btzhang/ Version: 20180312=> 20180313 목차 튜링테스트...... 3 중국어방논증........... 7 강인공지능과약인공지능..... 8 특이점....... 10 의식의문제와인공지능........