2-2-4 On the Interaction between AI and Human Being in the Age of the 4th Industrial Revolution AI의 출현과 실존적 인간 -4차 산업 혁명 시대, 인간과 인공지능의 상호작용에 대한 현상학적 성찰 - 이종관 성균관대학교 Lee, Jongkwan Sungkyunkwan University Abstract In this spring we have witnessed the future destiny of the human being at the event where AlphaGo defeated Lee Sedol, the world s top professional Go player. However, the figure who predicted the destiny which human being would face in the future is neither Alphago nor Lee Sedol. It was Aja Huang, even though almost no one gave him attention. During this game he did not deserve the ontological mode of human being because he was not any better than an avatar of Alphago. Witnessing this fact, can we dare to assert what the future of human being would be like thus?: If AI is developed in the same way as Google has developed Alphago, it is almost certain that Human being will face the same destiny as Aja Huang. The ontological mode of human being will be degenerated into that of Avatar in the future. Facing the risk of losing the mode of being of human being, the purpose of this essay is to reflect on the direction the development of technology, specifically of artificial intelligence should take, if the technology will contribute to bring the future of human being on the desirable path. The essay will be focused on the risk of the workless society in which the 4th industrial revolution driven by Artificial Intelligence is expected to result. The essay will make clear that the one of major problem entailed by the workless society would be a kind of epidemic of addiction 524
spreading over the entire society in the light of Heideggerian existential ontology, specifically based on Heideggerian phenomenology of the existential temporality of human being. Then the essay will make attempt to discover the way on which the interaction between AI and Human being make commitment to each other through the clarification of the ethical duty of AI as the coordinating tool between human being and his work. 1. 한강, 알파고, 동주 금년 5월한강이라는우리작가가권위를인정받는영국의문학상을수상했단다. 이소식은나를여러단상에사로잡히게했다. 2 년전여름우연히한문학교수와같이한적이있다. 그자리에서난그교수에게뇌과학, 인공지능, 현대언어분석철학이언어를물리주의적으로또논리-분석적으로어떻게연구하는지, 그리하여이러한연구들이융합하여소설이나시를창작하는인공지능프로그램을어떻게개발하려하는지장황하게설명했다. 그리고물었다. 어떻게생각하느냐고. 나는자못장황한논증과설명을담은답변을기대했으나돌아온것은간결하고단호한한마디였다. 어리석은거아닌가요? 그리고이어지는말은무슨뜻인지잘몰랐지만충격을주었다. 시인의삶으로쓰지않는시는위작에불과하지요. 물론소위심리철학이라고불리는분야에서는인간도소프트웨어이고인공지능도소프트웨어라는입장이꽤나정교한논증으로꾸며져있다. 그러나나는그문학교수의말에이런철학을들먹이며반론을펼수가없었다. 다만심리철학의복잡한논증들이참한심한것같은자괴감에사로잡혔을뿐. 하지만난철학자의자존심을접을수없어수긍한다는말대신화제를딴곳으로돌리고말았다. 그후 2 년이지난금년봄, 동주라는영화를보았다. 그리고그말의의미를비로소깨닫게되었다. 동주의삶, 그것이없는동주의시는위작에불과하다고. 인공지능은결코 잎새에이는바람에도괴로워할수없다 고. 그러면서생각했다. 알파고와같은딥러닝인공지능이동주의시를분석하고그의시스타일을파악하여알고리듬화하는데성공했다고치자. 그리하여동주스타일의시를한시간에수천편생산해내는미래가온다고하자. 그러나그미래는다만위작들이합법적으로또거대한자본의지원을받으며어마어마한속도와양으로생산하는거대한 525
위작의시대가될것이다. 동주라는영화가상영되고있을즈음다른한쪽에서알파고가바둑의최고수인간이세돌에게승리하는사건이발생했다. 그무렵일단의우리대한민국청년들은청년동주의삶에서그리고그삶이써낸동주의시에서숭고한감동을받으며자신의역사와자신의삶을성찰하고있었다. 그러나이러한성찰의분위기는이제알파고의승리가지시하는미래를향해질주해야한다는강박이정부의주도로또언론매체를통해급격히전파됨으로써묻혀버렸다. 물론난인공지능연구에대해반대하지는않는다. 그러나우리는늘각성되어있어야한다. 인공지능이아무리시를잘쓰고소설을잘쓰고바둑을잘둔다해도, 인간의삶이없으면위작에불과하다. 위작은사기이며속임수이다. 인공지능개발에 3 조원을투자하기에앞서성찰해야할시급한문제가있다. 자신의삶으로시와소설을쓰는인간은무엇이며그들이쓴작품을읽으며삶을성찰하는인간은또무엇인가. 그리고작가인인간과독자인인간을삶으로연결시키는모국어는무엇인가. 첨단을자랑하는현대학문들이주장하듯인간지적활동은소프트웨어이며, 일단분석철학자들이주장하듯언어는비인격화된기호체계에불과할까. 그래서이제는소설이고시이고모두기계적으로제작될수있는것일까. 대체왜영국인들은한강의채식주의자라는작품에상을주는것일까. 일제식민지를인간적고뇌로살아간동주의삶이없었던들 하늘을우러러한점부끄러움없는 동주의시가탄생하지않았을것과마찬가지로 80년광주라는역사적트라우마를체험한소녀가없었던들, 한강의 채식주의자 탄생하지않았을것이다. 한강. 우리는그녀가우리말로쓴작품이영어로번역되고나서야비로소높은평가를받는아이러니를목격하고있다. 하지만한강이란작가를통해우리말, 인간의삶그리고문학, 그리고역사에대해다시한번성찰할기회가우리에게주어진것에감사한다. 이상하게도한강이수상식장에서한말이계속귓전에남는다. 깊은잠에들어있는한국에감사한다. 물론그녀가상을받는순간지구반대편에있는우리나라는잠들어있었다. 그런데왜나에게는그말이마치첨단과학기술을맹목적으로쫒아가는우리나라는사실깊은잠에빠져들고있다는말처럼들릴까. 마치이세돌앞에서알파고의지시에따라바둑돌을놓는아자황, 그는사실인간으로서는완전히잠들어버린알파고의아바타에불과했던것처럼. 526
2. 과학기술발전의현실적파장: 4 차산업혁명, 인공지능, 그리고인간의일: 인간의미래, 과연아자황인가? - 일없는미래와중독사회의위험 사실알파고와이세돌의바둑대결은급속한과학기술의발전이이루어내는 4차산업혁명에서인간이처하게될미래의상황을이미적나라하게폭로하고있다. 이대결에서주목을받아야할존재는역설적으로도가장존재감이없는존재, 아자황이있다. 이대결에서우리가목격한인간의미래모습은알파고도이세돌도아니다. 그것은바로아자황이다. 아자황은이번대결에서오로지알파고의아바타로만존재하였다. 여기서노출되듯 4차산업혁명은사실상기술적미래주의와트랜스휴머니즘에의해주도되며인공지능에의해운영되는포스트휴먼경제로질주하려한다. 그리고 4차혁명이오로지이방향으로만진행된다면미래는인간이일을잃는사회가될것이다. 물론낙관적인전망도있다. 4차산업혁명은한편으로기존의일자리를파괴하는기술혁신(disruptive technological innovation) 으로진행되지만, 이기술의혁신은다른한편으로새로운일자리를창출할것이라는예측이다. 마치산업혁명이농업분야의일자리를대대적으로파괴했지만, 공장노동자와사무직관리자라는새로운일자리를만들어낸것과같이. 그러나 4차산업혁명은그이전의혁명과근본적으로다른점이있다. 그것은 4차혁명의현재기조가기본적으로인간이서로를필요로하지않는미래에정향되어있다는점이다. 또실질적으로새로운기술에의해창출되는일자리의수는그기술에사라지는일자리수를대체하기에는턱없이부족하다.4차산업혁명의초창기인현재에도이미급격히일자리가줄어드는추세가세계도처에서일어나고있다. 이러한사실을고려하면과거산업혁명의예에안주하며미래의일자리증가를낙관하고현추세를방치하는것은위험하다. 미래를향한현명한태도는일자리의감소가수반할위험에대비하는것이다. 일없는미래를생각해볼때가장먼저예상되는사태는일이없는자들의빈곤이다. 그리고실업이만연할경우, 시장에서소비자가사라져결국총수요부족이란경제적파국을맞을것이다. 때문에경제학자들은 4차산업혁명으로도래할미래의포스트휴먼경제에서는일없는자들에게도기본임금(basic income) 을주는정책을도입하여문제를해결하려한다. 하지만이는인간과일의관계에대한지극히단순한사고이다. 물론기본임금은일시적으로경제적궁핍과사회의양극화그리고총수요부족을진정시킬수는 527
있다. 그러나 이것만으로 문제를 해결하려 한다면, 그것은 큰 오산이다. 이미 언급 한 바와 같이 일은 인간의 품격, 개인의 사회적 가치를 실현하는 인간의 실존적 처 신이다. 그리고 이것이 실존적 처신인 이상 일없는 상태는 인간의 실존적 삶에 많 은 문제를 일으킨다. 그중에서도 철학적으로 가장 심각한 것은 인간의 삶이 진행 되는 실존적 시간성이 병리적 상황에 빠질 위험이다. 인간이 탈(실)존적으로 처신 하며 살아가는 존재라면, 일이 없는 자들에게 경제적 궁핍보다 더 위험한 사태는 그들이 미래가 없는 권태에 빠져 결국 중독자로 전락한다는 것이다. 인간은 그냥 존재하고 있는 물체와 같은 것이 아니다. 인간은 존재하면서 그의 존재가 문제되 는 존재자라는 독특한 존재 방식으로 살아간다. 따라서 인간의 존재 현사실성, 즉 인간이 현실적으로 지금 여기 있음은 인간이 존재하기 위해 이미 항상 행위 (pragma)를 하면서 어떤 일상의 일에 개입되어 있다는 상황이다. 때문에 인간은 일 이 사라졌을 때 비로소 시간이 지체되거나 멈춰 선 기분에 처한다. 이처럼 일이 없 을 때 인간이 처하는 기분은 중독자에게도 나타난다. 중독된 환자들을 치료하면 서, 가장 흔하게 관찰되는 것은 그들의 시간성에 문제가 있다는 것이다. 11) 더 나 아가 중독자의 기분을 가장 잘 표현하는 것은 나는 내가 원하는 것을 원하며 지 금 당장 그것을 원한다. 12)이다. 중독자의 시간성의 문제는 지금 당장 에 붙잡혀 있다는 것이다. 여기서 잠시 중독에 대해 살펴보자. 중독은 단순한 질병이 아니다. 그것은 어떤 바이러스나 물질적 궁핍이 원인인 병이 아니다. 중독은 물질적 풍요 속에서도 발생하는 인간에게만 독특한 시간적 질병이다. 정상인의 경우, 미래는 지금을 살기 위한 계획 (brooding presence)으로 써 변화를 향해 열려 있음 으로 드러난다. 미래는 그냥 시간이 흘러 도달하는 것 이 아니라 알려지지 않은, 불확실한 그리고 변화 가능한 가능성으로서 현재에 다 가온다. 하지만 중독자에게는 변화의 가능성으로서의 미래가 오지 않는다. 이는 중 독자에게서 나타나는 대표적인 현상인 충동성에서 목격된다. 중독자들의 충동성은 동물의 충동과는 그 성격이 판이하게 다르다. 동물의 충동성은 이미 그 동물이 그 동물로서 생존할 수 있게 하는 완성된 능력이다. 동물은 먹어야 할 때 먹이충동이 일어나며, 번식을 해야 할 때 교미충동이 일어난다. 그리고 그 충동에 충실하면, 동물은 그 동물로서 성공적으로 생존한다. 그러나 중독자의 충동성은 그것을 통해 그의 존재가 오히려 위협받는 중독자의 시간적 존재성격이다. 이 중독자의 충동에 11) The Temporal Dimension of Addiction p.2 12) 중독의 심리학 p.29 528
서 나타나는 시간적 특성을 가장 잘 표현하는 것은 나는 내가 원하는 것을 원하 며 지금 당장 그것을 원한다. 13)이다. 중독자의 충동성에서 드러나는 시간성의 문 제는 중독자들이 지금 당장 에 붙잡혀 있다는 것이다. 지금이라는 순간에 붙잡혀 있다는 것은 인간이 미래로 정향되지 못한다는 것을 의미하며, 이는 인간으로서의 탈(실)존적 삶을 살아가지 못한다는 것이다. 인간의 시간성은 과거와 미래가 현재 라는 한 순간에 중첩되어 있다. 현재라는 순간에서 인간은 미래의 가능성을 기투 하고 그 가능성들을 성공적으로 획득하게 되면 그 현재라는 순간은 자연스럽게 그 다음의 지금이 되는 것이다. 그러나 인간이 미래로 자신의 가능성을 기투하지 못 할 때, 인간은 자신의 고유한 시간성을 잃어버리고 지금이라는 순간에 붙잡혀 세 계와 어떤 교섭도 하지 못하는 공허 속에 던져지게 되는 것이다. Rayn Kamp는 그 의 논문에서 개학을 앞 둔 상황을 예로 든다. 여름 방학이 끝나고 학교로 돌아간 아이의 경우, 작년의 경험, 즉 좋고 나빴던 기억들은 학교 정문에서 그 아이를 맞 이한다. 이러한 기억들은 지금 을 형성하지만 이것은 단지 그 아이가 자신의 미 래에 정향되어 있기 때문이다. 14) 아이가 앞으로 학교를 계속 다녀야 한다는 미래 의 상황에 정향하여 그 미래를 현 상황에 개입시키지 않는다면, 그 아이에게 지나 간 과거의 사실들은 그의 존재가 실현되고 있는 현재의 상황에 기억의 형태로 스 며들며 그 아이의 현재 상황을 구성하지 못할 것이다. 이러한 예에서 보듯 현존재 는 미래에 정향되어 있기 때문에 현재에서 과거를 만난다. 미래가 바로 과거를 현 재화 시키는 동기부여의 역할을 하는 것이다. 현존재가 실천적 삶을 살아가는 데 있어서, 가장 중요한 존재성격은 현존재가 자신의 가능성을 아직 오지 않은 어떤 상태로 기투한다는 것이다. 이러한 미래를 향한 기투가 이루어지지 않을 때, 다시 말하면, 현존재의 삶이 미래에 정향되어 있지 않을 때 현존재는 자신의 고유한 시 간성을 잃고 현존재로서의 실존가능성을 상실하는 것이다. 결국 인간은 할 일이 없는 상태에서 미래라는 시간과 관계가 절연된 상황, 즉 절 망적 상황에 처한다. 미래와의 관계가 단절된 상황에 있는 인간은 현재의 시간이 미래로 흐르지 않는 권태상태에 빠지게 된다. 아무리 물질적으로 영양학적으로 좋 은 조건이 제공된다고 해도 자신의 미래를 기획하고 일을 통해 그 기획을 적극적 으로 실현시킬 수 있는 일이 사라지면, 사람은 절망에 빠지고 권태에 찌들게 되는 것이다. 그리하여 시간이 미래로 흐르지 않아 미래를 기획할 수 없는 병인 중독에 13) 중독의 심리학 p.29 14)Rayn Kamp, 2009, The Temporal Dimension of Addiction. Journal of Phenomenological Psychology volume 40. Brill. p.4 529
걸리고만다. 이러한사례를대표적으로보여주는것이컴퓨터게임중독이다. 게임중독은게임을하는시간에비례하여발병하는병리증상이아니다. 컴퓨터프로게이머는게임중독자가아니다. 그는컴퓨터게임이라는일을함으로써아직오지않는자신의다른가능성을향해탈( 실) 존하는인간이다. 그러나이렇게아직오지않은자신의다른가능성으로탈존할수없는자들에게는미래라는시간이증발한다. 오직현재만이있을뿐시간이흐르지않고따라서떨쳐버릴수없는권태의상황에처한다. 이권태를마비시키는것이오직컴퓨터게임이라면, 그는게임중독자가되는것이다. 인간의일, 시간성, 그리고중독현상을살펴본결과이제우리는다음과같이주장할수있다. 현재와같은맹목적기술적효율성에집착하여인간을일자리에서몰아내는미래의포스트휴먼사회는지속가능하지않다. 아무리효율성과정확성이높은미래적기술이라할지라도그것이인간에게일을박탈하는기술이라면, 그러한기술이지배하는사회는그사회의구성원들을미래를기획할수없는중독의늪으로침몰시켜결국붕괴하게될것이다. 3. 인간과기술그리고미래의기술: 인간만이일한다. AI는다만작동할뿐 이제이러한사실을염두에두고인간과기술은어떤관계에있는가를생각해보자. 이때우리가잊지말아야할사실이있다. 인간만이일을한다는것이다. 기계는작동할뿐일하지않는다. 인간이일하기때문에기계, 나아가인공지능이필요한것이다. 또인간의일은단순히생존을위해먹이를구하는동물의행동과는다른차원의탈( 실) 존적처신이다. 앞에서논의한하이데거의논의를변용하여표현하면, 일은인간이탈( 실) 존적으로살아나가며자신에게의미있는미래를성취하는과정이다. 그리고여기서또주목해야할사실이있다. 바로인간은이과정에서몸으로살지만또맨몸으로만살수없다는점이다. 탈( 실) 존적삶을몸으로살아내는인간은그몸으로항상도구와기술에의탁하며삶을살아낸다. 인간의몸은기술과함께일을함으로써인간의삶을생동적으로살아가게하는살로된삶의주인공이다. 사실고깃덩어리에불과한몸은도구와기술을필요로하지않는다. 몸은삶을주체적으로살아나갈때도구와기술을필요로한다. 그러나이도구와기술이포스트휴먼처럼몸을장식물로전락시켜무력화함으로써몸을삶으로부터배척하면그몸은죽어가며결국삶도죽어간다. 530
지금까지의논의를다시 4 차산업혁명과연관시켜보자. 4차산업혁명은지능적첨단기술의발전이전산업에매끄럽게스며들어산업과시장의모든구성요소, 즉산업설비, 생산자와소비자를연결시키며지능적으로운영되는경제를향한다. 이때결정적인역할을하는것이바로인공지능이다. 그러나이러한인공지능으로운영되는경제는인간에게일을빼앗아미래라는시간을증발시키고몸을무력화하여중독의상태로몰고갈위험이있다. 4. 위험의극복을위하여: 융화를향한새로운방향정립 이러한위험을넘어서기위해서 4차산업혁명을이끌어갈미래적인과학기술에대한새로운방향정립이필요하다. 미래의과학기술은인간을능가하는지능적성능을급속히증강시키는목적에집착해서는안될것이다. 미래의과학기술은인간과삶, 그리고몸과함께협력하며몸의생동적참여를통해미래를향한인간삶의성취가가능하도록설계되어야한다. 이러한관점에서눈여겨볼가치가있는기술이적응형자동화(adaptive automation) 이다. 적응형자동화는인공지능에의한완전자동화와같이인간을일로부터추방하는것이아니라인간과기계의협업을친인간적으로조율하는역할을인공지능에부여하는방식으로활용하는것이다. 컴퓨터의속도와정확성그리고센서기능을활용하면서인간이루프안에서적극적이고기민하게일할수있도록기계와인간이역할을책임을분담하는것이다. (Carr, 244) 즉기계에설치된인공지능이그기계로작업하는인간의일하는방식을모니터하는중과업으로과부하가걸릴경우에개입하여힘든일을대신처리해주거나기계의작동방식을인간에게유리한쪽으로재조정한다. 이렇게하면인간은인지과부하나저부하에빠지지않고, 기계에또다른부품으로종속되지않으며, 몰입을지속하면서삶을성취해가는과정으로서일을계속할수있다.(Carr, 2014, 135-142) 적응형자동화를사용해본근로자는기계를사용하기보다는동료와협업하는듯했다고체험을보고한다.(Carr 245) 적응형자동화는비행기제작회사에어버스와보잉의대비적사례를통해이해할수있다. 에어버스는컴퓨터에의한완전자동화를통하여결국인간조종사가없는비행기를추구한다. 물론현재까지이단계에이르지는못하였다. 그러나에어버스는비행기조종에있어서조종사의역할을최소화한다. 여기서조종사의역할은사실상비행기조종사가아니라컴퓨터조작자에불과하다. 때문에에어버스 조종실의설계에서도조종간이불필요하게되었다. 또과거의조종간에서숙련된 531
조종사에게촉각적으로인지되던여러가지비행상황이증발해버린다. 에어버스는소프트웨어가지정한비행영역선도를벗어나지못하도록아예특정상황에서조종사가내리는지시를무시하도록프로그램되어있다. 비행기를조종하는것은사실상조종사가아니라컴퓨터이다. 반면보잉은소프트웨어에조종사보다더많은권한을주지않는다. 그리고구식조종간을그대로유지할뿐만아니라비행상황이조종사에게촉각으로더잘인지되도록기술을도입했다. 조종간이컴퓨터에전기신호를보내면, 이신호들이비행기의보조익, 엘리베이터, 기타방향타와같은조종익면의움직임을느끼게해주는전기저항과기타촉감신호를제공해주도록프로그램화했다. 즉보잉의경우에어버스에비해인간의몸의참여가적극화되고있는것이다. 5. 맺음말: 적응형자동화에서엿보이는희망과새로운사회적인정보상체계의필요 이제기술개발의최우선목표는적응자동화와같은방향에서인간에게몸과함께삶의성취를제공하는일을만들어내는것이되어야할것이다. 즉트랜스휴머니즘과같이최고성능으로인간을개조하려는기술이첨단기술로찬양되는현재의상황에서기술과인간그리고일의관계에대한본래적인식을회복해야한다. 기술은인간이자신의삶을성취하기위해일을하기에필요한것이다. 즉기술은인간과일을매개하여인간의실존적삶을미래로성취시키는역할을해야하는것이다. 인공지능도마찬가지이다. 인공지능은인간을대신하기위해존재하는것이아니라일과인간을좀더지능적으로바람직하게중재하기위해존재해야한다. 이것이바로인공지능에주어진일종의윤리적사명이다. 따라서앞으로인공지능과인공지능이활용하는기술은인간의일을대신하는것이아니라일과인간의매개체로서존재론적위치에배치되어인간의삶, 몸그리고일사이의상호작용과상호창조과정이최대한존중되는방향으로전환해야한다. 이러한전환이일어나면몸의활동력을북돋으며몸으로사는인간에게일자리를제공하는미래의길이열릴것이다. 그리고그길이열리면기술, 인간그리고인간의몸이서로를창조하는 Sympoiesis, 융합(converging) 아닌융화(harmonizing) 의미래를기다려도될것이다. 하지만불행하게도우리가제안한기술발전의방향전환은시간을필요로한다. 532
당분간 4차산업혁명은생산성의급격한향상과효율성에의한비용절감에집착하며인간을필요로하지않는방향으로발전할것이다. 이에따라기술발전과인간의일자리가반비례관계에진입하는기술적실업(technological unemployment) 이불가피하며이러한상황에서인간들은자신의삶을유지하는데필요한비용을감당할수없다. 따라서 4차산업혁명은인간이인간으로서의품격과성취감을가지고존중받기위해서새로운사회질서를필요로한다. 기술적실업은이제보다많은사람들이고용의환경외부에서삶의의미와가치를발견해야한다는것을의미한다. 따라서 4차산업혁명은기술적혁신과더불어기존의경제적금전적가치중심의사회로부터사회적가치를인정하고보상하는보다유연한사회로이행하는사회적혁신을필요로한다. 이러한사회적혁신이이루어지면고용이되지않는상태의인간도사회적성취감과그에따른탈( 실) 존적인간으로서의자존감을유지하며한사회의구성원으로서품격을유지하는데필요한비용을지불할수있다. 일례로온라인으로실행되는사회적기여평가지수의도입은 4차산업혁명이수반할기술적실업을극복하는구체적방안이될수있다. 이평가제도는인간이할수밖에없는전통적육체노동, 자발적봉사활동, 선행, 노약자돌봄등사회적으로가치있는기여에점수를부여하는것이다. 그리고이점수에따라정부로부터경제적인보상이지급된다.IT는이러한새로운사회적인정시스템을구축하는데긍정적으로활용될수있다. 개인의행적이실시간으로로그인되는플랫폼이블록체인기술과결합하여완성되면특정개인이나집단에의한조작이거의불가능한신뢰도높은디지털사회적기여평가시스템을구축할수있을것이다. 우리가명심해야할것은시장자본(market capital) 의축적만을목적으로하는기술적융합만으로는일없는사회의양극화에이를뿐 4차산업혁명은불가능하다. 사회문화적융화를통한사회적자본(societal capital) 을확충하려는지난한노력이없다면 4 차산업혁명은사회적동력을확보할수없다. 이것이우리가융합을넘어융화의미래로가야하는이유이다. 533