2

Transcription

1 1

2 2

3 1

4 2

5 3

6 1 1

7 2

8 3

9 I. 서론 1. 연구의목적 로마법이래 법익에생긴손해는법익보유자가부담한다 (casum sentit dominus) 는것이부동의법원리였으므로, 법익보유자가보유한법익에손해가발생한경우손해를자신이스스로부담하지않 3) 기위해서는그것을타인에게전가할법적근거가요구되었다. 불법행위법은이러한특별한근거또는원인 (besondere Gründe) 에관한법체계로서, 특별한근거또는원인이란발생된손해에대하여가해자에게그손해를배상하게할수있는원인, 즉가해자에게책임을지게할수있는원인에관한체 계로서이해되어야하고, 이것이바로불법행위법에있어서귀책근거의문제이다. 주지하는바와같이고대나중세에서는타인의행위에의해손해가야기되었다면그인과성을근거로손해결과에대해배상책임을인정하는결과책임주의도존재하였지만, 근대이후민법의최고원리인 사적자치의원칙 의구체적인내용중하나인과실책임주의에따라행위자에게고의또는과실의귀책사유가존재하는경우에만그행위자에게배상책임을지우게되었다. 즉 내잘못이없으면나는책임지지않으며, 나에게책임을지우고자한다면나의잘못을증명하라 는언명이성립되었다. 그러나복잡한현대사회에서가해자에게고의또는과실이라는귀책사유만으로책임을귀속시킬수있는가또한가해자에게귀책사유를엄격히요구하는것이현실적으로실현가능한가의의문이제기되었 고, 과실책임주의를이념적으로수정하고자하는시도가행하여져왔다. 과실책임주의의한계와무과실책임주의의도입에관해서는우리민법전을제정할당시인 1950년대에서도이미지적되고있었으나, 민법전제정을위한민법안심의록에서는 자기책임의원칙에대한전면적인예외를설하여판사의재량에의하여무과실책임주의를인정할수있게한것은개인의자유활동을부당히위축시키는결과를초래하며...( 중략 )... 자유민주주의경제체제하에서는이러한무과실 5) 4) 1) 본발표문에서반복적인수식을생략하기위해별도의수식어없이 로봇 이라고표현하더라도인공지능에의해통제되는로봇으로이해되어야한다. 2) 본발표문은 2017년 8월 17일열린 2017년한국비교사법학회하계학술대회에서발표한 인공지능을이용한스마트기기의불법행위책임- 새로운편익책임원리의설정을위한시론 - 의발표문과ㅣ 2017년 12월연세대학교법학연구원발간 < 법학연구 > 제27권제 4호에게재된 " 인공지능로봇에의한손해의불법행위책임 " 논문의내용을바탕으로보완한것입니다. 3) 서광민집필부분, 민법주해, 제XVIII권, 박영사, 1992, 126면. 4) 김형배, 과실개념과불법행위책임개념, 민사법학제4 5호, 1985, 268면. 5) 오병철, 법정채권법, 법문사, 2014, 4-5면. 6) 민의원민법안심의소위원회법제사법위원회, 민법안심의록, 1957, 446면. 4

10 6) 책임주의의전면적채택은재고의여지가있 다고하여과실책임주의의원칙을고수하였다. 과학기술의발달에따라등장한각종위험원의운영원에따른사고손해는위험원운영자의과실에기인함이없이도발생하고있으므로이러한사고손해는유책성원인에의할경우에는피해자본인이부담하게되고, 이는오늘날의지배적인형평과정의의관념에반한다. 결국과학기술의발달에따라발생하는이러한사고손해의부담문제는전통적인과실책임주의에의해서는공평타당하게해결할 7) 수는없다. 따라서산업사회의발전에따라서과실책임이타당하지않고, 일정한행위가위험하면그 8) 에대하여객관적책임을부과할필요가생겼다. 보상책임주의와위험책임주의가그것이다. 21세기들어눈부시게발전하는정보통신기술은인공지능의등장을가져오게되었다. 인공지능바둑프로그램 알파고 가세계최고수준의프로기사에게승리를거둠으로써인공지능이더이상상상속의기술이아니라현실로다가왔음을실감하게되었다. 인공지능은단순히컴퓨터프로그램으로만존재하는것이아니라자율주행자동차라는물리적기계장치를완전히통제하는수준에까지이르렀다. 9) 뿐만아니라 지능형로봇 이라는공상소설속의존재가법률상의개념으로자리잡는시대가도래하였다. 인공지능이통제하는로봇이사람의인체나재산에손해를발생시키는경우에도과실책임주의라는전통적인과책원리가그대로유효한것인가. 과실책임주의가적절하지아니하다면위험책임주의나 10) 보상책임주의를적용함으로써 손해의공평 타당한분담 이라는불법행위법의이념을구현할수있을것인가. 이논문은이를검토하고, 만약기존의이러한귀책원리들이적절하지않다면어떠한귀책원리가수립되어야하는가를제시하는데가장우선적인목적이있다. 또한귀책원리외에도제750조의불법행위에관한포괄적인일반규정의개별적인성립요건들을로봇이발생시킨손해의사태유형에적용하여보고, 기존의성립요건들의규범적유효성을검증하고자한다. 이를통해만약새로운요건이필요하다면, 무엇을성립요건으로설정하여야하는가에대한제안도연구의부차적인목적이다. 7) 서광민, 과학기술의발달과불법행위법의대응, 민사법학제21호, 2002, 면. 8) 정기웅, 불법행위성립요건으로서과실의개념과불법행위책임체계에서의지위, 비교사법제18권제3호, 2011, 838면. 9) 우리나라는 2008년법률제12248호로 지능형로봇개발및보급촉진법 을제정하여지능형로봇의개발과보급을촉진하고그기반을조성하여지능형로봇산업의지속적발전을위한시책을수립 추진하는로봇의보급확산을위한노력을하였으나, 실질적인법규범으로서의의미는거의부여하기어렵다. 10) 대법원 선고 2008다52369 판결. 5

11 2. 연구의필요성 인공지능을갖춘로봇의등장을스스로의판단하에움직이는새로운개체또는주체의출현을의미한다기보다전향적인관점에서로봇이타인의생명, 신체및재산권등을침해하는경우에책임을누구에게지울것인지뿐만아니라인간의내면적동기의일환이라고할수있는고의또는과실책임이라는전통적인책임법리가인간이아닌로봇에적용되는것이타당한지여부에대해논의할필요가 11) 있다. 왜냐하면인공지능에의해통제되는로봇에는인간의개입이극소화되므로인간의내면적동기를찾는것은무의미할뿐만아니라심지어는불가능할수도있기때문이다. 이러한규범적문제는일찍이산업혁명이후에도제기된바있었다. 위험한기계들과자동차, 기차등의위험한운송수단들이등장하면서크고작은사고들이일상화되었는데그에대한처리가사회적인문제로떠올랐던것이다. 이러한실용적인문제들의해결방안으로등장한것이 직업과연결되지 아니한일반적인주의의무 라는개념이다. 12) 특히우리판례와같이과실의개념을 심리상태 가아닌 객관적인의무위반 으로파악하는태도는과실로인한불법행위의귀책근거를가해자에대한개인적비난가능성내지가해자의의사에대한비난가능성이아니라객관적인주의의무위반에두는것으로 13) 서전통적인과실책임주의의본래적의미가변질내지는공동화되었다. 그러나이러한변화는일반적인과실불법행위로발생하는손해를공평타당하게조정하기위하여과실의개념과기준을객관화함으로써초래된현상이지, 과학기술의발달에따라새로등장한각종의위험원으로부터발생하는사 14) 고손해를공평타당하게조정하기위한노력은아니었다. 특히로봇에서는인간의심리상태라는것을찾는것이어려우므로주관적과실개념은더이상유지되기어렵다. 또한객관적의무위반이라는것도구체적사례에서의보통인을표준으로한다면, 고도의과학기술적지식이전제가되는로봇의제작자나과학기술의전문적지식을갖추지못한이용자모두에게적용하기는어려움이있다. 만약전통적인과실책임주의를적용한다면대부분의경우에귀책사유의부존재로손해배상책임에서자유롭게될가능성이높고, 결국로봇의피해자는스스로손해를감수해야할것이다. 과연이것이손해의공평 타당한분담인가는의문이아닐수없다. 11) 이원태, 인공지능의규범이슈와정책적시사점, KISDI Premium Report 15-07, 정보통신정책연구원, 2015, 19면. 12) 김영희, 미국불법행위법의기본구조에관한연구, 법학연구제21권제4호, 연세대학교법학연구원, 2011, 47면. 13) 서광민, 과학기술의발달과불법행위법의대응, 민사법학제21호, 2002, 면. 14) 서광민, 과학기술의발달과불법행위법의대응, 민사법학제21호, 2002, 면. 6

12 최근인공지능이나로봇에관한민사책임은현행법으로는충분한해결책을생각하기힘들것으로보이고, 인간이상의지능을가진인공지능이나로봇이등장하면이에관하여특화된불법행위유 15) 형이필요할것이라는문제의제기가국내외에서제기되고있다. EU의회도 2017년 2월발표한 Civil 16) Law Rules on Robotics 에서로봇이야기한손해에대한법적책임이중대한문제라고지적하고있으나, 이에관한구체적인해결책을제시하지는못하고있다. 인공지능로봇이발생시킨손해에대해어떠한귀책원리에따라누가배상책임을질것인가, 그리고어떠한요건하에서그러한책임을지울것인가를명확히정하는것은다음과같은점에서매우중요하다. 우선전통적인과실책임주의를적용하면행위자의고의또는과실이라는귀책사유가필요한데, 인간의직접적인조작이없이인공지능에의해통제되는로봇에의해손해가발생한경우에는누가 행위자 인가를파악하는것도어렵지만, 고의또는과실이라는귀책사유를찾는것은거의불가능하다. 그렇다면로봇과아무런관계없는피해자가그손해를전적으로감수하여야하는데, 이는결코 손해의공평 타당한분담 이라는이념과는거리가멀다. 이러한문제를근원적으로해결하기위해서는로봇을둘러싼다수의관여자중에누구에게책임을지울것인가를결정하기위한책임귀속원리가확립되어야만한다. 인공지능로봇이라는일찍이경험하지못한새로운현상을충분히고려한책임원리를수립하여야만피해자의손해를공평 타당하게분담할손해배상책임을부담하는자를정할수있게된다. 이는책임을부담하는자를정하여피해자를보호하는동시에부당하게책임을전가받는위험을예방하는기능도하는것이다. 손해배상원리가명확히수립되어야로봇제작자, 이용자그리고제3 자모두가책임법적인관점에서예측가능하고신뢰할수있는로봇이용환경이조성되는것이고, 로봇의보급확산을통한인류전체의효용을증대하는데법적장애가제거될수있다. 로봇에의한손해에는귀책원리만큼중요한문제가전통적인과실책임주의에서요구하는불법행위성립요건의유효성문제이다. 로봇은인공지능에의해통제되므로외형상인간의직접적인조작행위가나타나지않는다. 그렇다면무엇이 행위 이고누가 행위자 인가나아가과연인간의유의적인행위가성립요건으로서요구되는것이타당한가부터의문이아닐수없다. 행위성의존재를파악하는것이어렵다면행위와손해사이의인과관계라는전통적인성립요건은무엇으로대체되어야하는가도 15) 伊藤博文, 人工知能の民事責任について 愛知大學法學部法經論集 206 號, 2016, 頁 ; 박해선, 스마트사회와민사책임, 법학논총제23집제2호, 조선대학교, 2016, 273면. 16) Civil Law Rules on Robotics, European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). Z. 7

13 문제가된다. 로봇의등장으로인해과실책임주의라는전통적인귀책원리외에도이를기반으로하는 불법행위성립요건전체를재검토하고필요하다면이를새롭게정립하는시도를하여야한다. 3. 연구의한계 로봇의손해를다루는본연구는매우결정적인한계를가지고있다. 그것은인공지능기술이현재로서는완전하다고할수없는발전도상에머무르고있다는점이다. 인공지능에의해통제되는로봇도자율주행자동차를제외하고는실용화단계에있는것을찾아보기어렵다. 자율주행자동차도완전한자율주행이가능한수준에달한것이아니라, 부분적으로자동화된수준정도에서상용화되어있을뿐 이고, 도로주행테스트를하는자율주행자동차도제한된자율주행단계에머무르고있다. 인공지능 을가진로봇도아직실험실을벗어나고있지못하고, 또그기능도특정한제한적인영역에머무르고있을뿐이다. 인공지능기술이빠른속도로발전되어로봇이일상생활에널리활용될것이라는것은미래에대한예측일뿐이지, 로봇과의공존이현실은아니다. 로봇의몇가지특징적인가정적요소를전제로해서사태를예상하여규범적인판단을할뿐이다. 과연존재하지않는현상에대해막연한예상을바탕으로규범적인고찰을한다는것이유의미한것인가는의문이아닐수없다. 따라서기존의연구들도 현재가시적인범위내에서의로봇만을규범적연구의대상으로제한하고있다. 그러나현재까지의기술발전을기반으로합리적으로예측가능한차원의로봇을대상으로그특성을고려한불법행위법전반에대한시론적고찰이학문적인관점에서무의미한것이라고할수는없 20) 다. 아직까지는약한인공지능수준에머무르고있지만강한인공지능으로자연스럽게진화하게될 19) 17)18) 17) 이충훈, 자율주행자동차의교통사고에대한민사법적책임, 법학연구제19집제4호, 인하대학교, 2016, 144면. 18) 자율주행의단계를구분하는분류가다양하게행하여지고있으나세계적으로확립된통일적인분류는아직없으며, SAE International에의한 6단계의분류가유력하다고한다 ; 이분류에대해서는김현수, 자율주행자동차사고에대한민사법적책임과과제, 과학기술법연구제23집제2호, 한남대학교, 2017, 10-12면참조. 19) 다음의연구는로봇의초기대표적상품인 자율주행자동차 에국한하여집중되어있고, 그수준도제한적인자율주행을전제로하는것이다 ; 이종영 / 김정임, 자율주행자동차운행의법적문제, 중앙법학제17집제2호, 2015; 이충훈, 자율주행자동차의교통사고에대한민사법적책임, 법학연구제19집제4호, 인하대학교, 2016; 권영준 / 이소은, 자율주행자동차사고와민사책임, 민사법학제75호, 2016; 김상태, 자율주행자동차에관한법적문제, 경제규제와법, 제9권제2호, 서울대학교, 2016; 류창호, 자율주행자동차에대한제조물책임의적용에관한연구, 아주법학제10권제1호, 2016; 장병일, 자율주행자동차에의한손해와제조물책임, 법학연구제16권제4호, 한국법학회, 2016; 김진우, 자동주행에서의민사책임에관한연구, 강원법학제51권, 2017; 김현수, 자율주행자동차사고에대한민사법적책임과과제, 과학기술법연구제23집제2호, 한남대학교,

14 21) 가능성도배제할수없다. 정보통신기술의발전에따른사회의변화는예상보다훨씬빠르게진행될수있음은계약법적인전자거래영역에서도이미경험한바있다. 또스마트폰의확산이가져온우리생활의변화도매우급격했다. 그러므로본연구는목전의급박한법적문제에대한해법이아닌언제가될지는모르지만머지않은장래에마주치게될법적상황에대한시론적논의의초석으로서의의미를부여하고자한다. II. 법적관점에서의로봇 1. 인공지능과로봇의관계 가. 인공지능 인공지능 (AI; Artificial Intelligence) 은컴퓨터과학의도구와관념적인소프트웨어환경을이용한인지적과정을연구하는컴퓨터과학의하나의분야로서 1950년대에태동하였다. 인공지능의선구자인 Marvin Minsky는 1968년 인간에의해행해졌던지식을요하는일들을하는기계를만드는과학 이 라고한바있다. 22) 인공지능은인간의인식과판단등의지적사고를컴퓨터하드웨어와소프트웨어알고리즘을이용하여인공적으로구현한것이다. 그러므로인공지능의본질은컴퓨터프로그램이고, 인공지능의작동결과는무형의정신적인산물이며, 정보그자체이다. 알파고나왓슨과같은인공지능은인간의정신적노동을대체하여바둑의착점을결정하는정보를생성한다든가아니면환자의병명이무엇이고이를어떻게치료하는것이적절하다는정보를제공하는것에불과하다. 알파고가우하귀화점에착점 20) 실증적인문제가아니라향후의예상을전제로한다음과같은시론적연구도다수에이루고있다 ; 이원태, 인공지능의규범이슈와정책적시사점, KISDI Premium Report 15-07, 정보통신정책연구원, 2015; 이중기, 인공지능을가진로봇의법적취급, 홍익법학제17권제3호, 2016; 양천수, 탈인간중심적법학의가능-과학기술의도전에대한행정법학의대응-, 행정법연구제46호, 2016; 박해선, 스마트사회와민사책임, 법학논총제23집제2호, 조선대학교, 2016; 김윤명, 인공지능 ( 로봇 ) 의법적쟁점에대한시론적고찰, 정보법학제20권제1호, 2016; 중기 / 오병두, 자율주행자동차와로봇윤리 : 그법적시사점, 홍익법학제17권제2호, 2016; 이중기, 지능정보기술에의한사고발생시법적책임, 제4차산업혁명과지능정보사회법제도이슈연속토론회제1차지능정보기술의안전한활용을위한제도정비방안자료집, , 한국정보화진흥원. 21) 김대식, 인간 vs 기계, 동아시아, 2016, 329면. 22) Edwina Rissland, Artificial Intelligence and Law: Stepping Stones to a Model of Legal Reasoning, The Yale Law Journal, Vol.99, 1990, p

15 하라고판단결과를제공하더라도실제로착점행위를하는것은사람이고, 왓슨이환자의질병이뇌종양이고긴급히종양제거수술이필요하다고분석하더라도직접수술집도를하는것은의사이다. 인공지능의작동결과가단순히무형적인정보에머무른다면, 적어도민사법적인불법행위책임에관한논의에서인공지능은그의미가크지아니하다. 왜냐하면인공지능의작동결과는무형의정보이고그정보가사람의인체에직접적인손해를가할위험은없기때문이다. 인공지능의작동결과인정보에오류가있어서그정보를신뢰한자에의해손해가발생될수는있다. 예를들어의료인공지능왓슨이오진을하여이를믿은의사가환자의건강한장기를절제해버리는경우를생각할수있다. 그러나인공지능의작동결과인정보는인간의행위를결정하는기초자료에불과하고, 모든의사결정과구체적인행위에대해여전히인간이그주체성을상실하지않기때문이다. 인공지능을활용하여그작동결과를기초자료로하여인간이한행위에대해서는그행위자에게민사책임을지우는것이당연하고, 행위자를배제하고인공지능에게우선적으로직접법적책임을논할이유는없다. 오로지정보만을산출하는컴퓨터프로그램인인공지능은불법행위측면에서는특별히위험성이높지도않고, 책임귀속에근본적인의문을제기하지도못한다. 나. 로봇 로봇이라는용어의개념은인공지능과달리일반적으로널리확립되어있는것은아니다. 민사책임에관한논의를위하여이논문에서는로봇을 인공지능이내장되어그연산결과를직접전달받아외적인물리적작용으로표출하는유형의기기 로정의하고자한다. 로봇의특징적요소로는 1반드시인공지능을내재하거나연결되어있어야하고, 2인간의조작행위가아닌인공지능이로봇을전적으로통제해야하며, 3로봇이외적으로물리적인변화를가져올수있어야하며, 4로봇이유형의물건으로공간에존재하여야한다. 이요소들중에가장중요한점은인공지능이로봇을전적으로통제하므로인간의구체적인조작행위가개입되지않는다는것이다. 인공지능과관련한민사책임은비로소로봇의차원에서큰의미를갖는다. 앞서살펴본바와같이인공지능그자체는인간의지적사고를모방하여정보를생성하는데머무르기때문에인간의의사결정보조수단이상의법적가치를부여하기는어렵다. 그러나로봇의경우에는인공지능의연산결과가유형의기계의외부적작용으로통합되므로, 로봇의물리력이타인의인적또는물적손해를직접야기하게된다. 또한인간의구체적인조작행위는여기에개입할여지가전혀없거나또는있어도매우제 10

16 한적이다. 인공지능의결과인정보가로봇의물리적인장치를통해외적작용으로표출되는과정에로봇이용자는전혀영향을주지못하므로, 인공지능의지배를받는로봇에의해야기된손해라는부정적결과를로봇의이용자에게전가시키는것이어렵게된다. 또한로봇의제작자에게로봇이발생시킨모든손해를귀속시키는것도적절하지는않다. 로봇의작동에핵심적인역할을하는인공지능은인간의지적산물인컴퓨터프로그램이므로본질적으로오류로부터완전히자유로울수없다는한계가있고, 로봇의제조와손해발생과는시간적그리고공간적으로간격이상당히존재한다. 제조물책임도제조물에결함이존재하는경우에만가능한것이고또제조물책임에는다수의면책사유가인정되므로기존의법리에따라로봇의제조자에게책임을부과하는것도용이하지는않다. 로봇의전형적인예를들면현재가시화되어있는인공지능을활용한자율주행자동차나내년에 시범운항이예정된노르웨이의무인항해화물선 23) 이나머지않은미래에등장할것으로예상되는인 공지능로봇을상정할수있다. 그렇다면인간의구체적인행위가개입되지아니하는로봇인자율주행자동차나무인항해화물선, 인공지능로봇이타인에게손해를야기하는부정적인작동결과에대해구체적으로누구에게어떠한근거로민사책임을지울것인가의어려운문제가본격적으로등장하게될것이다. 우리나라는 2008년법률제12248호로 지능형로봇개발및보급촉진법 을제정하여지능형로봇의개발과보급을촉진하고그기반을조성하여지능형로봇산업의지속적발전을위한시책을수립 추진하는로봇의보급확산을위한노력을일찍부터하고있으나, 이법률에지능형로봇이야기하는손해에대한책임문제가규정되어있지는않다. 다. 구분의실익 로봇은인공지능을내장하거나연결되어그에통제가된다는점에서매우밀접하게연관되어있다. 인공지능은임베디드소프트웨어로서로봇에내재되어체화되어있는상태에있는것이일반적이다. 그러한외형적일체화와는별도로불법행위측면에서보면양자는구분된다. 무형적인정보에불과한인공지능의연산결과는그자체만으로는타인의인체나물건에게직접손해를끼치지않으므로고유한민사책임에서자유롭다. 그러나인공지능이내재된로봇은인간의구체적인개입없이도유형 23) 중앙일보 보도기사 ( home newslist1). 11

17 적인물리력을외적으로표출하므로타인의인체나재산에게직접손해를끼칠수있고그부정적결과 에대한민사책임의귀속문제를빈번하게발생시키게될것이다. 이점이민사법적인불법행위영역에 있어서인공지능과로봇의구별실익이라고할수있다. 2. 로봇의특성 가. 인공지능에의한설계된자율성 로봇은내장되어있는인공지능에의해통제가이루어지게된다. 기존의물리적기계장치가인간의조작에의해작동되어왔지만, 로봇에서는인간의조작은인공지능의연산결과로대체된다. 물론인공지능도인간의창작의산물이긴하지만, 외형상으로보면마치로봇그자체가자율적인능력을갖는것으로보이게된다. 예를들어 렘브란트프로젝트 를생각해보면, 인간은 40대남성, 모자착용, 어두운색상의의상, 좌측면의얼굴 등의몇개의객관적요소만입력하면인공지능이스스로렘브란트풍의초상화를모니터에만들어내고, 이정보를그대로고화질의컬러프린터나 3D프린터가전송받아출력해서기존에없는하나의작품을만든다. 외형적으로는인간의행위는단지몇가지의작품요소만을지정하여입력하는것으로종료되고, 그이후의모든작동은마치로봇스스로자율적으로진행하여외부적인표출로마무리되는것으로보이게된다. 일부견해는인공지능의자율성을강조하여책임재산을소유하게할정책적필요성이인정되는경우제한적으로책임목적상의책임재산을소유할수있는권리주체성을인정하는방향으로나아가 24) 야한다는주장을한다. 그러나인공지능이 완전한 자율성을갖는것은불가능하고, 오직인공지능에프로그래밍된알고리즘에따른설계된자율성 (built-in autonomy) 만을가질뿐이다. 다만과거와같이모든작동에대해구체적이고세부적으로프로그래밍하는것이아니라, 이른바머신러닝기법을 활용하므로초기에는포괄적으로대략의프로그래밍만을한다는점이다를뿐이다. 25) 24) 이중기, 인공지능을가진로봇의법적취급, 홍익법학제 17 권제 3 호, 2016, 24 면. 25) 이점은인공지능을프로그래밍한자가향후인공지능이구체적으로어떠한상황에서어떠한결정을할것인지까지세부적으로 사전에인식하기는어렵다는규범적난점을야기한다. 12

18 나. 물리적장치를통한외적표출 민사법적관점에서보면전자거래와같은계약법의영역에서는로봇이아닌인공지능만으로도충분하다. 일종의정보에해당되는의사표시와그에의한계약체결이라면컴퓨터와인공지능프로그램및데이터전송네트워크만으로도가능하다. 이른바전자적의사표시또는자동화된의사표시와같 은컴퓨터에의한의사표시는이미 20 년전부터논의가이루어졌고, 도인간에게귀속된다는점에대해서는거의이론의여지가없다. 컴퓨터에의해형성된의사표시 앞서살펴본바와같이로봇이인공지능과차별화되는요소는물리적인장치를통해외부적인작동이이루어진다는점이다. 일종의컴퓨터프로그램이라고할수있는인공지능은내장되어있는알고리즘에다양한데이터를입력받아연산하여그결과로정보를생산하거나이를전송하는것에그치지만, 로봇은한발더나아가물리적장치를통한외적표출까지이르게된다. 그러므로단순히정보를생산하는인공지능과달리로봇은외부적인물리적작용으로타인에게인적물적손해를직접발생시킬위험에직면하게된다. 이러한점에서민사책임의영역에서는물리적장치를통한외적표출이존재하는로봇이논의의중심에서게된다. 27) 26) 다. 이용자개입의부재 인공지능에의해통제되는로봇은외견상으로는이용자의행위개입이존재하지않는것처럼보인다. 대표적인인공지능로봇이라고할수있는자율주행자동차의경우에완전한자율주행상태에서는자동차를운전하는사람은존재하지아니하고, 차량에탑승한모든사람이승객이된다. 만약자율주행상태에서긴급제동버튼을두어위급한상황에서는탑승자가자율주행차의운행을중지시킬수있다고하더라도, 이용자의개입은정지라는단하나에그치게된다. 기존의기계장치는모두인간의직접적인조작에의해지배되는것이라기계장치가발생시키는부정적결과는곧이를조작하는인간의행위의결과로규범적인귀속이이루어졌다. 그러나로봇은이용자의개입이존재하지아니하거나개입이존재한다고하더라도극히제한적일수밖에없으므로, 이용 26) 오병철, 전자적의사표시에관한연구, 연세대학교법학박사학위논문, 을참조. 27) 정진명, 과학시대의의사표시, 민사법학제 77 호, 2016, 241 면. 13

19 자가손해를발생시킨것이라고볼수없게된다. 그러므로로봇이발생시키는부정적결과를누구에게 무엇을근거로귀속시킬것인가는매우어려운문제가아닐수없다. 3. 로봇의본질적한계 인공지능에의해통제되는로봇은마치스스로생각하고판단하고움직이는자율적인존재인것 처럼보이기도한다. 그러나로봇은인간에의해제작된인공지능이물리적기계장치에체화된단일한 물건으로서다음과같은본질적한계를갖는다. 가. 물성 민사법적인관점에서보면사람이아닌지구상의모든존재하는 것 은물건이다. 민법제 98 조 28) 29) 에따르면물건은유체물및전기기타관리할수있는자연력으로개념정의된다. 로봇은유체물이므로, 당연히민법상물건에해당된다. 로봇이인간을능가하는판단능력과기계조작능력을보일지라도인간이만든물건에불과하며, 법적으로는권리객체임을부인할수없다. 즉로봇은인간의생식활동으로탄생된생명체가아니므로어떠한경우에도권리와의무의주체가될수없고, 인간의노동으로제작된물건으로서권리와의무의객체일뿐이다. 로봇이물건으로서권리객체가된다는점에서또다른측면에서는새로운가능성이열려있다. 로봇에의해발생된손해에대한배상의무는권리와의무의주체인사람에게만발생되지만, 손해배상을위한금전적자력을확보하는데에로봇의물건으로서의재산적가치가매우유용하게활용될수있다는점이다. 로봇에의해발생된손해의배상을담보하기위해로봇의처분을통한재산적가치의확보가가능하다. 즉로봇에의한손해배상은최후의수단으로는로봇의매각대금으로해결할수있다. 특히로봇은다른평범한물건에비해상대적으로고가인경우가많으므로특히손해배상을담보하기에 28) 물론대기중의공기와같이 배타성 이없는등, 물건으로서의요건을충족하지못하는경우에는규범적으로는존재하는 것 이라고 보기도어렵다. 29) 이하에서민법은법명의표기를생략한다. 30) John P. Sullins, When is a robot moral agent?, IRIE Vol.6, 2006, p.12; 박해선, 스마트사회와민사책임, 법학논총제 23 집제 2 호, 조선대학교, 2016, 270 면에서재인용. 31) 윤지영외, 법과학을적용한형사사법의선진화방안 (VI), 형사정책연구원, 2015, 97 면. 14

20 유리하다. 이는마치현실적으로로봇이사실상배상책임을지는듯한외관을형성하게된다. 나. 자유의지와감정의결여 로봇은내장된인공지능에의해통제되므로외형적으로는사람의직접적개입이나타나지않는다. 그러므로마치로봇에자유의지가존재하는것처럼보인다. 그러나인공지능은인간이작성한알고리즘에불과하므로그알고리즘을벗어날수있는능력은없다. 사전에프로그래밍된알고리즘의진행에구속된다면진정한의미의자유는인정할수없다. 로봇이갖는자율성이란공학적자율성으로 서기계가사용자나조종자의직접적인통제하에있지아니한것을의미할뿐이다. 인공지능이자신의코드를수정하는경우에이를규범적으로확대해서해석하는견해도있다. 비정형데이터를가지고스스로학습하는방식의진화된알고리즘은개발자도그성능에대한완벽한 31) 예측을하지못하므로개발책임자와그소속회사의책임에대해의문을제기하고있다. 그러나설령 32) 인공지능이스스로프로그래밍을하는 DeepCoder라하더라도이역시초기에구현된 DSL(Domain Specific Language) 의범위에서가능한것이며이러한제약적틀을스스로뛰어넘을수는없다. 알고리즘개발자가로봇의작동결과에대해완벽한예측을하지못하는이유는, 머신러닝을통한알고리즘의수정이이루어지기위해서는향후의데이터를입력받게되는데향후에어떠한데이터가입력될지개발자로서는예측할수없기때문이다. 즉알고리즘의수정역시변화하는외부입력데이터의변화에따라정해진알고리즘의작용에철저하게구속되는논리적진행에불과하다. 그러므로인공지능이스스로프로그래밍을한다고할지라도이는초기에설정된프로그래밍알고리즘의확장과구체화일뿐, 자유의지가존재하는것은아니다. 그리고인공지능은영혼이존재하지않으므로감정이결여되어있다. 또한자아에대한인식도생 33) 기지않는다. 단지정해진규칙에따른논리적인연산만을할뿐이며, 이른바준독립적결정 (quasiindependent decision) 34) 이가능할뿐이다. 또종교적인관점에서도신의모습을본뜬유일한존재인 35) 인간과달리, 인공지능은인간의뇌를모방한인간의창작에불과하다. 결국제조자의소유물일수밖 30) 32) Matej Balog/Alexander L. Gaunt/Marc Brockschmidt/Sebastian Nowozin/Daniel Tarlow, DEEPCODER: LEARNING TO WRITE PROGRAMS, conference paper at ICLR 2017, p.1( 33) 김윤명, 인공지능 ( 로봇 ) 의법적쟁점에대한시론적고찰, 정보법학제20권제1호, 2016, 153면. 34) Civil Law Rules on Robotics, European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)), Z. 15

21 에없으며법적인인격을부여받을수는없다. 36) 다. 자발성의결여 로봇은자유의지가결여된단지물건에불과하지만외형상으로는마치로봇이스스로알아서하는것처럼보인다. 또그작동결과도경우에따라서는인간의능력을능가하는수준에이르기도한다. 그러므로로봇이인간의어떠한조작행위도요하지않는완전한자율적인독립적존재인것처럼인식 된다. 이러한외형은인공지능은인간의지능과같은방식으로독자적으로자율적판단을한다는관점 으로발전된다. 그러나로봇이인간과다른가장큰차이이자한계는로봇스스로임의로작동을시작 (power-on and start) 할수는없다는점이다. 어떠한경우에도인간이작동을개시하는행위를하지아니하는한, 38) 로봇은절대로정해진알고리즘의실행을임의로시작하지못한다. 설령자동작동개시 (auto poweron) 기능이있어서일정한조건하에서스스로작동을하는것처럼보일지라도, 이는 CMOS와같은로봇 39) 의기저에사전에저장된프로그램의연산에따른결과로서의 기상 (wake up) 에불과하다. 예를들어일정한시간이되거나외부로부터특정한데이터입력이주어지면작동을개시하더라도, 이는사전에프로그램으로설정된조건이충족되는경우에그프로그램에따른진행인것이지완전히자발적인것은아니다. 또한로봇에내재된인공지능의알고리즘의진행을로봇이임의로중단하거나종료 (shutdown and power-off) 할수는없다. 즉작동의개시도자발적으로할수없는것뿐만아니라작동의종료도자발적으로할수없다. 예를들어일정한조건이충족되면작동을중지하는상태로유지된다면이는사전에저장된프로그램의진행에따른 수면 (sleep) 인것이고, 일정한작업이마무리되면전체가종료 37) 35) 오병철, 인공지능과법, 제76회변호사연수회자료집, 대한변호사협회, 2017, 219면. 36) Lawrence Solum, Legal Personhood for Artificial Intelligence, North Carolina Law Review, Vol.70 Number4, 1992, 37) 이중기, 인공지능을가진로봇의법적취급, 홍익법학제17권제3호, 2016, 8면. 38) 언론보도에따르면최근페이스북에서인공지능이이들끼리인간을알아들을수없는대화를주고받는것을새로운언어를개발하여의사소통을하는것으로분석되어, 시스템을꺼서강제로 종료 했다고한다. ( 중앙일보 일자보도 ; home newslist1). 믿기는어렵지만새로운언어를금방개발할만큼수준높은인공지능이라도개발자가시스템전원을차단 (power-off) 하여강제로종료 (shutdown) 하면절대로인간의의지에반해서스스로다시전원을공급 (power-on) 해서 시작 (start) 을하지는못한다. 그러나인간은설령의사능력이인정되지않는 5세의어린아이라도부모가하지못하도록한행동이라도언제든임의로다시재개할수있다. 39) 플러그가소켓에꽂혀있어서전원공급이가능하고 CMOS에전력이공급되고있는중이어야 기상 도가능한것이며, 기상 을위한조건이사전에프로그래밍되어있어야하므로이는진정한의미의자발적개시 (power-on) 는아니다. 16

22 40) (shutdown) 되는것도역시사전에저장된프로그램의진행의결과이다. 이처럼로봇은인간의직접적인개입이있어야만시작할수있고, 또인간의개입 ( 직접적인기기조작또는프로그래밍 ) 이있어야만종료될수있다. 그러나인간은자유의지가있으므로언제든지어떠한일을시작할것인지또는정지할것인지아니면완전히중단할것인지를자유롭게정할수있다. 이러한자발성은인간이라면심지어의사능력이없는유아를포함한누구나갖는당연한능력이지만, 로봇은아무리발전을거듭해도확보할수없는본질적한계가된다. 인간과달리인공지능은유한한연산만완결할수있다. 인공지능이무한루프에빠지는순간완결은존재하지않는다. 인간은무한루프라고생각되면, 적당히중단하거나아니면알아서어느값을상황에따라선택하거나그것도안되면중단해버리고마는기지 ( 機智 ) 를발휘할수있다. 그러나인공지능에는주어진값과정해진알고리즘에따른획일적인결과만있을뿐임기응변 ( 臨機應變 ) 이라 는것은존재할수없다. 41) 4. 로봇의법적지위 가. 이른바전자인격의논의 유럽의회는 2017년 1월 12일 로봇의민사법적규율 (Civil Law Rules on Robotics) 를발표하였다. 이내용은로봇의민사법적규율위원회에권고하는유럽의회의결의안 (European Parliament resolution of 16 February 2017 with recommendation to the Commission on Civil Law Rules on Robotics) 으로로봇이등장함으로써발생하는민사법적문제를해결하기위한논의의출발점이되고있다. 이결의안에서는 로봇에대한특정법적지위를창출하여최소한최첨단자율로봇이특정권리와의무를지닌전자인격의지위를갖게함으로써로봇이야기할수있는모든피해를보상할수있게하고, 로봇이스마트한자율적결정을내리거나제3자와독립적으로상호작용하는경우 42) 에는전자인격을적용하게하는것 에대한영향을분석할것을집행위원회에촉구하고있다. 우리나라에서도 2017년 7월 19일로봇을특정한권리와의무를가진전자적인격체로규정하고로봇 40) 중요한것은이렇게수면 (sleep) 이아니라종료 (shutdown) 되면인간의개입이나명령없이는절대로인공지능임의로시작 (start) 할수는없다. 41) 오병철, 인공지능과법, 제76회변호사연수회자료집, 대한변호사협회, 2017, 223면. 42)Civil Law Rules on Robotics, European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)), 59., f); 유럽의회가로봇에도전자적인격이있다는내용이포함된로봇시민법을통과시켰다는등의언론보도 ( 들이있으나이는부정확한것이다. 17

23 에의한손해가발생할경우보상책임을부여하는정책을마련해야한다는내용을담은 로봇기본 법 법안을국회의원이발빠르게발의한바있다. 학문적으로도인공지능에제한적인권리주체성을인정하고자하는시론적제안이최근제기된바있다. 인공지능을구성하는아키텍처가인간과소통하는하나의주체, 즉행위자로기능하게되므 로인공지능이비인간행위자가될수도있다는견해 가제기된다. 나아가법인의권리주체성이정책 적인필요성에기해인정되는것처럼인공지능에대해서도재산을독자적으로소유하게할정책적필요성이인정되는경우재산을소유하는연결점으로서의권리주체성을인정할수있으며, 이와같이권 리주체성은 인간에서법인으로, 이제 법인에서전자인간 (electronic person) 으로 확대될것이라한다. 심지어생명현상의본질적특성을탄소중심의생명개념에서벗어나자기생산성에서찾음으로써스스로자기생산이가능하면서인간적생명개념보다더욱진화한기계적생명이출현할지도모른다고까 지나아가기도한다. 46) 이러한관점은현재거의유일한로봇라고할수있는자율주행자동차의책임에서보다구체화된다. 인공지능의자율적판단이사후적으로볼때사고원인인경우에자율주행자동차소유자의무과실책임을묻기도어렵고제조사의무과실책임을묻기도어려우므로제3의권리주체로서자율주행자동차의책임을묻는것이논리적으로타당하며, 자동차의권리주체성을인정하는특별법이필요하여자배법에서자율주행자동차를제한적인한도에서권리와의무의주체로의제하는것이타당하며, 자율주행자동차의책임재산이필요하므로제조사혹은소유자가협상에의해자율주행자동차를위한책 임보험에가입하는것이필요하다고주장한다. 47) 43) 형법적인측면에서도지능형로봇이범죄의주체가될수있는가에대한문제에대해자동으로트윗을작성하는인공지능 트윗터-봇 이사람의명예를훼손하는내용의트윗을작성했을경우지능형 48) 로봇에대한재프로그래밍이나해체내지는분해, 폐기등을고려할수도있다고한다. 그러나형사책임의본질은인간의자유의사에대한비난가능성이므로이를지능형로봇에인정하는것은어렵고, 44) 45) 43) 연합뉴스, 자기사 ( L?input=1195m). 44) 심우민, 인공지능의발전과알고리즘의규제적속성, 법과사회제 53 호, 2016, 49 면이하. 45) 이중기, 인공지능을가진로봇의법적취급, 홍익법학제 17 권제 3 호, 2016, 8 면. 46) 양천수, 탈인간중심적법학의가능 - 과학기술의도전에대한행정법학의대응 -, 행정법연구제 46 호, 2016, 15 면. 47) 이중기, 지능정보기술에의한사고발생시법적책임, 제 4 차산업혁명과지능정보사회법제도이슈연속토론회제 1 차지능정보기술의 안전한활용을위한제도정비방안자료집, , 한국정보화진흥원, 53 면. 48) 류화진, 지능형로봇의범죄주체성과형사책임, 과학기술과법제 7 권제 2 호, 2016, 230 면. 18

24 소유자와제작자의고의 과실여부에따라사람에게형사책임을지울수있는지를검토해봐야하고 그것이불가능한경우에는형사책임을포기하고민사책임으로해결해야할것이라고한다. 로봇에인격을부여하는것이철학적관점이나윤리적측면에서결코옳지않다는점은자명하다. 법적인관점에서로봇에인격을부여한다는것은권리와의무의주체로서의성격을인정하는것이며, 이는다음과같은점에서바람직하지않을뿐만아니라부당하다. 49) 나. 이른바 전자인격 의부당성 (1) 권리능력의시기와종기의자의성및불명확성 로봇에권리주체또는그유사한법적지위를인정하기위해서는권리능력의시기와종기가명확히정하여져야한다. 사람의경우에는출생과사망이라는분명한시기와종기가존재하지만, 로봇의경우에는시기와종기를정하는기준을명확히설정하는것이불가능하다. 설령로봇의제조시점을시기 50) 로하고폐기시점을종기로한다고하더라도, 시기와종기를특정한사람이좌우하게되어자의적으로설정되는문제가생긴다. 만약의무능력이있다고한다면그의무를회피하기위해로봇을임의로폐기하게되면의무를부담할주체가사라지게되어피해자를보호할방법이없게된다. 사람의경우사망을통해권리와의무가상속인에게상속되어기존의권리와의무의연속성을유지함으로써제3자의보호가가능하게되지만, 로봇의경우에폐기를통해권리와의무의주체로서의지위가소멸되어도연속성이유지될수없다. 이러한문제의근원은로봇은본질적으로생명이라는것이존재하지않기때문에발생되는것이다. 즉인간으로서의존엄의출발은살아있는생명체로서실존그자체로서대접을받아야하는것이 51) 다. 자연적인생명을부여받지못하는로봇은생식능력이존재하지아니하고, 그제작과폐기가인간에게전적으로달려있다. 창조 자 와피조 물 이완전한동격으로취급되는것은윤리적으로수용하기어렵다. 49) 류화진, 지능형로봇의범죄주체성과형사책임, 과학기술과법제7권제2호, 2016, 235면. 50) 로봇은자발성이결여되어있으므로, 사람이만들지않는한제조될수없을뿐만아니라, 내장된알고리즘에규정되어있지않는한스스로폐기할수도없다. 51) 차수봉, 인공지능과구별되는 인간 의규범적분석-헌법상의절대가치 존엄 규범의해석론과존엄보호를위한선행적보장체계를중심으로, 인문사회 21 제7권제3호, 아시아문화학술원, 2016, 847면. 19

25 (2) 인간의알고리즘에의한총체적인지배 로봇에인격을부여하기위해서는인간과완전히동일할수는없다고해도, 어느정도의자율성이인정되어야할것이다. 앞서살펴본바와같이로봇의자율성은설계된자율성이고, 로봇스스로작동을시원적으로시작해서종국적으로마칠수있는자발성은합리적으로예측할수있는미래에도불가능하다. 마치외형상으로스스로작동을시작하기도하고마치기도하는것처럼보이는것도사전에입력된알고리즘에충족되는조건이충족되었을때의기상과수면에불과하다. 또한로봇에내장된인공지능은인간이사전에프로그래밍한대로의진행을할뿐이고, 설령스스로코드를수정하거나생성하는기능을하더라도이역시사전에입력된알고리즘의구현일뿐이다. 이와같이시작과종료그리고진행경과의임의적인자발성이어느하나도인정되지아니하는로봇에인간과동일한또는그와유사한인격을부여하는것은부당하다. (3) 통합성의결여 로봇은현재로서는특정한영역이나기능에서만인간을대체할수있는노동력을갖는다. 예를들어바둑을두는알파고는바둑만을둘뿐이고, 질환의진단을하는왓슨은의료영역에서만기능을할뿐이며, 자율주행자동차는운행만을할뿐이다. 알파고가운전도하고질병도진단하지는않는다. 그러나인간은바둑도두고, 운전도하고, 그림도그리며사랑도하고때로는촛불도든다. 전인적인통합성이존재하므로인간에게완전한인격을인정할수있지만, 오로지특정한영역에서만존재하는로봇에게전면적으로인격을부여하는것은부당하다. 52) 로봇에인격을부여할수있는근거를법인에권리능력을부여하는데서찾는견해가있다. 자연인이통합적인총체적권리능력을갖는반면법인도권리능력은인정되지만부분적이다. 추상적이고관념적인존재인법인의경우에권리능력은정관으로정한목적의범위내에서만권리와의무의주체가되도록제한되고있다 ( 제34조 ). 이러한점에서는로봇도그활동영역에서만권리와의무의주체가되도록제한적으로인격을부여하는것도논리적으로불가능한것은아니다. 그러나법인의목적범위와달리로봇의활동영역은매우협소한것이현재그리고예측할수있는가까운미래의사정이므로, 52) 이중기, 인공지능을가진로봇의법적취급, 홍익법학제 17 권제 3 호, 2016, 20 면. 20

26 제한적인인격을부여하는것도고려할필요가없다. 53) (4) 정형성의결여 로봇에인격을부여하는것을고려하는사고의기저에는로봇을휴머노이드 (humanoid) 나안드로이드 (android) 와동일시하는태도가깔려있다. 인간의신체를본뜬외형에인간의두뇌와같은역할을하는인공지능의결합을가정한휴머노이드라면, 마치인간과유사한존재로인격을부여하기에거부감이없을수도있다. 그러나인공지능에의한통제되는로봇들중상당수는휴머노이드와거리가있는것이더일반적이다. 예를들어자율주행자동차는외형상으로는인간에의해운전되는자동차와아무런차이도발견하기어렵다. 그럼에도불구하고자율주행자동차에게는전자인격을부여하여권리주체로인정하지만, 전통적인자동차는권리객체로만취급된다면이는수용하기어렵다. 이것이사람인지아니면물건인지 가정형성을통해객관적으로명확히구분되기때문에사람에게만인격을부여하여도구별과인식의문제는발생하지않는다. 만약사람이정형적이지않다면인격을부여하기위해서는매우어렵고복잡한과정을거쳐야할뿐만아니라, 인격의존재여부를판단하는것또한지난한일이될것이다. 이는법인등기라고하는공시수단을갖는법인의경우에도 법인격없는사단 이여전히문제가되는것에서도짐작할수있다. 그러므로정형성이결여된로봇에인격을부여하게되면구별과인식의문제가예상된다. (5) 권리체계의혼란 로봇에권리능력을제한적으로라도인정한다면매우복잡한권리체계의혼란을야기하게된다. 자율주행자동차에게권리능력을인정하면서, 그권리능력있는자율주행자동차에대해동시에누군가에게소유권을인정하는것은체계적으로수용하기어렵다. 만약자율주행자동차를구입한사람 ( 전통적인개념으로는소유자 ) 이자율주행자동차를타고가던중인공지능의오류로사고가발생하여인 54) 체손해를입었을때, 자동차를구입하여탑승한사람에게타인성을인정하면, 소유자가자신의소유물인자율주행자동차에대해손해배상책임을묻게된다. 이와같이물건에대해제한적일지라도인격 53) 예를들어바둑대회에서만알파고에게권리능력을인정된다고하면, 알파고가우승상금을획득하여소유하겠지만, 그돈을자신의 명의로은행에예금할수도없고아무것도구입할수없다면바둑과관련해서만제한적으로권리능력을인정한다하더라도무의미하다. 21

27 과동시에소유권의객체성을인정한다는것이체계적으로용인될수있는것인지는의문이아닐수없다. 또한로봇에고유한책임재산을인정하게되면, 그로봇이소유한책임재산과로봇의소유자와의관계를여하히설정할것인가도체계적으로문제이다. 로봇인자율주행자동차에책임재산을보유하게하고손해배상책임을지는범위에서권리능력을갖는다고한다면, 책임재산은로봇이어디에서어떠한방법으로취득할수있는가? 누군가의재산을증여받고그것을책임재산으로하여손해배상책임을지는것이유일한방법인데, 책임재산을증여할자에게귀책원리에따라손해배상책임을지우면되는것을굳이그런우회적이고기교적인낯선구성을해야할이유를찾기어렵다. 특히손해배상을위해제조자와소유자가분담하는보험료를로봇의책임재산으로이해하는것은보험제도와는거리가먼것이다. 만약납입한보험료를제조자와소유자가 출자또는증여한한 로봇의책임재산이라고본다면그금액의한도에서만책임을지겠지만, 보험제도에따라손해배상은보험료가아닌보험금의한도에서이루어지는것이므로보험료를책임재산이라고보는것은옳지않다. 따라서책임보험제도를구태여로봇이보유한책임재산으로관념적으로이해할필요가있는가는의문이아닐수없다. 현재의자동차책임보험은자동차에그러한권리능력을인정하지아니하고도문제없이잘운영되고있으므로, 그러한복잡한논리적가정없이로봇에관한책임보험제도의필요성을강조하는것으로족하다. (6) 독자적인손해배상청구의문제 로봇에제한적으로인격을부여하여권리능력을인정하게되면, 로봇자체가입은손해에대해손해배상청구주체가누구인가가문제가된다. 예를들어주차되어있는자율주행자동차를다른전통적인자동차가운전자의과실로충격하여인체손해없이자율주행자동차만파손된경우에, 이손해는자율주행자동차자체에손해를입힌것인가아니면자율주행자동차소유자의소유권을침해한것인가. 만약자율주행자동차에제한적인권리능력을인정한다면자율주행자동차가상대방운전자에게손해배상을청구하여야한다. 그러나이러한논리는현실적으로합리적이고설득력이있다고받아들여지기어렵다. 54) 이중기, 지능정보기술에의한사고발생시법적책임, 제 4 차산업혁명과지능정보사회법제도이슈연속토론회제 1 차지능정보기술 의안전한활용을위한제도정비방안자료집, , 한국정보화진흥원, 52 면. 22

28 그렇다고해서로봇에제한적인인격을부여하되, 그로봇이야기한손해에대한배상의무의주체만된다고할수도없다. 의무의주체로서실효성있기위해서는책임재산을보유하여야하는데그러기위해서는권리능력이인정되어야하기때문이다. 또한현실적으로인공지능자체에손해배상책임을 55) 부과할방법도존재하지않는다. 로봇에권리능력을단지책임재산에대한소유권을정적으로보유하는한도에만인정하는것도지나치게의제적이다. 그러므로로봇에인격을부여하는것은적당한대응방안이라고보기어렵다. 다. 민사적제재대상으로서의로봇 로봇은현재나아가예상가능한가까운미래까지는물건으로서권리객체로취급될수밖에없다. 로봇은소유권의객체가되어소유자에게완전한지배권이인정된다. 또한로봇에의해발생된손해에대해권리와의무의주체인인간에게책임을지울수밖에없을것이다. 만약로봇에의해발생된손해에대해로봇의소유자가책임을부담해야한다면, 로봇의소유자는로봇을매각하여그매각대금으로손해를배상할수도있다. 로봇은대체로고가로서재산적가치가높은편이므로로봇에의해발생된손해를배상하는책임재산으로서높게평가된다. 이경우로봇그자체가의무의주체가되어책임을지는것은아니지만, 권리객체인책임재산으로서손해배상에효과적인기여를하게된다. 로봇에의해손해가발생한경우에는손해배상청구권뿐만아니라정지청구권도매우중요한의미가있다. 손해를발생시킨로봇을그대로계속사용하게되면, 손해가지속적으로발생하거나확대될위험이있으므로일단은로봇의사용을정지시켜야할것이다. 로봇에대한정지청구권이새로운책임내용으로확립된다면, 로봇은사용정지라는민사적제재의대상이되는권리객체로서의특별한의미가부여될것이다. 이에대해서는피해의구제부분에서좀더상세히고찰한다. 55) 권영준 / 이소은, 자율주행자동차사고와민사책임, 민사법학제 75 호, 2016, 465 면. 23

29 III. 로봇에의한손해의발생 1. 손해의개념과요건성 민법상불법행위로인한손해배상청구권이성립하기위해서는우선불법행위로인하여손해배상청구권자에게손해가발생하여야한다. 손해의발생은불법행위에기한손해배상청구권성립의대전 제이다. 56) 로봇의경우에도불법행위책임이성립하기위해서는현실적으로손해가발생하여야한다. 로봇에의한손해도결국 법익에생긴불이익 이라는본질에서는기존의전통적인손해와아무런차이가없다. 로봇이손해를발생시켰는가아니면사람이나기존의물건이손해를발생시켰는가는손해원인의차별성문제이고, 어떠한원인에의해서건결국침해되는법익은인체또는재산이라는점에서동일하 57) 다. 따라서인체손해에관한손해3분설을따르는전통적인판례이론이그대로적용될수있으며, 재 산상손해는차액설적인입장에서파악하는기존의판례이론도마찬가지로유효하다고할것이다. 58) 59) 다만로봇은기존의소프트웨어나컴퓨터의오류로인해발생하는손해와비교하면다소특수한모습을보인다. 로봇이야기하는손해의특수성은불법행위의성립이나손해배상의산정등에실천적인문제를야기하지는않는다. 그러나왜로봇이불법행위영역에서기존의컴퓨터와달리좀더중요하게다루어져야하는가를강조하는점에서는의미가있다. 2. 로봇이야기하는손해의특수성 가. 정보오류에의한손해 로봇을통제하는인공지능은기본적으로정보를처리하는역할을한다. 인공지능에의해처리된 정보에오류가있는경우에는그릇된정보로인한손해가발생하게된다 년 11 월암스테르담스 56) 서광민, 손해의개념, 서강법학연구제6권, 2004, 123면. 57) 대법원 선고 2002다34581 판결등. 58) 대법원 선고 2009다30762 판결. 59) 통설적인차액설에대해손해는 채무불이행이나불법행위로인하여사람또는재산등의법익에생긴종래의상태또는기대되는상태와비교하여불이익이라고생각되는변화 라고새로운개념정의를제시하는견해 ( 서광민, 손해의개념, 서강법학연구제6권, 2004, 145면 ) 도있으나, 로봇에의해발생한손해에특별히의미를갖는시사점을찾기는어렵다. 24

30 히폴공항에서는로봇스펜서 (spencer) 가 KLM 항공승객을안내하는역할을하여스펜서가보딩패스 60) 를스캔하고그정보를바탕으로승객이가야할게이트로안내를담당했었다고하고, 2016년 9월부 61) 터는일본나리타공항에서도에뮤 (EMIEW)3 안내로봇이실증시험을시작하였으며, 우리나라도 LG 62) 전자가인천공항에서 2017년 7월 21일부터안내로봇의에스코트시범서비스를개시한바있다. 만약이경우스펜서가그릇된안내를하여승객이탑승하여야할항공기에탑승하지못한경우에, 다른항공편을이용하게되어추가요금이부과되거나혹은불필요한숙박이나식사비용의지출이발생되는등탑승객에게손해가발생할수도있다. 정보의오류로인해손해가발생된경우에배상책임을부담하여야하는가에대해우리대법원판례에따르면부동산중개업자가조사 확인하여의뢰인에게설명할의무를부담하지않는사항일지라도그릇된정보를제대로확인하지아니하고그대로전달하여그정보를믿고상대방과계약을함으 63) 로써손해를입은경우에손해배상책임을지운바있다. 또증권사에서 HTS를통해정보를잘못제 64) 공하여이를믿고거래한고객이손해를입은경우에도증권회사가손해배상책임을진다. 미국의판례역시계약관계에있지않은제3자에게잘못된정보를제공하는경우에정보제공자와제3자사이에유사한관계가있다고이론구성하거나, 정보제공이의도된제3자에대해서는잘못된정보를제공하지아니할주의의무가있다고이론구성하거나, 정보를신뢰하리라고예견가능한제3자에대해서는책임을진다는논리로손해배상책임을인정하는태도를전향적으로취하고있으며, 독일이나영국의경우 65) 에도마찬가지이다. 이러한태도를고려하면로봇의정보오류로인해손해를입는경우에도배상책임이발생할가능성을배제할수없다. 예를들어의료분야에서인공지능을이용한진료를하는왓슨의경우에의학적정보와진단이당대의학수준에서최고의지식이었는지그리고이를제공하는과정에서과실이개입되지않았는지도로봇공급자에게증명하도록범위를확대해야한다는주장도제기 되고있다. 66) 60) 매일경제 보도기사 ( 61) 로봇신문 보도기사 ( 62) 한국경제신문 보도기사 ( 63) 대법원 선고 98다30667 판결 ; 대법원 선고 2008다42836 판결. 64) 이창현, 전산장애로인한손해배상에관한연구, 법과기업연구제5권제3호, 2015, 139면. 65) 권영준, 미국법상순수재산손해의법리, 민사법학제58호, 2012, 면. 66) 박해선, 스마트사회와민사책임, 법학논총제23집제2호, 조선대학교, 2016, 289면. 25

31 나. 인체손해의발생 인공지능이단순히정보만을제공하는것에그친다면, 인체에손해를직접적으로발생시키기보다는대부분재산상손해를발생시키게된다. 인공지능에이르지아니한컴퓨터프로그램의오류로인한손해는대체로재산상손해를발생시키는것이일반적이다. 미국 Bank of New York 사건을살펴보면, 미국연방준비은행에서자동적으로 Bank of New York 현금계좌에차변기록을하는동안에 Bank of New York는소프트웨어의오류로인해저축계좌로부터들어오는예금을처리할수없었고, 그로인해 Bank of New York는하루동안에 240억달러를차입해야했으므로소프트웨어오류가해결될때까지 67) 500만불의이자손해를보게되었다. 단순한컴퓨터프로그램의오류로인한재산적손해의경우에는액수의다과를불문하고인체손해에비해상대적으로사회전반에민감한영향을주지는않는다. 그러나인공지능에의해통제되는물리적인로봇의경우에는그기기가인체에직접손해를발생시킬수도있다. 자율주행자동차나로봇과같이고차원적인로봇이아니라아주단순하게전기압력밥솥에내장된초보적인인공지능알고리즘에문제가생겨도압력이과도하게팽창하여폭발을일으킬위험이생긴다. 로봇에의해발생된손해가단순히재산상손해에그치지아니하고사람에직접적인작용을하여생명침해또는신체침해를가져온다는점은지금까지컴퓨터와같은정보처리장치의결함으로인한재산상의금전적손해와는완전히질적으로다른양상이다. 더욱이로봇의종류에따라서는인체손해의규모가대형화되고치명적으로될위험까지도배제할수없다. 다. 동시다발적인손해발생 지금까지의일반적인기기는대량으로제조된것이라도결함이나오류는개별적으로존재하는것이므로손해의발생은단발적으로일어나게된다. 설령설계상의결함이존재하는경우라도모든기기가그결함이손해의발생으로현실화되는것은아니다. 과거미국포드자동차의 Punto 사례에서도자동차설계의근본적인결함이존재하는것은명확하지만, 그러한결함으로인한손해가발생하는경우는극히일부의 Punto 자동차에서일뿐이다. 67) Peter Neumann, Expecting the Unexpected Mayday, Communications of the ACM, 1991, p.128; 주지홍, 소프트웨어의하자로인 한손해의제조물책임법리적용여부, 민사법학제 25 호, 2004, 434 면에서재인용. 26

32 향후인공지능이내장된로봇이보편화되어대량으로생산되고소비되는시기가도래할것을예상하는것은어렵지않다. 동일한인공지능이내재된동종의로봇이널리보급되어있다면예상하지못한오작동은특정한하나의기기에만발생하지는않을것이다. 특히로봇에내장된알고리즘에오류가있어서손해를발생시키게되면, 동일한알고리즘을갖고있는로봇이라면손해의발생시기와손해액의차이만있을뿐이지모두다반드시동일한문제로인해손해의발생을피하기는어려울것이다. 이렇게되면인공지능의문제로인한로봇의손해의양상은기존의기기와달리동시다발적이고필연적인손해발생을가져올위험에직면하게될것으로예상된다. 이와같은동일한혹은동종의원인에의하여다수의피해자들에게다수의개별적손해가발생하는현상에대해전통적인민사책임법에서이를별도의법적개념이라전문용어로파악하지않았으나 68) 이에대해주목하는견해가제기된바있다. 특히대규모피해사건들에있어서는피해자의실질적구제를위하여특별한위험원을내포하는사업을영위하는모든기업들과위험한시설을보유하는모든 보유자들이책임재산의확보를위하여적절한대비책을마련하는것이무엇보다중요하다고한다. 69) 3. 로봇소유자에게발생된손해의취급 자신이소유한자율주행자동차를타고가던중내장된자율주행알고리즘의오류로부상을당한경우와같이, 로봇이소유자에게손해를입힌경우에그손해를어떻게다루어야하는가. 로마법이래법익에생긴손해는법익보유자가부담한다 (casum sentit dominus) 는것이부동의법원리였으므로, 법익보유자가보유한법익에손해가발생한경우손해를자신이스스로부담하는것이원칙일것이다. 전통적인기기의경우인간에의해완전히지배되는물건이므로기기의보유자는기기로부터발생된손해를스스로감수하는것이당연한것으로받아들여졌다. 자율주행자동차의경우에도자율주행모드로운행하던중사고가발생하여탑승하고있던차량보유자가인신손해를입었다고할지라도차량보유자는운행자에해당되므로손해배상을청구할수 70) 없다고해석하는것이현행자동차손해배상보장법해석상타당하다고한다. 그러나로봇의제조업자에제조물책임이인정되는경우등과같이로봇의소유자라고할지라도그손해를규범적인가해자 68) 신유철, 대규모피해와손해배상, 민사법학제 75 호, 2016, 면. 69) 신유철, 대규모피해와손해배상, 민사법학제 75 호, 2016, 430 면. 70) 이충훈, 자율주행자동차의교통사고에대한민사법적책임, 법학연구제 19 집제 4 호, 인하대학교, 2016, 154 면. 27

33 에게전가하여손해배상을청구할수있는경우도예외적으로는존재한다. 71) 다만앞서지적한바와같이로봇에제한적으로의무능력을인정하는입장이라면, 로봇과로봇의소유자는별개의권리주체로서로봇의소유자가로봇에대해손해배상청구를하는것을허용하지않을수없다. 소유자가소유물에대해손해배상을청구하는법적관념이과연수용가능한것인지는의문이다. 로봇의의무능력을소유자를제외한제3자에대해서만인정되는것이라고제한적으로설정하는것도지나치게기교적이다. 결국로봇소유자는로봇에의해발생된손해를스스로감수할수밖에없을것이다. 물론기기의소유자가그손해를완전히감수하는것만이규범적으로옳은것은아니고, 보험제도를통해손해를사회화하는것도가능한방법이다. 현재자동차책임보험의경우에자동차소유자가스스로운전하다가발생된교통사고로피해를입은경우에자동차보험을통해피해를전보받을수있다. 이와같은보험제도를통한손해의사회화가가능한상황에서로봇의소유자가로봇으로부터입은손해에대해로봇에게책임을묻는다는매우기교적이고의제적인논리를취할필요는없다고생각한다. IV. 로봇의행위성 1. 로봇의행위성평가 가. 전통적과실책임에서의행위성요건 불법행위는말그대로 행위 이다. 손해가 행위 에의해발생된것이아니면불법행위가성립될수없다. 전통적인관점에서는행위는행위자의자유의지를전제로하므로, 자유의지가존재하는인 ( 人 ) 만이행위를할수있다. 설령사람일지라도자유의지가부정되는절대적폭력 (vis absoluta) 에의한거동이나불수의운동 (involuntary movement) 등은규범적으로는행위성이부정된다. 발생된손해를누가부담해야할것인가하는법적인문제에있어서는발생된손해와원인사이 70) 이충훈, 자율주행자동차의교통사고에대한민사법적책임, 법학연구제 19 집제 4 호, 인하대학교, 2016, 154 면. 71) 이중기, 인공지능을가진로봇의법적취급, 홍익법학제 17 권제 3 호, 2016, 20 면. 28

34 에인간의행위관련성이존재하지않으면아니되며, 이와같은행위관련성이없이는손해를누가부담할것인가의문제는아무런의미가없다. 따라서어떤손해발생에대하여타인의 책임있는 원인야 72) 기 행위 가관련되어있을때에그가그손해를배상해야한다. 인공지능에의한로봇의작동이타인에게손해를가져왔을때이것이민법상의불법행위가되기위해서는, 우선로봇의작동이 행위 로평가되어야한다. 설령로봇의작동그자체를행위로평가하지못한다고하더라도, 그배후의어떠한인간의개입을 행위 로인정할수있어야불법행위가성립될수있다. 나. 민법에서의특수한행위성 사람이외형상직접적으로가해를하지아니하는경우에도불법행위를인정하는특수한경우를민법에서찾아볼수있다. 그하나는제759조동물의점유자의책임이다. 직접적인가해원인인동물은물건으로서권리객체이므로사람만이할수있는 행위 를할수없다. 그러므로동물을점유하거나이에갈음하여보관하는자의보관상주의의무를해태하는부작위에 행위성 을인정하여동물의점유자나보관하는자의불법행위로다루고있다. 즉타인에게손해를가하는동물의 공격 은행위가아니고, 동물점유자가동물의종류와성질에따라그보관에상당한주의를해태하는부작위가행위이다. 그러므로동물점유자가상당한주의를다하였다면타인이손해를입었을지라도, 주의의무해태라는부작위가존재하지아니하므로손해배상을어디에도청구할수없다. 결국피해자는그손해를생활위험으로스스로감수할수밖에없다. 또다른하나는제35조법인의불법행위능력이다. 제35조는 법인은이사기타대표자가그직무에관하여타인에게가한손해를배상할책임이있다 고규정하고있다. 법문에서명확히 이사기타대표자가그직무에관하여타인에게가한손해 라는표현을사용함으로써가해의주어를자연인인 이사기타대표자 로명확히밝히고있다. 법인은권리주체이긴하지만관념적인존재로서자연인과같은유형의육체를갖지아니하므로직접적으로외형적인행위를할수는없다. 따라서실제의작위또는부작위는자연인인법인의대표기관이하되, 그대표기관의작위나부작위를법인의행위로규범적으로평가하는것이다. 또한직접적인가해행위를한이사기타대표자는법인의불법행위책임과별 72) 김형배, 과실개념과불법행위책임개념, 민사법학제 4 호집, 1985, 268 면. 29

35 도로자기의고유한불법행위책임을부담하도록규정하고있다. 결국 가해의직접적주체 는자연인일뿐이지만, 가해에따른책임의주체는법인과자연인모두가되는것이고, 양자의책임은부진정연대책 73) 임이라는것이통설이다. 이와같은가해원인과책임의분리는민법의전체계와잘조화를이루는것이므로, 이에대한근원적인의문을제기하는견해는찾아보기어렵다. 다. 로봇의차별성 로봇은동물과다르고법인의대표기관과도다르다. 먼저로봇과동물은물건이라는점에서는같지만점유자의지배가능성의유무라는점에서는다르다. 동물의점유자는동물을완전히지배할수있으므로, 동물의보관에상당한주의를한다면동물이타인에게손해를가하지못할것이라는전제가책임의바탕을이루는것이다. 그러므로동물점유자책임이라는불법행위의유형에서동물점유자의주의의무해태에서행위성을도출할수있다. 그러나인공지능에의해통제되는로봇의점유자는로봇을지배할수있는현실적인가능성이거의존재하지않는다. 로봇의점유자는로봇에어떠한주의를하여야그것이타인에게손해를가하지않을것인지대해전혀알지못한다. 로봇에대한지배가능성이없는점유자에게서주의의무해태라는부작위의행위성을동물점유자처럼쉽게도출할수는없다. 로봇과법인의대표기관도구별된다. 법인의대표기관인자연인의가해행위는그자체로서행위성이당연히인정된다. 자연인인법인의대표기관의가해 행위 를법인의 행위 로규범적으로동일시하는것이므로행위성의문제가두드러지지않는다. 즉 ( 자연인의 ) 행위 를 ( 법인의 ) 행위 로인정하는것이기때문에논리적으로장애가없다. 그러나물건으로서권리객체인로봇의알고리즘에의한작동을 행위 로서규범적으로인정할수없으므로, 작동그자체를소유자나점유자의행위로곧바로동일 74) 시하는평가는논리적으로수용하기어렵다. 결국전통적인과책주의에따른불법행위책임을위해서는로봇에대한 주의의무해태 나 행위의동일시 이외의다른요소에서행위성을도출해야만될것이다. 그러나이는후술하는바와같이간단한문제는아니다. 73) 홍일표집필부분, 민법주해 [I], 총칙 (1), 박영사, 1992, 602면. 74) 만약로봇에권리능력을인정하고로봇의작동을 행위 로받아들인다면이를소유자나점유자의행위로평가할수있을것이고, 마치법인의불법행위책임과같이로봇의소유자나점유자와로봇이공동으로연대하여손해배상책임을지울수도있을것이다. 그러나앞서살펴본바와같이로봇에인격을부여하여권리능력을인정하는것은적어도예측가능한가까운미래까지는타당하지않다. 30

36 2. 로봇의행위성판단 가. 시원적내재화의행위성판단 로봇은내재된인공지능알고리즘의지배에있으며, 알고리즘의진행을임의로벗어날수있는자유의지는존재하지않는다. 인공지능에의해통제되는로봇의작동에가장중요하고지배적인근원은인공지능알고리즘의제작및설치 (install) 에있다. 즉인공지능의작동은, 곧알고리즘의진행이므로, 인공지능알고리즘의제작과설치라는인간의행위로환원될수있다. 그렇다면로봇의작동은곧인공지능알고리즘제작자의행위라고볼수있는여지도있다. 인공지능알고리즘을제작해서로봇에설치하는행위가로봇이타인에게손해를가하는작동에지배적인역할을하는것을부정하기는어렵지만, 그러나로봇의작동을곧알고리즘제작자의행위로규범적으로환원하는것은적절하지않다. 우선로봇의작동을곧알고리즘제작자의행위로환원하게되면, 로봇의부정적인작동을알고리즘제작자의침해행위로다룰수있는장점은있음은분명하다. 그러나반대로로봇의긍정적작동의결과까지도알고리즘의제작자의행위결과로효과를귀속시킬수는없다. 예를들어인공지능로봇이오작동을하여타인에게손해를입혔을때그오작동을인공지능알고리즘제작자의가해행위로보게되면, 반대로인공지능로봇이생산에활용되었을때그생산의산출물을인공지능알고리즘제작자에게귀속시키는것은현실과맞지아니한다. 즉로봇의부정적결과만을인공지능알고리즘제작자의행위로보고, 긍정적결과는로봇보유자의행위로다루는것은논리적이지못하다. 또한로봇의특성상머신러닝에의해점차진화되는기능의구체적인작동까지최초알고리즘제작자의완전한지배에있다고보기는어렵다. 머신러닝을위한기초적인알고리즘이야당연히알고리즘제작자가작성하는것이지만, 그이후에알고리즘제작자가구체적으로알지못하는외부의빅데이터를활용하여인공지능스스로학습하여내린모든결정에대해서까지알고리즘제작자의행위와동일시하는것은다소무리가따른다. 나. Power-on 의행위성판단 로봇이아무리기술적인발전을거듭한다고하여도본질적으로결여되어있는핵심적인요소는 31

37 자발성이다. 로봇이작동하기위해서는반드시에너지의공급이있어야하고, 생명체가아닌로봇이필요로하는에너지는현재로서는전기에너지이다. 사람은음식물을섭취해서스스로에너지를공급하지만, 로봇은인간이전원공급을개시하고작동개시를명령 (power-on) 해야만비로소인공지능알고리즘에따른작동을시작할수있다. 로봇에인공지능알고리즘을제작해서설치하는행위와더불어로봇보유자가로봇에전원을공급하고작동개시명령을하는행위도반드시필요하다. 그렇다면로봇의작동은곧로봇에전원을공급하고작동개시명령을하는행위, 즉로봇이결여하고있는자발성을부여하는행위로규범적으로환원될여지도또한존재한다. 그러나결정적으로인공지능로봇의본질적특성상로봇의이용자는로봇에대한구체적통제가능성이존재하지않는다. 어떠한주의를기울여도로봇의손해를방지할수없다면, 그작동에대해로봇점유자나이용자의행위성을인정하기어렵다. 이점은동물에대해서는점유자에게과실책임을부과할수있으나, 로봇의점유자에게는주의의무위반이라는부작위를행위로인정하기어렵다는지적을이미살펴본바있다. 다. 전통적인행위성의결여 인공지능이두차례의 AI winter를겪고다시각광을받게된배경에는딥러닝 (Deep Learning) 기술이존재하고있다. 딥러닝이가능하기위해서는데이터, 네트워크, 알고리즘, 하드웨어 4개의요소가모두갖추어져야한다. 인터넷상의수많은데이터가존재해야되고, 이를용이하게받아올수있는광통신등의신속하고고품질의통신네트워크가있어야하며, Deep Learning을구현할수있는핵심알고리즘그리고수많은정보를저장하고처리할수있는대규모서버의저장장치와슈퍼컴퓨터의연산능력이필수적이다. 어떤측면에서보면인간의두뇌를모방한인공지능이라도인간의육체와같은물리 적인저장장치나네트워크에더큰영향을받는것을알수있다. 로봇의인공지능이네트워크를통해빅데이터를수집하고이를처리하여구체적인작동을하게되면, 자신도모르는상태로데이터를제공하는제3자도로봇의작동에어느정도참여하게된다. 이러한다양한사람의능동적그리고수동적행위참여로이루어지는로봇의작동결과를특정한사람의행위로만환원하는것은가능하지도또타당하지도않다. 결국로봇의작동결과를전통적인인간의행위 75) 75) 오병철, 인공지능과법, 제 76 회변호사연수회자료집, 대한변호사협회, 2017, 216 면. 32

38 로환원하려는시도는논리적인설득력을얻기어렵다. 3. 특수한귀책원리에따른행위성의예외 가. 과실책임주의에서의행위성요건의중요성 제750조는고의또는과실로인한위법 행위 로타인에게손해를가한자에게손해배상책임을지우고있다. 불법행위의성립을위해서는우선 행위 에의한손해인가를판단하는것이중요하다. 즉과 76) 실개념은손해와손해야기행위사이의관련성을어떻게파악하느냐의문제이다. 행위 에의한손해가아니라면 고의또는과실 인가의여부를판단할대상자체가부존재한다. 그러므로과실책임주의에서 고의또는과실 이라는과책요소에앞서 행위 에의한손해인가의판단이긍정되어야만, 비로소그행위가 고의또는과실로인한 것인가를판단할수있다. 불법행위의성립과책임에서 행위자 는곧 가해자 이고, 동시에 책임부담자 가된다. 따라서행위가존재하지않는다면, 가해자도존재하지않으며따라서손해배상이라는책임을부담할사람이없다. 결국피해자는스스로손해를감수할수밖에없다. 과실책임주의에따른불법행위에서 행위로 타인에게손해를가하는것은직접적인가해행위뿐아니라간접적인가해행위도포함한다. 제759조의동물점유자책임은직접적인가해는인간이아닌동물이하는것이지만, 동물의종류와성질에따라그보관에상당한주의를해태하는것을손해를가하는간접적인 행위 로다루어동물점유자가가해자이고곧손해배상의무자가된다. 만약동물점유자에가주의의무를해태하지아니하였다면, 설령동물이사람의소유권의객체일지라도그동물에의한가해는사람의행위로평가되지아니하므로 불법행위 가아닌생활위험의현실화로서피해자스스로손해를감수하여야한다. 나. 무과실책임과행위성요건 무과실책임과불법행위의성립을위한행위성요건은논리필연적인연관이있는것은아니다. 우 76) 김형배, 과실개념과불법행위책임개념, 민사법학제 4.5 호, 1985, 269 면 )

39 선위법행위가 고의또는과실 로인하여발생하지아니한경우에도손해배상책임을지우는것이무과실책임의전형이다. 즉손해의원인을제공했지만가해자가자신의행위에상당한주의를기울여원인을제공한손해를회피하려고하더라도불가능한경우에그원인제공자가그손해에대한책임을 77) 부담하는것이무과실책임이다. 영미법에서의무과실책임이라고할수있는엄격책임의경우에도행 78) 위자의고의나과실을요구하지않지만가해행위와손해의발생이라는결과로책임을묻고있다. 제조물책임에서결함있는제조물을제조하는행위를가해행위로평가하여그제조자에게책임을지우고있으므로행위성을요건으로하고있다. 그러나결함있는제조물을제조하는행위에고의또는과실이있을것을요건으로하고있지는않으므로, 무과실책임이라고할수있다. 이경우에는무과실책임이지만행위성을요건으로하는것이다. 그러나손해배상책임을부담하는자가손해를발생시키는어떠한간접적행위도하지아니하는무과실책임도존재한다. 후술하는바와같이공작물소유자책임이나자동차운행자책임의경우에는오로지손해를야기한물건을소유하거나보유하고있다는사실만으로손해배상책임을지게된다. 이경우손해배상책임에구체적인 행위성 을요구하는것이아니므로당연히 고의또는과실 이라고하는귀책사유판단도존재하지아니하며, 이역시무과실책임이라고할수있다. 다. 행위성을요건으로아니하는무과실책임 (1) 공작물소유자책임 제758조제1항에따르면공작물의설치또는보존의하자로인하여타인에게손해를가한때에는공작물점유자가손해를배상할책임이있으나, 점유자가손해의방지에필요한주의를해태하지아니한때에는그소유자가손해를배상할책임이있다. 공작물소유자의책임은무과실책임으로서공작물소유자에게고의또는과실이있을것을요하지아니한다. 뿐만아니라공작물소유자는공작물을소유하고있다는사실외에공작물의설치또는보존의하자에어떠한행위의기여가존재하는것은아니다. 공작물의설치또는보존의하자로인한손해발생에공작물소유자의행위로환원시킬만한요소 77) Richard A. Posner, Economic Analysis of Law(7th Edition), Wolter Kluwer, 2007, p ) 김영희, 미국불법행위법의기본구조에관한연구, 법학연구제 21 권제 4 호, 연세대학교법학연구원, 2011, 66 면. 34

40 는찾아볼수없다. 즉손해발생에공작물소유자의행위성을요건으로하지않으면서도, 공작물소유자 에게불법 행위 에따른손해배상책임을인정하는예외적인규정을두고있다. 다만제758조제3항은공작물소유자가공작물책임을부담하는경우에그손해의원인에대해책임있는자에대하여구상권을행사할수있다고규정한다. 여기에서손해의원인에대해책임있는자는하자있는공작물로인한손해의간접적행위자로서행위성이인정되는진정한불법행위자이다. 결국피해자의보호를위해서는불법 행위 자보다 행위 를하지아니하였으나손해발생원인과일정한관계에있는자에게우선적으로손해배상책임을지우는경우도현행민법에규정되어있다. 79) (2) 자동차운행자책임 자동차손해배상보장법제3조는자기를위하여자동차를운행하는자는그운행으로다른사람을사망하게하거나부상하게한경우에는그손해를배상할책임을진다고규정하여이른바자동차손해배상책임을명시하고있으며, 이를자동차운행자책임이라고한다. 자동차운행자는직접자동차를운 80) 전하는조작행위를하는자동차운전자와는구별되며, 대법원판례에따르면자동차운행자란 자동차에대한운행을지배하여그이익을향수하는책임주체 이다. 자동차운전자의과실로타인을사망하게하거나부상하게한경우자동차운전자가행위주체이지만, 그와별도로직 간접적인행위성이부정되는자동차운행자에게도특별법상의손해배상책임을지우고있다. 자동차운행자는불법행위자가아니므로고의또는과실이라는귀책사유를요하지는않기때문에, 자동차운행자책임은무과실책임이다. 이와같이법률상명문규정이존재한다면, 행위성이부정되는자에게도손해배상책임을지우는것이불가능한것은아니다. 라. 행위성문제의입법적해결의필요성 살펴본바와같이불법행위책임에서손해야기의직 간접적인행위성과손해배상책임의부과는 반드시논리필연적으로연계되어야만하는것은아니다. 정책적필요에따라서는행위성이부정되는 79) 이는완전한결과책임으로서불법 행위 가아닌불법 결과 에대한책임이라생각한다. 80) 대법원 선고 86 다카 556 판결. 35

41 경우에도손해배상책임을긍정하는입법이가능하다. 로봇에의해타인에게손해를입힌경우에누구에게행위성을인정할것인가는매우어려운문제이다. 만약행위성이인정되는자에게불법행위책임을지우려고한다면, 경우에따라서는아무에게도행위성을인정할수없어서피해자스스로손해를감수하거나반대로지나치게넓은범위의사람에게행위성을인정하여과도한부담을지우는문제도예상된다. 그러므로로봇에의한손해에는전통적인불법행위책임의행위성을요건으로하는것은타당하지도않고바람직하지도않다. 결국입법적으로로봇의부정적작동에대한간접적행위기여를요하지아니하고, 일정한규범적관계에있는자에게손해배상책임을지우는것이적절할것으로생각된다. 이를위해서는전술한공작물책임이나자동차운행자책임이유용하게참고될수있을것이다. V. 로봇과귀책사유 1. 전통적인과실책임주의의한계 가. 과실의전제로서의주의의무 객관적과실론에입각한통설적인견해에따르면, 과실이라함은 일정한부정적결과의발생을 81) 예견하거나방지할수있었으나주의를게을리하여결과를발생케하는심리상태 를말한다. 주의의무의내용으로가장중요한것은자신의행위가어떠한결과를가져올것이라고합리적으로예견하는것과자신의행위가가져올결과를회피하기위한노력을기울여야한다는것이다. 즉예견가능성과회피가능성이존재하고결과발생에대한예견의무와회피의무의위반이라는외연으로나타난행위자 82) 의심리상태가과실의기준이된다. 영미법에서도과실책임이란주의의무를다하면그결과를회피가능하며그회피가능한결과를발생시킨자는예상가능한결과에대한행위자의행위에대한불법 83) 행위책임을져야한다는것이다. 합리적인인간으로서행위자가타인의이익에대한침해를일으키는과도한위험이포함됨을인식해야하는행위또는타인을보호하거나조력할필요가있고또한그 81) 서광민집필부분, 민법주해, 제XVIII권, 박영사, 1992, 129면. 82) 박동진, 불법행위법에서의주의의무, 비교사법제9권제2호, 2002, 161면. 83) 가정준, 미국불법행위법발전의이론적고찰, 비교사법제12권제1호, 2005, 399면. 36

42 84) 85) 행위자가그러한의무하에있는행위를하지아니한것이과실이다. 우리대법원판례도결과를예견할수있었음에도불구하고그결과발생을예견하지못하였고그결과발생을회피할수있었음에도불구하고그결과발생을회피하지못한과실이검토되어야한다고판시하고있다. 만약손해발생을예견할수없거나또는예견하더라도이를회피할수없는것이라면과실이있다고하기어렵다. 주관적과실론에입각하여이른바절대적의무 (absolute Rechtspflicht) 를주장하여, 자신의감독또는관리하에있는물건으로부터불특정다수의사회일반인에대한위험이발생되는경우에는그사람은그위험을예방할절대적의무가있으며, 이절대적의무를부담하는자는모든사람에대하여위험예방에필요한조치를취하여야하며, 그러한예방조치를취해야한다는것을그의무의내용으로 86) 한다. 또이러한절대적의무를거래생활안전의무 (Verkehrssicherungspflicht) 라고하고, 그성립요건으로는 1 권리의목적물에대한침해의위험이있을것, 2 그위험성이감독또는관리하에있는사람이나물건에서올것, 3 감독또는관리를하는사람혹은스스로위험을가진사람이예방조치를 87) 취할수있을것을들고있다. 그러므로절대적의무일지라도예방조치를취할수있는회피가능성이존재하지아니한경우에과실을인정하는것은과도한것으로서허용되지않는다. 이러한주관적과실론을취하는경우에도민법에서공평한손해조정이문제되는경우에는위험책임과같은특별한귀속 근거들이존재한다는점을부정하지는않는다. 88) 나. 민법상의추상적경과실 판례에따르면불법행위의성립요건으로서의과실은이른바추상적과실만이문제되는것이고 이러한과실은사회평균인으로서의주의의무를위반하는경우를가리키는것이지만, 그러나여기서의 사회평균인이라고하는것은추상적인일반인을말하는것이아니라, 그때그때의구체적인사례에있 84) 고세일, 미국불법행위의구조와내용에관한연구, 민사법학제59조, 2012, 100면. 85) 대법원 선고 82도3199 판결. 86) Ernst Wolf, Lehrbuch des Schuldrecht Band II Besonderer Teil, 1978, S.577ff; 김형배, 과실책임과불법행위책임개념 민사법학제4 5호, 1985, 291면에서재인용. 87) 김형배, 과실책임과불법행위책임개념 민사법학제4,5호, 1985, 291면. 88) Enneccerus-Nipperday, Allgemeiner Teil des Bürgerlichen Rechts, 15Aufl., S.1322ff; 엄동섭, 불법행위법의과실의개념, 사회과학논총제5집, 1987, 64면에서재인용. 37

43 89) 어서의보통인이며, 일반적보통인이라고하더라도추상적일반인이아니라그와같은업무와직무 90) 에종사하는보통인을말하는것이다. 영미법에서도불법행위법상의과실개념으로합리적인인간을 91) 기준으로한객관적과실을모델로삼고있다. 그러므로민법은과실을인정함에있어서절대로손해 가발생하지않을정도의완벽한주의를기울일것을요구하는것은아니다. 92) 다. 로봇의난점 (1) 과실판단의대상 인공지능이통제하는로봇은어느누구도이를직접적으로조작하지아니하므로로봇이타인에게손해를입히는작동의직접적인행위자는존재하지않는다. 고의또는과실의판단을행위자를대상으로행하여져야하므로, 누구를대상으로예견가능성과회피가능성을판단하여야하는것인지가명확하지아니하다. 또한로봇의손해발생에간접적으로관여하는자를폭넓게생각한다면, 인공지능제작자나로봇의소유자또는로봇의이용자나아가심지어는로봇이빅데이터를활용하는경우그데이터를제공한자까지도로봇의작동에간접적인영향을주었다고볼수있다. 그러나로봇의소유자는로봇에대한소유권을보유하고있다는규범적인관계외에는아무런행위기여가존재하지아니하고, 빅데이터제공자는로봇의작동에간접적인영향을주었다고하더라도 빅 데이터라는점을고려하면극히미미한기여를한것에불과하므로과실판단의대상으로는적절하지아니하다. 로봇이타인에게입힌손해에대한가장중요한행위기여가있다면, 인공지능프로그래머와로봇을직접점유하여이용하는자라고할수있다. 따라서아래에서는인공지능프로그래머와로봇이용자를대상으로과실판단의문제를검토한다. 89) 대법원 선고 2000다12532 판결. 90) 대법원 선고 66다1938 판결. 91) 고세일, 미국불법행위법의구조와내용에관한연구, 민사법학제59호, 2012, 125면. 92) 박동진, 불법행위법에서의주의의무, 비교사법제9권제2호, 2002, 181면에서위법성판단과과실판단모두를주의의무위반으로일원적인동일한도구를이용한다고하더라도위법성에서판단되는주의의무는 최고도의주의 (Höchstmaß der Sorgfalt) 를전제로하는행위준칙을제시하는반면, 과실판단에서는구체적상황을전제로평균인에게요구되는주의의무가위반된것을의미한다고하고있으므로, 적어도과실판단에서의주의의무위반은완벽한주의를기울일것을요구하는것은아니다. 38

44 (2) 인공지능프로그래머의과실판단의한계 인공지능이통제하는로봇이발생시킨손해에대해인공지능프로그래머에게프로그래밍상의과실을인정할수있겠는가가우선적으로검토될수있다. 이를위해서는과실판단의두가지전제인예견 가능성과회피가능성을살펴보는것이중요하다. 93) 먼저예견가능성을살펴보면, 예견가능성은얼마나구체적으로손해발생을예견가능해야하는가의문제가핵심이라고할수있다. 예견가능성이란손해발생의구체적인위험을예견하는것을말하며, 철학적인의미에서의예견가능성이아니라불법행위제도의관점으로부터의법적평가를더한의미에서의예견가능성이며, 만약예견하여야할대상인사항을매우높게파악하면실질적으로는무과실 94) 책임내지는단순한결과책임과다름없게된다. 로봇언제어떠한상황에서손해를야기할것인지의위험을구체적으로예견하는것은일반적이지않다. 언젠가는로봇이오작동할지도모른다는불확실한손해발생의막연한불안감이존재할뿐이다. 그러므로로봇에위험이잠재화되어있고, 잠재된위험의현실화에대한공포의인식만으로는법적인의미의예견가능성이존재한다고볼수없다. 회피가능성을살펴보면, 로봇을통제하는인공지능은알고리즘으로서컴퓨터프로그램이므로본질적으로불완전성을내포할수밖에없다. 프로그래머는프로그래밍과정에서디버깅단계를반드시거치므로, 기초적인디버깅단계에서일반적인오류는회피되는것이보통이다. 로봇은상당한기간동안실험과검증과정을거치고난이후에보급되는것이통상이므로그러한실험과검증을거쳤다면오류를진지하게수정하게된다. 그럼에도불구하고회피가능하다고한다면, 불가항력을제외하고는모두회피가능하다고할수밖에없을것이므로결국무과실책임과아무런차이가없을것이다. 독특하게 절대적배제근거의유책적침입 (schuldhaft Verletzung eines absoluten Ausschlußgrunds) 이라는입각한특수한유형의불법행위를주장하는견해도존재한다. 즉타인의권리침해또는권리의객체의침해에대한위험을예방할가능성이존재하지않는경우에도인정되며, 타인의절대권이나권리의객체를침해할가능성이있음에도불구하고그예방가능성이없는위험한행위에대해서는그행위의적법성이어느누구에대하여도배제되어야할절대적배제근거가존재한다고하며, 특히불특정다수인의권리나권리의객체를침해할위험성이있는결함있는물건들을거래 93) 예견가능성과회피가능성중어느것을과실의중심에놓을것인가의교의학적인논의가존재하지만, 여기에서는이러한논의를깊 이다룰필요는없다. 94) 이상훈집필부분, 민법주해, 제 XVIII 권, 박영사, 1992, 면. 39

45 95) 에투입하는제품제조자와상인의행위도절대적배제근거에의하여판단할수있다고한다. 이러한 절대적배제근거에관한이론구성도과책주의원칙 (Verschuldensprinzip) 에입각한것으로평가한다. 다만일반적인과실은주관적과실이문제가되지만, 이러한절대적배제근거에따른책임은객관적 과실이문제가된다는것이다. 97) 그러나절대적배제근거의유책적책임도과책주의원칙에따르는것이라고보는것이과연논리적으로부합되는것인가는의문이다. 위험을예방할가능성이없음에도불구하고즉손해방지를위하여상당한행위를하더라도면책이되지아니하는결과책임적불법행위중발생된손해가중대하거나 그손해의범위가비교적넓은경우에는학설상무과실책임이인정되기때문이다. 98) 96) (3) 로봇이용자의과실판단의한계 로봇이용자에게로봇이야기한손해에대해과실을인정할수있는가는의문이아닐수없다. 로봇이용자는로봇을전혀조작하지않기때문에, 구체적인지배가능성과통제가능성이결여되어있기때문이다. 이는곧손해의구체적인위험을예견가능하다고하더라도, 이에대한회피가능성이완전히결여되었다고평가할수있다. 미국리스테이트먼트에는인공지능로봇에게적용을검토할만한규정이있다. 리스테이트먼트제307조에서 불완전하거나결함있는도구의이용 (Use of Incompetent or Defective Instrumentalities) 의표제하에서과실판단에대한규정을두고있는데, 이규정이로봇의이용자의과실판단에유용하게적용될수있을것처럼보인다. 리스테이트먼트제307조는 사람이든물건이든, 그것이불완전하거나, 부적절하거나또는결함이있어서타인에게합리적인수준을넘는위험을가져온다는사실을알았거나알아야만함에도이를이용하는경우에는과실이인정된다 고규정하고있다. 설령그도구가명성있는제작자로부터구입한경우일지라도실제로안전성을합리적으로검토할것이요구된다고한 다. 99) 미국판례에서도트럭소유자가타이어에결함이있다는점을알고있었다면, 결함있는타이어 95) Ernst Wolf, Lehrbuch des Schuldrecht BandII Besonderer Teil, 1978, S.584ff; 김형배, 과실책임과불법행위책임개념 민사법학제4,5호, 1985, 면에서재인용. 96) 김형배, 과실책임과불법행위책임개념 민사법학제4 5호, 1985, 287면. 97) 엄동섭, 불법행위법의과실의개념, 사회과학논총제5집, 1987, 71면. 98) 정기웅, 불법행위성립요건으로서과실의개념과불법행위책임체계에서의지위, 비교사법제18권제3호, 2011, 826면. 99) Restatement of Torts 307Comment b. 40

46 100) 가터져서생명침해를가져온경우에트럭소유자에게과실을인정한바있으며, 파이프라인이오일압력을버틸수있는가를판단하는테스트를제대로하지아니한파이프라인회사에대해과실을인정 하였다. 101) 그러나인공지능이통제하는로봇이불완전하거나, 부적절하거나또는결함이있어서합리적인수준을넘는위험을가져올것이라고이용자가인식하는경우는극히예외적이라고할수있다. 정상적인테스트과정을거쳐제작되어보급되는로봇을구입한이용자에게그런불완전성과위험에대한인식은존재하기어렵다. 다만특정한로봇이인공지능에근원적인오류가있어서손해를이미발생하였다는사실이널리알려져있음에도불구하고이를만연히이용한경우라면예외적으로과실을인정할수있을것이다. 그러한특별한사정이없는한, 로봇이용자는회피가능성의결여로과실을인정하기는어렵다. (4) 로봇소유자의과실판단의한계 로봇을직접이용하지아니하고단지로봇의소유권만을보유하고있는자에게도과실책임을지울수있을것인가도살펴볼필요가있다. 리스테이트먼트제308조는 부적절한사람에게물건이나활동참여의허락 (Permitting Improper Persons to Use Things or Engage in Activities) 이라는표제하에서과실판단에관한규정을두고있다. 즉 제3자가타인에대한손해의합리적인수준을넘은위험을발생시키는방법으로물건을이용하거나또는행동을할것같거나또는그런의도를갖고있다는점을알거나알았어야했다면, 제3자에게행위자의통제하에있는물건을이용이나활동의참여를허락하는것은과실로인정된다. 여기에서 행위자의통제하에있다 는문구의의미는행위자의동의하에제 3자에게물건의점유나이용권한을부여하였고, 행위자가동의를유보함으로써제3자가그물건을사 용하는것을저지할수있었다고믿을만한이유가있는경우를말한다. 예를들어운전경험이전무 한 14세의소녀에게그사실을알면서도자신의차를운전하도록허락한경우에, 운전무경험이사고를 103) 야기하였다면그사고에대해자동차소유자에게과실이있으며, 이와유사한태도의법원의판결이 102) 100) Dostie v. Lewiston Crushed Stone Co., 136 Me. 284, 287, 8 A.2d 393, ) Yorkshire Worsted Mills v. National Transit Co., 28 DelCo.Rep. 403, ) Restatement of Torts 308Comment a. 103) Restatement of Torts 308Comment b. 41

47 특히자동차의경우에다수존재한다. 104) 우선인공지능을가진로봇이앞서살펴본바와같이불완전하거나, 부적절하거나또는결함이있어서합리적인수준을넘는위험을가져올것이라고소유자가인식하고있다고인정하기는어렵다. 리스테이트먼트제308조는물건에내재된위험성의발현이아니라, 물건을위험한 방법으로 이용하는것에대한책임이다. 판례에도나타나듯자동차그자체의위험이손해발생을지배하는것이아니라, 위험한방법의이용 이손해발생을지배하였다는것임을유의해야한다. 예를들어무경험자나무자격자또는음주상태에있는자가물건을이용하였다는것이손해발생의주된요인이었다는것이다. 로봇은이용자에의해통제되는것이아니므로이용자의특성에따른이러한특별한과실판단은적용하는것이적절하지않다. 라. 과실책임주의의무용론 주관적과실론은인간에있어서의의사자유의실재성을전제로하면서, 자유라는개념은결정의자유를의미하는것이며, 결정의자유는현존하는여러개의가능성들중에서어느하나를선택하는것을그내용으로하는것으로, 이와같은선택의자유가가능한것은인간에게결정능력이있기때문이며, 따라서선택의자유가실재적으로전제되지않는다면인간행위의구조는설명될수없으므로, 과실의경우에는행위자가어떤결정이가능했음에도불구하고결정을내리지못한데서발생한결과에대 해책임을져야한다고한다. 105) 이러한의사자유의실재성에대해쉽게긍정될수없으므로설득력이 106) 없다는객관적과실론의관점에서의비판도있으나, 인간에게자유의지에기반을둔선택의자유가없는영역에서는객관적과실의관점에서도과실을인정하는것은무리라할것이다. 인공지능이통제하는로봇그자체에그러한의사자유가실재한다고보기는어렵다. 그렇다면누구에게그러한실재하는의사자유에따른구체적인행위선택의자유를인정하는것이가능할지도의문이다. 로봇의소유자나이용자에게는로봇의작동에거의개입할수있는여지가없으므로선택의자 104) Boland v. Love, 95 App.D.C. 337, 222 F.2d 27, 32, 33; Kilmer v. Wilkinson, 742 F.Supp. 192, 195; Long v. Turk, 265 Kan. 855, 962 P.2d 1093, ) Ernst Wolf, Lehrbuch des Schuldrecht BandII Besonderer Teil, 1978, S.98, 175ff; 김형배, 과실책임과불법행위책임개념 민사법학제4,5호, 1985, 299면에서재인용. 106) 엄동섭, 불법행위법의과실의개념, 사회과학논총제5집, 1987, 72면. 42

48 유를인정하는것은불가능하다. 만약기기의이용자가직접적으로전적으로기기를지배한다면그건인공지능로봇이라고할수없으므로, 자가당착적인평가이다. 또한인공지능프로그래머도모든구체적인로봇의작동을자유롭게선택할수는없다. 특히빅데이터를활용한머신러닝의여지가있는로봇에는더욱그러하다. 그렇다면주관적과실론에따라서도로봇의부정적작동결과에서누군가의과실이라는규범적요소를명확히발견하는것은어렵다. 2. 기존의무과실책임주의의적용 가. 제조물책임의적용검토 (1) 제조물성 ( 가 ) 인공지능소프트웨어의제조물성 로봇의본질적인구성요소인인공지능그자체가하나의제조물이되는가에대한논의도존재한다. 특히현재의거의유일한가시적인로봇인자율주행자동차의경우에자율주행을위한인공지능알고리즘을기존의자동차제작회사가아닌구글과같은소프트웨어전문회사가별도로제작을하기도한다. 자율주행자동차가자율주행중자동차하드웨어에는결함이없었으나자율주행알고리즘오류로교통사고를야기한경우에그제조물책임을인공지능소프트웨어제작회사에게묻기위해서는인공지능소프트웨어에제조물성이인정되어야한다. 제조물성판단을하기위해서는우선소프트웨어에물성이인정되어야하지만, 소프트웨어그자 107) 체가물건이아니라는견해가상대적으로다수라고보여진다. 이러한다수의견해에따르면인공지능은아예물건조차되지못하므로제조물성을판단할필요조차없게된다. 그러므로자동주행시스템 그자체를제조물로다루기위해서는별도의입법적해결이필요하다. 그러나인공지능소프트웨어가별도의제조물인가의여부는로봇의제조물책임에서결정적인문제는아니다. 기존에주로논의가된소프트웨어는주로범용컴퓨터에서작동하는것이었으므로, 컴퓨터하드웨어와의결합도가매우낮아서별개의물건으로관념될수있었다. 그러므로소프트웨어자체의물성여부가중요한것이었다. 그러나로봇은인공지능과의결합도가높은것으로, 범용인공지능이 )

49 나범용하드웨어가따로존재하기어렵다. 즉인공지능이로봇에임베디드된형식을취하게되므로, 인공지능을별개의물건으로관념하는것이드문현상이될것이다. 109) ( 나 ) 로봇의제조물성 제조물책임법제2조제1호에따르면제조물이란제조되거나가공된동산 ( 다른동산이나부동산의일부를구성하는경우를포함한다 ) 이므로, 동산인로봇은그자체로제조물임에의문이없다. 학설 도로봇의대표적인상품인자율주행자동차의경우에제조물로서의성격을인정하는데이설이없다. 설령인공지능이자율주행을좌우하는핵심적인요소일지라도, 이는임베디드소프트웨어 (embedded 111) software) 로서자율주행자동차를하나의제조물로다루게된다. 다만스마트하이웨이와같이부동산에인공지능이결합되어일체화된경우에는인공지능그자체가하나의제조물로다루어지지않는한, 부동산인스마트하이웨이를하나의제조물로볼수는없을것이다. 110) 107) 긍정하는견해로는김민중, 컴퓨터바이러스에따른손해에대한법적책임, 인터넷법률 통권제18호, 법무부, 2003, 97면 ; 신봉근, 컴퓨터소프트웨어와제조물책임, 인터넷법률 제27호, 법무부, 2005, 108면 ; 연기영, 제조물책임법시행과주요내용 ( 하 ), 법률신문제3056호 ; 차성민, 정보통신업에서의제조물책임, 법조 통권592호, 법조협회, 2006, 257면 ; 한봉희, 제조물책임법, 대왕사, 1997, 21면등이있다. 부정하는견해로는권오승외, 제조물책임법, 법문사, 2003, 190면 ; 김천수, 제조물책임법상제조물의개념, 61면 ; 이로문, 지적재산권으로서의소프트웨어의하자에대한책임, 지적재산권 제6호, 한국지적재산권법제연구원, , 38 면 ; 이상수, 임베디드소프트웨어의결함과제조물책임적용에관한고찰, 법학논문집 제39집제2호, 중앙대학교법학연구원, 2015, 87면이하 ; 이상정, 제조물책임법제정의의의와향후과제, 저스티스 제68호, 한국법학원, 2002, 10면 ; 이충훈, 인터넷통신판매업자의제조물책임적용여부, 통상법률 제45호, 법무부, 2002, 80면 ; 주지홍, 소프트웨어하자로인한손해의제조물책임법리적용여부, 민사법학 제25호, 한국민사법학회, 2004, 458면등이있다고한다 ; 류창호, 자율주행자동차에대한제조물책임의적용에관한연구, 아주법학제10권제1호, 2016, 40면각주 ) 김상태, 자율주행자동차에관한법적문제, 경제규제와법, 제9권제2호, 서울대학교, 2016, 185면 ; 김진우, 자동주행에서의민사책임에관한연구, 강원법학제51권, 2017, 44면. 109) 예를들어자율주행자동차의경우에향후에자율주행기술이발전되어소비자는자율주행알고리즘이내장되지않은자동차하드웨어만을자동차제작회사로부터구입하고, 별도의시장에서자율주행알고리즘만소프트웨어회사로부터구입하여임의로자유롭게인스톨한다면, 현재의컴퓨터하드웨어와소프트웨어와별차이가없으므로그때에는현재와같이자율주행알고리즘그자체의제조물성을논할실익이생길것이다. 110) 이충훈, 자율주행자동차의교통사고에대한민사법적책임, 법학연구제19집제4호, 인하대학교, 158면. 111) 류창호, 자율주행자동차에대한제조물책임의적용에관한연구, 아주법학제10권제1호, 2016, 41면 ; 권영준 / 이소은, 자율주행자동차사고와민사책임, 민사법학제75호, 2016, 468면 ; 이충훈, 자율주행자동차의교통사고에대한민사법적책임, 법학연구제19집제4호, 인하대학교, 2016, 158면. 44

50 (2) 결함의판단 ( 가 ) 제조상의결함 제조물책임법제2조제1항에따르면 제조업자가제조물에대하여제조상 가공상의주의의무를이행하였는지에관계없이제조물이원래의도한설계와다르게제조 가공됨으로써안전하지못하게된경우 를제조상의결함이라한다. 즉설계대로제조되거나가공되지못한제조과정에서의물리적인결함을말한다. 제조상의결함은즉 부정적인의미에서의설계와는다른제조 라는점이핵심이다. 그러므로대조군이라고할수있는설계를이해하고파악하는것이전제되지않으면, 제조상의결함또한확인될수없다. 소프트웨어의제조상의결함을특별히프로그램을다른저장장치로옮기거나악성 112) 프로그램에의하여감염된경우가고려될수있다는견해도제기되고있다. 로봇에제조물책임법을그대로적용한다면제조상의결함에대한증명책임은여전히피해자가부담해야하는데, 피해자가로봇의설계를이해하고부정적인의미에서다른제조를확인하고이를증명할수있을것이라고기대하기는어렵다. 특히물리적인장치의흠결이아니고프로그램이나디지털정보의복합적인알고리즘의과정을거친결과인경우에는제조상의결함이있다고단정하기어려운 113) 문제가있다. 그러므로제조물책임의제조상의결함의경우에는제조물결함그자체보다증명책임 이더중요한문제라는지적 114) 이로봇에서는더욱중요한의미를갖는다. 일반적인피해자가로봇의 115) 제조상의결함을증명할방법이사실상존재하지않는다면, 로봇에관해서는손해의공평한분담이라는불법행위법이념의실현은기대하기어렵다. ( 나 ) 설계상의결함 제조물책임법제 2 조제 2 호나목에따르면 제조업자가합리적인대체설계를채용하였더라면피 해나위험을줄이거나피할수있었음에도대체설계를채용하지않아해당제조물이안전하지못하게 된경우 를설계상의결함이라한다. 제조물책임에서의설계상결함의핵심요소는 합리적인대체설계 112) 장병일, 자율주행자동차에의한손해와제조물책임, 법학연구제16권제4호, 한국법학회, 2016, 88면. 113) 이충훈, 자율주행자동차의교통사고에대한민사법적책임, 법학연구제19집제4호, 인하대학교, 2016, 160면. 114) 윤진수, 제조물책임의주요쟁점 최근논의를중심으로-, 법학연구제21권제3호, 연세대학교법학연구원, 2011, 21면. 115) 류창호, 자율주행자동차에대한제조물책임의적용에관한연구, 아주법학제10권제1호, 2016, 42면. 45

51 116) 의불채용 이고, 이는제조업자의과실을뜻하는것으로이해되기도한다. 설계상의결함은제조물의구조와기능그리고공정등을채택함에있어서무형의관념적인결함이라고할수있다. 자율주행자동차의기술은합리적인대체설계가아예존재하기어려운영역이라는비관적인견해 와합리적대체설계는고도화된과학기술을근간으로하는제조물의에대한결함판단기준으로서는 118) 그효용을점점잃어가고있는것으로보인다는견해가유력하게제기되고있다. 한편으로는로봇의일종이라고할수있는자율주행자동차에관해새로운형태의제조물이므로도입초기에는합리적대체설계의존재를생각하기어려워서설계상결함을인정하기어렵지만, 어느정도상용화되고나서는 매우빠른속도로합리적대체설계가등장할것이라는예측을하는견해도있다. 120) 로봇에특유한설계상의결함은초안, 프로그래밍또는개념화와관련된다. 인공지능알고리즘의본질은컴퓨터프로그래밍이고그특성상절대적이고유일한논리진행이존재할수는없다. 현실적으로모든컴퓨터프로그램은오류가내재되어있을수밖에없고, 무오류의컴퓨터프로그램은존재할수없다. 또한대체설계가 합리적인 것임에도불구하고이를채용하지않은것이설계상의결함이지, 이상적인대체설계의존재 가곧설계상의결함으로다루어지는것은아니다. 최근합리적대체설계에갈음하여이른바제품분류책임을주장하기도한다. 즉피해자는제품분류의핵심적요소를유지하는대체설계에대한입증을할필요없이, 그제품에내재하는 극도로높은위험성 (extremely high degree of danger) 이그제품으로인한 경미한사회적효용성 (negligible social 121) utility) 을초과한다는점에서결함의존재를주장할수있다는것이다. 그러나로봇은 경미하게낮은위험성 (extremely low degree of danger) 을내재하면서도 극도로높은효용성 (high social utility) 을지니고있다고보는것이더현실적이므로이른바제품분류책임을적용하기에는적절하지않다고생각된다. 119) 117) 116) 권영준 / 이소은, 자율주행자동차사고와민사책임, 민사법학제75호, 2016, 473면. 117) 이충훈, 자율주행자동차의교통사고에대한민사법적책임, 법학연구제19집제4호, 인하대학교, 2016, 163면. 118) 류창호, 자율주행자동차에대한제조물책임의적용에관한연구, 아주법학제10권제1호, 2016, 51면. 119) 권영준 / 이소은, 자율주행자동차사고와민사책임, 민사법학제75호, 2016, 475면. 120) 장병일, 자율주행자동차에의한손해와제조물책임, 법학연구제16권제4호, 한국법학회, 2016, 88면. 121) 제품분류책임이적용가능한제품군으로가정용조립식풀장, 트램폴린, 총, 알콜음료, 담배, 오토바이, ATV차량, 살충제, 도료, 패스트푸드를들고있는데 ( 류창호, 자율주행자동차에대한제조물책임의적용에관한연구, 아주법학제10권제1호, 2016, 53면.), 이것들과로봇과의유사성을찾기는어렵다. 46

52 ( 다 ) 표시상의결함 제조물책임법제2조제2호다목에따르면 제조업자가합리적인설명 지시 경고또는그밖의표시를하였더라면해당제조물에의하여발생할수있는피해나위험을줄이거나피할수있었음에도이를하지아니한경우 를표시상의결함이라한다. 표시상의결함은제조물을사용하는과정에서불완전한정보제공으로인해손해를야기하는경우에불완전한정보제공그자체를결함으로인정하는것이다. 전통적인제조물은사용자의조작에의해지배되는것이므로잘못된정보제공은곧손해를야기할수있으므로표시상의결함도제조나설계상의결함과동등한가치를갖는것으로인정될필요가있다. 현재완전한자율주행모드가아닌제한적인자율주행만이가능한자율주행자동차의경우에는그기술수진이자동차외부시스템으로부터실시간으로운전자에게경고를발송할수있는정도에이르고있으므로, 표시상의결함이자율주행자동차에서가장빈번하게발생할수있는결함유형이라는 분석도존재한다. 122) 그러나인공지능에의해통제되는로봇의경우에는이용자는구체적인조작행위를하지아니하므로이용에관해잘못된정보제공이있다고해서그것이손해로직결된다고보기어렵다. 따라서표시상의결함은로봇에서는실질적인의미를갖기어렵다. (3) 인과관계 제조물책임이인정되기위해서는제조물의결함과손해와의사이에인과관계가존재해야한다. 이결함과손해사이의인과관계는피해자가증명을하여야한다. 피해자가특히과학적인제조물의경우에는결함과손해사이의인과관계의증명이매우어려우므로이를어느정도완화할현실적인필 요가있다. 따라서대법원판례 124) 는 그사고가제조업자의배타적지배하에있는영역에서발생한것 임을입증하고, 그러한사고가어떤자의과실없이는통상발생하지않는다고하는사정을증명하면, 제조업자측에서그사고가제품의결함이아닌다른원인으로말미암아발생한것임을입증하지못 123) 122) 류창호, 자율주행자동차에대한제조물책임의적용에관한연구, 아주법학제10권제1호, 2016, 44면. 123) 제조물책임법제3조제1항에서 제조물의결함으로손해를입은 이라는문언을취하고있으므로, 으로 라는문구에서인과관계의존재가요건이된다. 124) 대법원 선고 98다15934 판결외다수. 47

53 하는이상 결함이존재하고그결함으로말미암아사고가발생하였다고추정하여결함의존재와결함과손해사이의인과관계의증명을완화하는태도를지속적으로취하고있다. 로봇에서도제조물책임을지우기위해서는로봇의결함과손해사이의인과관계의증명이필요하다. 그러나로봇은근본적으로이용자의조작행위가개입되지않기때문에, 어떠한 사고가제조업자의배타적지배하에있는영역에서발생한것임을입증 하는것은전혀어렵지않다. 그러한점에서는전통적인기기보다인과관계의증명은매우용이해지게된다. (4) 제조물책임적용의한계 ( 가 ) 결함판단의문제점 미국에서도제조물책임을엄격책임에따른불법행위로인정하게되면해당산업이위축될우려가있다고하여엄격책임에소극적이었고, 오히려과실에의한불법행위의법리나구조를이용하여제조물의하자를판단하는기준으로제조물책임에특유한어떤하자판단기준을발전시키는대신과실에의한불법행위사건에과실을판단하는기준인합리적인행위개념을빌려와서하자를판단하는기준 125) 으로이용하고있다. 영미법상의제조물책임에서물건의하자란 물건이비합리적으로위험한상태에있다 는것이고, 이는곧일반적으로해당물건이 일반적인사용자의예상을뛰어넘은위험한물건 이거나 경제적으로타당성을갖춘, 덜위험한대체수단이나개선책이있는물건 이면그물건은사용 자에게비합리적으로위험한상태에있다는것이인정된다. 로봇에제조물책임을지우기위해서는피해자가제조물이 통상적으로기대할수있는안전성이결여 되었음을입증해야한다. 즉제조물이완벽하지않음을증명하는것으로충분하지아니하고 통상적으로기대할수있는 수준의안전성을결여하고있음을증명하여야한다. 그러나고도의기술을전제로하는로봇, 특히그중에서도컴퓨터프로그램인인공지능알고리즘에 통상적으로기대할수있는안전성 이결여되어있음을증명하는것은매우어려운일이아닐수없다. 이에대해이러한입증이일반인으로서는쉽지않을것이므로피해자의입증부담을덜어줄수있도록입법적인고려가있어야 할것이라는주장도제기되고있다. 127) 126) 125) 김영희, 미국불법행위법의기본구조에관한연구, 법학연구제 21 권제 4 호, 연세대학교법학연구원, 2011, 면. 126) 김영희, 미국불법행위법의기본구조에관한연구, 법학연구제 21 권제 4 호, 연세대학교법학연구원, 2011, 71 면. 48

54 ( 나 ) 인과관계의증명 앞서살펴본바와같이우리대법원판례는결함과인과관계의증명을 사고가제조업자의배타적지배하에있는영역에서발생한것임을입증하고, 그러한사고가어떤자의과실없이는통상발생하지않는다고하는사정 을증명하는것으로완화하고있다. 이는이른바 기능이상의법리 를적용하 여인과관계의증명을완화한것으로볼수있다. 128) 그러나지금까지우리나라에서자동차의결함으로급발진이일어났다고의심되는수많은사고가 129) 있음에도불구하고, 법원이자동차급발진사고에제조물책임을적용하지않고있다. 이러한태도의가장큰이유는피해자가 사고가제조업자의배타적지배하에있는영역에서발생한것임을입증 하는데실패하였기때문이라고생각한다. 전통적인자동차의특성상운전자의조작행위없이는운행이불가능한것이므로, 급발진이일어났다고해도그것이자동차회사의배타적지배하에있는영역에서발생한것이라기볼수없으므로인과관계증명은원천적으로불가능했다. 그러나로봇인완전한자율주행자동차라면운전자의조작행위가개입하지않으므로, 오히려모든사고는제조업자의배타적지배하에있는영역에서발생한것이된다. 인과관계증명의가장큰난제는해결되었으나또다른인과관계증명의문제는여전히남아있다. 그것은 로봇 의결함으로손해가발생되었다는점을증명하는것이고, 더정확히는 인공지능 의영역에서생긴손해라는증명이다. 로봇은컴퓨터프로그램인인공지능과달리물리적인장치로반드시포함하고있다. 그러므로손해의발생이인공지능의영역이아닌물리적장치의결함으로발생할수있는가능성을배제할수없다. 나아가물리적장치의결함이아닌물리적장치의유지 보수를게을리하는단순한주의의무위반으로전통적인이용자의과실에의해서손해가발생할수도있다. 예를들어자율주행자동차가교차로에서횡단하는보행자를충격하는사고가발생했다고가정하자. 그사고의원인은 1자율주행알고리즘상의결함에의한것이거나, 2자율주행알고리즘은정상이나그자동차의브레이크계통설계상의결함에의한것이거나, 3자율주행알고리즘과브레이크장치도다정상이나자율주행자동차운행자가노후화된브레이크오일을정기적으로교체하지아니한과실에의한 127) 박해선, 스마트사회와민사책임, 법학논총제23집제2호, 조선대학교, 2016, 276면. 128) 권영준 / 이소은, 자율주행자동차사고와민사책임, 민사법학제75호, 2016, 472면. 129) 권영준 / 이소은, 자율주행자동차사고와민사책임, 민사법학제75호, 2016, 463면각주53과김진우, 자동주행에서의민사책임에관한연구, 강원법학제51권, 2017, 42면은대법원이급발진으로의심되는사고에대해마치자동차제조회사에제조물책임을지운것처럼언급하고있으나, 대법원은제조물책임을부정하여손해배상책임을지우지않았다. 49