< E20C0CEB0F8C1F6B4C920B4EBC0C0BFA1202D20BFACB1B8B3EDB9AE202D20C0CCBFF8BBF32E687770>

Transcription

1 연구논문 인공지능대응에있어형사법이론의한계 * 1) 이원상 ** 논문요약 최근인공지능과관련된사안들에대해법의여러영역에서는대응방법을모색하고있다. 형사법영역도마찬가지이다. 그런데현행형사법은인간을중심으로구축된법체계를가지고있다. 인간외에는같은생물이라고하더라도물건과동일한지위를얻게된다. 인간만이범죄의주체가될수있고, 범죄에대한책임을질수있으며, 범죄의대가인수형을받을수있다. 하지만예외적으로다툼의여지가있지만법인이라는장치를통해서인간이외에도법적인지위를부여하여처벌될수있을장치를마련해두고있다. 따라서강한인공지능을대상으로현행형사법체계와이론에따라대응이가능한지여부를살펴보았을때, 범죄의주체성은인정할수있고, 경우에따라그책임및책임의귀속도인정할수있으며, 재산형이나새로운형종을통한수형도가능할수있을것이라고판단되었다. 다만, 그렇기위해서는인공지능기술이지금보다더욱고도화되어야하며, 인간들이인공지능도인간과거의유사하게대우받을수있다는인식의지평이형성되어야할것이다. 인공지능의미래에대해여전히낙관적인전망과비관적인전망들이교차하고있다. 그렇지만인공지능이앞으로도계속해서발전할것이라는것은분명하다. 그러므로형사법분야도인공지능으로인해발생하게될범죄에미리대비하는것이필요할것이다. [ 주제어 ] 인공지능, 강한인공지능, 인공지능의범죄능력, 인공지능의형사책임능력, * 본논문은한국법이론실무학회의 2018년발제문을개선 보완한것임. ** 법학박사, 조선대학교법학과부교수. 444 형사법의신동향통권제 59 호 (2018 ㆍ 6)

2 인공지능의수형능력 논문접수 : 심사개시 : 게재확정 : 목차 Ⅰ. 서론 Ⅱ. 인공지능에대한이해 1. 인공지능의의미 2. 약한인공지능 3. 강한인공지능 Ⅲ. 인공지능에대한영역별대응현황 1. 로봇윤리영역의대응 2. 민사법영역의대응 3. 저작권법영역의대응 4. 자동차보험법영역의대응 5. 형사법영역에의영향 Ⅳ. 형사법체계의기획 1. 인간중심의행위체계 2. 인간중심체계의예외 3. 형법상책임의귀속 Ⅴ. 현행형사법이론의한계 1. 인공지능의범죄능력인정여부 2. 인공지능의형사책임능력인정여부 3. 인공지능의수형능력인정여부 Ⅵ. 결론 참고문헌 Ⅰ. 서론 최근우리사회는 4차산업혁명 이라는깃발아래다양한사회적변화를맞고있다. 빅데이터 (Big Data), 클라우드컴퓨팅 (Cloud Computing), 사물인터넷 (IoT), 인공지능, 로봇, 드론등 4차산업혁명을대표하는다양한기술들이이미우리사회곳곳에적용되고있으며, 시민들도기술에따른사회의변화에적응해가고있다. 그래서사물인터넷과인공지능스피커를이용하여집안의가전을통제하기도하고, 어떤단말기로도사이버공간의자신의데이터에접근하기도하며, 주차를할때자동주차기능을이용하여어려운평행주차를한다. 과거에는시민들이새로운기술을이용하기위해서특별한교육을받기도하였지만, 인공지능대응에있어형사법이론의한계 445

3 이제는별다른노력도필요하지않고, 그저원하는것을기계에게요구하면된다. 이처럼 4차산업혁명은우리의삶에유용함과편리함을제공해주며지금도끊임없이발전해가고있다. 그러나 4차산업혁명이장밋빛청사진만을제공해주고있지는않다. 4차산업혁명에서는무수히많은정보들이서로교환되는데, 거기에는기밀정보나개인정보들이포함되어있다. 모든정보들이정보통신망을통해전송되고, 컴퓨터나스마트폰등정보처리장치를통해처리되면서해킹으로인한다양한정보침해문제들이발생하게된다. 더나아가인공지능이사이버공간에서의다양한서비스에적용될뿐아니라, 로봇이나드론, 자동차등과같이육체를얻어 (Incarnation) 현실공간으로나오면서인간에대한상해나사고와같이물질적인문제를일으킬위험성도증가하고있다. 이처럼 4차산업혁명이우리에게유토피아 (Utopia) 를선물해줄지, 아니면디스토피아 (Distopia) 를초래할지기대와우려가교차하는가운데, 본논문에서는후자의관점에서인공지능의문제를살펴보고자한다. 인공지능은인간들의삶을 4차산업으로인도하는매우중요한인터페이스 (Interface) 역할을수행한다. 인터넷포털 (Portal), 스마트폰앱 (App), 자율주행자동차, 드론, 로봇등다양한서비스및기계에게인공지능은새로운영혼을불어넣고있다. 따라서인간들로하여금새로운서비스나기계에대해마치다른인간에게대하는것과동일한관계를형성하게해준다. 그런데인공지능이다양한분야에다양한형태로사용되면서다양한법적인문제점들이발생하거나발생의목전에와있다. 인공지능이적용된서비스나기계등이소프트웨어적으로나하드웨어적으로행하는작용에대해어떤법적인대응이가능할지에대해많은법영역에서논의중에있다. 하지만인공지능이행하는불법행위에대해형사법이어떻게대응할수있을지에대해서는아직까지구체적인논의도시작되지않은상황이다. 최후수단성, 보충성, 단편성의가치를중요하게여기고있는형사법영역에서아직구체화되지않은인공지능의형사법적위험을 446 형사법의신동향통권제 59 호 (2018 ㆍ 6)

4 논하기에는충분한장이마련되지않았기때문이다. 하지만인공지능발전의로드맵이매우구체적이고, 그문제점도어느정도예상되는가운데미네르바의올빼미가날아가기만을기다리는것도적절한대응방법은아닐것이다. 그러므로본논문에서는인공지능과관련해서우리형사법이론이현재시점에서어떤한계점을가지고있는지살펴보고자한다. 물론적절한대안까지제시하는것이타당하겠지만지면과연구기간의한계로인해본연구에서는주로문제제기에방점을두고자한다. 상세한대응방안에대해서는인공지능기술이조금더발전한이후의연구에서보다심도있게다루어보고자한다. 그래서인공지능에대응하는형사법이론의한계를살펴보기위해우선인공지능에대해이해하고 (II), 인공지능에대해다른법영역에서는어떤논의들이진행되고있는지살펴본후 (III), 현행형사법체계에기획되어있는것은무엇인지분석해보고 (IV), 현행형사법이론의한계에대해지적해보고자한다 (V). II. 인공지능에대한이해 1. 인공지능의의미 우선인공지능의개념에대해이해하기위해서는근본적으로 지능 이라는개념부터살펴볼필요가있다. 요즘우리가흔히말하는인공지능냉장고, 인공지능에어컨디셔너, 인공지능로봇청소기등과같이소위스스로알아서작동한다는기기들이정말지능이있는것일까? 인공지능이라는개념의출발점은 1956년여름, 존매카시 (John McCarthy), 마빈민스키 (Marvin Minsky), 앨런뉴웰 (Allen Newell), 허버트사이몬 (Herbert Simon) 등이참여한미국다트머스대학의한워크숍이라고할수있다. 1) 그이후인공지능과관련된 1) 마쓰오유타카 ( 박기원옮김 ), 인공지능과딥러닝 : 인공지능이불러올산업구조의변화와혁신, 동아엠앤비, 2016, 65 면 67 면. 인공지능대응에있어형사법이론의한계 447

5 다양한연구들과논의들이진행되었지만, 인공지능을개념지우기는쉽지않다. 가장큰난관은 지능 의개념에대해여전히통일적인개념이존재하지않는다는것이다. 전통적으로지능 ( 知能 ) 은 지성 ( 智性 ) 또는 오성 ( 悟性 ) 을의미하지만, 그외연을확장하여감성 ( 感性 ) 적인부분까지도포함하는것으로이해하기도한다. 2) 인공지능의개념정의는다양하게이루어지고있다. 일본의인공지능학회지에서는 인공적으로만들어진지능을가지는실체, 또는그것을만들자고함으로써지능자체를연구하는분야, 지능을가진메커니즘내지는마음을가지는메커니즘, 인공적으로만든지적인행동을하는물건 ( 시스템 ), 인간의두뇌활동을극한까지모사하는시스템, 인공적으로만든새로운지능의세계 등의개념정의뿐아니라 지능의정의가명확하지않으므로인공지능을명확히정의할수없다 라는개념정의불가론도존재한다. 3) 우리나라에서는인공지능에대한정의를 인간의심리체계를인공적으로구현한기계적체계 라는견해도있다. 4) 인공지능은크게 4단계로구분해서이해되기도한다. 1단계는제어공학또는시스템공학이라는단순한제어프로그램이있는기계 ( 인공지능청소기등 ), 2단계는고전적인인공지능으로서보유한데이터베이스를통해추론이나탐색이가능한기계 ( 퍼즐을푸는프로그램등 ), 3단계는기계학습이가능한단계로서검색엔진이내장되어빅데이터등을바탕으로입력된값의규칙이나지식을스스로학습하는기계, 마지막으로 4단계는딥러닝이가능한단계로데이터의입력자체를학습하는단계로서규칙까지도스스로만드는기계를의미한다. 5) 2) 양천수, 인공지능과법체계의변화 형사사법을예로하여, 법철학연구, 제20권제2호 (2017), 48 49면 ; 칸트식의이해로는 순수이성, 실천이성, 판단력 등을모두포함하는개념이라고도한다 ; 양천수앞의글, 49면. 3) 마쓰오유타카 ( 박기원옮김 ), 앞의책, 47면. 4) 양천수, 앞의글, 49면. 5) 마쓰오유타카, 앞의책, 54면 55면 ; 마쓰오유타카의예에따르면, 유통창고에서화물을적 448 형사법의신동향통권제 59 호 (2018 ㆍ 6)

6 2. 약한인공지능 인공지능은일반적으로약한 (weak) 인공지능과강한 (strong) 인공지능으로구분한다. 이는인공지능의발달과정으로이해할수도있다. 물론인공지능을약한인공지능과강한인공지능으로구분하는것은모호성이있다는지적도있다. 6) 그럼에도불구하고법적으로는그와같은구분이유용할수도있으므로여기서는일반적인기준을따르고자한다. 우선약한인공지능은최근이슈가되었던알파고 (AlphaGo) 와같이특정한분야의업무를처리하는것에있어인간의지능을모방하여인간이수행하는것과유사하거나뛰어난성과를도출해내는것이다. 7) 앞서언급한단계가운데 3단계에해당하는정도라고할것이다. 따라서제한된영역에서의규칙들과함께제공되는데이터와정보들을탐색하고, 추론함으로써인간과동일한성과를내기도하고, 인간을능가하기도한다. 앞서살펴본알파고는사실 알파고리 라는버전으로 알파고판 의후속버전이고, 이후 알파고제로, 알파고마스터 를거쳐범용인공지능인 알파제로 로진화하였다. 8) 알파고들은바둑이나장기, 체스등과같이특정영역에한정된약한인공지능이라고할수있다. 즉, 약한인공지능은아직인간적인마음 (mind) 은가지고있지않으며, 제한된영역에서인간의지능을모방하고있고, 특이점 (singularity) 과는상당한거리를가지고있는인공지능 재하는경우, 1단계는사람이화물의크기를구체적으로대 중 소등으로정해주는경우기계는크기에따라짐을정리하고, 2단계는크기외에도주의해서취급할물건, 긴물건, 냉동해야할물건등내용물에따라정리가가능하며, 3단계는크기를기계스스로가판단해서구분하여적재할수있으며, 4단계는유통창고에화물을효과적으로적재할수있는방법을기계스스로가판단하여기준을세우고, 그에따라화물을적재하게된다 ; 마쓰오유타카, 앞의책, 56~57 면. 6) 김진석, 약한 인공지능과 강한 인공지능의구별의문제, 철학연구, 제117집 (2017), 112면 ; 약한인공지능과강한인공지능을구분하는기준으로인간적인 마음 (mind) 을지니고있는지, 제한된영역인지일반적인영역인지여부, 특이점 (singularity) 를넘어섰는지여부를제시하기도한다 ( 김진석, 앞의글, 113면 ~114면 ). 7) 박종보 / 김휘홍, 인공지능기술의발전과법적대응방향, 법학논총, 제34권제2호 (2017), 40면. 8) 구글최신 AI 알파제로, 체스 4 시간장기 2 시간만에정복, < ( 최종방문 )>. 인공지능대응에있어형사법이론의한계 449

7 이라고할것이다. 3. 강한인공지능 강한인공지능은다시금두단계로나누어진다. 첫번째단계로약한인공지능단계를넘어서스스로사고하고, 스스로를진화시키며, 끊임없이정보를학습하여 (Deep Learning) 자신에게주어진규칙까지도변경할수있는능동적이고자율적인인공지능을강한인공지능이라고한다. 9) 인간적인마음까지가지고있다고볼수있으며, 범용의영역에서업무를수행할수있고, 특이점에매우근접한단계라고할것이다. 강한인공지능을탑재한로봇을상정해보면인간과구분해야할이유를찾을수없을지도모른다. 엑스마키나 (Ex Machina) 라는영화에서로봇은생물학적인육체를가지고있다는것외에는인간과다른것이없으며, 아이, 로봇 (I, Robot) 이라는영화에서인공지능비키는인간과같은규범의해석능력까지도지니고있으며, 써니라는로봇은인간의마음까지도가지고있다. 10) 더나아가강한인공지능이특이점을넘어서서인간의능력을초월하여마치슈퍼맨과같은초인간적인힘을가진 초인공지능 (Artificial Super Intelligence) 의도래가예견되기도한다. 11) 초인공지능은인공지능이인간의힘을넘어서기때문에인간의법이나질서는아무의미가없게될것이다. 슈퍼맨영화를보면온도시를쑥밭으로만들며싸우고있는초능력자들앞에서 9) 최재원, 인공지능창작물에대한저작권의주체, 문화 미디어 엔터테인먼트법, 제11권제1호 (2017), 120면. 10) 해당영화에서는로봇을통제하는비키 ( VIKI: Virtual Interactive Kinetic Intelligence) 라는인공지능이아이작아시모프의로봇 3원칙 ( 제1원칙 : 로봇은인간을다치게해선안되며, 행동하지않음으로써인간이다치도록방관해서도안된다, 제2원칙 : 법칙 1에위배되지않는한, 로봇은인간의명령에복종해야만한다, 제3원칙 : 법칙 1, 2에위배되지않는한로봇은스스로를보호해야만한다 ) 에대해새로운해석을함으로써인간을인간에대한적으로판단하고모든인간들을감금하고, 로봇인써니 (Sonny) 가그에맞서싸운다. 11) 양천수, 앞의글, 50면. 450 형사법의신동향통권제 59 호 (2018 ㆍ 6)

8 인간은무기력한존재일뿐이다. 그와같이초인공지능이도래하게되면인공 지능은인간의통제에서벗어나서오히려인간을지배하는 신 ( 神 ) 적인존재가 되는것이다. III. 인공지능에대한영역별대응현황 1. 로봇윤리영역의대응 로봇윤리 (Robot Ethics) 분야에서는크게세가지의물음에대한답을구하고있다. 첫째는인간이로봇에게어떻게윤리적으로대할수있을지에대한것이고, 둘째는로봇이윤리적으로행동을하도록하거나로봇을어떻게하면윤리적인행위자로만들수있을지에대한것이며, 셋째는인간과로봇은윤리적인관계를맺을수있으며, 윤리적행위자인인간이로봇에대해어떤책임을질수있는지에관한것이다. 12) 첫번째물음은로봇이윤리적인존재가되었을때주로문제가될수있을것이다. 두번째물음은최근자율주행자동차의상용이눈앞에왔고, 인공지능에이전트인왓슨이의료에투입되며, 전쟁에인공지능로봇의활용이적극적으로추진되는등인공지능에이전트나로봇의활용성이높아지면서활발히논의되고있다. 그러므로로봇을무도덕적 (amoral) 존재에서도덕적 (moral) 존재로만들기위한노력들이계속되고있다. 13) 이는로봇에게단순한인간의윤리를주입시키는것이아니라로봇이윤리추론능력을갖추게되어윤리를학습하고, 도덕성을개발하며, 스스로의윤리체계를진화시키는것을의미하는동적인도덕지능 (dynamic moral intelligence) 을지닌존재로만드는 12) 라파엘카푸로 / 미카엘나겐보르그편저 ( 변순용 / 송선영역 ), 로봇윤리 - 로봇의윤리적문제들, 어문학사, 2013, 34 면. 13) 라파엘카푸로 / 미카엘나겐보르그편저 ( 변순용 / 송선영역 ), 앞의책, 36 면 ; 여기서의무도덕적 (amoral) 이라는의미는로봇이나쁜행동을하거나윤리에어긋나는행동을하는것과같은비도덕적 (immoral) 이라는의미와는다른의미이다. 도덕이형성되지않은상태를의미한다고할것이다. 인공지능대응에있어형사법이론의한계 451

9 것이다. 14) 그러나인공지능에이전트나로봇이그정도의수준에이르는것은어쩌면좀더먼미래의이야기일수있다. 따라서최근논의들은윤리적인인간이아직은도덕적이거나윤리적이지않은로봇에대해어떤책임을질수있을지에대한세번째물음에대한논의가좀더활발히진행되고있다. 15) 그러면서윤리적인로봇의설계자나제조사, 관리자, 그리고사용자가인공지능에이전트나로봇을통해발생하는문제들에대해법적인책임을질수있도록법적책임관점에서접근하는것이보다현실적이라고한다. 16) 2. 민사법영역의대응 인공지능과관련해서상대적으로활발한논의가진행되고있는영역이민사법영역이다. 이미인공지능이기업의업무등에사용되면서인공지능과관련된민사법영역에서의문제점들이등장하기시작했기때문이다. 우선민사불법행위에대한문제를고려해볼수있을것이다. 이영역은인공지능이로봇의옷을입고행위를하는경우가주로문제가될수있을것이다. 근대민법의경우사적자치주의의원칙에따라적어도행위자에게과실이있는경우에배상책임을지워왔던것에반해, 현대민법에서는복잡하고위험한사회의현실을감안하여무과실책임주의 ( 위험책임주의및보상책임주의 ) 가등장하게되었다. 17) 그에따라민사영역에서도인공지능로봇에게법적으로일정한권리ㆍ의무관계를부여할수있을지여부가논해지고있다. 그중일부는로봇에게법인과유사한 14) 라파엘카푸로 / 미카엘나겐보르그편저 ( 변순용 / 송선영역 ), 앞의책, 39면. 15) 라파엘카푸로 / 미카엘나겐보르그편저 ( 변순용 / 송선영역 ), 앞의책, 41면. 16) 라파엘카푸로 / 미카엘나겐보르그편저 ( 변순용 / 송선영역 ), 앞의책, 42 44면 ; 따라서인공지능에이전트나로봇이행하는법적인문제들에대해도적이나윤리적인관점에서옳은지, 그른지를판단하는접근보다는법적인관점에서책임을부과하고분배하도록하는것이보다의미있는것이된다. 17) 오병철, 인공지능로봇에의한손해의불법행위책임, 법학연구, 제 27 권 4 호 (2017), 연세대학교법학연구원, 158 면 159 면. 452 형사법의신동향통권제 59 호 (2018 ㆍ 6)

10 권리ㆍ의무의주체성을인정하고, 현행법인에게적용되는법적체계를적용할가능성이제기되기도한다. 18) 그러나인공지능로봇은민사법체계에서권리객체로서취급될수있을뿐이고, 따라서민사불법의책임은로봇의소유자에게있다고본다. 19) 그러므로로봇에의해발생한불법행위에대해소유자는해당로봇을처분한매각대금으로손해배상을할수도있으며, 로봇의지속적인사용을정지시키는정지청구권의인정도필요한것으로보는견해도있다. 20) 그리고인공지능로봇에의한불법행위책임은기본적으로민법상과실책임주의에따라그소유자에게책임이있다고할것이며, 경우에따라서제조물책임이나위험책임주의가적용될수있을것이고, 더나아가로봇의특성을고려한편익책임주의가새롭게필요하다는견해도대두되고있다. 21) 좀더현실적인문제로인공지능에의한계약에대한민사법영역의대응도살펴볼필요가있다. 최근소위인공지능에이전트를통해서계약이이루어지는경우가실제로현실화되고있고, 그에따라민법상대리의법리를적용할수있을지여부가문제가될수있기때문이다. 22) 그와같은경우인공지능에이전트가당사자의의사와다른경우가발생하게된다면도구적접근방법으로접근하거나대리인의지위를인정한다는견해가나뉘고있다. 23) 또한위험의배분이나착오법리, 표현대리법리의유추적용등과같이기존의민법법칙에의해서처리할수있을가능성도제기되지만, 구체적으로인공지능에이전트의계약에대한내용을입법적으로해결하는것이바람직하다는견해도있다. 24) 18) 이중기, 인공지능을가진로봇의법적취급, 홍익법학, 제17권제3호 (2016), 20면. 19) 오병철, 앞의글, 173면. 20) 위와동일. 21) 오병철, 앞의글, 207면. 22) 이상용, 인공지능과계약법 - 인공에이전트에의한계약과사적자치의원칙, 비교사법, 제23권제4호 (2016), 1645면. 23) 이상용, 앞의글, 1663면. 24) 이상용, 앞의글, 1682면. 인공지능대응에있어형사법이론의한계 453

11 이와같이민사법영역의경우인공지능과관련된문제들에대해기존법리를 적용하거나새로운개념의원칙과법리를통해해결할수있을여지들이형사법 영역보다는넓은것으로보인다. 3. 저작권법영역의대응 인공지능에있어저작권법은좀더구체화된대응을하고있다. 저작권법에서는저작물을창작한사람을저작권자 ( 저작권법제2조제2호 ) 라고한다. 또한저작물은인간의사상또는감정을표현한것 ( 저작권법제2조제1호 ) 이라고정의하고있다. 따라서저작권자와저작물에있어인간이라는존재를분리하는것은어려울것이다. 물론저작권법에서도저작자의개념을기업주체로보는경우도있다. 25) 다만, 이는저작권이라는권리를귀속시키기위한장치이고저작물을창조하는것은인간이라고할것이다. 그러므로지능이좋은침팬지가그림을그린다고하더라도그것은저작물이될수없으며, 인공지능에의한창작물이라고하더라도 인간의사상또는감정 을표현한결과라고할수없기때문에저작물로인정받기어려울것이다. 26) 따라서인공지능창작물에대해식별제도를도입하여차별적취급이필요하다는주장도제기되고있다. 27) 하지만저작권법영역에서는인공지능과관련해서인공지능의창작물의경우그저작권을누구에게부여할지, 인공지능이저작물을침해하는경우법적책임을누가져야할지가주로문제가되고있다. 예를들어, 영국의경우저작권법에컴퓨터에의해창조된창작물은그산출에기여한자를저작자로간주하고있으며, 28) 일부에서는인공지능에의한창작물에대해공정이용을 25) 최재원, 앞의글, 121면. 26) 최재원, 앞의글, 123면. 27) 김현경, 인공지능창작물에대한법적취급차별화방안검토 - 방식주의 의도입을중심으로, 2018년한국인공지능법학회 충남대법학연구소공동학술회의자료집, 2018, 110면 112면. 28) 최재원, 앞의글, 126면. 454 형사법의신동향통권제 59 호 (2018 ㆍ 6)

12 주장하기도한다. 29) 그러나인공지능저작물을인정하여누군가에게저작권을인정한다고하더라도개발자가저작권자가될지, 이용자가될지, 또는그들을공동저작자로인정해야할지, 아니면공공저작물이라고할지등그해결이그리쉽지는않은상황이다. 30) 또한인공지능이저작권을침해하는경우에도인공지능이인식을가지고침해했다고보기어렵기때문에불법행위에대한민사상책임을묻거나형사상책임을묻기도쉽지않다. 31) 다만, 그에대한해결방안들에대해일본을비롯한세계각국에서구체적인논의가진행되고있다. 32) 이처럼인공지능과관련해서저작권법영역에서는저작권자와관련해서는해결책이보이고있지만, 인공지능의저작권침해와관련된책임에있어서는좀더논의가필요한것으로보인다. 4. 자동차보험법영역의대응 인공지능이가장구체화되어있는것으로자율주행자동차가있다. 자율주행자동차의경우사람의개입없이자동차의운행과관련된모든것을인공지능이통제하도록하는 4단계자율주행의실현이목전에와있다. 그에따라도로교통법, 도로법, 자동차관리법등과같이자동차의주행과관련된내용을규율하는법령들뿐아니라개인정보보호법이나위치정보의보호및이용등에관한법률과같이자율주행자동차의소프트웨어와관련된법령등에서자율주행자동차와관련된내용들이필요할것이다. 33) 이와같이자율주행자동차의일반적인운행과관련된법령들외에자동차사고가발생하는경우적용되는 29) 이승선, 인공지능저작권문제와각국의대응, 관훈저널, 통권제139호 (2016), 58면. 30) 최재원, 앞의글, 128면이하. 31) 최재원, 앞의글, 132면. 32) 손승우, 인공창작물의저작권보호, 정보법학, 제20권제3호 (2016), 91면 ~94면. 33) 김정임, 자율주행자동차운행의안전에관한공법적고찰, 법학연구, 제 16 권제 4 호 (2016), 한국법학회, 58 면. 인공지능대응에있어형사법이론의한계 455

13 자동차보험법영역도살펴볼필요가있다. 자율주행자동차가사고를일으킨경우그책임소재가이용자에게있는지, 제조자에게있는지의여부는현행법률로서는불명확하다고할것이다. 34) 그와함께생산물배상책임보험, 장기손해보험등과같은손해배상보험뿐아니라생명보험분야에도상당한영향을줄수있다는주장도있다. 35) 예를들어, 자율주행자동차의경우 3단계까지는현행법에의해서사고배상책임을운전자에게둘수있다. 하지만 4단계의경우에는제조사의책임을강조하는경향과운전자에게책임을부담시키는경우가주장되고있다. 36) 더나아가과실기여정도에따라배상책임을지는현재의구조와달리그와무관하게자신이가입한보험증권을통해보상을받도록하는무과실책임자동차보험 (No-fault Auto Insurance) 과같이신개념의보험이요구됨과동시에 37) 제조자나이용자에게사고에대한형사책임대신완화된형태의징벌적손해배상이필요하다는주장도있다. 38) 뿐만아니라자율주행자동차전용보험상품이개발되어차체뿐아니라소프트웨어와같은자동시스템, 방화벽까지도담보할수있어야한다고도한다. 39) 그를위해보험법에서도자율주행자동차를포함하는개선이요구된다고할것이다. 이처럼인공지능이적용되는자율주행자동차의등장으로인해자동차보험법영역에서도다양한논의들이진행되고있다. 5. 형사법영역에의영향 34) 은종성 / 김주표 / 김시은, 자율주행자동차사고에따른보험적용에관한연구, 상사법연구, 제36권제3호 (2017), 345면. 35) 은종성 / 김주표 / 김시은, 앞의글, 345면이하. 36) 은종성 / 김주표 / 김시은, 앞의글, 372면. 37) 은종성 / 김주표 / 김시은, 앞의글, 375면. 38) 은종성 / 김주표 / 김시은, 앞의글, 377면. 39) 은종성 / 김주표 / 김시은, 앞의글, 381면. 456 형사법의신동향통권제 59 호 (2018 ㆍ 6)

14 앞서살펴본영역외에도헌법영역에서는인공지능로봇의군사적이용, 인공지능으로인한사생활침해, 인공지능의표현의자유인정여부, 인공지능으로인해침해되는노동권침해등이문제시되고있으며, 40) 행정법영역에서는인공지능로봇에대한관리정책이나자율주행자동차관련환경및법령정비, 로봇의료및진료, 인공지능을이용한금융활용등그논의범위가매우넓다. 41) 더나아가입법학영역에서는인공지능을입법에활용하려는논의도진행되고있다. 42) 이처럼많은법영역에서의논의는형사법영역에도영향을미칠수밖에없을것이다. 예를들어, 민법영역에서로봇의법인격을인정하여법시스템을구축하게된다면법인에대한처벌규정이도입되면서형사법영역에서도논쟁이되었던것과같이형사법영역에서는법인격을갖춘로봇에대한처벌에대한논의가필요하게될것이다. 또한자율주행자동차가도입되어교통사고가발생하여사람이상해를입거나사망하게되면그형사책임을누가지게되는지에대한논의도치열할것으로예상된다. 현재미국에서는우버 (Uber) 나테슬라 (Tesla) 자율주행자동차의교통사고로인한법리공방이진행되고있으며, 독일에서는입법을통해해결하려는시도를하고있다. 그리고인공지능이저작권을획득할수있게되거나, 타인의저작권을침해하는경우형사처벌과관련을맺게되는데그와같은경우에도형사법영역에서과연저작권침해로처벌할수있을지를고민해야할것이다. 이처럼다른법영역에서의논의는자연스럽게형사법영역의논의로이어지게될것이고형사법영역은그에대한답변을내어놓아야한다. 문제는아직까지형사법영역에서는그와같은준비가되어있지않다는것에있다. 따라서아래에서는그이유에대해서살펴보고자한다. 40) 김종호, 인공지능로봇의출현으로인한법적논란에관한영역별쟁점의고찰, 법이론실무연구, 제6권제2호 (2018), 235면. 41) 김종호, 앞의글, 236면. 42) 심우민, 인공지능과입법정책 입법학적접근을중심으로, 2018 년한국인공지능법학회 충남대법학연구소공동학술회의자료집, 2018, 54 면. 인공지능대응에있어형사법이론의한계 457

15 IV. 형사법체계의기획 앞서살펴본바와같이여러법영역에서는인공지능의등장으로인해다양한논의들이진행되고있다. 그들과형사법영역과는인공지능의등장으로인해현재의법체계에일정한변화가필요하다는것에인식의지평을같이하지만, 형벌이라는부정적수단을사용하는형사법영역에서는다른영역에비해창의적인해결방법을모색하기쉽지않다는한계가있다. 그러므로우선형사법적대응의한계가되고있는것이무엇인지를살펴볼필요가있으며, 그를위해우리형사법체계의기획이담고있는내용을분석해보고자한다. 1. 인간중심의행위체계 우리형법은기본적으로인간중심의체계를가지고있다. 따라서인간이범죄의주체로서범죄행위를하게되고, 형사사법은그것을예방하거나처벌하기위해형사사법체계를구축하고있다. 43) 형사법체계의근간이되는인간의전제조건으로자율성과성찰성이요구된다. 44) 따라서인간이기위해서는스스로규칙을만들고, 그규칙에복종할수있으며, 외부의강제없이도자신이규범위반의행위를한것에대해규범위반의행위를하지않을수있었다는성찰을할수있어야한다. 45) 그러므로같은생명체이지만그와같은요건을충족시키지못하는동물은법적인주체로서인정되기보다는인간에의해보호ㆍ관리되는객체로서존재한다. 46) 그러므로최근문제가된것처럼개가사람을무는경우 43) 양천수, 앞의글, 65면. 44) 윤지영 / 김한균 / 감동근 / 김성돈, 법과학을적용한형사사법의선진화방안 (VIII), 한국형사정책연구원, 2017, 229면 ~300면. 45) 위와동일. 46) 민윤영, 인간, 동물, 로봇그리고바이오필리아 (biophilia) 의법 에리히프롬 (Erich Fromm) 의사상을중심으로, 법철학연구, 제 20 권제 1 호 (2017), 319 면. 458 형사법의신동향통권제 59 호 (2018 ㆍ 6)

16 에는형사절차를통해개를처벌하지는못한다. 47) 따라서동물에대한형법문제는동물에게귀속되는것이아니라동물을관리하는인간에게로향하게된다. 또한형법상의미있는행위로인정받기위해서는형법상의미있는행위에속해야한다. 48) 이미오래된논의로서형법상행위론의논쟁이보여준결과와같이사실형법상의미있는행위가형사사법체계에서매우중요한역할을한다고보기는어렵다. 그렇다고하더라도행위론이형사법체계에끼친영향이결코작다고도할수는없을것이다. 어찌되었건인간이한형법상의미있는행위만이형사사법체계에서다루어질수있다. 그와함께형사책임을부여하기위해서는형법상의미있는행위가자유의지에의해행해져야한다. 49) 자유의지에따라다른행위를할수있었음에도불구하고범죄행위를한경우행위자를비난할수있으며, 그에따라인간에게형사책임을지울수있게된다. 50) 2. 인간중심체계의예외 앞서살펴본바와같이형사사법체계는기본적으로인간을중심으로해서구축되어있다. 하지만예외적인모습도발견된다. 대표적인예로법인과동물을들수있다. 법인은법률거래를위해서자연인은아니지만법적인인격을부여하여법률에있어권리 의무의주체가될수있도록만든법적인장치이다. 47) 물론동물보호법과같은특별법을통해개의주인을처벌할수는있을것이다 ; 정부 개물림사고시주인처벌규정마련, < 최종방문 )>. 48) 양천수, 앞의글, 66면. 49) 객관적으로증명할수없는자유의지에기대어인공지능에대한사회적, 규범적인법적불가능성을부각시킬것이아니라구성주의적방법론을통해인공지능에대해법적책임을묻는것도충분히가능하다는견해도존재한다 ; 윤지영 / 김한균 / 감동근 / 김성돈, 앞의책, 236면 239면. 다만, 현행우리형법체계에서는여전히자유의지에대한충성도가높으며, 그에따라형사법체계가운영되고있다고생각된다. 50) 다만, 아래에서언급하겠지만, 법인과관련해서사회적책임개념이나기능적책임개념을통해자유의지를비판하는견해도있다. 인공지능대응에있어형사법이론의한계 459

17 따라서법인의본질에대해서는법인의제설과 51) 법인부인설, 52) 법인실재설 53) 등이제시되고있다. 54) 법인의본질을어떻게이해하든형사사법체계에서법인이자연인과함께규율되고있다는것은부인할수없는사실이다. 그러므로법인의범죄능력이나수형능력등에대해논란이계속되고있지만, 법인은인간중심체계의예외로서존재하고있다. 그와함께동물이형사사법체계에서등장한경우도나타나고있다. 형법의역사를보면계몽시대이전에는동물을피고로형사절차가이루어지기도하였으며, 55) 포대형벌 을통해범죄자뿐아니라뱀과같은동물도함께익사시키기도하였다고한다. 56) 또한 1474년스위스바젤에서는소위동물소송이진행되었고, 그결과닭에게사형이선고된사례도있다고한다. 57) 물론해당기록들에대한신뢰성이의심되고, 당대에그와같은것을형벌제도로받아들였는지에대해서의구심이제기되기도한다. 58) 다만, 적어도그와같은역사적사실을부인할수없다면인간이외의 그무엇 에대해서도형사적책임을부여할수있는근거로삼을수도있을것이다. 59) 51) 법인의제설은법적인권리와의무의주체는오직자연인이고, 법인은법률의힘에의해서자연인으로의제되는것뿐이라는견해이다 ; 이홍민, 법인의본질, 법과정책, 제22권제3호 (2016), 268면. 52) 법인부인설은법인은법률관계를위한법기술일뿐이고, 따라서법인은거래를위한사실적인기능만을한다는견해다. 해당견해는다시금목적재산설, 수익자주체설, 관리자주체설등으로나누어진다 ; 이흥민, 앞의글, 면. 53) 법인실재설은법인은권리주체로서의실질을가지며, 사회적인실체를가지고있다는견해이다. 그실체에대해서는유기체설, 조직체설, 사회적가치설등으로나뉜다 ; 이흥민, 앞의글, 271 면이하. 54) 이외에도사비니 (Savigny), 예링 (Jhering), 기르케 (Gierke) 등이법인에본질에대해새로운해석을하기도하였다 ; 이흥민, 앞의글, 274면이하. 55) 윤지영 / 윤정숙 / 임석순 / 김대식 / 김영환 / 오영근, 법과학을적용한형사사법의선진화방안 (VI), 한국형사정책연구원, 2015, 315면 316면. 56) 윤지영 / 윤정숙 / 임석순 / 김대식 / 김영환 / 오영근, 앞의책, 316면. 57) 임석순, 형법상인공지능의책임귀속, 형사정책연구, 제27권제4호 (2016), 78면. 58) 위와동일. 460 형사법의신동향통권제 59 호 (2018 ㆍ 6)

18 3. 형법상책임의귀속 우리형법체계에서범죄는구성요건에해당하고, 위법하며, 유책한행위로이해하고있다. 구성요건에해당하고위법한행위는불법성에해당하는것이며, 유책한행위는책임성과관련되어규범적의미에서의비난가능성과관련을맺게된다. 60) 이때, 비난가능성의전통적의미는자신의행위의미를이해하고, 그결과를알수있으며, 결과를회피할수있는능력을가진행위자, 즉, 자유의지를가진행위자가범죄를피하지않고범죄행위로나아간것에대한비난이라고할것이다. 61) 하지만법률을적용하기위해서는보다명확한책임표지가필요하게된다. 따라서일반적으로행위자에게형사책임을부과하기위해서는범죄행위에대한행위자의고의ㆍ과실이있어야하고, 책임능력이있으며, 범죄행위의위법성을인식하고, 기대가능성이있어야한다. 62) 좀더구체적으로살펴보자면, 범죄행위자가불법을행하게되면, 그행위는고의또는과실에의한행위여야한다. 하지만우리형법은정신적ㆍ신체적으로아직성숙하지않은 14세미만의미성년자 ( 형법제9조 ), 정신병자와같이사물의변별력이없는심신상실자 ( 형법제10조제1항 ) 의경우에는책임무능력자로분류하여형사책임을부과하지않으며, 사물의변별능력이나의사결정능력이미약한자 ( 형법제10조제2항 ), 농아자 ( 형법제11조 ) 의경우에는형사책임을감경해주고있으므로그여부를판단해야한다. 또한범죄행위가정당한이유로인해죄가되지않는것으로오인한경우이거나 ( 형법제16조 ), 강요된행위 ( 형법제 12조 ) 등과같이기대불가능성이존재하는경우에도책임을면하고있으므로그여부도살펴보아야한다. 그러므로고의또는과실로범죄를저지른자에게책임을면제하거나감경시키는요소가없는경우범죄자에게는자신의범죄에 59) 주현경, 인공지능과형사법의쟁점 책임귀속을중심으로, 형사정책, 제29권제2호 (2017), 21면. 60) 계승균, 법규범에서인공지능의주체성여부, 법조, 제724호 (2017), 172면. 61) 임석순, 앞의글, 76면 77면. 62) 배종대, 형법총론 ( 제13판 ), 홍문사, 2017, 83/5 8. 인공지능대응에있어형사법이론의한계 461

19 상응하는책임이부과되는것이다. 물론범죄자의책임의양은양형절차를 통해서결정된다. V. 현행형사법이론의한계 인공지능에대해형사처벌이가능하기위해서는우선인공지능이범죄능력을가지고있는범죄주체가될수있는지여부를살펴볼필요성이있다. 인간만이형사책임을질수있고, 책임이없다면형벌이없다는독일의형사책임이론이지금도우리형사법에서굳건히유지되고있기때문이다. 63) 그래서우리형사법이론들도기본적으로자연인인인간을처벌하고있다. 그러나책임개념을 국가에의해설정된행위요구의불충족 에대한비난으로보는사회적책임개념이나 법에대한불충성의표현 이라는기능적책임개념에따르면자연인의범위를넘어서형사책임을지울수있는근거가마련된다. 64) 따라서인공지능이범죄주체성을갖기위해서는적어도법적으로인간에준하는지위를부여하거나, 인간개념의외연을넓히거나, 법인의범죄에포섭시킬수있는방법이모색될수있다. 65) 하지만인공지능에게책임을지우더라도인공지능에게단독책임을지울지, 아니면관리자또는소유자에게책임을지울지, 또는공동으로책임을지울지, 더나아가제조자에게책임을지울지등형사법의이론적적용도다각도로고려해보아야한다. 그리고인공지능의형사책임에대해어떤형벌이가능할지도고민해보아야한다. 현행형벌종류를살펴보면자유형은인간에게만가능한것이고, 명예형이나재산형정도가인공지능에게가능한형벌이 63) 윤지영 / 김한균 / 감동근 / 김성돈, 앞의책, 206면. 64) 윤지영 / 김한균 / 감동근 / 김성돈, 앞의책, 228면. 65) 인공지능에게법인격을인정한다고하더라도권리주체로만인정되는 1 단계법인격, 형사책임이귀속되지않는 2 단계법인격이아니라행위능력과책임능력이부여되는 3 단계법인격이될때비로소인공지능은형사책임을질수있다고한다 ; 윤지영 / 김한균 / 감동근 / 김성돈, 앞의책, 235 면. 462 형사법의신동향통권제 59 호 (2018 ㆍ 6)

20 될수있는데, 현재법인처럼벌금형만을부과할것인지, 아니면새로운형벌을 도입해야할지도살펴볼필요가있다. 따라서아래에서는현행형사법이론을 중심으로그와같은문제들을해결할수있을지여부를살펴보고자한다. 1. 인공지능의범죄능력인정여부 현재구축되어있는범죄성립요건에대한형법체계에서범죄성립요건의출발점은 인간의행위 이다. 66) 즉, 인간의행위가아닌것은범죄성립요건을심사할필요조차없게되는것이다. 범죄행위의주체는자연인인사람이어야하므로인공지능또는인공지능로봇은범죄주체가될수없다. 그런데우리형법은자연인인사람외에도양벌규정을통해 법인 을처벌하고있다. 즉, 자연인인사람의행위외에법적인지위를부여받은법인에게형사처벌할수있는장치를마련해두고있는것이다. 67) 물론학설에따라서는법인의범죄능력을부정하는견해와 68) 긍정하는견해, 69) 부분적으로긍정하는견해 70) 등이존재한다. 긍정설은법인실재설의입장에서법인의범죄능력을인정하고, 법인고유의의사능력과행위능력이있으며, 법인의반사회로부터사회를방위하고사회적책임을물을필요성이있고, 무엇보다형사정책적인필요성이있다는것을주요논거로삼고있다. 71) 긍정설의입장에서보면인공지능에대해법 66) 김성돈, 형법총론 ( 제4판 ), SKKUP, 2015, 149면. 67) 법인을인정하는관점에서인간의법적인개념을새롭게구성하여 인 이라는상위개념을두고, 그아래자연 인 과법 인, 전자 인 을두어사회적으로형사책임을부과할수있도록하는견해도제시된다 ; 윤지영 / 김한균 / 감동근 / 김성돈, 앞의책, 245면. 68) 김성돈, 앞의책, 165면 166면 ; 박상기, 형법총론 ( 제9판 ), 박영사, 2012, 71면 ; 배종대, 앞의책, 50/27; 대법원 선고 82도2595 전원합의체판결. 69) 김일수 / 서보학, 형법총론 ( 제12판 ), 박영사, 2014, 137면 ; 정성근 / 박광민, 형법총론 ( 제2판 ), SKKUP, 2015, 91면. 70) 임웅, 형법총론 ( 제 7 판 ), 법문사, 2015, 77 면 ; 유기천, 형법학 ( 총론강의개정 24 판 ), 일조각, 1983, 98 면. 인공지능대응에있어형사법이론의한계 463

21 인격을부인할수있다면인공지능은현재의법인과같이범죄능력을갖게된다. 하지만부정설의입장에서보면인공지능은여전히범죄능력을갖지못한다. 그러나인공지능의경우에는법인처럼인정하는것과는다른모습을갖게된다. 인공지능의범죄능력에대한논의는인공지능에게법적인인격을부여하는문제에국한되는것은아니다. 보다근본적인관점에서비록생물학적인육체를가지고있지는않은창조물이지만인간의특징을모방하고있기때문에인간과동일한인성까지부여할수있는지에미치고있다. 그런논의가운데가장진전된사고로서로봇에게전자인격 (e-person) 을부여하자는 EU의정책과인간관에대한개념의수정및확장을통해인공지능을인간의범주에포함시키는것이다. 2017년 2월 EU는인공지능로봇에대해전자적인간의지위를부여하도록하는결의안을통과시켰다. 72) 해당결의안이법적으로강력한구속력을가지는것은아니지만, 앞으로 EU에서는인공지능로봇에대해법적인책임소재및관련윤리표준마련, EU로봇담당국설치, 그리고노동시장에서의청사진을제시하려는의도가반영된것이라고하겠다. 73) 다만, 인공지능에게전자인격을부여하는것은민사적인영역을위한것이다. 즉, 민사적인영역에서의인공지능의법적지위를확보하기위한수단이지형사법영역까지를고려한결정이라고할수는없다. 2. 인공지능의형사책임능력인정여부 앞서살펴본바와같이인공지능의범죄능력을인정한다고하더라도인공 지능에게형사책임능력을지울수있을지도함께살펴볼필요가있다. 법인의 경우를살펴보면법인의범죄능력을긍정하든부정하든간에결론에있어서 71) 배종대, 앞의책, 50/6. 72) 김자회 / 주성구 / 장신, 지능형자율로봇에대한전자적인격부여, 법조, 제724호 (2017), 124면. 73) 김자회 / 주성구 / 장신, 앞의글, 127면 128면. 464 형사법의신동향통권제 59 호 (2018 ㆍ 6)

22 법인의형사책임능력을인정하는것은같다. 하지만긍정하는견해는법인은실재하기때문에당연히범죄주체가되면형사책임능력도존재한다고보는반면, 부정하는견해는법률에양벌규정이있기때문에법률상인정할수밖에없다고본다. 즉, 부정설의입장에서는실질적으로법인의형사책임을인정할수는없지만, 현행규정을설명하기위해고육지책으로법인의형사책임능력을인정하는것이다. 하지만인공지능의경우법률상전자인간의지위를부여하거나인간의범주를넓혀서포함시킬경우에는인공지능의형사책임능력을부정할이유는없을것이다. 그러나인공지능의형사책임능력을인정한다고하더라도인공지능에게형사책임을귀속시키는문제는여전히존재하게된다. 인공지능에게법적인능력을부여하더라도인공지능은사람과달리자유를가지고인간과동등한독자적인삶을영위하지는않을것이다. 다만, 인공지능은외부환경의변화를인식할수있어야하고, 독자적으로상황판단을할수있어야하며, 자율적으로행위를결정할수있는능력을가지며, 사람과상호작용까지도할수있어야한다. 74) 따라서인공지능의작동은해커의해킹, 소유및관리자의영향력, 제조사의한계및오류등에의해영향을받게된다. 75) 따라서그와같은경우인공지능의작동에의한범죄에대해인공지능에게책임을귀속시킬수있을지의문제가생기게된다. 첫째로, 해커가인공지능을해킹하여범죄를저지르게한경우를살펴보자. 해커가인공지능을해킹한것은마치형법상간접정범과같이인공지능의의사를지배하는것과같다. 76) 따라서간접정범이론을적용할여지도고려해볼수있다. 하지만해커가해킹을통해인공지능을조종하는경우인공지능은간접정범의피이용자가되는것이아니라단순히물건과같다고할것이다. 74) 윤지영 / 윤정숙 / 임석순 / 김대식 / 김영환 / 오영근, 앞의책, 21면. 75) 물론그외에도다양한요소들에의해영향을받을수있지만, 본논문에서는크게세가지를중점으로살펴보고자한다. 76) 배종대, 앞의책, 134/1. 인공지능대응에있어형사법이론의한계 465

23 따라서해커가인공지능로봇을통해범죄를저지르는경우해커의단독정범이인정될뿐이며, 인공지능로봇은단지범죄도구에불과하게된다. 그러므로인공지능로봇에게는형법적책임을물을수없을것이다. 더나아가그와같은경우인공지능로봇이범죄의도구로사용되었으므로몰수가가능하게되는데, 77) 해킹이끝나고자신의지능을회복한경우인공지능로봇이과연몰수대상이될수있을지도문제가될수있다. 둘째로, 인공지능소유및관리자가인공지능에게명령하여범죄를저지른경우를살펴보자. 이경우는간접정범이론이적용될가능성이있다. 예를들어, 인공지능로봇소유자가인공지능로봇에게독약이든물을영양제라고속이고피해자에게가져다주도록한경우소유자는고의없는도구를사용하여간접정범으로처벌된다고도할수있다. 아시모프원칙에따르면인공지능로봇은피해자를해하는것을몰랐기때문에제2원칙을충실히수행한것이다. 만일독약이라는것을알았다면제1원칙에따라인공지능로봇은독약이든물을피해자에게가져다주지않았을것이다. 그에반해만일로봇이소유자및관리자모르게해당범죄를저지른경우라면, 소유자및관리자는자신이인공지능로봇에대한관리ㆍ감독을소홀히하지않았다는것을입증하게되면책임을면할수있을것이다. 그러나인공지능로봇이만일자신의행위가인간에게해를끼치는것을알면서도범죄행위를했다면로봇에게도형사책임을물을수있을것이다. 78) 하지만그조차없게되면적어도형사처벌은할수없을것이며, 보험법의문제로해결되어야할것이다. 실제로최근미국에서운전자가탑승하여자율주행운행을시험하던우버 (Uber) 의자율주행자동차가행인을치어숨지게한사건이있었는데, 그사건에대한미국의판단이나오면좀더명확해질수도있을것이다. 79) 77) 몰수는 범죄행위에제공하였거나제공하려고한물건 에대해가능한데 ( 형법제48조제1항 ), 이는범죄행위에사용하였거나사용을위해준비하고사용하지않은물건을말한다 ; 배종대, 앞의책, 176/10. 78) 또한사람을살해한인공지능로봇은아시모프의로봇제1원칙도어긴것이된다. 466 형사법의신동향통권제 59 호 (2018 ㆍ 6)

24 셋째로, 인공지능을생산한제조사의기술적한계및오류에의해서범죄가발생한경우를살펴보자. 예를들어, 제조사의기술적한계및오류로인해인공지능로봇이사람에게상해를가한경우라면, 형법상과실범의법리에의해제조사에게과실책임을물을수있을것이다. 그와같은경우인공지능로봇은단순히수단에불과하게되므로인공지능로봇에게형사책임을물을수는없을것이다. 그런데만일인공지능로봇스스로가오류를생성한경우라면과실범의책임은인공지능로봇이지게될것이다. 그렇게살펴보면인공지능로봇의경우인공지능이제대로작동하지않는경우에는형법상물건과같은지위를갖게되며, 인공지능이제대로작동하는경우에는형사책임의주체가된다. 이는인공지능로봇이생체를가지고있는인간과구분되어기계적특성을가지고있기때문이다. 또한인공지능로봇의형사책임을인정하더라도그책임을인공지능로봇에게귀속시킬수있는지는별개의문제이다. 예를들어, 앞서살펴본바와같이현행형법체계는미성년자나심실상실자, 강요에의한경우와같이행위자에게책임을물을수없는경우에는형사책임을조각하고있다. 그러므로인공지능로봇도행위시의인공지능의상태 ( 예를들어, 버그가있었다거나사람이강제한경우등 ) 에따라책임이조각될수도있을것이다. 3. 인공지능의수형능력인정여부 법인과관련해서도수형능력에대한문제점이제기되었다. 수형능력은 범죄 능력 ( 행위능력 + 책임능력 ) 의결과가귀속되는곳 이므로범죄능력이인정되지 않으면수형능력도당연히인정될수없기때문이다. 80) 법인은관념과서류로만 79) 2016 년 5 월테슬라자동차의자율주행모드사고에서는사망한운전자의책임으로보았다 ; 미국서자율주행차에보행자치여사망 테스트중단, < endpage.do?news_id=n &plink=ori&cooper=naver( 최종방문 )>. 인공지능대응에있어형사법이론의한계 467

25 존재하게된다. 법인사무는자연인인사람이한다. 또한법인의의사결정도사람또는사람들의집합적인사고의결과이다. 그러므로법인의대표에대해형사책임이부여되고법인에대한형사책임도벌금에불과하다. 81) 즉, 법인의수형능력을인정하더라도법인의수형능력은법인의재산에대해부과될수있는재산형뿐이다. 본논문에서는앞서인공지능의범죄능력을인정할수있다고전제하였으므로인공지능의수형능력도함께인정할수있으며, 일단법인의경우와같이인공지능에대해서도유사한방법이모색될수있다. 인공지능에대해법인격을부여하고, 인공지능의노동에대한대가를법인인인공지능에게지급해서인공지능이재산을축적할수있도록한다면, 적어도인공지능은범죄에대해재산형을부과받을수있게된다. 82) 하지만인공지능은법인과는달리독자성이인정될수있으며, 인공지능로봇의경우에는적어도물리적으로는인간이받을수있는형종을모두받을수있도록구성할수도있을것이다. 그러나인공지능로봇을교도소에가두어자유형을부과하거나사형과같이로봇을파괴한다고하더라도형벌로서의의미는없을것이다. 인공지능은사이버공간에존재하고있기때문이다. 그러므로인공지능에적합한새로운형종이부과될필요가있다. 사형에해당하는것으로는인공지능프로그램을완전히삭제하는것이며, 자유형을통해교화개선하는것과같이인공지능을초기화하는것이일례가될수있을것이다. 실제로마이크로소프트사가개발하였던인공지능챗봇 (Chatbot) 테이 (Tay.ai) 는악의적인사용자들의부정적인학습으로인해히틀러옹호, 인종차별및성차별적발언등을하여서비스하루만에퇴출되었다. 83) 그리고마이크로 80) 배종대, 앞의책, 50/3. 81) 배종대, 앞의책, 50/31. 82) 법인의경우사람이징벌의대상일뿐이고, 재산형도행정법이나사법상제재인과태료로전환되는것이필요하다는주장도제기된다 ; 위와동일 ; 하지만인공지능의경우에는인공지능은법인과는달리인공지능의행위로인한것이기때문에징벌의대상은인공지능이될수있다. 그러므로법인과는다른논리를펼수있을것이다. 468 형사법의신동향통권제 59 호 (2018 ㆍ 6)

26 소프트사는문제를어느정도해결한새로운인공지능챗봇조 (Zo.ai) 를만들었다. 84) 현행형법에규정되어있는형종은한계가있으므로인공지능에대해수형능력을인정하게되면인공지능에적합한형종을새롭게도입할필요가있다. VI. 결론 과거인공지능이사람과공존하면서살아가는모습은상상화속에서나등장하는아주먼미래의모습이었다. 하지만아이, 로봇, 엑스마키나, 휴먼스, 웨스트월드등인공지능을주제로한영화나드라마등을보면그리멀지않은미래에인공지능이사람과대등하게살아갈것이라는예상을해보게된다. 더나아가애플의시리 (Siri) 나삼성의빅스비 (Bixby), 아마존의알렉사 (Alexa), 구글의알파고 (Alpha Go), IBM의왓슨 (Watson), 소프트뱅크의페퍼 (Pepper), 테슬라의자율주행자동차등인공지능은이미우리의삶에슬그머니자리를잡았다. 그들로인해우리의삶이좀더편안해지고, 재미있어지기도하였다. 하지만그들로인해일자리문제, 산업의집중문제등과같은사회적문제들이나타나게되었고, 인간중심으로구축되었던법적인부문에서도다양한도전이제기되고있다. 특히인공지능의더욱발전하여사람과동등하게평가받을수있게된다면그들에대해어떤법적인지위를부여해야하는지를심각하게고려해보기시작하였다. 물론일부에서는절대로인공지능이사람과같은정도가될수없다고하지만, 과거기술발전에대한예측에서수많은전문가들이잘못된예상을하였다. 85) 결국인공지능이앞으로어떤발전을하게될 83) MS, 새챗봇 조AI 출시 막말테이잊어주세요, < view.asp?artice_id= &type=det&re=( 최종방문 )>. 84) MS, 인공지능기반챗봇 조 정식공개, < ( 최종방문 )>. 85) 일례로과학자였던디오니시우스라드너박사는기차가대략 53킬로로다니던시대에기차는 인공지능대응에있어형사법이론의한계 469

27 지는예측하기쉽지않다. 그런가운데강한인공지능을가정하고형사법이론의한계를살펴보는것은마치소설을쓰는것과도같을수있다. 독일의철학자헤겔이철학에대해 미네르바의부엉이는황혼이저물어야그날개를편다 라는 86) 명구를남긴것과같이형사법도현실에확실한사안이발생할경우비로소형사법이론의날개를펼칠수있을것이다. 하지만철학과는달리이미눈앞에다가온현상을외면하고, 황혼이저물기만을기다리는것은일종의학자들의 방기 ( 放棄 ) 라고할수도있을것이다. 그래서본논문에서는현행형사법이곧다가올미래인인공지능에어느정도대처할수있을지를스케치해보았다. 결론적으로우리형사법은인간을중심으로구축된법체계를가지고있다. 인간외에는같은생물이라고하더라도물건과동일한지위를얻게된다. 인간만이범죄의주체가될수있고, 범죄에대한책임을질수있으며, 범죄의대가인수형을받을수있다. 하지만예외적으로다툼의여지가있지만법인이라는장치를통해서인간이외에도법적인지위를부여하여처벌될수있을장치를마련해두고있다. 따라서강한인공지능을대상으로현행형사법체계와이론에따라대응이가능한지여부를살펴보았을때, 범죄의주체성은인정할수있고, 경우에따라그책임및책임의귀속도인정할수있으며, 재산형이나새로운형종을통한수형도가능할수있을것이라고판단되었다. 다만, 그렇기위해서는인공지능기술이지금보다더욱고도화되어야하며, 인간들이인공지능도인간과거의유사하게대우받을수있다는인식의지평이형성되어야할것이다. 인공지능의미래에대해여전히낙관적인전망과비관적인전망들이교차하고있다. 그렇지만인공지능이앞으로도계속해서발전할것은분명하다. 그러므로형사법분야도인공지능으로인해발생하게될범죄에미리대비하는것이필요할것이다. 더이상빠른속도로운행될수없다고했는데, 그이유는승객이모두질식사할것이기때문이라고했다. < 최종방문 ). 86) 헤겔의저서 Grundlinien der Philosophie des Rechts 에있는문구이다. 470 형사법의신동향통권제 59 호 (2018 ㆍ 6)

28 ㆍㆍㆍㆍ참고문헌 단행본 김성돈, 형법총론 ( 제4판 ), SKKUP, 김일수 / 서보학, 형법총론 ( 제12판 ), 박영사, 라파엘카푸로 / 미카엘나겐보르그편저 ( 변순용 / 송선영역 ), 로봇윤리 -로봇의윤리적문제들, 어문학사, 마쓰오유타카 ( 박기원옮김 ), 인공지능과딥러닝 : 인공지능이불러올산업구조의변화와혁신, 동아엠앤비, 박상기, 형법총론 ( 제9판 ), 박영사, 배종대, 형법총론 ( 제12판 ), 홍문사, 유기천, 형법학 ( 총론강의개정24판 ), 일조각, 임웅, 형법총론 ( 제7판 ), 법문사, 정성근 / 박광민, 형법총론 ( 제2판 ), SKKUP, 논문 계승균, 법규범에서인공지능의주체성여부, 법조, 제724호 (2017). 김자회 / 주성구 / 장신, 지능형자율로봇에대한전자적인격부여, 법조, 제724호 (2017). 김정임, 자율주행자동차운행의안전에관한공법적고찰, 법학연구, 제16권제4호 (2016), 한국법학회. 김종호, 인공지능로봇의출현으로인한법적논란에관한영역별쟁점의고찰, 법이론실무연구, 제6권제2호 (2018). 김진석, 약한 인공지능과 강한 인공지능의구별의문제, 철학연구, 제117집 (2017). 인공지능대응에있어형사법이론의한계 471

29 김현경, 인공지능창작물에대한법적취급차별화방안검토 - 방식주의 의도입을중심으로, 2018년한국인공지능법학회 충남대법학연구소공동학술회의자료집, 민윤영, 인간, 동물, 로봇그리고바이오필리아 (biophilia) 의법 - 에리히프롬 (Erich Fromm) 의사상을중심으로, 법철학연구, 제20권제1호 (2017). 박종보 / 김휘홍, 인공지능기술의발전과법적대응방향, 법학논총, 제34권제2호 (2017). 손승우, 인공창작물의저작권보호, 정보법학, 제20권제3호 (2016). 심우민, 인공지능과입법정책 - 입법학적접근을중심으로, 2018년한국인공지능법학회 충남대법학연구소공동학술회의자료집, 양천수, 인공지능과법체계의변화 - 형사사법을예로하여, 법철학연구, 제20권제2호 (2017). 오병철, 인공지능로봇에의한손해의불법행위책임, 법학연구, 제27권 4호 (2017), 연세대학교법학연구원. 윤지영 / 윤정숙 / 임석순 / 김대식 / 김영환 / 오영근, 법과학을적용한형사사법의선진화방안 (VI), 한국형사정책연구원, 윤지영 / 김한균 / 감동근 / 김성돈, 법과학을적용한형사사법의선진화방안 (VIII), 한국형사정책연구원, 은종성 / 김주표 / 김시은, 자율주행자동차사고에따른보험적용에관한연구, 상사법연구, 제36권제3호 (2017). 이상용, 인공지능과계약법 - 인공에이전트에의한계약과사적자치의원칙, 비교사법, 제23권제4호 (2016). 이승선, 인공지능저작권문제와각국의대응, 관훈저널, 통권제139호 (2016). 이중기, 인공지능을가진로봇의법적취급, 홍익법학, 제17권제3호 (2016). 이홍민, 법인의본질, 법과정책, 제22권제3호 (2016). 임석순, 형법상인공지능의책임귀속, 형사정책연구, 제27권제4호 (2016). 472 형사법의신동향통권제 59 호 (2018 ㆍ 6)

30 주현경, 인공지능과형사법의쟁점 책임귀속을중심으로-, 형사정책, 제29권제2호 (2017). 최재원, 인공지능창작물에대한저작권의주체, 문화 미디어 엔터테인먼트법, 제11권제1호 (2017). 인공지능대응에있어형사법이론의한계 473

31 87) Lee, ABSTRACT The Limitations of Criminal Law Theory in the Response to Artificial Intelligence Won Sang* Lately, many areas of the law are looking for ways to respond to issues related to artificial intelligence. The same is true for the criminal law area. The current criminal law, however, has a legal system centered on humans. Animals that are of the same creature are treated as objects by criminal law. Only humans can be the main agents of a crime, and be responsible for a crime, and be punished for a crime. However, we created legal entities other than humans to grant legal status and to be punished. Thus, I looked at whether the current criminal law framework and theory could respond to strong artificial intelligence in this regard. As a result, the criminal identity of the strong artificial intelligence was recognized, and in some cases, its liability was recognized. And criminal penalties may also be available through property types or new types of punishments. However, artificial intelligence technology must be advanced to do so, and A new horizon should be formed in which humans can be treated like humans with artificial intelligence. There is still a mixture of * Associate Professor, College of Law, Chosun University, Ph.D. 474 형사법의신동향통권제 59 호 (2018 ㆍ 6)

32 optimistic and pessimistic views about the future of artificial intelligence. But it is clear that artificial intelligence will continue to develop in the future. Therefore, the criminal law field also needs to be prepared for crimes caused by artificial intelligence. Key words : Artificial intelligence, strong artificial intelligence, criminal ability of artificial intelligence, criminal responsibility of artificial intelligence, massive-intensive ability of artificial intelligence 인공지능대응에있어형사법이론의한계 475