LAW & TECHNOLOGY, 제 14 권제 2 호 : pp41~59. 2018 년 3 월 c 서울대학교기술과법센터 인공지능의형사책임 (Criminal Liability of Artificial Intelligence) 이창민 (Lee Chang-Min) * < 목차 > Ⅰ. 서론 Ⅱ. 현단계에서인공지능의형사책임에대한검토 Ⅲ. 인간중심책임주의에대한도전 -뇌과학과인공지능의형사책임 Ⅳ. 결론 요약 인공지능의형사책임에대해서는긍정설과부정설이대립하지만, 현재의약한인공지능단계에서는인공지능의형사책임은인정되지않는다. 사용자가인공지능에게범죄를지시한경우에는그사용자가고의범으로책임을져야할것이고, 인공지능의오작동이나예상치못한행동에대해서는인공지능설계, 제조자가과실범으로책임을져야할것이다. 이를면하기위해서는인공지능설계, 제조자는그러한해악을회피하기위한제조물책임법리에따른자신의주의의무를다하여야한다. 그러나, 강한인공지능이범죄를저지른경우, 우리는인공지능에게형사책임을지우는것을생각해보아야할것이다. 이를위해서는인간의의사자유를전제로하는비난가능성이라는전통적책임개념의수정을고려하여야한다. 인간으로하여금행위를하게하는것은인간 의의사가아니라뇌의활동 ( 준비전위 ) 이라는 21 세기뇌과학연구성과는인간중심의전통적책임개념에대한수정을제안하였는데, 인간의의사자유라는허구적가정을제거하고뇌과학적사후진단방법을통해행위자의특성과환경을고려한책임과형벌을정해야한다는것이다. 이는인간이아닌인공지능의책임과관련하여중요한시사점을줄수있다. 뇌과학에기초한새로운책임이론하에서, 의사자유가인정되지않는인공지능에게도책임을물을수있고, 처벌, 응보가아닌치료, 개선에목적을둔실효성있는형벌제도의고안이가능하다. 한편, 인간에적용되는기존의형벌제도의존엄성을보존함으로써인간과인공지능이형사사법체계하에서상호공존할수있게한다. * 법무법인한결변호사 1) 통상, 우리는 로봇 을생각할때 KAIST 가개발한인간형로봇휴보 (HUBO) 와같이구체적, 물리적실체를가진기계를, 인공지능 을생각할때알파고나주식자동거래시스템처럼컴퓨터에탑재되어눈에보이지않는프로그램이나시스템을떠올린다. 하지만, 로봇이의미있는것은이에인공지능이탑재되어인공지능이결정한바를외부적으로현실화시킨다는점에있고, 이러한점에서중요한것은결국인간의뇌처럼의사결정을하는인공지능이다. 로봇은인공지능을담는 그릇 에불과하며, 여러형법적쟁점과관련해중요한것은그릇보다는그릇안에담겨있는내용물, 즉 인공지능 이다 { 임석순, 형법상인공지능의책임귀속, 형사정책연구, 제27 권제4호 ( 통권제108호, 2016), 71-72면 }. Law & Technology 41
LAW & TECHNOLOGY 제 14 권제 2 호 ( 통권제 74 호 ) 2018 I. 서론 많은과학소설들과할리우드영화들은인공지능 1) 이야기할미래에대해상상력에근거한많은흥미로운이야기거리를던져주었다. 가령, 임무를부여받은우주선의인공지능이임무완수를위해방해가된다고판단한우주선내인간을살해한다면, 2) 노인돌봄을위해만들어진휴머노이드로봇이그노인의행복을위해노인의절도행위를돕는다면 3) 이인공지능에게형사책임을물을수있을까? 나아가, 인공지능이발전함에따라이러한문제는현실세계속에서도등장하고있다. 가령, MS 가개발한채팅봇테이 (Tay) 는작동 16 시간만에중단되었는데, 그이유는서비스가시작되자마자네티즌들이이채팅봇에게인종주의적발언이나욕설을가르쳤고이를충실히학습한채팅봇이이러한발언을쏟아냈기때문이었다. 4) 스위스의전위적예술가그룹인!Mediengruppe Bitnik 은인공지능시스템에게 100 달러어치의비트코인을주고무작위로쇼핑을하게하였는데이시스 2) 2001 Space Odyssey, Stanley Kubrick 감독, 1968 년작. 3) Robot & Frank, Jake Schreier 감독, 2012 년작 ; 심지어이영화에서로봇은주인공인노인이경찰에적발될위험에처하자증거인멸을위해노인에게자신의메모리를초기화할것을제안하기까지한다. 4) 인공지능한계드러낸 MS 채팅봇 테이... 태어나망가지기까지, 조선비즈 2016. 3. 27. 자기사 (http://biz.chosun.com/site/data/ html_dir/2016/03/27/2016032701815.html, 2017. 11. 21. 방문 ). 5) Robot with $100 bitcoin buys drugs, gets arrested, CNBC 2015. 4. 22. 자기사 (https://www.cnbc.com/2015/04/21/robot -with-100-bitcoin-buys-drugs-gets-arrested.html, 2017. 11. 21. 방문 ). 6) 김영환, 로봇형법 (Strafrecht für Roboter)?, 법철학연구, 제 19 권제 3 호 (2016), 147 면. 7) 이밖에훨씬전향적인견해로는강인공지능으로대표되는트랜스휴먼, 포스트휴먼, 안드로이드 ( 로봇 ) 는결국이성적, 자율적주체로서행위할수있는능력을갖추고있다고, 즉스스로자의식을형성할수있는존재자로서인간이라할수있고인간으로서형법상범죄의주체가될수있다는견해로는송승현, 트랜스휴먼및포스트휴먼그리고안드로이드 ( 로봇 ) 에대한형법상범죄주체의인정여부, 홍익법학, 제 17 권제 3 호 (2016) 참고. 템이엑스터시를구입하자스위스검찰은이시스템작동을중단시키고엑스터시를압수했지만구체적으로이예술가집단과인공지능시스템중누구도형사기소하지는않았다. 5) 이는인공지능이개입되어명예훼손또는인종범죄, 마약구입과같은범죄적결과가일어난사례들인데, 이사례들에서이인공지능에게형사책임을물을수있을까? 아니면, 누가책임을져야할까? 인공지능은과거인간의편리를위해도입된기계들과는달리인간의인식과사고과정을모방하여스스로정보를습득하고학습하며직접행동을선택하고결정하여실행에옮긴다. 인간이인공지능에게이러한의사결정의일부또는전부를위임한다는점에서, 이인공지능이내린결정과그결과에대하여누가책임을져야하는지, 인공지능의설계 제조자, 소유 사용자또는인공지능그자체중누가책임을져야하는지라는문제가제기되는것이다. 6) 본고에서는인공지능의발전단계에따라인공지능이야기한범죄적결과에대하여구체적으로누가책임을져야하는것인지에대하여생각해보고자한다. II. 현단계에서인공지능의형사책임에대한검토 1. 인공지능의형사책임긍정설 인공지능은인간은아니지만인간과유사하거나경우에따라서는인간보다뛰어난능력을가지고인간을대신하여많은활동을하게된다. 이러한측면에서인공지능의형사책임을인정하여야한다는주장이제기되는데대표적인긍정설의요지를소개하면다음과같다. 7) 42 Law & Technology
이창민 - 인공지능의형사책임 가. Gabriel Hallevy의주장 Gabriel Hallevy 는미국형사법을기초로인공지능의형사책임가능성을검토하는데, 미국법상형사책임을묻기위해서는객관적요건으로서행위 (actus reus) 와주관적, 정신적요건으로서범의 (mens rea), 두요건이있어야한다. 이에따라, Gabriel Hallevy 는인공지능에게위두요건이충족되면형사책임이인정되고다른어떠한기준이나능력이요구되는것도아니라고주장한다. 8) 인공지능이직접형사책임을질수있는지와관련하여가장문제되는것이인공지능에게인식 (knowledge), 고의 (intent), 과실 (negligence) 같은 mens rea에해당하는것들이인정될수있느냐하는것이다. Gabriel Hallevy 는인공지능의알고리즘은인간의인지처리과정을모방하고있으므로인식 (knowledge) 이인정될수있고, 강한목적또는목표를가질수있으므로특정고의 (specific intent) 까지도인정될수있다고한다. 따라서, 인종주의범죄나증오범죄에요구되는특정감정따위를제외하고는인공지능에게이러한정신적요건을인정하는데장애물이없다고한다. 그에따르면, 인공지능에게도정당방위, 긴급피난, 강요, 만취와같은형법상의일반적인항변사유 (general defense) 까지도인정될수있는데, 가령바이러스에오염된인공지능의행위를만취 (intoxication) 에의한것으로인정하는식이다. 그리고, Gabriel Hallevy 는인공지능의소프트웨어를삭제함으로써주체로서의독립적존재성 (independent existence) 을제거하여사형에버금가는결과를얻을수있고, 일정기간사용을금지함으로써로봇의행동할자유를박탈하는구금형에처할수도있다고한다. 또한, 인공지능에게재산의보유를허용하고이를징수함으로써또는 재산을대체하기위한노역을과함으로써재산형에처할수도있다고하여인공지능의수형 ( 受刑 ) 능력까지인정한다. 9) 나. Hilgendorf 를비롯한독일의로봇형법찬성론 독일에서는이미 10년전로봇형법 (Strafrecht für Roboter) 의가능성에대한논쟁이있었다. Hilgendorf를대표주자로하는로봇형법찬성론은다음과같이요약된다. 10) 첫째, 인간외에동물에게도형벌이집행된적이있으므로로봇에대한형벌도가능하다. 둘째, 로봇형법은논리적으로모순이없다. 즉, 기계가지능, 자율성, 의사자유라는관점에서인간과유사하다면바로그러한속성들과관련되는형법적책임을기계에도부과하는것이당연하다 11) 는실용적접근이다. 이에따르면로봇에게도법인과유사하게전자인 12) (electronische Person) 이라는지위를독자적으로부여할수있다는입장까지발전할수있다. 13) 셋째, 로봇에대해서도법적제 8) Gabriel Hallevy, I, ROBOT-I, CRIMINAL --When Science Fiction Becomes Reality: Legal Liability of AI Robots Committing Criminal Offenses, 22 Syracuse Science & Technology Law Reporter 1, 2010, pp. 7-8. 9) Gabriel Hallevy, 앞의논문, pp. 30-36. 10) Hilgendorf, Können Roboter schuldhaft handeln, in: Beck (Hrsg.); Jenseits von Mensch und Maschine. Ethische und rechtliche Fragen zum Umgang mit Robotern, Künstlicher Intelligenz und Cyborgs, 2012, S. 132; 이를요약하여소개하는논문으로는김영환, 앞의논문, 148 면이하참조. 11) Hilgendorf, 앞의논문, S, 119ff; 김영환앞의논문, 154 면에서재인용. 12) 양천수는이를 자연인, 법인 이라는개념에대응하여 전자인 으로번역하여사용하고있다 { 양천수, 인공지능과법체계의변화 - 형사사법을예로하여 -, 법철학연구, 제 20 권제 2 호 (2017), 64 면 }. 13) Susanne Beck, Uber Sinn und Unsinn von Statusfragen zu Vor- und Nachteilen der Einführung einer elektronischen Person, in; Hilgendorf/Günther (Hrsg), Robotik und Gesetzgebung, 2013, S. 254; 김영환, 앞의논문, 153 면에서재인용 ; 한편, 유럽연합의회는 2017. 2. 16. 로봇에관한현안에관한결의안을통과시켰는데, 그내용중에장기적으로로봇에게전자적인격 (Electronic Person) 을부여하자는내용이포함되어있다. 자세한내용은김자회, 주성주, 장신, 지능형자율로봇에대한전자적인격부여 -EU 결의안을중심으로 -, 법조, Vol. 724(2017. 8) 참조. Law & Technology 43
LAW & TECHNOLOGY 제 14 권제 2 호 ( 통권제 74 호 ) 2018 재가가능하다. 로봇에대한재프로그램화, 로봇의행태를변화시킬수있는해악을구상해볼수있다는것이다. 14) 넷째, 형법이존재하지않는다면처벌의공백이생긴다. 어느누구도자신이책임을질만큼기계에대해충분한통제력을지니지못하게되는바, 기계를처벌함으로써이공백을메워야한다는것이다. 15) 타행위가능성 (Anders-Handeln-Können) 이라는형이상학적전제와연결되어있다. 하지만, 인공지능의형사책임을긍정하는입장은의사자유는이론적으로증명되지않는강령 (Postulat) 에불과한의제 (Fiktion) 이므로, 특정한조건이충족되면기계에게도형사책임이인정되지않을이유가없다고본다. 16) 이와관련하여좀더곱씹어볼부분은두번째주장인데, 이는형사책임의전제조건인인간의의사자유가망상이라는주장으로요약된다. 전통적형사책임론은의사자유를가지는인간이범죄를저지르기로결정한것에대하여책임을묻는다. 달리결정하고행동할의사자유가있었는데그렇게하지않은것에대한비난가능성이형사책임의핵심인것이다. 즉, 형사책임은의사자유에기한 14) Matthias 는 ( 기계 ) 제조자는그가기계의잘못된작동에대한원인이되는모든지식을삭제함으로써그기계가다시바로최초의지점에복원하도록만들수있으며그렇게함으로써기계는자신의사용법매뉴얼에적혀있는대로확실한행태를분명히할수있다 고하여로봇에대한형사제재로써재프로그램을주장하기도한다 (Andreas Matthias, Automaten als Trager von Rechten: Plädoyer für eine Gesetzesänderung, 2008, S. 247); 김영환, 앞의논문, 161 면에서재인용. 15) Matthias, 앞의책, S. 255; 김영환, 앞의논문, 162 면에서재인용. 16) Hilgendorf, 앞의논문, S. 132; 김영환, 앞의논문, 158 면에서재인용. 17) 이재상, 형법총론 ( 제 5 판 ), 박영사, 2004, 75-76 면. 18) 김성돈, 형법총론 ( 제 2 판 ), 성균관대학교출판부, 2011, 133 면 ; 정정원, 인공지능 (AI) 의발달에따른형법적논의, 과학기술과법, 제 7 권제 2 호 (2016), 203-205 면. 19) 양천수, 앞의논문, 66 면. 20) 형법상의미있는행위를 의사에의한신체활동 으로정의하는인과적행위론, 행위를 행위자의목적지향적의지표출 이라고정의하는목적적행위론에서만인공지능의행위가형법상의미있는행위로인정될여지가있다고주장되기도하나 ( 임석순, 앞의논문, 74-75 면 ), 인공지능의작동이 의사, 의지, 목적 과같이전통적이론이전제하는개념을충족한다고볼수있는지는매우의문이다 ; 나아가, 행위론은법인이나인공지능로봇과같은유사인격체의활동이형법상행위의범주에들어올때이를수용할것인지배척할것인지뚜렷한지침을제시해주지않는바, 행위론은형법적으로행위의주체가될수있는대상의범위가어디까지인지결정해주는데다소무기력한이론이라는견해로는안성조, 인공지능로봇의형사책임 - 논의방향의설정에관한몇가지발전적제언 -, 법철학연구, 제 20 권제 2 호 (2017), 192 면. 2. 인공지능의형사책임부정설전통적인형사법이론하에서는인공지능의형사책임은인정될수없고대부분의학자들이이와같은입장에서앞의긍정설의논거들을논박하고있다. 인공지능의형사책임을부정하는논리들을쟁점별로정리하여보면다음과같다. 가. 전통적행위론에기초한비판전 ( 前 ) 구성요건적행위개념을인정하는통설적입장에서행위개념은한계기능, 분류기능, 종합기능을가지는데, 17) 이중에형법적의미에서처벌의대상이되는행위로부터그렇지못한거동 ( 擧動 ) 을제외시키는한계기능 (Abgrenzungsfunktion) 에주목하여볼때형법상의미를가지는행위로인정되기위해서는최소한의조건으로원칙적으로인간의행위일것, 외부적인행위일것, 의식이있는상태에서의의사에의하여지배된행위일것이요구되는데, 인공지능의행위는이러한인간중심의행위개념에포섭되지않는다. 18) 특정 행태 (Verhalten) 가범죄로인정되기위해서는이러한행태가형법상의미있는 행위 (Handlung) 이어야할것인바, 19) 형법적으로의미있는행위란무엇인가에대한설명으로인과적행위론, 목적적행위론, 사회적행위론, 인격적행위론등이제기되어왔으나, 이중어느이론도인공지능의행위를우리형법상행위에완전히포섭하지는못한다. 20) 44 Law & Technology
이창민 - 인공지능의형사책임 나. 로봇에게없는인간적속성을부각시키는입장인공지능이아무리발전하더라도인공지능은인간이가진모든속성을가지지는못한다. 이러한인공지능의흠결에주목하여인공지능의형사책임을부정하는입장들을소개해보면, 인공지능은인간과달리욕구 (desire) 를가지지않으므로인공지능의행동을의지적산물로볼수없다거나, 21) 인공지능이자율성을가지고있다하더라도이자율성은데이터를습득하기위한인식과판단의자율성을뜻하는것일뿐이므로이를자율적행위라보기는어렵기때문에인공지능의형사책임을인정할수없다고한다. 22) 또한, 인공지능이스스로자기학습능력을거쳐추론능력을가지고있다고볼수있지만고차원적의식, 즉사회속에서상호작용을하면서사고하는나를인식할수있는의식 ( 자의식 ) 23) 을가지는단계까지는도달하지못했기때문에 24) 인공지능은자신의행위가사회에미치는가치, 반 ( 反 ) 가치적의미에대하여숙고할수없고이러한의미에서인공지능에게행위불법에따른책임을물을수없다고도한다. 또한, 인공지능은고등동물이가진쾌고감수능력 (sentience) 25) 도지니지못하기때문에동물에대해적용되는공리주의적고려의대상이될여지도없다고도한다. 이처럼, 인공지능은인간이가진속성을충족하지못하는바, 이에따르면인공지능은인간과같은형법상행위능력이나책임능력을가지지못하여형사책임을질수없다는결론에이른다. 다. 인공지능은수형능력이없다는입장인공지능에대해형사처벌을가하더라도이들은형사처벌의의미를이해하지못한다. 인공지능은건강하게삶을유지하려는의지가없기때문에인공지능에대한체형 (corporal punishment) 이나사형은의미가없다. 이들은처벌의의미를이해할수없고그래서자신이저지른잘못과자신 에게가해지는어떤조치사이의연관성을깨닫지못한다. 26) 결국, 책임원칙의관점에서볼때로봇의처벌을포기해야하는데, 왜냐하면로봇을처벌함으로써형벌에서책임비난요소를빼버리면형벌의선고가갖고있는진지함과도덕적요소가없어질위험이생기고, 이로써형벌의존엄성이훼손될위험이있기때문이다. 27) 3. 인공지능과관련된형사문제의해결 가. 인공지능의발전도상 ( 途上 ) 에서배후자인간의책임 (1) 문제의제기현재인공지능은약한인공지능단계에머물고있다. 28) 이러한수준에서는인공지능의형사책임부정설이우세하고또한타당하다. 이는현 21) 김영두, 인공지능과자유의지, 연세법학회제 60 회학술대회 인공지능시대의법적과제 발표문, 2017, 22 면이하. 22) 주현경, 인공지능과형사법의쟁점 - 책임귀속을중심으로 -, 刑事政策, 제 29 권제 2 호 ( 통권제 52 호 2017), 18 면. 23) 단적인예를들어, 체스프로그램은자신이체스를두고있다는사실을모른다 {Peter Kassan, 인공지능은시뮬레이션일뿐합성이아니다, SKEPTIC, vol. 11(2017), 108 면 }. 24) 이인영, 인공지능로봇에관한형사책임과책임주의, 홍익법학, 제 18 권제 2 호 (2017), 45 면. 25) 공리주의철학자인 Bentham 을계수한 Peter Singer 는동물이쾌고감수의능력을가진다면동물역시이익의주체로서동물의이익을인간의이익과평등하게고려하여야하고, 만일그렇지않으면이는종차별 (Speciesim) 이된다고주장하였다 { 조중헌, 동물옹호의논의와실천을통해본동물권담론의사회적의미, 법학논총, 제 30 집제 1 호 (2013), 122 면 }. 26) Sabine Gless, Emily Silverman, & Thomas Weigend, If Robots Cause Harm, Who is To Blame? Self-Driving Cars and Criminal Liability, 19 New Crim. L. Rev. 412 (2016), p. 424. 27) Ulfrid Neumann, 법과학을적용한형사사법의선진화방안연구 (VI)- 지능형로봇기술과형사법적논의의지평모색 -, 2015 년한국형사정책연구원워크숍자료집, 36-37 면. 28) 인공지능의발달단계와수준에따라약 ( 弱 ) 인공지능과강 ( 强 ) 인공지능으로구분한다. 약인공지능은설계자가애초에이식한기능외에는어떠한학습능력도없으며독자적판단능력이나자율적행위결정능력이있다고볼수없는초기적모습의인공지능이다 ( 임석순, 앞의논문, 73 면 ). 강인공지능은이보다훨씬발달하여인간과많이유사하여진인공지능을말하는데, 알파고처럼바둑만할줄아는인공지능이아니라다양한능력을갖춘범용성이있는인공지능이라는점에서 General A.I. 라고칭하기도한다. Law & Technology 45
LAW & TECHNOLOGY 제 14 권제 2 호 ( 통권제 74 호 ) 2018 재의형사법이인간의행위만을대상으로시작되어정립되어온것이라는점과인공지능형사책임찬성론이아직실현되지않은강한인공지능의등장을가정한다는점에서어쩔수없는결과이긴하다. 하지만, 우리들의대부분은알파고와이세돌 9단의첫번째대국이있기전까지알파고가이세돌을이길것이라고생각지도못했다. 기술은항시법과사회보다먼저그리고더빠르게발달해왔기때문에미래의기술을염두에둔논의는지금의시각에서는허황되어보이더라도전혀무익한것만은아니다. 다만, 그러한논의가현재의법이론의틀안에서만이루어진다면전혀새로운것을창출하지못할수도있다는교훈은간직하고있어야한다. 이러한시도의가능성에대해서는다음 III. 에서본격적으로검토하기로하고, 본항에서는다시현재수준의논의로돌아와서인공지능이범죄적결과를발생시켰을경우누구에게형사책임을지워야하는지에대해살펴보자. (2) 인공지능에게범죄를지시한인공지능의소유 사용자의책임우선은그배후에있는인간에게혐의를두는것으로시작하여야한다. 특히, 인공지능의발전초기단계에는인공지능배후에있는인간, 해당인공지능의소유 사용자나설계 제조자에게책임을묻는것으로충분할것이다. 가령, 농약살포용드론의소유자가해당드론을조작하여이웃의머리위로맹독성농약을살포케한경우, 좀더발전된미래에경비로봇의사용자가그로봇에게침입자에대한무조건적살해를지시한경우와같이인공지능이범죄에사용된경우해당인공지능은범죄의 도구 에불과하다. 해당인공지능은지시받은행위의범죄여부, 그결과의반가치성여부를인식하지못한채사용자의지시에따른것뿐이다. 따라서, 이경우들처럼인공지능의배후자가범죄의고의를가지고인공지능에게범죄를지시한경우, 해당인공지능의소유 사용자인인간만이그범죄의정범에해당하고굳이도구로사용된인공지능을별도의범죄자로취급할필요도없을것이다. 29) 인공지능이저지른범죄적결과가양적또는질적으로배후자의지시를초과한경우에도배후자를기준으로현재형법에따라판단하면족하다. 가령, 인간이인공지능에게강도를지시했는데인공지능이강도살해를저지른것과같이인공지능이지시를초과하거나대체하여범행을저지른경우, Gabriel Hallevy 는공범책임과관련된 자연적이고개연성있는결과 (natural probable consequence doctrine) 의법리에따라그배후자인인간에게고의범으로서의책임도지울수있다고한다. 30) 우리형법상으로도이와같은경우그배후자에게결과적가중범또는결과의고의범책임을묻는데지장이없다. 31) 29) 법감정상인간의생명을해친인공지능 ( 로봇 ) 이라는물리적실체그자체를파괴하여야하는가는형사책임의문제가아니다. 이는조류독감이나구제역을막기위한살처분과다름없어서형사책임문제와상관없이입법또는행정절차를통해해결할문제이다 ( 양천수, 앞의논문, 62 면 ). 30) Gabriel Hallevy, 앞의논문, pp. 16-17. 31) 피교사자가교사 ( 상해 ) 범위를넘어초과범죄 ( 살인 ) 를저지른경우교사자에게상해치사죄의교사범이인정되고 ( 대법원 2002. 10. 25. 선고 2002 도 4089 판결 ) 합동절도범중한명이체포면탈목적으로타인에게상해를가한경우나머지범인도이를예견할수있었다면그에게도강도상해죄가인정된다 ( 대법원 1984. 2. 28. 선고 83 도 3321 판결 ){ 양천수, 앞의논문, 각주 25)}. 32) 김영환, 앞의논문, 146 면. (3) 인공지능을설계 제조한자의책임주로문제되는것은인공지능의오작동이나불측의행위로인해범죄적결과가발생하였을경우일것이다. 발생한사고가인간의잘못된행동때문인지기술의실패때문인지 32) 가모호한영역으로앞으로인공지능의발전의도상에인간은이러한문제에수도없이노출될것이다. 하지만, 이경우도현재의형사법상과실책임의법리에따른해결이가능할것이다. 형법상과실책임법리는행 46 Law & Technology
이창민 - 인공지능의형사책임 위자가예견가능하고회피가능함에도불구하고충분한주의의무를다하지아니하여발생한해악과관련하여그행위자에게과실범으로서의형사책임을지운다. 이법리는인공지능의소유 사용자에게, 만일소유 사용자가주의의무를위반한사실이없다면인공지능의설계 제조자에게그대로적용될것이다. 33) 한편, 이에대해인공지능은발전할수록예측불가능하다는특성을가진다는항변이있을수있다. 특히, 인공지능연구개발의특성이이러한예측을더어렵게하는데, 가령인공지능과같은컴퓨터기반기계는다양한분야, 부문에서각자설계된단위모듈 (Module) 의결합으로구성되는특성을가진다. 그렇다보니인공지능에서어떠한문제가발생하였을때구체적으로그문제가인공지능의어느부분에서, 누가설계한부분에서발생한것인지를특정하기곤란한문제가있다. 34) 게다가, 인간의신경망을모방하여만들어진머신러닝기반인공지능은방대한양의데이터를습득하여스스로학습하면서발전하기때문에, 인공지능이어떠한결정을하였을때어떠한과정을거쳐그결론에도달하였는지설명할수없다. 또한, 앞의채팅봇테이의사례에서보듯이인공지능에투입되는데이터는얼마든지오염또는편향될수있기때문에이를습득한인공지능이어떠한방향으로의사결정을하고행동할지예측하고통제하는것은사실상불가능하다. 즉, 연산능력이향상되고자율성이강화된인공지능은설계자조차예측하지못한결과를내놓고, 인간은이러한인공지능을통제하는데더큰어려움을겪는다. 35) 하지만, 인공지능이이처럼예측불가능하다는점이전적으로배후자의책임감면을가져오는것은아니다. 호랑이를풀어놓은동물원관리자가호랑이의예측불가능성을이유로책임감면을받지않는것처럼말이다. 36) 오히려, 인공지능의이러한특성은설계 제조자에대해더강한규제를요구한다. 또한, 이러한항변은제조물과관련된생산 판매자의책임에관한법리에의해서도배척될수있다. 독일에서인정된형사상제조물책임법리에따르면, 37) 위험이내제된제품을생산 판매하는회사는제품의질적인안전조치확보를포함하여제품제조와관련된주의깊은계획, 조직과감독, 충분한테스트의무를지고, 제품이문제를야기할수있다고인정될때에는이에대한경고 공표를하여야하고, 이미시장에출하된제품에대하여도하자발생여부를추적 모니터링하고관련사례를연구하는등의제품관찰의무와나아가서는유통이후알려진위험에대한경고나회수조치등의반응을하여야할의무를부담한다. 38) 그리고, 미국에서도소비자안전과관련된법률을통해제품의생산자, 수입업자, 판매자에대해설계의무, 제조의무, 지시의무, 경고의무, 제품관찰의무들이인정되고, 39) 우리나라형법상으로도제조자에게안전성을갖춘제품을제조하여야할설계상의무, 제조물에의 33) 가령, Gabriel Hallevy 는자동비행기능이탑재된인공지능이임무완수에방해가된다고판단한조종사를죽게한사례에서, 해당인공지능의설계자는어떠한범의도없었지만발생한범죄적결과가설계자의행위의자연적이고개연성있는결과 (natural probable consequence) 인것으로볼수있다면이에대해과실책임이인정될수있다고한다 (Gabriel Hallevy, 앞의논문, p. 13). 34) Matthew U. Scherer, Regulating Artificial Intelligence System: Risk, Challenge, Competencies, and Strategies, 29 Harvard Journal of Law & Technology 2, 2016, pp. 369-373. 35) Matthew U. Scherer, 앞의논문, pp. 363-369. 36) Sabine Gless, Emily Silverman, & Thomas Weigend, 앞의논문, p. 427. 37) 리딩케이스는독일연방대법원의 피혁스프레이 (Lederspray Urteil) 이라고불리우는사건으로 (BGH37, 106=BGH NStZ 1990, 587), 해당사건에서독일연방대법원은소비자들에게신체적피해를유발한피혁스프레이생산, 판매와관련하여피해사례발생시점에따라부작위에의한과실치상죄, 부작위에의한상해죄, 작위에의한상해죄를각인정하였다.{ 김동률, 형법상제조물책임에있어기업경영진에대한보증인지위의인정근거 - 피혁스프레이판결을둘러싼독일에서의논의를중심으로 -, 한양법학, 제 25 권제 1 집 (2014), 386-387 면 }. 38) 전지연, 형법상제조물책임에서주의의무위반에대한비교법적고찰, 연세대학교법학연구, 제 18 권제 4 호 (2008), 78-79 면. 39) 전지연, 앞의논문, 91 면. Law & Technology 47
LAW & TECHNOLOGY 제 14 권제 2 호 ( 통권제 74 호 ) 2018 해발생할수있는위험을줄이기위한지시또는경고의무, 제조물유통이후의제품관찰의무가인정될수있다. 40) 이후발생할수있는사건사고에대해계속적으로모니터링을하면서필요한경우리콜등의조치를계속적으로취하여야할것이다. 42) 인공지능을설계 제조하고판매하는자는인공지능이라는위험원을사회에풀어놓고이로부터경제적이익을얻는다는점에서예측불가능한인공지능이사회에끼칠수있는해악의가능성에대하여앞서살펴본형사상제조물책임법리에따른주의의무를부담하는것으로보아야한다. 인공지능의설계 제조자는인공지능에탑재된알고리즘이최대한이를사용하는인간의안전을보장하는방향으로작동되도록설계하고테스트를하여야한다. 이에대해서는미국의 FDA가하는것과같이인공지능의안전성에대한인증제도의도입을생각해볼수있다. 41) 또한, 인공지능의설계 제조자는인공지능이유발할수있는위험에대한충분한경고와정보제공을하여야하고출시 만일, 인공지능이저지른어이없는실수와관련하여해당인공지능의설계 제조자가위와같은주의의무를다하지않았음이인정된다면해당설계 제조자에게주의의무위반을이유로한과실책임이인정될수있을것이다. 가령, 최근경남창원에서로봇자동청소기가누워있던여성의머리카락을청소하여야할것으로오인하고빨아들여소방대원이출동하는사례가있었는데, 43) 만일해당피해자가소송을제기하였다면피해자는위와같은로봇청소기의오작동이설계상결함, 제조상결함또는로봇이야기할수있는해악에대한적절한지시나경고의부재로인한것임을입증함으로써설계 제조사에대해손해배상책임을물을수있을것이다. 44) 40) 전지연, 앞의논문, 95-96 면. 41) Matthew U. Scherer, 앞의논문, p. 393 이하. 42) 알고리즘이일으킨결과에대한충분한분석과대처를위해서는미국국방부산하방위고등연구계획국 (DARPA: Department of Defense Advanced Research Projects Agency) 에서추진중인프로젝트인 설명가능한인공지능 (Explainable A.I., 이하 XAI ) 을주목하여야한다. 현재의인공지능은어떠한산출물을내놓았을때어떠한논리적과정을거쳐그러한산출물을내놓았는지설명할수없지만, XAI 는그러한산출물을내놓게된논리 (rationale) 에대하여설명할수있는머신러닝기술과이를인간이쉽게이해할수있게표현하는인터페이스를포함함으로써인간이인공지능을더신뢰하고이용할수있게하는것을목적으로한다 (https://www.darpa.mil/program/explainableartificial-intelligence; 2018. 1. 5. 방문 ). 43) 무인로봇청소기에머리카락빨려들어가 119 출동, 뉴시스, 2015. 2. 4. 자기사. (http://news.joins.com/article/17092046, 2018. 1. 4. 방문 ). 44) Sabine Gless, Emily Silverman, & Thomas Weigend, 앞의논문, pp. 428-429. 45) 공감하는능력은사람들이상호작용하는많은상황에서도덕적판단과분별있는행동을할수있게하는선결조건으로여겨진다...( 중략 )... 공감할수있는인공적인시스템은자신의행동을선택할때도덕적으로적절한반응을선택할가능성이더높을것이다 {Wendell Wallach, Colin Allen, 왜로봇의도덕인가, 노태복옮김, 메디치 (2014), 284-285 면 }. 하지만, 사실중요한것은인공지능이이러한능력을실제로얻었는지여부가아니라사람들이인공지능이이러한능력을얻었다고믿는지여부이다. 나. 강한인공지능의형사책임에대한새로운이론구성의필요성 (1) 문턱을넘어선인공지능의등장인공지능낙관론자들은강한인공지능또는이를넘어선초 ( 超 ) 지능의등장까지를예상한다. 현대대부분의공학자들은이러한낙관론을공상이라고폄하하지만이러한낙관론이공학적으로실현가능한지여부는본고의논의바깥에있다. 하지만, 이처럼어떤문턱 (threshold) 을넘어선인공지능이등장하고제한적이나마향상된사회적공감능력을가지고 45) 사회를구성하는중요한행위자중하나로인정받는경우, 인간은인공지능의형사책임인정여부에대해다시생각해보아야할필요가있다. 특히, 기존의제조물책임법리에따른설계 제조자의책임구성을과거의조건설적인과관계에따라무분별하게적용하면배후자인간의 48 Law & Technology
이창민 - 인공지능의형사책임 책임범위는무한하게넓어진다는위험이있다. 이경우인공지능을개발하고설계 제조하려는배후자인간의책임이너무커져서결국은기술발전의혁신욕구를꺾어버릴것이라는점에서이들의책임에대한제한이필요하고, 이러한제한이필요해지는경계에서인공지능에게형사책임을지울필요성에대한문제가다시불거질것이다. 인공지능의설계 제조자에게기존제조물책임법리에따른더이상의주의의무를강제할수없을정도로인공지능이더큰자율성과능력을획득하여인간과유사한정도에이르게될때, 그인공지능이이러한능력에기초한결정의결과로저지른범죄에대한책임을더이상그인공지능의설계 제조자에게지울수는없을것이다. 이경우비로소사회는설계 제조자에대한책임제한의한방책으로인공지능에게형사책임을인정할지, 인정한다면어떠한논리적구성을통해이를인정할지를결정하여야할것이다. 이에대해, 인공지능이유발한해악을형사처벌이필요한예외적위험의창출 (exceptional risk) 이아니라일상적인생활에서의정상적위험 (normal risk of daily risk), 사회적으로용인된위험 (sociall accepted risk) 으로보아이에대한형사처벌을포기하고그책임을사회에귀속시켜야할것이라는주장이있을수있으나, 46) 어떠한해악의발생에대해비난의대상을찾고자하는사람들의충동, 쌍의완성 (dyadic completion) 이라불리우는사회심리적기제는아마도그해악을사회에서수용하고자하기보다는그해악의행위자를인공지능으로지목하고책임을묻고자할것이다. 47) 그리고, 인공지능이충분히발달된사회적공감능력을가지고인간들과교감함으로써사회적인격성또는이에유사한유의미성을확보한경우, 인간은인간성의보호를위하여또는이렇게 사회화된인공지능자체의보호를위하여인공지능에대해형사법의보장기능이발휘되기를기대할수있다. 가령, 인간은반사회적일탈행위를한인공지능을폐차처분과같은행정절차를통해폐기하는것은인간을보호하는데효율적일수있지만사회적인격성또는이에유사한유의미성을가지게된인공지능에대한충분한보호가아닐수있고, 48) 행정절차또는소유권에기반한민사법적구성을바탕으로인간이인공지능을무분별하게파괴할수있게허용하는것은이와관련된인간 49) 의인간성을훼손시킬수있다는점을자각하고인공지능과관련하여형사법을적용하는것을요구할수있다는것이다. (2) 현단계의이론적한계와새로운이론적가능성시험의필요성앞서살펴본바와같이, 전통적인형법이론상에서는인공지능의형사책임을인정하는것이쉽지않을것이다. 하지만, 우리는이미과거에자연인이아닌법인에대하여민사적법인격을인정하고책임을인정한경험이있다. 현실적필요는이론의외연을확대하거나새로운이론을구 46) Sabine Gless, Emily Silverman, & Thomas Weigend, 앞의논문, pp. 430-434. 47) Daniel Wegner, Kurt Gray, 신과개와인간의마음, 최호영옮김, 추수밭, 2017, 75-79 면 ; 이책에서저자는중세유럽에서아기를죽인돼지를재판에넘겨사형판결에처한예를언급하면서, 이는당시사람들이어리석어서가아니라 쌍의완성 을통해고통을입은 수동자 (patient) 에대응하는 행위자 (agent) 를찾아도덕적책임을지우기위해서였다고주장한다. 48) 양천수, 앞의논문, 70 면 ; 인공지능 ( 로봇 ) 을현재의동물과유사한것으로본다면인공지능을학대로부터보호하여야한다는주장도가능한데, 우리나라동물보호법제 8 조제 1 항제 2 호가 동물을노상등공개된장소에서죽이거나같은종류의동물이보는앞에서죽이는행위 를금지하는것과같은맥락에서인공지능에대한공개적파괴나훼손은금지되어야한다는주장도가능할것이다. 49) 이건혁의소설 피코 에서는미래사회에서인공지능을수거하여폐기하는주인공의정신적고뇌가묘사된다 ( 이건혁외, 피코, 제 1 회한국과학문학상수상작품집, 허블, 2017). Law & Technology 49
LAW & TECHNOLOGY 제 14 권제 2 호 ( 통권제 74 호 ) 2018 성함으로써이론이변화하는현실에대응할수있게해왔다. 인공지능이라는새로운문제에있어서도인공지능이앞으로훨씬발전할것임을전제로우리는행위론을비롯하여인간중심으로짜여진전통적이론으로부터약간의양보를받아내어전통적범죄체계론의틀안에인공지능의행위를끼워맞춰나갈수도있을것이다. 인공지능이자율적이고독립적으로의사결정을하고이에기초하여외계를향해거동을한다면이를행위로보고이에대해고의, 목적과같은구성요건적요소들이충족되었다고보아줄수있을것이라는점이다. 하지만, 의사자유를전제로한타행위가능성에기초한가치비난이라는전통적책임개념에비추어볼때, 인공지능에게는책임요건이흡족하게충족되기어렵고그렇다면책임비난을기본요소로하는형벌도불가능해진다. 아래 III의 1. 에서살펴보겠지만이러한의사자유의존부는인간에있어서도의심받는다는점을고려하면인공지능이아무리발달한다하더라도인공지능에있어의사자유를손쉽게인정하기는더욱어려울것이다. 결국, 전통적책임이론은인공지능의형사책임인정과관련해해결해야할중요한장애물이다. 따라서, 강한인공지능에대해형사책임의가능성을모색하여야한다면전통적책임이론을수정하고보완하거나해체하고재구성하는방안을생각해보아야할것이다. 이를위한시도와관련하여본고가주목한것은인간중심의전통적책임이론에대한 21세기뇌과학의도전이다. III. 인간중심책임주의에대한도전 - 뇌과학과인공지능의형사책임 1. 전통적책임주의에기초한형사책임의구성 가. 책임의근거 - 인간의의사자유 - 에대한이론적대립 책임이없으면형벌없다 는책임주의원칙은인간의결정의자유 (Entscheidungfreiheit) 를논리적전제로한다. 인간이과연자기행위를지배할수있는의사자유 (Willensfreiheit) 를가졌느냐의문제와관련하여책임의근거가무엇인가에대하여과거도의적책임론과사회적책임론이대립하였다. 도의적책임론 (moralische Schule) 은책임의근거를의사자유에두고, 책임은의사자유를가진자가자유로운의사에기해적법한행위를할수있었음에도불구하고위법한행위를하였으므로행위자에게윤리적비난을가하는것이라고한다. 도의적책임론은인간의의사자유의절대성을인정한비결정론, 행위책임, 객관주의, 응보형주의의이론이다. 1952년의독일연방법원은이러한입장에있었다고볼수있는데, 금지의착오에관한판결에서독일연방법원은 형법은책임을전제하고책임은비난가능성이다. 책임이라는반가치판단을통해행위자에게는그가법에따라행위할수있음에도불구하고불법을저질렀다는점이비난된다. 책임비난의내적인근거는그가윤리적으로성숙하고그의윤리적인자기결정이병적인장애에의해영향받지않는한, 인간은자유롭고책임있는도덕적자기결정이가능하고법에따르고불법에반대하며법적당위규범에따라그의행위를적응시키고법적금지를회피할능력이있기때문에그의행위에대하여책임을지는것이다 라고판시하였다. 50) 50) BGHSt 2, 194ff. 50 Law & Technology
이창민 - 인공지능의형사책임 한편, 사회적책임론 (soziale Verantwortlichkeit) 은인간의의사자유를하나의주관적환상에불과하다고비판하며이를부정하고, 범죄는행위자의소질과환경에의하여결정되므로, 책임의근거는행위자의반가치적성격에있다고한다. 이는결정론, 성격책임, 주관주의, 목적형주의의이론이다. 하지만, 이러한전통적이고극단적인결정론과비결정론사이의철학적논쟁은어느정도극복, 통합되었다. 양이론모두일면적진리를가지고있고존재론적으로는증명될수없는의사자유의문제가규범상으로는다른의미를가질수있기때문이다. 즉, 책임은행위자의소질과환경에의하여제약된충동을통제하고사회윤리적규범과가치관념에따라결단할수있는능력이있다는것을근거로하며, 이러한의미에서의사자유는한계를가진개념이라하지않을수없다. 51) 책임능력에국한하여살펴보면우리형법제 10조, 52) 일본형법제39조, 53) 독일형법제20 조 54) 는심신장애를원인으로하거나혹은이를이유로변별 ( 통찰 ) 능력이나의사결정 ( 조종 ) 능력에하자가있는경우만을책임인정에한계가있는경우로제한하고형사법관으로하여금이에대하여만답변하게하고있는바, 형법상어디에도형법적책임을부과하기위해보통인간이가진일반적의사자유가인정되어야한다는근거를찾아볼수없다. 독일형법의입법자는결정론과비결정론, 그둘중어디에도가담하지않기위해현행형법의그런자구와구조를선택했다고하는바, 형법은의사자유에대한존재론적의문에답하지않고도규범학으로서의형법에서책임주의를구조화할수있게하였다고평가된다. 55) 의사자유의존재론적규명이반드시해결되어야만형법이존재할수있다고할필요는없다는것인바, 이는후술할인공지능의형사책임논의에서도약간의숨통을틔워주는역할을한다. 나. 우리형법에서의책임주의원칙 우리형법이나헌법상책임주의원칙을명문화한실정법적근거는찾아볼수없다. 그럼에도책임주의원칙은헌법제10조의인간의존엄과가치에관한규정, 일반적행동자유권, 법치국가원리에서도출될수있다고보는것이학계의일반적인입장이고헌법재판소도책임없는자에대한형벌부과의위헌성과관련하여 이와같이 책임없는자에게형벌을부과할수없다 는형벌에관한책임주의는형사법의기본원리로서, 헌법상법치국가의원리에내재하는원리인동시에, 국민누구나인간으로서의존엄과가치를가지고스스로의책임에따라자신의행동을결정할것을보장하고있는헌법제10 조의취지로부터도출되는원리이다 라고하였다. 56) 이는독일연방헌법재판소의입장과같다. 57) 이처럼, 책임주의원칙은헌 51) 이재상, 앞의책, 291-292 면. 52) 제 10 조 ( 심신장애인 ) 1 심신장애로인하여사물을변별할능력이없거나의사를결정할능력이없는자의행위는벌하지아니한다. 2 심신장애로인하여전항의능력이미약한자의행위는형을감경한다. 53) 우리형법과동일하게심신상실자의행위는벌하지않고, 심신미약자의행위는그형을감경한다고규정한다. 54) 범행시에병적인정신장애 ( 정신병 ), 심각한의식 ( 지각 ) 장애, 정신박약, 그밖의심각한정신적비정상성으로인해, 범행의불법을통찰 ( 이해 ) 하지못하거나 ( 불법을통찰할능력이없거나 ), 이러한이해 ( 통찰 ) 에따라행위하지못하는자 ( 행위할능력이없는자 ) 는책임이없다. 55) 김성룡, 형사법의근본원칙을다시생각함, 법학논고, 제 58 집 (2017), 355 면. 56) 헌법재판소 2007. 11. 29. 자 2005 헌가 10 결정 ( 앞에생략된판시부분은다음과같다. 만약법질서가부정적으로평가한결과가발생하였다고하더라도그러한결과의발생이어느누구의잘못에의한것도아니라면, 부정적인결과가발생하였다는이유만으로누군가에게형벌을가할수는없다. 물론결과의제거와원상회복을위해그결과발생에아무런잘못이없는개인이나집단에대해, 민사적또는행정적으로불이익을가하는것이공평의관념에비추어볼때허용되는경우도있을수있다. 그러나법질서가부정적으로평가할만한행위를하지않은자에대해서형벌을부과할수는없다. 왜냐하면형벌의본질은비난가능성인데, 비난받을만한행위를하지않은자에대한비난이정당화될수없음은자명한이치이기때문이다 ); 헌법재판소 2010. 9. 30. 자 2010 헌가 3 결정 ( 이결정은 법인의경우도자연인과마찬가지로책임주의원칙이적용된다 고판시하였다 ). 57) BVerfGE 25, 269, 285. Law & Technology 51
LAW & TECHNOLOGY 제 14 권제 2 호 ( 통권제 74 호 ) 2018 법적으로보호되고입법자도형법형성시이를존중하여야하고, 58) 그내용은 책임과형벌의균형, 행위, 행위자에대한비난가능성에부합 ( 비례 ) 하는형벌의부과 라는의미의비례와균형의원칙으로이해하는것이일반적이다. 59) 한편, 이러한책임주의원칙이인간의의사자유의존재를전제로하는가에대하여, 대법원전심재판부는 1968년책임능력과관련하여 원래형법제10 조에서말하는사물을변별한능력또는의사를결정할능력은자유의사를전제로한의사결정의능력에관한것 이라고판시한바있다. 60) 하지만, 그이후로대법원이의사자유와책임주의의관계에대해서직접적으로언급한판결은발견하기어렵다. 61) 다. 소결론 의사자유의존재에대한결정론과비결정론사이의치열한논쟁, 우리나라와독일, 일본의형법이공통적으로명문상책임의전제조건으로서의일반적의사자유를요구하지않고이를소극적요건으로만다루는점, 우리대법원이 1968년책임능력이인간의의사자유를전제로한다고설시한이후이러한표현을삼가하고있는점등을보더라도, 인간의일반적의사자유의존재를논리적기초로한전통적형사책임의도그마는이미예전처럼확고부동한기초위에서있지않음을알수있다. 형사법은인간에게일반적의사자유가존재 58) 김성돈, 뇌과학과형사책임의새로운지평, 형사법연구, 제 22 권제 4 호 ( 통권제 45 호, 2010), 133-134 면 ; BVerfGE 25, 269, 285. 59) 김성룡, 앞의논문, 347 면. 60) 대법원 1968. 4. 30. 선고 68 도 400 판결 ( 재판장방순원, 손동욱, 양희경, 나향윤대법원판사 ). 61) 김성룡, 앞의논문, 347-348 면. 62) 그밖의다양한뇌과학연구기술에대해서는탁희성외, 뇌과학의발전과형법적패러다임전환에관한연구 (I)- 뇌과학과형법의접점에관한예비적고찰 -, 한국형사정책연구원, 2011, 66-89 면참조. 하는지에대한명확한답변을내리기를회피하고이에대한구체적인입장표명없이도인간에대한근대적이해에기반하여인간의형사책임을구상하여왔던것이다. 한편, 21세기뇌과학발달은이러한책임개념의동요를더가속화시키는역할을하였는데. 뇌과학연구가제시한형사책임구조의변화가능성은미래의인공지능의형사책임을구성하려는이론적시도에큰시사점을줄수있으리라고생각되는바, 이하에서항을바꾸어살펴본다. 2. 뇌과학의도전과책임주의의동요가. 21세기뇌과학의도전 (1) 뇌과학연구의성과뇌를열어보지않고도뇌의활동을영상화하여특정기능과관련된뇌의영역을알아보는방법인기능적자기공명영상 (functional Magnetic Resonance Image, fmri) 기술의등장 62) 으로인하여인류는인간의머릿속사고의과정을시각적, 과학적으로재구성해볼수있게되었다. 다만, 이는매우제한된것으로써마치인공위성에서촬영한지구곳곳의밝기를가지고지금지구어느지역에서어떠한경제적활동이일어나고있다고추측하는것에비유될수있다. 우리는일반적으로우리가어떠한행동을하겠다고결정하면그이후에그러한의지적결정을행동으로옮긴다고생각한다. 하지만, 이러한믿음, 즉의식이운동을지배한다는전통적인믿음은 1983 년 Benjamin Libet의실험을통해균열이가기시작했다. Libet 은피험자에게움직이는시계바늘을바라보다가자신이원하는시점에버튼을눌러시계바늘을멈추게하고그과정에피험자가운동하고자하는의도를갖게된시점 ( 운동의도자각시점 ), 운동자각시점, 실제운동시점, 뇌파측정결과준비전위 (readiness potential) 52 Law & Technology
이창민 - 인공지능의형사책임 가활성화되는시점을각측정하여그선후를확인했다. Libet 의 1985 년실험결과에따르면운동의도자각시점은운동시점보다약 200밀리초 ( 이하 ms ), 운동자각시점은운동시점보다약 85ms 앞서며, 준비전위활성시점은운동의도자각시점보다도수백 ms 앞섰다. 63) Libet의 1999 년후속실험결과에따르면, 자유롭게행동을시작하기 550ms 전에두뇌에서특정한전기신호변화가관찰되고, 사람들은이러한특정전기신호가발생된 350 400ms 이후스스로행동하려는의도를인지한다. 따라서, 자발적행동은무의식적으로시작된다. 물론우리는의식적으로그행동의결과를조절할수있다. 그리고그러한행동을멈출수도있다. 결국, 자유의지는자발적인행동을시작하게하지는않지만, 행동을조절할수있도록한다고정리할수있다. 64) 가령, Wolf Singer 는제3자적관점에서뇌연구의결과자유로운의사와같은정신적동인혹은자기자신의귀책 ( 책임 ) 등을어디에서도찾을수없었다면서우리가달리행위할수있었기때문에우리가행위한바에대해책임을진다는가정은신경생물학적인관점에서보면유지될수없다고하고, 67) Wolfgang Prinz는 우리는우리가원하는것을하는것이아니라우리가하는것을원하는것 이라면서생각이행위가된다는믿음, 우리가원하면다르게행위할수있다는믿음은오해에불과하다고주장하고, 68) Gerhard Roth도의식있는자아에의하여조종된자의에의해의사가행동으로변화되는것이라는전통적생각은망상에불과하고, 69) 나대신에소망하고계획하여결단을내리는것은 나자신 이아니라뇌의 변연계 라고답한다. 70) 다소충격적인이실험결과는그이후여러과학자들에의해더세련되게고안된실험에의해검증되었는데, 2008년 5월신경과학자들의실험결과에따르면우리가결단을의식하기전약 10 초전에이미우리뇌의전전두엽과두정엽피질 (prefrontal and parietal cortex) 에서반응이나타남을확인했다고한다. 65) (2) 전통형법에대한뇌과학의도전이로써, 뇌연구자들은인간이일정한행동을하기로결심하기전에이미뇌에서준비전위가활성화되는것이라면움직이기로결정한장본인은 뇌 이며나의자유로운의사에의해움직였다고생각하는것은뇌가만든망상이거나사후적인합리화에불과하다고주장한다. 특히, 다음의독일의뇌연구자들은우리가행동하기로결심한다음움직임을시작한다는것은망상내지착각이라면서인간의부자유를우리법질서의토대로만들어책임주의를포기해야한다고주장하기까지한다. 66) 다만, 이러한뇌과학에따른주창자들이모두형법의폐지를말하는것은아니다. 이들도형법의필요성을인식하고있으며다만책임개념의수정을통해형법이응보를위한법이아니라예방과보안처분을위한법이되어야한다고한다. Roth는사회는적절한교육처분을통해구성원에게자신의행위에대한책임의식을심어주어야한다고한다. 그는범죄자는의도적으로유책적이 63) 탁희성외, 앞의책, 141-142 면. 64) 탁희성외, 앞의책, 142-143 면. 65) Chun Siong Soon, Marcel Brass, Hans-Jochen Heinze & John-Dylan Haynes, Unconscious determinants of free decisions in the human brain, nature neuroscience Vol. 11, No. 5(2008) 543-545 면. 66) 김성돈, 앞의논문, 127-128 면. 67) Wolf Singer, Ein neues Menschenbild? Gespräche über Hirnforschung, 2006, S. 13.; 김성돈, 앞의글, 128 면에서재인용. 68) Wolfgang Prinz, Freiheit oder Wissenschaft? In: K. Foppa, & M. von Cranach (Eds.), Freiheit des Entscheidens und Handelns, 1996, S. 86, 98; 김성돈, 앞의논문, 129 면에서재인용. 69) Gerhard Roth, Fühlen, Denken, Handeln, 2003, S. 553; 김성돈, 앞의논문, 128 면에서재인용. 70) 김성돈, 앞의논문, 130 면. Law & Technology 53
LAW & TECHNOLOGY 제 14 권제 2 호 ( 통권제 74 호 ) 2018 되었기때문에처벌되는것이아니라가능할경우개선되어야하기때문에처벌되는것이고개선이가능하지않을경우에는사회가그들로부터보호되어야한다고한다. 71) 나. 뇌과학의도전에대한평가 - 전통형법의방어 하지만, 과학적이해는절대적진리가아니라현재의기술수준에서제시할수있는최선의결과에바탕을둔것이기때문에, 자연과학적실험결과만으로뇌과학이자유의지를비롯한법규범적이론틀및사법시스템등에제기하는모든의문을해결할수있다고해서는안된다. 72) 우리는생물학적환원주의 (biologicalreductionism) 를경계하여야한다. 굳이, Libet 의실험설계의결함에대한비판을언급하지않더라도현재의뇌과학이의사자유의부존재를명시적으로규명한것도아니다. 73) 뇌과학신봉자들에의해구성된변연계의 71) Roth, 앞의책, S. 536-544; 김성돈, 앞의글, 131 면에서재인용. 72) 탁희성외, 앞의책, 21-22 면. 73) 김성돈, 앞의논문, 140-141 면 ; 더자세한비판소개는탁희성외, 앞의책, 461-464 면참고. 74) 탁희성외, 앞의책, 366 면. 75) 탁희성외, 앞의책, 44 면. 76) 김성돈, 앞의논문, 142 면. 77) 종전의 인간중심 형사사법에대한확대개념으로양천수는독일의사회학자 N. Luhmann 의 체계이론 을수용하여 탈인간중심 의법사상에대하여논증한다 [ 탈인간중심적사상은주체를확장하여인간적주체대신 체계 를법체계의중심으로이해하고, 행위대신 소통 으로법체계를설계한다. 또한, 자유의지는허상이라고비판하고, 인간중심적생명개념을해체한다 { 양천수, 탈인간중심적법학의가능성 - 과학기술의도전에대한행정법학의대응 -, 행정법연구, 제 46 호 (2016 년 ), 9-15 면 }]. 나아가, 양천수는탈인간중심적형사사법의기준에서강한인공지능의형사책임을긍정한다 { 탈인간중심적형사사법의기준에서보면강한인공지능에게도사회적인격성을부여할수있다. 왜냐하면, 강한인공지능은자율적으로사회에서이루어지는소통에참여할수있기때문이다. 법체계역시강한인공지능과형사책임귀속에관한소통을할수있다. 이러한근거에서강한인공지능에게도사회적인격성을인정할수있는것이다. 인공지능이나로봇에게 전자인 이라는지위를인정하는벡 (Beck) 의주장도같은맥락에서파악할수있다. 따라서강한인공지능에대해서는이론적으로범죄능력도긍정할수있고형사책임도부과할수있다. 문제는과연강한인공지능에게형사책임을부과할필요가있는가하는점이다 ( 양천수, 각주 12) 의논문, 68 면 )}. 지배를받는자를전제로하는형법은형법일수있는권한을상실하게되며, 헌법의규정을지탱하지못한다. 74) 앞서말했듯이형법학은규범학으로써자연과학과다른차원에서의사자유를규명하고책임론을구성할수있다. 행동에대한법적책임은과학적결과물이아니라법적인결론인것이다. 75) 이러한점에서그동안의사자유가존재하는지여부에대하여불명확한상태속에서도형법은오랫동안책임개념과함께일정한기능을수행해왔다. 형법은결정주의자의공격을방어하면서도결정주의적관점을어느정도반영하여상대적비결정주의적입장으로타협했다. 76) 따라서, 앞으로도이러한 인간계에서의 책임개념과책임주의원칙은당분간건재할것으로예상된다. 다. 새로운시대의도래에따른전통형법의책임주의의수정필요성 하지만, 이러한전망은몇천년간사적보복관습을저항없이수용하여온 인간 에관한것이다. 21세기들어서등장한새로운법률적문제들은과거와단절된현대의인간또는인간이아니거나인간과유사한존재를전제하고있고, 이는기존의전통적형사책임구조의부분적또는전면적수정을요구한다. 가령, 사이코패스나뇌기능이상자의범죄에대해어떻게대응하여야할지의문제, 증거의선택과판단에있어뇌과학적증거의평가에대한문제등이그러하고나아가서는인간의뇌를모방하는인공지능또는인간과결합한기계의행위가야기한범죄적결과에대한책임판단의문제까지등장한다. 이와같이전통의형법이효과적으로방어할수없는분야에있어서는종전의인간중심적형사사법에서탈 ( 脫 ) 인간의형사사법 77) 으로의수정과변화가요구되는바, 전통적책임론의구조를수정하고보완하거나아예해체하고재구성하여야할논리적필연성과현실 54 Law & Technology
이창민 - 인공지능의형사책임 적필요성이제기될것이다. 3. 뇌과학과인공지능의형사책임가. 뇌과학의교훈이가져올형법의변화상앞서, 전통적책임론과책임론의동요에관한지루한논의를한이유는뇌과학연구에따라의사자유라는낡은개념을탈피할수있다는가능성, 이에따른책임개념의수정가능성이형사법정에선인공지능의책임개념구성에시사하는바가있다고보았기때문이다. 우선뇌과학의교훈은전통적책임개념과형벌제도에대해다음과같은변화의가능성을보여줄수있다. 우선, 뇌과학연구가보여준자유의선험적존재성에대한회의는그동안형법에서자유가수행하였던역할이얼마나과도한것이었는지를알려준다. 즉, 행위당시존재하였을지도분명치않은 자유 가당연한전제가되면서, 모든범죄자들은그가책임무능력자가아닌한정상인으로가정되고타행위가능성에기초하여책임비난의대상이되어기계적으로형벌을받아온것이다. 각행위자에대하여고려될만한유전적특징이나신경과학적장애상태등의구체적이고개별적특성은전혀고려되지않았다. 하지만, 자유의존재에대한확신에의심을품고그동안자유의과도한역할수행에대해의문을가지게된현대의형법에서는행위당시에존재하였을것으로가정된자유 ( 타행위가능성 ) 에대해과중한역할을부여하기보다는뇌과학적사후진단방법을통해정신물리적존재로서의행위자의특성과환경을고려하여 처벌보다는치료, 응보보다는개선 에무게를실을수있도록책임과형벌을정하는패러다임의변화를도모할수있게될것이다. 78) 이러한배경하에서구상하게될책임개념은필연적으로규범적이면서동시에경험과학적인이중성을가져야한다. 즉, 책임개념을구상할때에도규칙에만주목할것이아니라규칙이적용되는자들의현실적인능력과요구에대해서도시선을던지지않으면안된다. 이에따르면타행위가능성이라는허구적요소를비워낸빈자리에채워넣어야할실질내용은범죄원인에대한경험과학적사후진단과정에서밝혀진요소가되고, 경험과학을기초로삼아범죄및범죄자에대해해명하는일이중요해진다. 79) 형벌선고단계에서부터범죄에대한과학적, 신경범죄학적해명이있어야하고, 이렇게되어야형벌집행단계에서부터적절한재사회화전략이만들어질수있다. 경험적으로기초지워진사후진단결과에따라범죄원인이된조건화된결정성 ( 사이코패스와같은반사회적인격성 ) 을제거하기위한치료적조치가수반된자유박탈적보안처분이정당화될수있다. 80) 나. 뇌과학이인공지능의형사책임론에줄수있는것들 (1) 의사자유가인정되어야한다는강박에서벗어남이러한뇌과학에기초한책임이론 ( 이하논의의편의상 뇌과학책임이론 이라고하자 ) 을인공지능의형사책임에도입해보면, 우선인공지능이인간에비견하는자율성, 의사자유를가지지못하므로인공지능에대해서는형사책임을물을수없다거나인공지능에게형사책임을묻기위해서는이러한것이갖추어져야한다는강박에서벗어날수있다. 뇌과학책임이론은인공지능일반에게의사자유를전제한타행위가능성이라는전제조건을요구하지않기때문이다. 78) 김성돈, 앞의논문, 145 면. 79) 김성돈, 앞의논문, 146 면. 80) 김성돈, 앞의논문, 146-147 면. Law & Technology 55
LAW & TECHNOLOGY 제 14 권제 2 호 ( 통권제 74 호 ) 2018 (2) 각인공지능의특성과환경을고려한책임판단뇌과학책임이론은인공지능에게공통된잣대를들이대지않는다. 인공지능이모두일반적이고공통적인의사자유를가지고있을것이라거나그래야한다는허구적가정을하지않고인공지능이모두동등한수준의타행위가능성의속박하에서의사결정을하고행동한다고억지를부리지않기때문이다. 즉, 각인공지능의수준에맞게각인공지능의특성과환경을고려할수있다. 가령, 전장 ( 戰場 ) 이나방사능유출현장에서일하는인공지능과집에서노인을돌보는인공지능사이, 수많은인간의생명과신체를책임져야하는고도의교통관리시스템인공지능과가내에서전등을켜고끄는정도의단순한일을하는인공지능사이에는각각의특수성과수준에맞게서로다른기준을적용하여해당인공지능의책임을평가할것이다. (3) 선입견과반감을걷어낸책임판단 전통적형법이론은인간의의사자유와타행위가능성을가정하기때문에위법한행위를한행위자에대하여우선부정적낙인을찍고그행위자에게예외적으로책임감면사유 ( 책임능력존부, 기타정상관계등 ) 가있는지를따지므로이과정에서뇌과학적인특별한사정들은무시되기일쑤지만, 81) 뇌과학책임이론에서는이러한선입견없이모든사정을고려하여행위자가그러한행위에이르게된이유를사후적, 경험과학적으로분석하 81) 반사회적인격장애, 사이코패스와같은인격적결함에따른범죄성향은오히려그행위자에대한비난을가중하는요소로작용한다. 82) 김영환, 앞의논문, 148-149 면. 83) 안성조는형벌의진지성과존엄성에대한기존의주장이 형법상책임원칙은 인간 의의사자유에기초한결정을기준으로하는실체적책임개념에기초하기때문에형법상책임은오직 인간 에게만인정되어야한다는 동어반복적논변에빠져있음을지적하고 ( 안성조, 앞의논문, 97 면 ), 형벌제도는인간의유전자와문화가공진화한결과물로서의사적보복관습에서비롯된지극히인간종 - 편향적인제도이기때문에진지성과존엄성이인정되는것이라고한다 (106-112 면 ). 고, 분석이완료될때까지성급한낙인찍기를자제한다. 인공지능이범죄적결과에나아간경우, 인간종-중심 ( 편향 ) 적으로구성되어온형법체계는이러한비인간행위자에대하여큰반감을가지고선입견에싸여성급한판단에나아갈수있다. 과거, 중세재판에서단지사회적해악또는재난의책임을인간외적인대상에게돌림으로써사회적평안을얻기위한목적으로무고한동물이나심지어무생물에게까지죄를물었던사례 82) 를생각해보면인공지능에대한책임판단과정에서도이러한반감이작용할것이라고예상하는것은전혀이상한일이아니다. 따라서, 이러한선입견없이범죄적행위에이른이유를경험과학적으로규명하여야함을핵심으로하는뇌과학책임이론은인공지능의형사책임을논할때매우유용한이론적배경이되어줄것이다. (4) 형벌의진지성, 존엄성의보존앞서, 인공지능에게전통적형사책임을고수하여형벌을가하는경우형벌이가지는진지성과존엄성이무너진다는주장을소개한바있다. 이는형벌제도가존엄한존재인인간에게만부과할수있는성질의것으로사회적, 진화론적으로인정되어왔기때문이다. 83) 그렇다면, 이러한형벌제도의인간적배경을무시하고인간이아닌기계에게어떠한해악을형벌이라는이름으로가하는것은사회적으로아무런실효가없으며오히려형벌을우스꽝스럽게만드는, 형벌의진지성을무너뜨리는일이라는것이다. 하지만, 뇌과학책임이론은해당인공지능을비난하고그로인한보복, 응보를달성하기위한것이아니라치료, 개선을목적으로하는것으로써그대상이반드시인간에한정될필요가없기때문에이러한형벌의진지성과존엄성에대한위협의우려가감소된다. 뇌과학책임이론하에서인공지능에게형사책임을묻는방안을구상할때여기에서의형사책임은인간 56 Law & Technology
이창민 - 인공지능의형사책임 종-편향의기존형사책임과는다른근거와실질을가지는책임 84) 이다. (5) 형벌의실효성확보그리고, 이러한형벌제도의인간종-편향적진지함과존엄성을생각할때우리는인공지능의형사책임에자연인의형사책임에비견할만한이론적정당성을공고히하려고애쓸필요가없고오히려그실효성에주목하는편이바람직한데 85) 뇌과학책임이론에따른인공지능에대한보안처분적형벌은응보, 보복을목적으로하는기성의형벌제도에비하여더실효성이높다. 인공지능은대량으로생산되어보급되고모듈조합방식으로변화, 발전해나갈것이고인공지능은네트워크로연결되어거대한확장성을지닐것이라는점에서인공지능일부에서발생한형사책임문제에대한규명과이를치료, 개선하기위한조치는다른인공지능에영향을미칠것이고이는인공지능을이용하는전사회의복리증진에기여할것이기때문이다. 86) 이를위해각인공지능은블랙박스와같이개개의의사결정과관련된이력정보를보관하고이를집중된네트워크에보고하도록하고사회적으로이를검증, 관리하는방안이고려될수있을것이다. (6) 인공지능에대한형벌의수단의고안한편, 인공지능에대한책임비난으로써의형벌은전통형법에서와는전혀다른수단을통해이루어져야할것이다. 즉, 인공지능의오류가능성에대한개선, 예방으로써문제된코드나설계또는인공지능자체의사용을중지하고반가치적의사결정의원인이된부분의교정, 개선을명하되, 개선이불가하거나현저히곤란할경우해당코드, 설계, 인공지능의삭제를명하는동시에향후동일, 동종, 유사의코드, 설계, 인공지능의사용을금지하고이금지를대세적으로공표하여금지의무를강제하는형식이다. 이는전통형법에서의사 형이나재사회화를위한자유형에비견될수있을것인데, 이러한의무는일차적으로는인공지능을설계 제조하는배후자인간에게부과된다고인식되지만강한인공지능의세계에서는이처럼금지된코드나설계가사용되는것을인공지능이스스로감지하여그사용을중단, 거부, 교정하는것도가능할것이다. 그리고, 개선, 교정대상인인공지능에대해서는형벌의비례성요구로부터비교적자유로운형벌수단의고안이가능하다. 가령, 25센트짜리과자를훔쳐먹은도둑의도벽을없애기위해서 10 년의수감과재사회화프로그램수강을명령한다면 87) 지나친것이아닌가생각될수있지만, 그대상자가인공지능이라면이러한거부감은생기지않을것이다. 시간이나장소적구속에아무런의미를부여하지못하는인공지능에게수감과같은자유형이아무런의미를가질수없을뿐아니라오랜시간과비용을들여서라도인공지능으로 84) 인공물을행위자로인정하면이러한인공물의설계자와사용자에게인공물사용에관한도덕적책임을면제시켜줄것처럼보이게된다는우려가제기된다. 이에이러한우려를불식시키고자 Floridi 와 Sanders 는 도덕적책임 (responsibility) 과인공물의 도덕적책무 (accountability) 를구별하여야한다고주장한다. 이들은인공물에책무성을부여하고인공행위자가바람직하지못한결과를내놓으면이용자는그행위자를서비스에서배제하거나그것을파괴하는방법으로행위자의책무성을따질수있다고한다 (Wendell Wallach, Colin Allen, 앞의책, 346 면 ; Luciano Floridi & J. W. Sanders, On the Morality of Artificial Agents, Minds and Machine, Vol. 14 Issue 3, 2004, pp. 349-379). 이들의개념을차용하면본고에서인공지능에게인정될수있는형사책임은인공물의 책무 라고표현될수있다. 85) 안성조, 앞의논문, 113 면. 86) 가령, 자율주행차가보편화된세상에서는각자의자율주행차가네트워크로연결되어거래한하나의교통시스템을이룰것이고, 자율주행차이용자는한대의자율주행차를이용하는것이아니라자율주행차전부가연결된거대한교통시스템의한단위를이용하는것이될것이다. 이과정에서하나의자율주행차가범죄적결과를야기하였을때그원인을규명하고이를교정하는방향으로책임을묻는다면이는네트워크전체에서공유되어모든자율주행차에서향후동일한범죄적결과가발생하는것을예방하는효과를낳을것이다. 이는진정한의미에서형벌의예방적효과를달성하는것이라할수있다. 87) 탁희성외, 앞의책, 369 면. Law & Technology 57
LAW & TECHNOLOGY 제 14 권제 2 호 ( 통권제 74 호 ) 2018 부터그러한범죄적오류를일으킬수있는요소를규명하여제거할수있다면이는그인공지능뿐아니라다른인공지능그리고사회에도긍정적이기때문이다. 그내용이인간의그것과충돌한다면이는결국인간을위협할것이기때문이다. 이는인공지능의윤리인동시에결국인공지능설계자의공학윤리와연결될것이다. 한편, 인공지능의형사책임에서가장쉽게인정할수있는것은재산형이다. 각인공지능은각자의계좌를가지면서각자의경제활동의대가중일부를보유할수있게되어야하며그한도내에서민사배상은물론벌금도납부할수있다. 그범위내에서는각인공지능에게권리주체성도인정되어야할것이다. 88) 네트워크로연결된인공지능은공동의계좌, 기금을조성할수도있고벌금납부를보험사고로하고인공지능을피보험자로하는보험도생겨날수있을것이다. 사실, 이는자연인이아닌법인에게재산형을과하여벌금을징수하는현대형법에서는새로운발상도아니다. (7) 인공지능에대한교육한편, 뇌과학자들도인정한것처럼새로이정립된책임개념하에서책임의귀속을결정하기위해서는인공지능에대한사회적책임성교육이선행되어야한다. 사회에영향을미치는행위가의사자유에의한것이든뇌에의한것이든알고리즘에의한것이든차이없이사회적으로불법으로평가받는다는사실이받아들여지고있어야그행위자에게형법의구속을납득시킬수있다. 이때교육되어야하는것은인간의법과도덕이다. 이규칙은변형이나수정없이인공지능에게교육, 숙지되도록하여야한다. 이러한규칙이인공지능내에서수정되어인공지능만의도덕이만들어지고 IV. 결론 약인공지능은인간의도구일뿐이다. 이들에게형사책임을물어야하지않을까고민할필요는없다. 인공지능을설계하고사용하는사람들이조심하여야할것이다. 하지만, 강인공지능이등장하고이인공지능이인간이예측하지못한방식으로진화, 발달한다면형법학은다소긴장하여야할지도모른다. 어느경계선너머에서는도저히그인공지능을설계하고사용하는사람들에게책임을물을수없는단계가올수있는것이다. 이때, 우리가인공지능에게형사책임을물을수있는형법이론을구성한다면가장크게는전통적책임개념의수정을시도해야할것이고이때뇌과학의전통적책임개념에대한도전은충분히고려할만한시사점을줄수있다. 이로써, 책임개념을인공지능에맞게수정하고인공지능에맞는형벌제도를고안한다면인간사회와인공지능을서로를상호보호하는형법을재구성해낼수있다. 이를통해인공지능은중세의마녀처럼무작위로공격받지도않을것이고미래를알지못하는세상속에서무방비상태로방치되지도않을것이고, 인간의행복과복지를위한동반자로서인간과공존할수있을것이다. 88) 이중기, 인공지능을가진로봇의법적취급, 홍익법학, 제 17 권제 3 호 (2016), 22 면. 58 Law & Technology
이창민 - 인공지능의형사책임 <ABSTRACT> Criminal Liability of Artificial Intelligence Lee Chang-Min There are theories for and against criminal liability of artificial intelligence. But, at the time of weak AI, criminal liability of AI is not accepted. The user who gives AI a criminal order should be responsible for the crime committed by AI as an intentional offense. For the results from AI s malfunction or unexpected action, AI designer/ manufacturer should be responsible as negligence. To exempted from responsibility of negligence, designer/manufacturer should have exert one s own care under product liability principle to evade harm from AI. But, if strong AI commits a crime, we have to rethink the possibility of criminal liability of AI. For this trial, we have to consider the possibility of change of the concept of a traditional responsibility which is based on the blame under the precondition of human s free will. But, at 21st century a brain science study found that a brain activity(readiness potential), not a human mind, makes human act, and suggested the change of the traditional concept of human centered responsibility. To sum up the idea, a fictional hypothesis of the existence of human s free will should be evacuated and filled up with a brain scientific ex-post study of responsibility and punishment considering the features and environment of the agent. This new idea could give a hint to the building of criminal liability of AI, not human. Under this new responsibility theory suggested by a brain science, AI without free will could take criminal liability and a new and effective punishment for AI, which set a goal of cure and enhancement rather than penalty and retribution, could be designed. Meanwhile, by protecting the dignity of a punishment system for human under a traditional human centered responsibility theory, human and AI could co-exist under a criminal law system. 주제어 (Key Words): 인공지능 (artificial intelligence), 형사책임 (criminal liability), 로봇형법 (criminal law for robot), 의사자유 (free will), 책임 (responsibility), 비난가능성 (possibility of blame), 제조물책임 (product liability), 뇌과학 (brain science), 준비전위 (readiness potential), 형벌제도의존엄성 (the dignity of a punishment system) Law & Technology 59