<31312E323820C3D6C1BEBAB8B0EDBCAD5FB9DFC7A5C8B8BFEB28C0FCB7ABBFACB1B8BDC720B9DABCD2BFB5292D6A322D20B3AAB8F020B0CBC5E42E687770>

Transcription

1 연구보고 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 박소영외

2

3 제출문 한국과학기술기획평가원원장귀하 본보고서를 인공지능시대에서의필연적법적분쟁사례분석을통한 인공지능발전혁신토대마련연구 의최종보고서로제출합니다 연구기관명 : 한국과학기술기획평가원연구책임자 : 박소영연구원 : 손석호, 주혜정, 고윤미, 김상일, 조길수, 홍슬기, 이인혜

4

5 목차 목차 제 1 장서론 1 1. 연구의배경및필요성 3 2. 연구의목표및주요내용 5 제 2 장인공지능개요및개발현황 7 1. 인공지능개념 9 2. 인공지능의발전 인공지능개발집중현황 12 가. 정부 13 나. 기업 인공지능기술개발동향 14 가. 자연언어학습및인식기술동향 15 나. 이미지학습및인식기술동향 16 다. 비디오학습및인식기술동향 18 라. 인공지능탑재서비스용로봇관련기술동향 23 제 3 장책임법적관점에서의인공지능특징 개요 : 책임법적관점에서의검토필요성 ( 법적특징 ) 법인격결여 ( 기술적특징 ) 동작의불확실성및설명불가능성 34 가. 데이터기반판단으로인한동작불확실성내재 34 나. 인공지능판단의근거및과정파악곤란 36 i

6 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 4. ( 운영적특징 ) 알고리즘의불투명성 37 가. 기업기밀성, 공개로인한왜곡방지등으로인한불투명성한계 37 나. 입증책임전환등불투명성에대한보완수단이없는한피해원인증명곤란 소결 38 제 4 장관련법제및연구동향 국내 43 가. 관련법률 43 나. 연구및정책 해외 52 가. 정부 52 나. 민간 소결 62 제 5 장주요분야별책임법제쟁점진단 개요 자율주행차 65 가. 자율주행차로인한운전주체변화 65 나. 자율주행차의법적정의 68 다. 현재까지의자율주행차사고사례 70 라. 현행법상자동차사고관련민사 형사주요책임유형 73 마. 자율주행차등장으로인한책임법적쟁점 76 바. 자율주행차책임법제변화의움직임 의료 80 가. 의료행위에있어서인공지능활용증대 80 나. 현행법상의료사고관련민사 형사주요책임유형 81 다. 인공지능을활용한의료행위에있어서책임법제쟁점 84 ii

7 목차 4. 비서 88 가. 인공지능비서증대로인한사고발생 88 나. 현행법상주문오류에대한민사처리방안 89 다. 인공지능비서사고에서의책임법제쟁점 핀테크 93 가. 로보어드바이저등기술기반금융활동증가 93 나. 현행법상금융사고에대한민사주요책임유형 94 다. 인공지능금융사고에서의책임법제쟁점 96 제 6 장분석결과및정책제언 분석결과 정책제언 102 가. 인공지능시대의책임법제설계를위한범국가적연구체계수립 102 나. 시급성 상용화정도등을고려한연구우선순위수립 103 다. 데이터수집및알고리즘단계에서의준수기준및모니터링체계마련 104 라. 국제적논의과정에의적극적참여 104 참고문헌 105 iii

8

9 목차 표목차 < 표 2-1> 약한인공지능과강한인공지능 9 < 표 2-2> 인공지능의 4가지목표분류 10 < 표 2-3> 주요 IT 기업의인공지능전문가수및인력확보를위한투자액 [ 상위 5개사 ] 14 < 표 2-4> 국내인공지능기술현황 20 < 표 2-5> 국외인공지능기술현황 22 < 표 3-1> 인공지능종류별발생가능한사건예시 27 < 표 3-2> 민사상권리 의무주체 30 < 표 3-3> 인공지능 4단계 31 < 표 3-4> 민사상능력의종류및내용 31 < 표 4-1> 지능형로봇윤리헌장 ( 초안 ) 44 < 표 4-2> 로봇기본법( 안 ) 내손해배상책임및이용자의권익보호관련조항 47 < 표 4-3> 로봇기본법( 안 ) 내로봇설계자 제조자 사용자의의무조항 48 < 표 4-4> 지능정보사회추진단의설치및운영에관한규정 제2 조및제3조 51 < 표 4-5> Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics 주요내용 54 < 표 4-6> Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics 내 책임 관련내용발췌 54 < 표 4-7> 미국기계학습인공지능소위원회의 RFI 58 < 표 4-8> 미국기계학습인공지능소위원회에서도출한 7개전략 58 < 표 4-9> 인공지능이미치는사회영향에대한연구중인주요민간단체 62 < 표 5-1> 자율주행단계 66 < 표 5-2> 미국 4개주의자율주행차정의분석 68 v

10 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 < 표 5-3> 자율주행차사고주요실사례 72 < 표 5-4> 현행법상자동차사고관련민사 형사책임유형및주체 75 < 표 5-5> 현행법상의료사고관련민사 형사책임유형및주체 84 < 표 5-6> 인공지능비서사고사례 88 < 표 5-7> 인공지능비서의주문오류시계약무효 취소의근거및요건 90 < 표 5-8> 현행법상금융사고관련주요민사책임유형및주체 96 < 표 6-1> 분야별인공지능사고에서의책임법제주요쟁점 101 < 표 6-2> 시급성에따른책임법제쟁점분류예시 103 vi

11 목차 그림목차 [ 그림 1-1] 연구추진체계 5 [ 그림 2-1] 인공지능과머신러닝, 딥러닝 12 [ 그림 2-2] 대화모델연구예 15 [ 그림 2-3] 2D 이미지한장으로부터행동을인식하는연구예 17 [ 그림 2-4] 이미지에서객체와그객체의위치를찾는연구예 17 [ 그림 2-5] 비디오관련해외연구현황 19 [ 그림 3-1] 인공지능이가져올위험에대하여고민해야할부문 28 [ 그림 3-2] 인공지능의기술적한계예시 35 [ 그림 3-3] 인공지능의수많은판단경우의수 37 [ 그림 4-1] 지능정보사회중장기종합대책 전략과제 50 [ 그림 4-2] 지능정보사회중장기종합대책 전략과제의정부역할 시급성분석 51 [ 그림 5-1] 전면적인자율주행차를구입하게될이유 ( 최대 3개선택 ) 68 [ 그림 5-2] 의료분야에서의인지컴퓨팅과인공지능시스템활용시장현황및전망 ( ) 81 [ 그림 5-3] 세계핀테크시장의성장현황 ( ) 93 vii

12

13 ` 제 1 장서론 1

14

15 제 1 장서론 제 1 장서론 1. 연구의배경및필요성 인공지능의발달속도가예상보다빠르게진행되어인공지능기술이일상에스며들고있음 - 딥마인드의 알파고제로 발표 1) 는특정영역의인간활동을자동화하는수준을넘어선 범용인공지능 의등장가능성을보여줌 ('17.10) 알파고제로 는기보 교과서등어떠한정보의입력없이강화학습만을통해기존알파고들을 72 시간만에추월 - 운전, 물류처리, 일정관리, 진료, 심지어재판등많은영역에서인공지능기술이사용되며다양한변화를가져오고있음 미국위스콘신주대법원은인공지능이분석한자료를재범가능성판단의근거로활용하여피고인에게중형을선고한지방법원의원심판결을받아들임 ('17. 5) 정부및기업의집중적인연구분위기속에서인공지능시장이더욱급격히도래할것으로예상됨 - (IDC) 인지 인공지능솔루션시장이 '16년부터 '20년까지연평균 55.1% 씩성장할것으로전망함 (80억달러 ('16) 470억달러 ('20)) ('16.10) 2) - (McKinsey) 맥킨지는 '25년지식작업자동기술은최대 6조 7000억달러, 로봇기술은최대 4조 5000억달러, 자율운행자동차기술은최대 1조 9000억달러의경제적효과를창출할것이라고전망함 ('13.5) 3) 인공지능기술이도입된분야에서기술오류등으로인한사고가발생하고있음 - ( 자율주행차 ) 테슬라모델 S 가자율주행기능인오토파일럿으로동작하던중빛 1) David Silver 외 16 인 (2017), Mastering the game of Go without human knowledge, Nature Vol ) IDC (2016), Worldwide Semiannual Cognitive/Artificial Intelligence Systems Spending Guide from International Data Corporation. 3) Mckinsey Global Institute (2013), Disruptive technologies: Advances that will transform life, business, and the global economy. 3

16 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 나는하늘때문에좌회전하던트레일러를인식하지못하고충돌하여탑승자가사망함 ('16.5.7) - ( 채팅로봇 ) 마이크로소프트인공지능채팅봇테이는일부사용자들이입력한욕설, 인종 성차별내용을학습하여발언함으로써선보인지 16시간만에운영이중단됨 (' ) - ( 경비로봇 ) 미국캘리포니아주스탠퍼드쇼핑몰에배치된경비로봇이생후 16개월된아이를공격하여아이의다리에찰과상을입힘 ('16.7.7) 인공지능기술발전으로자동화된알고리즘적의사결정주체가등장하면서기존법체계에중요한도전이제기됨 - 기존법체계에서는법인격을자연인, 법인에게만부여하고있으며, 권리능력, 의사능력, 행위능력, 책임능력등구체적인능력에필요한조건에해당되는자연인 법인에게만해당능력을인정하고있음 - 급격하게발전하는인공지능기술은의사결정의주체를확장하나, 인공지능이잘못된의사결정을하였다고하더라도인공지능에게는법인격이없기때문에의사결정의주체에게책임을물을수없음 이러한문제앞에서인공지능에대한신뢰형성을위해서는기존체계와의공존을위한시스템구축이필요함 - 기술의발전과정은기술과사회적요인들간지속적상호작용으로 (Hughes, 1993), 기술과사회구조는서로를조건지우면서진화하는관계를드러냄 (Warschauer, 2003). 즉, 새로운혁신기술에맞는사회적변화가이뤄지지않으면혁신기술의개발 확산 활용은저해됨 ( 한세억, 2016) - 인공지능이사회전반에미칠영향에대비하기위해서는기술적인노력뿐만아니라인공지능시대의위험성이나불명확성을최소화하려는시스템마련노력이필수적임 - 미국, 유럽, 일본등에서인공지능으로인하여발생하는프라이버시, 일자리, 양극화, 데이터권력화, 규제문제등에대한연구가진행되고있음 세계적석학들모두윤리, 규제등인공지능관련논의가바로지금부터필요하다고주장 (`17, 세계지식포럼 ) 4

17 제 1 장서론 그준비의일환으로인공지능시대에맞는책임법제검토가필요함 - 책임법제는단순히사후사고처리에만적용되는것이아니라기술설계방향및기술개발비용범위등에영향을미치므로기술개발과상용화의선결과제임 - 인공지능발전과정중에서필연적으로발생할법적분쟁에대한책임소재가불명확하면, 기술에대한규제가개선되지않는등의이유로신기술운용이어렵고, 개발자 판매자 소비자모두에게법적위험이증가하여신기술개발 적용 사용에대한혁신의욕이저해됨 인공지능선도국가토대마련을위해서는인공지능분쟁사례에대한법적쟁점을분석함으로써현재의대응상황을파악하고앞으로의정책추진방향을도출하여야함 2. 연구의목표및주요내용 본연구는인공지능관련사고에대한법적쟁점을도출하고분석함으로써현황을살펴보고앞으로의정책방향및추진과제를도출함 - 인공지능기술개요및개발현황 - 법적책임을어렵게하는인공지능의특징분석 - 주요국연구현황및국내법제현황파악 - 인공지능발전단계별법적주체로서의능력검토 - 인공지능사고에서의법적쟁점및분쟁시해결방안심층검토 - 향후정책방향제시 KISTEP 문헌, 사이트, 프로그램등을통한관련법령및사례등자료수집 전문가회의및원고등을통한사례연구및법적주체성검토 기술전문가등을통한인공지능기술발전수준및가능성분석 관련세미나, 총회참석등을통한최근동향파악 [ 그림 1-1] 연구추진체계 5

18

19 제 2 장인공지능개요및개발현황 7

20

21 제 2 장인공지능개요및개발현황 제 2 장인공지능개요및개발현황 1. 인공지능개념 인공지능에대하여합의된정의는없으나, 일반적으로인간의지능 지식활동과유사한사고 행동을하는인공시스템으로받아들이고있음 - 최초로인공지능용어가등장한것은 1956년다트머스회의로, 존메카시가인공지능에대하여 " 기계를인간행동의지식에서와같이행동하게만드는것 " 으로정의하였음 인공지능은대체로강한인공지능과약한인공지능으로나누어서술되고있 음 4) - 약한인공지능 (Weak AI): 자의식없는인공지능을말함. 주로특정분야에특화된형태로개발되어인간의한계를보완하고생산성을높이기위해활용됨. 현재까지개발된인공지능은대부분약한인공지능에해당됨 - 강한인공지능 (Strong AI): 사람처럼자유로운사고가가능한자아를지님 < 표 2-1> 약한인공지능과강한인공지능 약한인공지능 (Weak AI) - 특정문제의해결 ( 인간두뇌의특정한일부기능을모사하여특정목적에유용한제한된지능 ) - 데이터패턴의해독 강한인공지능 (Strong AI) - 사람처럼사고 ( 인간두뇌의대체가능한수준으로다목적과제수행가능한범용적지능 ) - 빅데이터기반의분석및자체적딥러닝 인공지능개념은그목표에따라 4 가지로분류될수있음 4) 원동규, 이상필 (2016), 인공지능과제 4 차산업혁명의함의, Industrial Engineering Magazine, 제 23 권제 2 호, 대한산업공학회. 9

22 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 < 표 2-2> 인공지능의 4 가지목표분류 인간의사고작용 (thinking) 인간과같은사고시스템합리적사고시스템 행동 (behavior) 인간과같은행동시스템합리적행동시스템 이론적 (ideal) 합리적 (rational) [ 자료 ] 조영임 (2012) 2. 인공지능의발전 2010년대전후의급속성장 인공지능기술은기술의한계성으로인해침체기와발전기를거듭하다가 2010 년전후로급속도로성장하고있음 1 다양한인터넷활동이많아지면서빅데이터생성, 2 매우강력해진컴퓨터성능으로인해기계학습또한획기적으로성능향상, 3 상기생성된빅데이터가기계학습의재료로사용, 이삼박자가이뤄지며인공지능이급격히발전하였음 년이후신속하고강력한병렬처리성능을제공하는 GPU의도입으로더욱가속화됨 머신러닝, 딥러닝기술에기반한인공지능발전 5) 인공지능은머신러닝, 딥러닝기술에기반하여발전하고있음 머신러닝은기본적으로알고리즘을이용해데이터를분석하고, 분석을통해학습하며, 학습한내용을기반으로판단이나예측을함. 궁극적으로는의사결정기준에대한구체적인지침을소프트웨어에직접코딩해넣는것이아닌, 대량의데이터와알고리즘을통해컴퓨터그자체를 학습 시켜작업수행방법을익히는것을목표로함 머신러닝은 3 가지접근법으로연구가진행됨. 첫번째는신경모형패러다임으 5) 엔디비아 (2016), 인공지능과머신러닝, 딥러닝의차이점을알아보자 ( 10

23 제 2 장인공지능개요및개발현황 로퍼셉티론에서출발해서지금은딥러닝으로이어지고있음. 두번째는심볼개념학습패러다임으로숫자나통계이론대신논리학이나그래프구조를사용함. 세번째는현대지식의집약적패러다임으로, 백지상태에서학습을시작하는신경모형을지양하고이미학습된지식은재활용하는방식임 6) 현재머신러닝은컴퓨터비전등의분야에서큰성과를이뤄내고있으나, 구체적인지침이아니더라도인공지능을구현하는과정전반에일정량의코딩작업이수반된다는한계점에봉착함 딥러닝은인공신경망에서발전한형태의인공지능으로, 뇌의뉴런과유사한정보입출력계층을활용해데이터를학습함. 생물의신경계를모방한인공신경망 (artificial neural network) 의하나로서, 기존의인공신경망모델이얇은층의뉴런모델들의연결로구성되어있다면딥러닝은뉴런모델의층을깊게쌓아올림으로써신경망의학습능력을높이는모델임 여러층으로이루어진인공신경망으로서의딥러닝의개념은 1970년대에제안되었으나, 학습계산의복잡성등으로인해굉장히많은양의연산을필요로하는탓에정체되어있다가알고리즘병렬화성공및병렬연산에최적화된 GPU의등장은신경망의연산속도를획기적으로가속하며딥러닝기술이발전시킴 딥러닝에서사용하는신경망네트워크는 학습 과정에서수많은오답을낼가능성이커서, 많은학습이필요함. 현재는딥러닝으로훈련된시스템의이미지인식능력은이미인간을앞서고있음 6) 김의중 (2016), 인공지능, 머신러닝, 딥러닝입문 11

24 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 [ 자료 ] 엔디비아 (2016) [ 그림 2-1] 인공지능과머신러닝, 딥러닝 3. 인공지능개발집중현황 주요국정부와주요민간기업은미래에서의인공지능의중요성을경각하고인공지능기술에많은투자진행 정부및기업의집중적인연구분위기속에서인공지능시장의급격한성장이예상됨 - (IDC) 인지 인공지능솔루션시장이 '16년부터 '20년까지연평균 55.1% 씩성장할것으로전망함 (80억달러 ('16) 470억달러 ('20)) ('16.10) 7) - (McKinsey) 맥킨지는 '25년지식작업자동기술은최대 6조 7000억달러, 로봇기술은최대 4조 5000억달러, 자율운행자동차기술은최대 1조 9000억달러의경제적효과를창출할것이라고전망함 ('13.5) 8) 7) IDC (2016), Worldwide Semiannual Cognitive/Artificial Intelligence Systems Spending Guide from International Data Corporation. 8) Mckinsey Global Institute (2013), Disruptive technologies: Advances that will transform life, business, and the global economy. 12

25 제 2 장인공지능개요및개발현황 가. 정부 주요국정부의인공지능연구집중 미국, 유럽등주요국정부는인공지능을미래성장동력으로삼고관련프로젝트에큰규모의연구비를배분 ( 미국 ) 신미국혁신전략에서첨단제조, 첨단자동차, 뇌과학등을전략분야로제시하고있으며, 그중 브레인이니셔티브프로젝트 에 10년간 30억달러를책정함 ('13~'22) ( 유럽 ) 7년간약 800억유로를투자하는 Horizon 2020 ('14~'20) 을통해 AI, 로봇등을연구하고있으며, 그중미래신흥기술 (FET) 분야플래그십프로그램으로채택된인공신경망을개발하는 휴먼브레인프로젝트 에는 10년간 10억유로를할당함 ('13~'22) ( 일본 ) '16년을인공지능연구개발지원의원년으로삼고, 10년간 1,000억엔투자계획을밝히고, AI IoT 보안통합프로젝트인 AIP(Advanced Integrated Intelligence Platform) 등을추진중임 ( 중국 ) 인공지능시장을 '18년까지 18조원규모로육성할계획이며, 이를위해 과학기술혁신 2030 의기존 15개프로젝트에인공지능을추가하는 15+1 방안을검토중임 ('17.2) 나. 기업 주요글로벌 IT 기업의잇따른 인공지능퍼스트 선언 주요글로벌 IT 기업들이잇따라 인공지능퍼스트 를선언하며인공지능기술개발에총력을기울임 ( 구글 ) 딥마인드등인공지능스타트업을활발하게인수하고있는구글은연례개발자대회인구글 I/O '17에서순다피차이최고경영자가 모바일우선 에서 인공지능우선 으로변화함에따라앞으로인공지능기술에집중투자할것을밝혔음 13

26 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 ( 아마존 ) 인공지능인력확보를위해연간약 2,600억원 ( 글로벌 IT 기업중 1위 ) 을투자함 ( 마이크로소프트 ) '17 연례개발자대회에서인공지능을핵심성장동력으로삼겠다고발표하였으며, 현재전체의 6.5% 에달하는인원이인공지능기술을개발하고있음 ( 삼성 ) 삼성글로벌 AI 포럼 ('17. 9) 에서인공지능시대에대한준비를강조하였으며, 인공지능분야의세계적권위자인 Yoshua Bengio 교수가있는몬트리올대에인공지능랩을개소하는등인공지능기술력강화에힘쓰고있음 주요 IT 기업의인공지능전문가수와인력확보를위한투자액을보면인공지능에얼마나집중하고있는지알수있음 < 표 2-3> 주요 IT 기업의인공지능전문가수및인력확보를위한투자액 [ 상위 5개사 ] 회사명 전문가수 투자액 (USD) amazon 1, ,769,001 google ,048,389 microsoft ,158,057 facebook ,636,827 nvidia ,280,190 [ 자료 ] Paysa (2017) 4. 인공지능기술개발동향 인공지능기술은데이터를통해학습과정을거치는데, 데이터를인식및학습하는기술위주로인공지능기술이개발되고있음. 이러한기술은데이터의종류를기준으로분류할수있음. 이에자연언어 ( 텍스트및음성 ), 이미지, 비디오로분류하여기술동향을살펴보고, 마지막으로로봇에탑재된인공지능기술에대해살펴봄 14

27 제 2 장인공지능개요및개발현황 가. 자연언어학습및인식기술동향 대화모델 일반적으로사람과기계간의소통을위해오래전부터연구되었던분야이며, 현재는신경망기반의대화모델을연구하고있지만아직시작단계임 [ 그림 2-2] 대화모델연구예 음성인식 인공지능이사람과의사소통하기용이하기위해서는사람의음성을인식하여야함 음성인식기술은네트워크에연결된 cloud computing 기반의고성능서버를이용하여, Google voice search와같은 dictation 기능, 개인비서서비스 (IPA, Intelligent Personal Assistant) 기능을거쳐, Amazon Echo와같은 IoT 기기제어허브기능으로진화하고있음 글로벌기업인 Google, Microsoft, Nuance 등이음성인식기술을선도하고있으나, 각국가의기관및업체의모국어음성인식기술수준이대폭향상됨. 이는자국에서모국어로대용량음성코퍼스확보가용이하고, 확보된대용량코퍼스로딥러닝기반음성인식모델을훈련시키므로, 음성인식성능이대용량코퍼스확보에크게의존적인것으로보임 15

28 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 우리나라는 SK텔레콤이 16 인간의말을알아듣고지시를수행하는인공지능서비스 ' 누구 (NUGU)' 와전용기기를출시하고, 이후 KT도 기가지니 를출시함 인공지능비서를제공하는스피커뿐만아니라스마트폰, 앱등에서도음성인식기능을적극개발하고있음. 삼성전자는미국의음성인식플랫폼개발업체비브랩스를인수하여, 음성만으로사용자의콘텐츠또는인터넷서비스를지원해줄수있는인공지능음성플랫폼을 Galaxy 8 스마트폰부터서비스하였으며, LG전자는음성인터페이스인 Q보이스를서비스중임. 다음카카오와네이버는머신러닝을적용한모바일음성검색서비스를출시함 나. 이미지학습및인식기술동향 이미지인식기술 이미지인식기술은인공지능뿐만아니라전산학분야에서가장많은관심을가지고있는문제중하나이며, 가장오랫동안연구되었고, 최근아주높은성능을보이는기술들이보고됨 `11년이전까지는기계학습기술이나인공지능기술을이용하여이미지인식문제를풀지않고, 컴퓨터비전연구분야가따로있어이를해결하기위한방법론이따로존재함. 하지만 `10년초반구글이 ImageNet이라는 competition 을개최하면서백만여장의이미지로이루어진대용량데이터를공개하게된이후로, 대용량이미지데이터를학습할수있는인공지능, 기계학습기술이이미지인식문제에많이활용됨 특히 `11년 ImageNet Competition에서상위성능을차지한모든알고리즘이딥러닝 ( 특히 Convolutional Neural Network) 을기반으로한것으로알려지면서이미지인식문제에기계학습기술이많이사용됨 - `11년 competition에서는 85% 정도의인식성능을보이는알고리즘이 1등을차지함 이후계속된 competition을통해인식성능이많이향상되었는데, 현재에는한 16

29 제 2 장인공지능개요및개발현황 장의이미지에포함되어있는객체를분류하는것이주된문제인경우에는사람의인식성능보다뛰어난 96% 를넘는인식성능을보이는기술들이보고됨 현재는더욱다양하고어려운데이터를이용한인식문제가제안되고있는데, 예를들어 2D 이미지한장으로부터동적인행동을인식하거나, 찾고자하는객체가아주작게포함되어있는문제, 이미지안에있는객체의위치를찾는문제를새롭게풀고있음 [ 그림 2-3] 2D 이미지한장으로부터행동을인식하는연구예 [ 그림 2-4] 이미지에서객체와그객체의위치를찾는연구예 17

30 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 이미지생성기술 학습을통하여새로운임의의영상을생성하는연구로, 영상생성및편집과정에서특정대상의색, 질감을바꾸는연구, 주어진영상내에등장하는특정한대상만추출하여분리된이미지를만드는연구등이수행되고있음 다. 비디오학습및인식기술동향 비쥬얼튜링테스트 (Visual Turing Test) 비주얼튜링테스트는기존언어기반튜링테스트를시각문제에확장한개념임 상기테스트는다음과같음. 질문자는주어진사진에대해상대편과대화를시도하는데, 사진내에특정물체의존재여부, 해당물체의색이나자세등속성, 물체상호간의관계등에대한질문이출제됨. 이는문장자체를통해답을판단할수없고사진과함께판독해야한다는점에서진일보한튜링테스트임. 특히문장속에서일반지식체계를기반으로추론된정보와사진을보고추론된정보를합쳐서판단해야된다는점에서난이도가높음. 예를들어 ' 책상위에있는어떤물체가무언가를자르는데사용되는가?' 라는질문에답을하기위해서는 ' 자르다 ' 라는일반개념을인지하여야하고물체들간의위치관계에대해서도정확한추론이가능함 비디오이해 영상의내용을이해하는기술로, 상황의이해와행동을분석하여다음에발생할상황을예측하는데사용되고있음 미국을중심으로많은연구가진행되며, 현재가장널리알려진기술은미국국방성산하국방고등연구원 (Defense Advanced Research Projects Agency, DARPA) 주도의프로젝트로 VIRAT(Video and Image Retrieval and Analysis Tool) 과제가대표적임 구글은구글렌즈를통해이미지를이해하는인공지능을올하반기에출시함. 인공지능으로인식하여자연어로처리되어인식수준은꽃을구글렌즈로비추면꽃의종류를알려주고, 바코드를인식하는등의기능을공개함 18

31 제2장 인공지능 개요 및 개발 현황 [그림 2-5] 비디오 관련 해외 연구 현황 멀티모달(multi-modal) 질의응답 시스템 기존 딥 러닝 작업과 다르게 멀티모달 질의응답 시스템은 무수히 많은 사실 정 보를 저장할 외부 저장소가 있는 모델을 필요로 함. end-to-end memory network는 질의응답을 위한 가장 기본적인 모델이며, 이 외에도 두 번의 Recurrent Neural Network 연산을 통해 질의에 의존적인 메모리 연산을 수행 하거나 (key, pair)의 형태로 저장해서 key 값을 통해 메모리에 접근하는 등 질 의응답 성능을 높이기 위해 메모리 연산을 다양하게 변형한 모델들이 존재함 IBM은 Watson 이라는 질의응답 시스템을 개발하였는데, 여기에 사용된 질의 응답 기술은 기존의 웹 검색 방식과는 달리 검색된 문서 목록을 제시하는 게 아 니라 검색된 텍스트 문서에서 질문에 가장 근접한 어절을 질문에 대한 답변으 로 제시하는 방식임 19

32 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 < 표 2-4> 국내인공지능기술현황 분류기술내용기관 / 기업 멀티모달질의응답시스템 멀티모달질의응답및학습알고리즘 서울대학교, 포항공과대학교, 네이버 질의생성을이용한자연어인터페이스 한국전자통신연구원 자연어질의응답시스템 오픈도메인질의응답을위한검색제약기술및정답유형기술 한국전자통신연구원 LSP 를이용한질문의도파악및정답 type 을추정하는자연어질의응답시스템 포항공과대학교, 다이퀘스트 Color Transfer Using Probabilistic Moving Least Squares 연세대학교 이미지생성 Automatic Content-Aware Color and Tone Stylization Adobe Research, 한국과학기술원 Pixel-Level Domain Transfer 한국과학기술원 Konvbot: 한국어대화모델 서울대학교 대화모델 심층강화학습기반대화관리모델 서강대학교 과거대화기반핵심키워드추출 경북대학교 20

33 제 2 장인공지능개요및개발현황 분류기술내용기관 / 기업 인간의말을알아듣고지시를수행하는인공지능서비스 ' 누구 (NUGU)' SK 텔레콤 음성인식 cloud computing 을이용한서버형대화음성인식 서강대학교 사용자의콘텐츠또는인터넷서비스를지원해줄수있는인공지능음성플랫폼 삼성전자 분산처리 데이터관리및질의를위한관계형및분산형데이터웨어하우스 BSP 모델기반데이터분석엔진 타조 하마 멀티모달시퀀스러닝 시퀀셜데이터를학습해스키마를자동생성 서울대학교 비디오학습비디오지식기반의개념망구축및스토리이해서울대학교 21

34 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 < 표 2-5> 국외인공지능기술현황 분류기술내용기관 / 기업 비주얼튜링테스트 비디오이해 스토리학습 멀티모달질의응답시스템 대화모델 Deeper LSTM and normalized CNN Visual Question Answering model A Focused Dynamic Attention Model VIRAT Video and Image Retrieval and Analysis Tool Google Lens Language-based Turing Tests 질의응답시스템 Watson FREyA: An interactive way of querying Linked Data using natural language PowerAqua Supporting users in querying and exploring the Semantic Web Neural conversational model Context-aware NLG for dialog system Deep Reinforcement Learning for Dialogue Generation Generating Videos with Scene Dynamics Virginia Tech. National University of Singapore DARPA Google The Cambridge Center for Behavioral Studies IBM University of Sheffield, Fizzback IBM, The Open University (UK) Google Institute of Formal and Applied Linguistics Stanford Univ. Massachusetts Institute of Technology 이미지생성 StackGAN: Text to Photo-realistic Image Synthesis with Stacked Generative Adversarial Networks Rutgers University 음성인식 Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks cloud computing 기반의고성능서버를이용한 dictation 기능 상담원고객대응자동평가시스템 Berkeley AI Research Lab, UC Berkeley Google Advanced Media, Inc 22

35 제 2 장인공지능개요및개발현황 분류기술내용기관 / 기업 분산처리 메모리를활용한고속빅데이터분석시스템 Spark 모듈성과빠른성능을보장하는딥러닝프레임워크 Caffe 그래프로표현된일련의수학적계산처리시스템 TensorFlow University of California, Berkeley's AMPLab Berkeley AI Research (BAIR) Google 라. 인공지능탑재서비스용로봇관련기술동향 일본소프트뱅크 (Pepper), 미국 MIT(JIBO), 프랑스 Robosoft(Kompai), 독일프라운호퍼 (Care-O-Bot 4), 일본도요타 (HSR) 등에서다양한형태의로봇및서비스가개발됨. 대부분소매점이나일반가정을타겟으로하고있으며 (Pepper, JIBO 등 ), 고령자를타겟으로하는로봇은유럽을중심으로연구단계로개발되고있음 (Robosoft, 프라운호퍼등 ) - 그중일본소프트뱅크가개발한페퍼는세계최초의감정인식로봇으로, 인간과함께생활하며감정을축적하고학습하는기능을가짐. 클라우드기반의집단지성을이용한방대한데이터를스스로분석할수있으며, 경험에의한자가피드백을통해능력을향상시킬수있음. 다만, 감정인식에중점을두고있어통합적인지능력이요구되는개인용서비스로봇으로의활용에는제한이있음 개방형인공지능 API와의연계를통해사람에대한이해를포함하는서비스를제공하기위한노력이이루지고있으나아직상용화가능한수준의안정된성능은확보하지못함 로봇 OS 개념의 ROS(Robot Operating Software) 가 OSRF(Open Source Robotics Foundation) 에서개발되어발전하고있으며, 아마존 구글등이다양한기능의개방형인공지능 API를제공하고있음 23

36

37 제 3 장책임법적관점에서의인공지능특징 25

38

39 제 3 장책임법적관점에서의인공지능특징 제 3 장책임법적관점에서의인공지능특징 1. 개요 : 책임법적관점에서의검토필요성 인공지능에대한우려의시선등장 인공지능기술이도입된분야에서기술오류등으로인한사고가발생하고있음 - ( 자율주행차 ) 테슬라모델S가자율주행기능인오토파일럿으로동작하던중빛나는하늘때문에좌회전하던트레일러를인식하지못하고충돌하여탑승자가사망함 ('16.5.7) - ( 채팅로봇 ) 마이크로소프트인공지능채팅봇테이는일부사용자들이입력한욕설, 인종 성차별내용을학습하여발언함으로써선보인지 16시간만에운영이중단됨 (' ) - ( 경비로봇 ) 미국캘리포니아주스탠퍼드쇼핑몰에배치된경비로봇이생후 16 개월된아이를공격하여아이의다리에찰과상을입힘 ('16.7.7) < 표 3-1> 인공지능종류별발생가능한사건예시 인공지능종류가격조정적격인물선정음성합성투자 발생가능사건 수요, 최저가등을반영하여가격을정하는알고리즘간의가격담합 지난 20년간의고용및승진데이터학습으로인해인종 성별등에대한차별행위발생 특정인물의음성을합성하여보이스피싱에사용 자동거래프로그램오류로큰손실초래 일론머스크, 스티브호킹, 빌게이츠등은인공지능이인간에게위협적으로작용할수있음을경고하고있음 27

40 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 최근대한민국성인 1,000명을대상으로한설문조사에따르면, 인공지능로봇에대한신뢰도는 63.7점으로높지않았으며, 응답자의 48.6% 가인공지능이초래하는위험중오류로인한인명피해위험을가장고민하여야한다고응답함 9) - 인공지능로봇에대한신뢰도조사결과 63.7점으로약간의신뢰를보였으며, 흥미로운점은 20대 54.1점, 30대 60.4점, 40대 66.3점, 50대이상 68.7점으로연령이높을수록높은신뢰도를보였음 - 미래인공지능이가져올지도모르는위험에대해서가장많이고민해야할질문에는 인공지능오류로인한인명피해 (48.6%) 가가장높게나타났고, 인간의일자리대체 (33.7%), 인공지능서비스소외계층발생 (9.4%), 강한인공지능의인간정책및의사결정참여 (8.1%) 가그다음순으로나타남 [ 자료 ] 성균고나대 SSK 위험커뮤니케이션연구단 (2017) [ 그림 3-1] 인공지능이가져올위험에대하여고민해야할부문 - 인공지능오류로인한인명피해, 강한인공지능의인간정책및의사결정참여 는인공지능으로인한사고에대한대응이필요하다고보는것으로해석됨 9) 성균관대 SSK 위험커뮤니케이션연구단 (2017), 2017 년위험이슈인식조사 (3)- 인공지능에대한신뢰수준. 28

41 제 3 장책임법적관점에서의인공지능특징 우려의시선에대한대응책으로인공지능사고에대한해결방안을제시할필요대두 책임법적검토는어느사고로인하여발생한손해를어떻게처리할것인가에관한것임. 사고의비용을피해자가부담해야하는지, 아니면그것이그사고원인에대해책임이있는다른행위자에게로전가되어야하는지에대해고찰하게됨 책임법적검토는두가지의목표를가짐 - 1 사고의발생과비용을최소화하고자함. 구체적으로책임이있는자에게피해방지를위한적절한조치를취할인센티브를제공하거나, 책임이있는자가그런조치를취하지않아그결과로피해자가고통받을때이를교정할수단을제공해야함 - 2 보상을제공함으로써피해자를보호함 책임법적검토가이루어지지않은경우손해에대한책임리스크가높아져서보다확실하게안전성이확보될때까지개발자 제조사들은기술의도입을늦추게되므로, 인공지능기술관련책임법제검토가필요함 그첫단계로사고발생시책임분배를어렵게만드는인공지능의특징을우선살펴보도록함 2. ( 법적특징 ) 법인격결여 현행법상법적주체 ( 민사 ) 생존한인간 ( 민법제3조 ) 과법률의규정에좇아정관으로정한목적의범위내법인 ( 민법제34조 ) 만이권리와의무의주체가됨 29

42 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 < 표 3-2> 민사상권리 의무주체 권리 의무주체 생존한인간 법률의규정에좇아정관으로정한목적의범위내법인 해당조문 제 3 조 ( 권리능력의존속기간 ) 사람은생존한동안권리와의무의주체가된다. 제 34 조 ( 법인의권리능력 ) 법인은법률의규정에좇아정관으로정한목적의범위내에서권리와의무의주체가된다. ( 형사 ) ~ 한자 를범죄구성요건실현의주체로규정하여인간에게만범죄주체능력이인정됨 ( 법인에부여하는양벌규정제외 ) 프랑스, 미국등은법인의범죄주체능력과책임능력을인정하여법인또한형사처벌의대상으로인정 제 257 조 ( 상해, 존속상해 ) 1 사람의신체를상해한자는 7 년이하의징역, 10 년이하의자격정지또는 1 천만원이하의벌금에처한다.... 제 260 조 ( 폭행, 존속폭행 ) 1 사람의신체에대하여폭행을가한자는 2 년이하의징역, 500 만원이하의벌금, 구류또는과료에처한다. 인공지능의법인격결여 ( 민사상권리 의무주체 ) 인공지능은생존한인간또는법인에해당하지않으므로민사상권리 의무주체가될수없음 ( 형사상책임주체성 ) 형법의문언상,... 한자 를구성요건실현의주체로규정하고있으므로, 형벌규범의수범자를오로지인간으로한정하고있다고보아야하므로, 현행법상으로인공지능은형벌규범의수범자로보기는어려움 인공지능의법적지위논의의첫단계로민사상책임가능성에대한논의중 민사상권리 의무주체 - 민사상권리 의무주체를부여하기위해서는최소한인공지능이스스로데이터를판단하여의사결정을하는수준이되어야할것임 30

43 제 3 장책임법적관점에서의인공지능특징 < 표 3-3> 인공지능 4 단계 10) 단계명칭내용 1 단순제어프로그램 2 고전적인공지능 3 4 기계학습을받아들인인공지능 딥러닝을받아들인인공지능 - 지극히단순한제어프로그램탑재 - 인공지능으로칭하기어려움 - 입력과출력의조합수가극단적으로많은경우, 추론 / 탐색및기존보유지식베이스를기반으로적절한판단을진행 - 내장된검색엔진또는빅데이터를바탕으로자동적인판단을진행함 - 표본이되는데이터를바탕으로규칙이나지식을스스로학습함 - 기계학습시데이터를나타내기위하여사용되는입력값 ( 특징 ) 자체를학습함 - 인공지능이스스로입력데이터특징을파악하고가중치를조절하여결과의정확성을높여판단하는수준이되면민사상에서인간과같은의사능력, 책임능력, 행위능력을인정할수도있겠으나 11), 무엇보다가장필요한권리능력을인정하기위해서는사회적합의가필요함 < 표 3-4> 민사상능력의종류및내용 분류내용 권리능력행위능력의사능력책임능력 - 권리와의무의귀속주체가될수있는지위또는자격 - 생존한대한민국사람에게부여 ( 외국인의경우조건에따라부여 ) - 단독으로완전 유효한법률행위를할수있는지위또는자격 - 행위무능력자의행위는취소가능 - 구체적인법률행위에서자기행위의의무나결과를정상적인인식력과예기력으로써합리적으로판단할수있는정신적능력내지지능 - 의사무능력자의의사표시는절대적무효 - 불법행위의책임을변식할수있는정신능력 10) Yutaka Matsuo (2015), 인공지능과딥러닝 - 인공지능이불러올산업구조의변화와혁신. 11) 자율주행차내인공지능을책임주체로보자는주장도있음 (John Frank Weaver (2014), Robot Are People Too: How Siri, Google Car, and Artificial Intelligence Will Force Us to Change Our Lives) 31

44 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 - 유럽의회가 '17.2 로봇이초래한손해의보상등을다루기위해로봇에게 전자인간 지위를부여하는데합의한만큼앞으로민사상권리 의무주체로서인정할가능성이있어보임 EU RoboLaw 프로젝트최종결과보고서인 로보틱스규제가이드라인 (Guidelines on Regulating Robotics) 12) 에서 로봇은민사상또는형사상책임의주체가될수없다 는의견을제시한만큼인공지능의권리 의무를자연인, 법인과같이인정할지는의문임 4.5 Legal capacity and legal acts by personal care robots Finally, does the concept of personhood apply to robots? As stated by Asaro (2007) while a robot might someday be considered a person, we are not likely to face this situation any time soon. Therefore, in our opinion the existing laws on agency and liability do not apply at least in the field of personal care robotics. Accordingly, robots can neither be granted the notion of legal (or electronic) personhood or capacity, nor are they subject to civil or criminal liability. Hence, only its owner shall be responsible for any unlawful act committed by a robot (or manufacturer, designer, testing agency, state regulation agency, etc.). In addition, no rights may be acknowledged to robots. 마지막으로, 인격성 (personhood) 의개념이로봇에적용되는가? 라는질문과관련하여 Asaro는 " 로봇이언젠가는사람으로간주될수도있지만, 당장은이러한상황에직면할것같지는않다." 고진술한바있다 (2007). 따라서우리의의견에의하면, 개인간호로봇분야에서는적어도현행법상로봇에인격성을부여하지는않은것으로판단된다. 따라서, 로봇에게는법적 ( 또는전자적인 ) 인격의개념이부여될수없으며, 또한그들은민사상또는형사상책임의주체가될수없다. 따라서오직소유주만이로봇에의하여저질러진불법행위에대한책임을부담해야한다 ( 또는제조업자, 디자이너, 시험기관, 주규제기관등 ). 나아가로봇에게는어떠한권리도인정되지않을것이다. - 또한개별분야에서해당권리 의무를부여할지논의되고있는데대표적인예가저작권에대한것임. 인공지능자체를그것을제작 개발한자와별개의인격 12) European Commission (2014), Guidelines on Regulating Robotics. 32

45 제 3 장책임법적관점에서의인공지능특징 체로볼수있는지, 그리하여인공지능이행한창작행위, 발명행위를인공지능자체에권리귀속시킬수있는지에대해서논의되고있음 형사상책임주체성 - 의지를가지고행동을하는주체가인간에서인공지능으로확장됨에따라향후인공지능에게도형사상책임주체를부여야하는지에대해논의될수있으나, 민사상권리 의무주체성을부여하는것보다그가능성은더욱요원하여보임 - 범죄란구성요건에해당하고위법유책한 행위 를말함. 따라서인공지능의형법적주체성을문제삼기위해서는인공지능의작동이나기능이형법적으로의미있는 행위 이어야함 - 인공지능의행위를범죄구성요소인행위로볼것인지는행위를보는관점에따라달라질수있는데, 인과적행위론 13) 혹은목적적행위론 14) 에따르면학습을통한빅데이터수집으로다변하는상황에대처할수있는인공지능의행동은적어도나름대로의의지적판단에따른것이기때문에인공지능이형법상행위주체가될수있음 15). 따라서프랑스, 미국등이법인의범죄주체능력과책임능력을인정한것처럼인공지능기술이발전하고관련사고가많아지면인공지능도형사처벌의대상으로인정할수도있음 - 또한인공지능에형법상고유한행위능력을인정할수없다고하더라도, 법인에대한양벌규정과같이부분적으로형벌능력을인정하는방안을고려해볼수있음 13) 인과적행위론은행위를의사에기인한신체의행동으로봄. 따라서의사의객관화또는그외부적실현으로봄. 의사의객관화라고할수없는행위는형법상의행위로보지않음 14) 목적적행위론은행위를목적활동성의작용으로봄. 행위의목적성또는목적접착성은인간이그의인과적지식을기초로자기의활동으로인하여일어날수있는결과를일정한범위에서예견하여목표를설정하고이목표달성을위하여계획적으로조종할수있다는데있음 15) 이에반하여사회적중요성과인격이라는개방적개념을전제로삼고있는사회적행위론, 인격적행위론에의하면, 인공지능이자신의기능이나작동에관한사회적의미를통찰한다고보기어렵고, 인공지능에인격이존재한다고인정하기도어려워인공지능의형법상행위주체성이논의될수없음 33

46 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 3. ( 기술적특징 ) 동작의불확실성및설명불가능성 가. 데이터기반판단으로인한동작불확실성내재 새롭게처한데이터에대한적응력부족 수학적인관점에서, 인공지능기술과그의기반이되는기계학습알고리즘의근본적인목표는주어진데이터셋에숨어있는규칙을찾아내는것임 기계학습알고리즘은주어진데이터셋이어떠한규칙에의해서생성되었다는가정을가지고, 주어진데이터를잘설명할수있으며주어진데이터를생성하는규칙인기저분포 (underlying distribution) 를추정하는것을목표로함. 즉, 주어진데이터에서숨겨진규칙을추출하여이를기반으로귀납적인판단을내리는방식으로동작함 이과정에서인공지능기술은학습에사용한데이터에아주큰영향을받기때문에새롭게처한상황과데이터에대한정확도를예측하기가매우어려움 - 수많은데이터를수집하고이에대한학습을거쳐인공지능시스템을만들었다고하더라도, 상기데이터에해당하는규칙은정확하게학습하였으나그외데이터는학습하지않아다른특성을마주하면이에대한대처를할수없음 - 예를들어 natural image를수집하고학습데이터로사용한인공지능시스템의경우오른쪽과같은애니메이션이미지에대해서는정확히인식할수없음. 실제로 natural image를이용하여학습한알고리즘은아래그림의왼쪽이미지에 바나나, 사과 가있다고인식할수있지만오른쪽이미지에대해서는 cartoon book 이라고만인식할뿐, 사과에대한정보는인식할수없음 34

47 제 3 장책임법적관점에서의인공지능특징 [ 그림 3-2] 인공지능의기술적한계예시 이러한문제를해결하기위해서는서비스가상용화되었을때접할수있는모든상황에대한데이터를미리수집하거나, 상용화단계에서접하는새로운상황에대해적응하며학습하는방법을개발하여야함 하지만모든상황에대한데이터를미리수집하기란불가능하고, 현재개발된딥러닝기술으로는 단위이상의데이터를학습하기는어려움. 또한새롭게수집되는데이터에대해서점진적으로학습하기위한 incremental learning, online learning 기술의필요성은대두되고있지만, 그에대한연구는아직많이이루어지지않고있음 따라서인공지능기술상품이상용화되었을때, 학습에사용되었던환경과매우다른상황을접하거나학습에사용되지않았던종류의데이터를접하게된다면그에대한판단의정확도가매우낮아져동작의불확실성이증대될것으로예상됨 잘못된데이터학습으로인한판단 행동의편향예측불가능성 학습대상이되는데이터의오류에따라편향성이강화되거나사회에존재하는차별적선입견을더욱강화시킬수있음 - 대표적인예가마이크로소프트인공지능채팅봇테이사례로, 일부사용자들이입력한욕설, 인종 성차별내용을학습하여발언함으로써선보인지 16시간만에운영이중단된적있음 (' ) 35

48 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 - 인공지능알고리즘을사용한미인선발대회가개최되었는데, 44명의수상자중동양인이몇명포함된것이외에는수상자대부분이백인이었음. 이는해당인공지능의학습을위해사용된데이터가백인위주로구성되었기때문임 ('16.9) 16) 이처럼인공지능학습과정에쓰이는데이터에차별적발언, 편향적정보가있는지등을일일이검사하지않으면, 오염된또는편향된데이터로인하여혐오 차별등에근거한결과가도출될수있음 나. 인공지능판단의근거및과정파악곤란 사람이가지고있는지식을기반으로근거를만들고이를기반으로복합적인판단을내리는것과다르게딥러닝을비롯한대부분의기계학습알고리즘은일련의수식을통해데이터로부터정보를추출하고확률적으로판단을내리기때문에자신의판단에대한설명이어려움 - 입력을받아일련의과정을거쳐학습하여얻는결과는엄청난경우의수로나타나서, 사람이보고해석하기어려움. 따라서인공지능의판단에대한근거를찾거나그과정을해석하기어려움 - 예를들어이미지데이터를학습하여이미지에포함되어있는숫자를맞추는딥러닝알고리즘은 0부터 9까지의숫자를잘분류하기위해입력데이터셋으로부터필요한정보를학습하게되는데, 수많은노드와그에연결된 weight 값을조정하는과정을무수히많이반복하는과정을거쳐서데이터를 10개의집합으로나누는데필요한정보를추출하게됨. 이렇게학습한결과하여얻는결과는결국수천, 수백만개의실수값으로나타남 16) 서울대법과경제연구센터 (2017), 데이터이코노미. 36

49 제 3 장책임법적관점에서의인공지능특징 [ 그림 3-3] 인공지능의수많은판단경우의수 또한인공지능동작의동태적성격을고려하면인공지능의데이터를기반한분석과판단은매번달라질수있기때문에문제발생시이에대한검증이어려움 - 인공지능이어떠한불법적인의도를가지고동작하는지, 합리적으로판단을하였으나우연히불법적인결과가나온것인지확인하기어려움 4. ( 운영적특징 ) 알고리즘의불투명성 가. 기업기밀성, 공개로인한왜곡방지등으로인한불투명성한계 동작알고리즘자체가기업의재산이므로특허로등록되지않은이상기업이알고리즘을쉽게공개할수없음 - 영업비밀은건전한거래질서의형성, 기업의기술개발활동촉진을위하여 부정경쟁방지및영업비밀보호에관한법률 에의하여보호됨 - 영업비밀은 공공연히알려져있지아니하고독립된경제적가치를가지는것으로서, 합리적인노력에의하여비밀로유지된생산방법, 판매방법, 그밖에영업활동에유용한기술상또는경영상의정보 로정의되므로, 영업비밀보유자의비밀관리의무를전제하고있음 - 즉기업은특정알고리즘을영업비밀로보호하기위해서는공연히알려지지않은정보 ( 비공지성 ) 를상당한노력을기울여비밀로관리하여야함 37

50 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 - 일부기업의경우, 공개를피하기위해일부러특허로출원하지않음 인공지능알고리즘이공개되면이로인한왜곡문제가발생함 17) - 공개된알고리즘을통해자신에게유리한결과를얻으려는다양한시도가발생하여동작및판단과정이왜곡되어그결과를신뢰할수없게됨 - 예를들어인터넷연관검색어알고리즘이공개된다면자신이원하는검색어가노출되도록하기위하여상기알고리즘을이용한시도가이루어짐으로써상기알고리즘이제시하는연관검색어결과의정확도가떨어지거나광고등신뢰할수없는정보로가득찰수있음 이와같은이유로그특성상일정수준의불투명성을전제할수밖에없음나. 입증책임전환등불투명성에대한보완수단이없는한피해원인증명곤란 민사소송법상손해배상을주장하는사람은원칙적으로자신이해당손해와원인행위에대한인과관계를입증할책임이있음 인공지능은운영상이유로그동작방식이불투명하고공개한다고하더라도동작을설명하기어려워공개에한계가존재함. 따라서인공지능으로인한손해의경우손해를입은사람이손해와원인행위에대한인과관계를입증하기어려움 사회가고도화하고복잡해지면서피해자에게입증책임을부담시키는것이불합리한경우입증책임을전환하거나입증의정도를완화하고있음. 그예로는제조물결함소송, 의료과오소송등이있음 인공지능관련소송에도입증책임을전환한다는등의보완수단이없는한알고리즘및동작방식의불투명성으로인해피해원인에대한입증이어려움 5. 소결 인공지능의판단이손해의원인이라고하더라도인공지능에게는현행법상법인격이부여되지않았기때문에인공지능에게책임을물을수없음 17) 서울대법과경제연구센터 (2017), 데이터이코노미. 38

51 제 3 장책임법적관점에서의인공지능특징 따라서인공지능으로인한손해를제작자 판매자 사용자등다수의이해관계자들이분담하여야하는데, 데이터기반으로수많은학습과정을통해결과를도출하는인공지능동작방식의특성상판단근거및과정을설명하기어렵고기업기밀등의이유로알고리즘공개또한쉽지않아관련사고에대한법적책임주체를결정하기쉽지않음 39

52

53 제 4 장관련법제및연구동향 41

54

55 제 4 장관련법제및연구동향 제 4 장관련법제및연구동향 1. 국내 가. 관련법률 현존하는법안으로인공지능과직접적인법률은없고, 인공지능산업의진흥에초점을두고있음 로봇기본법안 이 2017년 7월발의되어아직계류중에있음 (1) 지능형로봇개발및보급촉진법 2008년 3월에제정된법으로, 차세대성장동력산업인지능형로봇을미래국가핵심전략산업으로육성하기위한제도적기반을구축하기위하여연구 개발지원, 초기시장의창출과보급확대를위한로봇랜드조성 18) 등을그내용으로하고있어, 지능형로봇발전으로인한법적규제등을다루기보다는로봇산업진흥에집중한한시법에불과함 19). 지능정보사회대응과사회문제해결을위한기본법적지위가아닌산업법적성격임 상기법에서의 " 지능형로봇 " 을 외부환경을스스로인식하고상황을판단하여자율적으로동작하는기계장치 로정의하고있어 ( 법제2조제1호 ), 하드웨어에한정된한계를지니고있음. 인공지능기술은소프트웨어적성격이강한데, 지능형로봇을 기계장치 로정의하면서기술변화를반영하지못하고있 음 20) 지능형로봇의기능과지능이발전함에따라발생할수있는사회질서의파괴등각종폐해를방지하여지능형로봇이인간의삶의질향상에이바지할수있도록지능형로봇의개발 제조및사용에관계하는자에대한행동지침 인 지능형로봇헌장 ( 법제2조제2호 ) 을정부가제정하여공표할수있도록규정하 18) 로봇랜드조성사업시행시특정허가 인가 지정 승인 협의 신고등을의제하여시행이용이하도록함 19) 2018 년 6 월 30 일까지효력을가짐 20) 43

56 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 고있음 ( 법제 18 조제 1 항 ) - 산업자원부는관련법을만들기전인 로봇윤리헌장제정위원회 를통해 2007 년 지능형로봇윤리헌장 을마련했으나, 법에포함하지않았고, 그후발표된지능형로봇헌장은없음 윤리헌장에는 인간은로봇을제조하고사용할때선한방법으로판단해결정해야한다, 로봇은인간의명령에순종하는친구, 도우미, 동반자로서인간을다치게해서는안된다 는내용을포함하고있음 정부차원에서헌장을제정하는첫사례로과학자, 의사, 심리학자, 변호사, 공무원등각계인사 12 명이참여하여만들었으나그후의미있게사용된바는없음 < 표 4-1> 지능형로봇윤리헌장 ( 초안 ) 1 장 ( 목표 ) 로봇윤리헌장의목표는인간과로봇의공존공영을위해인간중심의윤리규범을확인하는데있다. 2 장 ( 인간 로봇의공동원칙 ) 인간과로봇은상호간생명의존엄성과정보, 공학적윤리를지켜야한다. 3 장 ( 인간윤리 ) 인간은로봇을제조하고사용할때항상선한방법으로판단하고결정해야한다. 4 장 ( 로봇윤리 ) 로봇은인간의명령에순종하는친구ㆍ도우미ㆍ동반자로서인간을다치게해서는안된다. 5 장 ( 제조자윤리 ) 로봇제조자는인간의존엄성을지키는로봇을제조하고로봇재활용, 정보보호의무를진다. 6 장 ( 사용자윤리 ) 로봇사용자는로봇을인간의친구로존중해야하며불법개조나로봇남용을금한다. 7 장 ( 실행의약속 ) 정부와지자체는헌장의정신을구현하기위해유효한조치를시행해야한다. 44

57 제 4 장관련법제및연구동향 (2) 국가정보화기본법 국민생활의질적향상과국민경제의발전을도모하기위하여현재각국가기관이추진하고있는정보화촉진과정보통신산업의기반조성및초고속정보통신사업의추진을범국가적으로일관성있게효율적으로하도록 1995년에제정된법임 국가정보화란 국가기관, 지방자치단체및공공기관이정보화를추진하거나사회각분야의활동이효율적으로수행될수있도록정보화를통하여지원하는것 으로, 정부가국가정보화를위한기본계획등을수립할것을정하고있음 - 개정과정중에서국가정보화의역기능방지를위하여인터넷중독의예방 해소, 정보보호시책마련등다양한내용이들어감 우리나라를지식정보사회로나아갈수있도록하는정책수립등을다룬것으로인공지능을위한정보화작업등이이에포함될수는있으나직접적인연관성은없음 (3) 소프트웨어산업진흥법 소프트웨어의개발을촉진하기위하여 1988년에제정된법으로, 소프트웨어산업의기반조성, 소프트웨어사업의활성화등을그내용으로하고있음 인공지능기술은소프트웨어와밀접히연결되지만, 상기법률은산업의진흥을법률의목적및내용으로하고있어인공지능과연계된새로운문제등에대한대응에활용하기는어려움 (4) 뇌연구촉진법 인공지능연구와인간뇌연구는밀접하게연결되어있고, 뇌와인공지능을연결해자연지능을높이는것이최근뇌공학의최대화두임. 정부는 2017년뇌과학연구에지난해보다 111억원이증가한 618억원을투입함 1998년 6월에제정된법으로, 제정당시뇌에대한연구가 21세기첨단산업기술분야와정보화 지능화 고령화사회의핵심적인과제로부각되고있는바뇌 45

58 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 연구촉진의기반을조성하여뇌연구를보다효율적으로육성 발전시키고그개발기술의산업화를촉진하는것을그목적으로하는진흥법임. 상기법은뇌연구투자의확대, 연구및기술협력, 공동연구촉진, 관계산업체지원, 뇌연구추진시책마련등을내용으로하고있음 (5) 정보통신진흥및융합활성화등에관한특별법 2014년 2월에제정된법으로, 정보통신을진흥하고정보통신을기반으로한융합의활성화를위한정책추진체계, 규제합리화와인력양성, 벤처육성및연구개발지원등을규정하는진흥법임 신규정보통신융합등기술 서비스를개발한자가허가등의근거가되는법령에해당신규정보통신융합등기술 서비스에맞는기준 규격 요건등이없거나허가등의근거가되는법령에따른기준 규격 요건등을해당신규정보통신융합등기술 서비스에적용하는것이맞지아니하여법령상의각종허가 승인 등록 인가 검증등 ( 이하 " 허가등 " 이라한다 ) 을받지못하거나허가등의필요여부가불분명한경우에는과학기술정보통신부가임시허가를할수있도록규정함 (6) 컴퓨터 2000년문제의해결에관한촉진법 1999년밀레니엄버그 ( 이하 컴퓨터2000년문제 라칭함 ) 해결을촉진하기위한재정지원에관한특례를규정하고컴퓨터2000년문제의발생으로인한분쟁을공정하고신속하게해결할수있는제도적인장치를마련한 4년간한시적으로시행된법임 기술로인해예상되는문제상황을대비하여국가및지방자치단체에종합대책수립의무를부과함 컴퓨터2000년문제와관련하여발생한비용부담및손해배상등에관한분쟁을조정하기위한컴퓨터2000년문제분쟁조정위원회설치를규정하였으나, 대통령령을통해세부적인조직과운영등에관한사항을규정하지않은점등을볼때실제로동작하였다고보기어려움 46

59 제 4 장관련법제및연구동향 (7) 로봇기본법 ( 안 ) 2017년 7월 19일발의된후계류중인상태임 로봇윤리규범의틀을제시하고, 국가에게로봇관련정책에대한의무를부여하고있으며, 국가로봇윤리 정책위원회등로봇관련거버넌스를제시함 - 산업통상자원부장관이로봇윤리규범의제정 개정을관장함 - 국무총리소속으로국가로봇윤리 정책위원회를두며, 산업통상자원부장관과미래창조과학부장관이간사위원이됨 - 로봇공존사회의도래에따른사회각분야의변화에대응하기위하여국가로봇정책연구원을설립함 - 산업통상자원부장관과미래창조과학부장관이공동으로 3년마다로봇공존사회기본계획을수립함 - 산업통상자원부가로봇실태조사를실시하고, 시 도지사가로봇등록을관리함 로봇으로인한손해배상책임을원칙적으로로봇의제조사에게부과함. 또한설계자, 제조자에게정보의처리절차, 주의및경고사항등을알기쉽게기재하도록하고있음 - 로봇에게결함이있는경우제조자가무과실책임을지도록규정하고있음. 로봇의결함으로볼수있는범위를로봇기술의발전에조응하도록해석하지않으면로봇개발 생산을위축시킬수있음 < 표 4-2> 로봇기본법( 안 ) 내손해배상책임및이용자의권익보호관련조항제23조 ( 손해의배상책임 ) 1 로봇의제조자는로봇의결함으로생명 신체또는재산에손해 ( 그로봇에대하여만발생한손해는제외한다 ) 를입은자에게그손해를배상하여야한다. 다만, 그손해의발생이손해를입은자의고의또는과실로인한경우에는그러하지아니하다. 2 로봇의제조자를알수없는경우에는그로봇을영리를목적으로판매 대여등의방법으로공급한자는로봇의제조자또는로봇을자신에게공급한자를알거나알수있었음에도불구하고상당한기간내에그제조자나공급한자를피해자또는그법정대리인에게고지하지아니한경우에는제1항에따른손해를배상하여야한다. 3 제1항또는제2항에따라손해배상책임을지는자가다음각호의어느하나에해 47

60 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 당하는사실을입증한경우에는이법에따른손해배상책임을면한다. 1. 제조자가해당로봇을공급하지아니하였다는사실 2. 제조자가해당로봇을공급한당시의과학 기술수준으로는결함의존재를발견할수없었다는사실 3. 로봇의결함이제조자가해당로봇을공급한당시의법령에서정하는기준을준수함으로써발생하였다는사실 4. 원재료나부품의경우에는그원재료나부품을사용한로봇제조자의설계또는제작에관한지시로인하여결함이발생하였다는사실 제24조 ( 이용자의권익보호 ) 1 로봇의설계자및제조자는로봇사용자의권리를보호하기위한기술적 관리적방안을고려하여야한다. 2 로봇의설계자및제조자는로봇사용자의권익을보호하기위하여로봇의사용과관련한정보의처리절차, 주의및경고사항등을알기쉽게기재하고, 필요한경우에는이해관계자에게설명할수있도록노력하여야한다. 상기입법안에서제시하는로봇설계자 제조자 사용자의의무사항은다음과같음 < 표 4-3> 로봇기본법 ( 안 ) 내로봇설계자 제조자 사용자의의무조항 로봇설계자 ( 제 6 조 ) 로봇제조자 ( 제 7 조 ) 로봇의설계자는다음각호의사항을준수하여인간의존엄성을존중하고인류의공공선을실현하는데기여할수있는로봇을설계하여야한다. 1. 인간의기본권을침해하지않도록설계할것 2. 개인을포함한공동체전체의선을침해하지않도록설계할것 3. 생태계를포함한생명공동체의지속가능성을침해하지않도록설계할것 4. 정보통신기술및생명과학기술윤리와관련된사항을준수하도록설계할것 5. 로봇의목적및기능을설정하고이에부합하게사용되도록설계할것 로봇의제조자는다음각호의사항을준수하여공익의범위내에서인간의행복추구에이바지하고정해진목적과기능에부합하는로봇을만들어야한다. 1. 로봇의제조및판매와관련된법령을준수하여제작할것 48

61 제 4 장관련법제및연구동향 로봇사용자 ( 제 8 조 ) 2. 로봇의목적및기능과관련된법령을준수하여제작할것 3. 로봇의사용연한을정하고폐기에대한지침을제공할것 4. 로봇의사용연한내에서의유지보수와결함으로발생된피해에대한책임을질것 로봇의사용자는다음각호의사항을준수하여자신또는타인의삶의질과복지의향상을위하여정해진목적과기능에따라로봇을사용하여야한다. 1. 로봇의사용과관련된법령또는사용지침을준수할것 2. 로봇을불법적으로개조하거나임의로변경하여서는아니되며정해진목적과기능에맞게사용할것 3. 로봇을사용하여타인의이익을침해하거나위해를가하지않도록할것 4. 로봇의오용또는불법적사용으로발생하는문제에대하여책임을질것 5. 로봇의남용으로발생할수있는과몰입, 의존, 중독등부작용에주의할것 상기입법안은로봇설계자, 제조자등에대한의무와손해배상책임의주체를정하고있어, 입법될경우로봇연구 개발영역에큰영향을줄것으로예상되므로, 과학기술부처에서입법동향을주의깊게살펴볼필요가있음 나. 연구및정책 (1) 연구 기술개발측면에집중하고있으며인공지능이가져오는사회적변화에대한연구는부족한상황임 년 8월법무부가 지능형로봇기술의상용화와형사사법적대응 연구를착수하는등각기관에서자체적으로인공지능시대에대응한법제연구가시작되고있으나, 기술, 법무, 정책등다양한전문가주체가참여하는국가차원의연구는부재한실정임 49

62 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 (2) 정책 지능정보사회중장기종합대책 내에서 인간과기계공존을위한법제도정비및윤리정립 을전략과제로선정함 - 미래창조과학부가지능정보사회에대비하여기술 사업 사회분야정책을아우르는 지능정보사회중장기종합대책 추진계획을국무회의보고 ('16.4) - 관계부처 (10개부처참여 ) 및민간전문가가참여하는 지능정보사회민관합동추진협의회 구성 운영 ('16.5) - 지능정보사회종합대책수립을위한범정부추진체계운영 ('16.9) - 민간의견수렴등을거친후정보통신전략위원회심의 의결을통해 지능정보사회중장기종합대책 수립 (' ) [ 자료 ] 미래창조과학부 (2017) [ 그림 4-1] 지능정보사회중장기종합대책 전략과제 지능정보사회추진단의설치및운영에관한규정 ( 국무총리훈령, ' 제정 )) 에따르면지능정보사회에대응한미래전망 분석, 중장기전략수립및추진을위하여과학기술정보통신부장관소속으로지능정보사회추진단을두어야하 50

63 제 4 장관련법제및연구동향 고, 이지능정보사회추진단은 지능정보사회에대응한법제도개선및역기능대응에관한사항 를수행하여야함 < 표 4-4> 지능정보사회추진단의설치및운영에관한규정 제 2 조및제 3 조 제 2 조 ( 설치 ) 지능정보사회에대응한미래전망 분석, 중장기전략수립및추진을위하여과학기술정보통신부장관소속으로지능정보사회추진단 ( 이하 " 추진단 " 이라한다 ) 을둔다. 제 3 조 ( 기능 ) 추진단은다음각호의업무를수행한다. 1. 지능정보사회중장기종합대책의수립에관한사항 2. 지능정보사회중장기종합대책의시행을위한실행계획의수립에관한사항 3. 지능정보기술확산에따른경제사회구조변화의분석및대응방향의수립에관한사항 4. 지능정보기술확산에따른미래일자리구조변화의분석및대응방향의수립에관한사항 5. 지능정보기술및서비스의사회확산을위한전략수립에관한사항 6. 지능정보산업육성및서비스분야의혁신전략수립에관한사항 7. 지능정보사회에필요한창의인재육성방안에관한사항 8. 지능정보사회에대응한법제도개선및역기능대응에관한사항 9. 지능정보사회에대비하는핵심사업추진에관한사항 10. 관계기관협력에관한사항 11. 그밖에지능정보사회대응을위하여필요하다고인정되는사항 - 다만시급성은낮다고판단하여이에따른추진우선순위가뒤처지는것으로보임 [ 자료 ] 미래창조과학부 (2017) [ 그림 4-2] 지능정보사회중장기종합대책 전략과제의정부역할 시급성분석 51

64 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 2. 해외 가. 정부 (1) 유럽 RoboLaw 프로젝트 '12년부터 4개국 ( 네덜란드, 독일, 영국, 이탈리아 ) 의공학, 법률, 철학전문가들이참여하여로봇기술의법적 윤리적이슈를검토함 '14. 9 D6.2 로봇규제가이드라인 (D6.2 Guidelines on Regulating Robotics) 결과보고서도출 자율주행차, 수술로봇, 로봇인공기관, 돌봄로봇등상용화에가까운기술사례에대한구체적인윤리적 법률적분석을진행함으로써로봇관련규범체계의근거를마련함 - 새로운규제의도입보다는법적책임, 프라이버시등이슈별로기존법률의적용가능성을검토하거나, 다양한분야의전문가들이참여하는다자간학제적인접근방식을취함 21) `17.2 유럽의회결의안 ( Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics ) ' EU는로봇에게전자인 (electronity) 의지위를부여해법적인책임과의무를지게하는보고서초안을마련하여유럽의회산하로보틱스에관한시민법규정위원회에권고안으로제출하였음 - 상기보고서는산업현장에설치되는로봇의지능이높아지고자율성이강화되면서로봇에대한세금부과, 법률적인책임등모든문제를숙고해야할시점에이르렀다고지적하면서, 정교한자율로봇에전자인의지위를부여특별한권리와의무를갖도록해야한다고요구하고있음 - 또한지능형자율로봇등록제도를제안하고, 등록된로봇들을법적인의무를 21) Kakao (2017), AI Report, Vol.1. 52

65 제 4 장관련법제및연구동향 지원하는펀드와연결하고자함. 이는현재자동차제작자나소유자가보험에가입한것과같이로봇제작자또는소유자또한잠재적손해를배상하기위한보험가입을의무화하는것을고려하여야한다는입장임. 상기보고서는상황에따른제조자와소유주의분담책임을상정하고있음 유럽의회위원회는 '17.1. 찬성 17표, 반대 2표, 기권 2표로상기결의안을통과시킴 '17.2 본의회투표에서유럽의회는로봇세, 기본소득관련내용만제외하고법사위원회가마련한로봇관련결의안 22) 을통과시킴으로써로봇에게 전자인간 지위를부여하는등새로운법적프레임워크필요성을인정하였음 결의안내용 - 이결의안은로봇및인공지능산업의윤리적 기술적가이드라인을제시하여 EU 차원의법적토대를마련하도록하는것이주된목적임 - 로봇의법적지위를인간과는다른 전자인간 (electronic personhood) 로규정하여로봇은인간에도움을주는존재일뿐임을명확히함. 앞으로이러한방향으로 EU 법이구성될것으로보임 - 로봇이자율성과인지기능의개발을통해주변환경과상호작용을하고변화를줄수있는행위자와점점더비슷해짐에따라로봇의유해행동에대한법적책임문제를해결할필요가있음을강조하며, 책임보험등을제시함 - 로봇으로인한악용가능성을고려하여로봇을멈출수있는 킬스위치 를탑재하고로봇을등록해야하며비상상황시당국이로봇의시스템코드에접근할수있도록정함 - 로봇으로인하여대규모실직이발생할수있다는우려를반영하여로봇에부과되는 로봇세 와 기본소득세 내용이포함되어있으나유럽의회는이를받아들이지않음 22) European Parliament (2017), Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. 53

66 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 < 표 4-5> Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics 주요내용 구분내용결의여부 법적책임 - 로봇으로인한손해발생시보상가능한손해의유형및정도를제한할수없음 - 생산자에대한보험가입의무체계수립필요 - 법적책임관련정책결정을위한유럽전체적인연구필요 등록제 - 로봇분류체계에따른등록제도입 저작권및프라이버시 - 로봇창작물의저작권보호기준마련 로봇세 노동시장및기본소득 [ 자료 ] Kakao (2017) 수정 - 자율로봇제조사에게책임보험가입의무부여 - 로봇이생성하는경제적가치에로봇세를부과하여보험미적용사고보상을위한기금조성 - 노동시장에미칠영향을감안해세제, 사회안전망, 기본소득등에대한연구필요 ( 로봇세 부결 23) ) ( 기본소득제 부결 ) < 표 4-6> Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics 내 책임 관련내용발췌 [ 책임에대한검토필요성 ] Z. 최근십여년간의눈부신기술발전덕분에오늘날의로봇은인간만이할수있다고생각했던활동들을할수있을뿐아니라경험을통해배우고준독립적인결정을하는등자율성과인지기능의개발을통해주변환경과상호작용을하고변화를줄수있는행위자와점점더비슷해졌다. 그러한맥락에서로봇의유해행동에대한법적책임이첨예한이슈로떠올랐다 ; AA. 로봇의자율성이란외부의통제나영향없이스스로결정을내리고그결정을바깥세상에서실행할수있는능력을가리킨다. 이자율성은온전히기술적인부분이며그정도는로봇이주변환경과얼마나세련된상호작용을하는지에달려있다 ; 23) 유럽의회는로봇업계와관련기술발전저해가능성등을이유로로봇세도입에반대함. 반면에빌게이츠등은재교육, 기본소득제등의재원마련을위하여로봇세를도입하여야한다고주장함. 54

67 제 4 장관련법제및연구동향 AB. 로봇의자율성이높아질수록다른주체 ( 제작자, 운영자, 소유자, 사용자등 ) 의단순한도구로치부할수없게된다. 이로인해법적책임에관련된현재의일반적원칙이충분한지혹은다양한행위자의법적책임을명확히밝히기위한새로운원칙과규칙들이필요할지에대한질문을던지게한다. 로봇의행위에대한원인을특정인간행위자까지역추적하기어렵거나로봇의행위가피할수도있었던피해를일으키는경우의책임소재를가리기어렵기때문이다.; AC. 궁극적으로, 로봇의자율성은기존의법적범주혹은로봇과관련된특성과특수한의미를포함한새로운범주를마련해야하는지와관련해로봇의정체성에대한질문을던지게한다 ; AD. 현재의법체계는제삼자에게피해를끼친행위에대한책임을로봇에게물을수없도록되어있다. 법적책임에대한기존의규칙은로봇의행위의원인이제작자, 운영자, 소유자혹은사용자등인간행위자가로봇의유해한행위를미리예측하고예방할수있었다고판단될경우에만책임을물을수있다. 또한제작자, 운영자, 소유자, 사용자는로봇의행위에대해무과실책임을지게된다 ; AE. 현재법체계에서상품의법적책임과 상품의오작동에대해제작자가책임을지는 그리고유해한행위에대한책임을다루는법이 피해로이어진행위에대한책임을상품의사용자가지는 로봇과인공지능이유발한손해에적용된다. ; AF. 로봇이자율적결정을하는상황에서기존의법은로봇이발생시킨손해에대한법적책임을지우기가어려운데이는손해를배상할당사자를파악하기가불가능하고로봇이입힌손해를보상하도록강제하기어렵기때문이다. ; AG. 현재법체계의결점은또한계약상의책임에서도명확히드러난다. 기계가계약상대를선택하고계약조건을협상하고계약을체결하고그계약을어떻게시행할지선택하도록설계되기때문에기존의법은적용을불가하다. 따라서, 최근시장에나온기술의발전과혁신에걸맞는새롭고효과적인최신의법이필요하다 ; AH. 비계약책임에관해서는, 의회령 85/374/EEC(4) 는피해자가실제피해를증명할수있고상품의결함과손해간에인과관계가있는경우에한해로봇의제조결함으로인한손해만을다루고있어서, 엄격책임혹은무과실책임은충분하지않을수있다 ; AI. 의회령 85/374/EEC 의범위에도불구하고, 현재의법체계는새로운세대의로봇이발생시킨손해를다루기에는부족함이있는데, 이는이로봇들이예측하기어려운행동을행할수있는적응력과학습능력을장착하고있어자신의다양한경험에서자율적으로학습하고, 주변환경에대해예측불가능하고독특한대응을할수있기때문이다.; 55

68 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 [ 책임관련제안 ] Z. 최근십여년간의눈부신기술발전덕분에오늘날의로봇은인간만이할수있다고생각했던활동들을할수있을뿐아니라경험을통해배우고준독립적인결정을하는등자율성과인지기능의개발을통해주변환경과상호작용을하고변화를줄수있는행위자와점점더비슷해졌다. 그러한맥락에서로봇의유해행동에대한법적책임이첨예한이슈로떠올랐다 ; AA. 로봇의자율성이란외부의통제나영향없이스스로결정을내리고그결정을바깥세상에서실행할수있는능력을가리킨다. 이자율성은온전히기술적인부분이며그정도는로봇이주변환경과얼마나세련된상호작용을하는지에달려있다 ; AB. 로봇의자율성이높아질수록다른주체 ( 제작자, 운영자, 소유자, 사용자등 ) 의단순한도구로치부할수없게된다. 이로인해법적책임에관련된현재의일반적원칙이충분한지혹은다양한행위자의법적책임을명확히밝히기위한새로운원칙과규칙들이필요할지에대한질문을던지게한다. 로봇의행위에대한원인을특정인간행위자까지역추적하기어렵거나로봇의행위가피할수도있었던피해를일으키는경우의책임소재를가리기어렵기때문이다.; AC. 궁극적으로, 로봇의자율성은기존의법적범주혹은로봇과관련된특성과특수한의미를포함한새로운범주를마련해야하는지와관련해로봇의정체성에대한질문을던지게한다 ; AD. 현재의법체계는제삼자에게피해를끼친행위에대한책임을로봇에게물을수없도록되어있다. 법적책임에대한기존의규칙은로봇의행위의원인이제작자, 운영자, 소유자혹은사용자등인간행위자가로봇의유해한행위를미리예측하고예방할수있었다고판단될경우에만책임을물을수있다. 또한제작자, 운영자, 소유자, 사용자는로봇의행위에대해무과실책임을지게된다 ; AE. 현재법체계에서상품의법적책임과 상품의오작동에대해제작자가책임을지는 그리고유해한행위에대한책임을다루는법이 피해로이어진행위에대한책임을상품의사용자가지는 로봇과인공지능이유발한손해에적용된다. ; AF. 로봇이자율적결정을하는상황에서기존의법은로봇이발생시킨손해에대한법적책임을지우기가어려운데이는손해를배상할당사자를파악하기가불가능하고로봇이입힌손해를보상하도록강제하기어렵기때문이다. ; AG. 현재법체계의결점은또한계약상의책임에서도명확히드러난다. 기계가계약상대를선택하고계약조건을협상하고계약을체결하고그계약을어떻게시행할지선택하도록설계되기때문에기존의법은적용을불가하다. 따라서, 최근시장에나온기술의발전과혁신에걸맞는새롭고효과적인최신의법이필요하다 ; 56

69 제 4 장관련법제및연구동향 AH. 비계약책임에관해서는, 의회령 85/374/EEC(4) 는피해자가실제피해를증명할수있고상품의결함과손해간에인과관계가있는경우에한해로봇의제조결함으로인한손해만을다루고있어서, 엄격책임혹은무과실책임은충분하지않을수있다 ; AI. 의회령 85/374/EEC 의범위에도불구하고, 현재의법체계는새로운세대의로봇이발생시킨손해를다루기에는부족함이있는데, 이는이로봇들이예측하기어려운행동을행할수있는적응력과학습능력을장착하고있어자신의다양한경험에서자율적으로학습하고, 주변환경에대해예측불가능하고독특한대응을할수있기때문이다.; 시사점 유럽에서가장선제적으로로봇에관한법체제논의를진행하고있음 - 국가차원에서 AI 로봇의지위, 개발, 활용에대한기술적 윤리적가이드라인을제시한것으로의미가있음 EU 회원국들이상기결의안을토대로자국내논의를거친후, EU가공식적으로 로봇시민법 을제정할계획임. 이법이제정되면유럽에수출하는로봇등을만드는국가들은상기규정에따라제품을생산하여야하므로, 사실상전세계로봇산업에영향을줄것으로보임 (2) 미국 국가과학기술회의 (National Science and Technology Council) 산하의기계학습인공지능소위원회 (Subcommittee on Machine Learning and Artificial Intelligence) 전략계획을만들기위해서인공지능태스크포스를구성해다양한연구기관이나정부산하조직을모두아우르는워킹그룹을구성해관련보고서를작성함 - 미국국립과학재단 (NSF), 미국고등정보연구계획국 (IARPA) 등의연구개발지원조직뿐만아니라, 의료, 법무, 에너지, 우주항공, 표준, 기술정책, 국방, 안보와보안의전문가들이모두태스크포스에참여 기계학습인공지능소위원회는인공지능개발의진보와성과를모니터링하여 NSTC에보고하여야함 57

70 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 - '16. 5월부터 7월까지 인공지능의법적 거버넌스적함의 (Legal and Governance Implications of Artificial Intelligence), 사회적선 ( 善 ) 을위한인공지능 (Artificial Intelligence for Social Good), 인공지능의안전과통제 (Safety and Control for Artificial Intelligence), 근접한미래에대한인공지능기술의사회적경제적함의 (The Social and Economic Implications of Artificial Intelligence Technologies in the Near-Term) 에대하여논의함 - '16.6. RFI(Request For Information) 24) 를통하여총 161개의기업 연구기관의답변을받아 7개전략을도출함 < 표 4-7> 미국기계학습인공지능소위원회의 RFI 1. 인공지능의법적, 거버넌스함의 2. 공공선을위한인공지능사용 3. 안전과제어이슈 4. 사회적경제적함의 5. 대부분의과학영역에서인공지능연구중가장긴급하고기초적질문 6. 인공지능을발전시키고공공에혜택을주기위해언급되어야하는가장중요한연구격차 7. 인공지능기술의잠재성을활용하기위해필요한과학기술훈련, 고등교육에서교수진을확보하고폭발적으로증가하는학생에대응하기위한교육기관의도전문제 8. 다양한분야의인공지능연구를고취하기위한연방정부, 연구기관, 대학, 자선기관등이취해야하는특정한단계들 9. 인공지능개발과응용을가속할할수있는학습데이터세트 10. 중저소득노동자를위한훈련가속과같은사회적요구에대응하기위한인공지능응용개발을가속하기위한 시장형성 의역할 < 표 4-8> 미국기계학습인공지능소위원회에서도출한 7개전략 1. 인공지능연구에장기투자를한다. 2. 인간과인공지능협력을위한효과적인방법을개발한다. 3. 인공지능의윤리적, 법적, 사회적함의를이해하고이를다룬다. 24) 미국 office of the Federal Register, Request for Information on Artificial Intelligence) ( n-on-artificial-intelligence) 58

71 제 4 장관련법제및연구동향 4. 인공지능시스템의안전과보안을보장한다. 5. 공유할공공데이터셋과인공지능학습과검사를위한환경을개발한다. 6. 표준과벤치마크를통해인공지능기술의측정하고평가한다. 7. 국가적으로인공지능 R&D 인력수요에대해더욱잘이해한다. - 인공지능국가연구개발전략계획 ('16.10), 인공지능의미래를위한준비 ('16.10), 인공지능, 자동화, 그리고경제 ('16.12) 보고서등을발간함 시사점 법제적대응의필요성을인식하나선제적으로법제를도입하기보다는전반적인정책방향성을제시하는연구및지속적인모니터링을진행중임 (3) 영국 RoboLaw 프로젝트참여하고자율주행차등특정분야위주로법제대응을하고있음 국가차원의인공지능법제논의가부족하여, 영국의회의과학기술위원회 (Science and Technology Committee) 는정부에게관련연구를진행할것을촉구하며 ('16.5) 관련보고서를발간함 ('16.10) - 영국정부는상기보고서에대해서긍정적으로검토할것으로응답함 ('17.1) 나. 민간 (1) 스탠포드대학 : A100(One-Hundred Year Study on Artificial Intelligence) 스탠포드대학연구진이 2014년말출범한연구프로젝트는다양한영역의전문가들이함께미래를예측하고 AI가가져올영향을연구하고있음 AI가자동차, 국가안보, 심리, 윤리, 법, 사생활, 민주주의및다른문제들에어떻게영향을미치는지에관한연구를주기적으로진행하고있으며, 이들의활동중에는관련법제를준비하는것도포함되어있음 ' 년의인공지능과삶 보고서를통해인공지능이가져올진보와부 59

72 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 작용을예측함 (2) Google, Facebook, Amazon, IBM, Microsoft: Partnership on AI to benefit people and society Google, Facebook, Amazon, IBM, Microsoft는파트너십을구성하여, AI를실현하는과정에서발생할법적, 윤리적도전과제를해소하고공론화를장려하며사회를개선하기위해 AI를사용할수있는기회를구체화한다는목적을내걸음 AI와관련된연구과제를설정하고우수사례를발굴하고연구결과를오픈라이선스로출판할예정이며, 윤리학, 공정성, 포괄성, 투명성, 프라이버시, 상호운용성, 인간과 AI 시스템간의협업, 기술의신뢰성과확실성과견고성등을주제로다룸 (3) Google: AI 윤리위원회 딥마인드는구글이인수할당시래리페이지에게 윤리위원회 (ethics board) 의설치를요구함 ('14.1.) AI 윤리위원회는인공지능기술이악용되지않도록기술사용에대한일련의규칙과제한을설정하고, 인공지능이학대되지않도록함 구성원이누구인지, 정확히어떤활동을하는지밝혀져있지않음 (4) Future of Life Institutue 실존적위협에대한인류의미래의안전보장 을미션으로하는기술전문가및기타유명인의집합체로, 인공지능, 핵, 기후변화, 생명공학등이인류의실존적위협이된다고판단하고이러한첨단기술의영향에대한연구개발을지원하고있음 치명적인자율무기체계의위험및사용법을검토하고조언할정부전문가의그룹을수립한 특정재래식무기에관한 UN 협약 (UNCCCW) 을지지하는성명을발표하는등인공지능이인간에게미칠영향에대한우려를표하고있음 60

73 제 4 장관련법제및연구동향 '15년초인공지능이인류의이익을위해사용되도록국제과학기술공동체에권장하는공개서한을발간하였고, 상기공개서한에 Elon Musk, Stephen Hawking, Morgan Freeman 등많은유명인사포함 8,000명이넘는사람들이서명함 (5) Ethics and Governance of Artificial Intelligence Fund ebay 창업자인피에르오미디아르가설립한오미디아르네트워크 (Omidyar Network), 존에스앤드제임스엘나이트재단 (the John S. and James L. Knight Foundation), 링크드인설립자리드호프만, 휴렛재단 (The William and Flora Hewlett Foundation), 렙터그룹설립자짐팔로타등이참여한기금으로, AI 를개발하면서발생하는문제중일부를해결하기위하여사용하는것을목적으로하고있음 '17.1. 기준으로 2,700만달러 ( 약 322억원 ) 를조성했으며 AI 기술의복잡성을소통하는데최선의방법을연구하고윤리적인 AI 시스템을설계하는방법, 새로운 AI 기술개발에서지지층을넓혀가는데초점을맞추고있음 (6) 옥스퍼드대학교 : Future of Humanity Institute 옥스퍼드대소재연구소로인공지능으로인한인류의다양한실존적위험들에대한학제간연구를수행함 (7) 캠브리지대학교 : Cambridge Center for the study of Exitential Risks 캠프리지대소재한연구센터로, 실존적위험중하나로인공지능을선정하고인공지능로봇의위험성에대한학제간연구수행함 61

74 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 < 표 4-9> 인공지능이미치는사회영향에대한연구중인주요민간단체 명칭운영주체내용 A100 (One-Hundred Year Study on Artificial Intelligence) Future of Life Institutue Google AI ethics board Future of Humanity Institute 스탠포드대학교 Google, Facebook, IBM, Amazon, Microsoft 등 Google 옥스퍼드대학교 - AI 가자동차, 국가안보, 심리, 윤리, 법, 사생활, 민주주의등에미치는영향연구및관련법제준비 - 보고서 2030 년인공지능과삶 발간 ('16.9) - AI 관련연구과제설정및우수사례를발굴하여연구결과를오픈라이선스로출판할예정 - 인공지능기술악용방지를위한기술사용규칙및제한설정등을연구하며, 구성원, 활동내용등은비공개 - 인공지능으로인한인류의다양한실존적위험들에대한학제간연구수행 3. 소결 미국, 유럽등은선제적으로인공지능시대의책임법제프레임워크를마련하고있음 우리나라는현재인공지능과직접적인법률은없으며, 관련기술에대한진흥위주의법만있음 최근인간과기계의공존을위한법제도정비에대한필요성은인식하여관련정책아젠다는설정하였으나일부주제만파편적으로연구할뿐범국가적연구체계를갖추고있지않음 62

75 제 5 장주요분야별책임법제쟁점진단 63

76

77 제 5 장주요분야별책임법제쟁점진단 제 5 장주요분야별책임법제쟁점진단 1. 개요 인공지능기술이상용화되기시작함에따라이로인해발생가능한책임법제문제쟁점파악이시급 - 인공지능이새로운판단주체로등장하면서책임구도가다원화됨 초기상용제품이출시되었으며급속히성장하고있는자율주행차, 의료, 비서, 핀테크분야를주요분야로선정하여책임법제쟁점을진단함 2. 자율주행차 가. 자율주행차로인한운전주체변화 '20년초 4단계수준의자율주행차본격적출시예정 SAE International( 국제자동차기술자협회 ) 은자율주행단계를크게 6단계로구분하며 25), 현재세계자율주행차산업은 2단계에서 3단계사이에위치하여 있음 26) - 구글은 '09년부터자율주행차시범운행을시작하였음 - 아우디, 캐딜락등은 '17 3단계수준의자율주행차를판매하고있음 국내현대차도 '20년상용화를목표로자율주행차기술을개발하는등 '20년에드러서면상당수준의자율주행차시장이크게열릴것으로예상되고있음 보스턴컨설팅그룹은 '35년전세계신차시장의 4대중 1대는자율주행차일것으로전망함 27) 25) SAE international (2014), Taxonomy and Definitions for Terms Related to On-Road Motor Vehicle Automated Driving Systems. 26) KOTRA (2017), 2017 년자율주행차산업현황분석. 27) BCG (2015), Revolution in the Driver s Seat: The Road to Autonomous Vehicles. 65

78 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 < 표 5-1> 자율주행단계 레벨명칭내용 핸들조작, 가 감속 운전환경모니터링 위험사태대비 시스템역량 주행환경모니터링주체 : 인간 0 비자동화지원없음인간인간인간 N/A 1 운전자지원 인간운전상태에서가 감속또는조향지원가능함 인간과시스템 인간 인간 일부환경 2 부분적자율주행 인간운전상태에서 2 가지이상의가 감속, 조향동시에지원가능함 시스템인간인간 일부환경 주행환경모니터링주체 : 자율주행시스템 3 조건부자율주행 자율주행가능하나특정상황시인간개입필요함 시스템시스템인간 일부환경 4 고도의자율주행 5 28) 완전자율주행 [ 자료 ] SAE international(2014) 시내주행을포함한도로환경에서인간개입없이자율주행함 모든환경하에서인간개입없이자율주행함 시스템시스템시스템일부환경 시스템시스템시스템모든환경 3단계이상자율주행차보급시운전주체변화 자율주행차는크게두형태로나눌수있음 - 부분적인자율주행차에서운전자는여전히운전자로남지만, 그역할은차량의조종을담당하는것에서기술을감독하는것으로바뀜 - 반면전면적인자율주행차 ( 적어도 4단계이상의자율주행차는이에해당함 ) 에서운전자는일정한시간동안에는단순한탑승객이되기때문에, 차량의조종에관한책임이인간에게서기계로이전됨 28) 美도로교통안전국 (NHTSA) 에서정의하는 4 단계는 SAE 4, 5 단계를모두포괄함 66

79 제 5 장주요분야별책임법제쟁점진단 운전주체가변화함에따라운행자또는운전자가주로책임지는현행법에서는일부책임주체상실, 부담편중등의문제가발생될것이라예상 2단계이하는인간이운전주체로현행법제와관련법리로규율가능하여보임 유럽 RoboLaw 프로젝트의보고서에서는자율주행차사고와관련하여다음과같은책임법제규정이검토되어야한다고언급하였음 29) - 유럽위원회 (EC) 의규격승인 (type approval) 혹은규격승인이행해지는기술적기준이자율주행차량을다룰수있게끔조정되어야함 - 주기적인점검을위한규정혹은그러한점검을위한기술적기준역시조정되어야함 - 운전면허관련규정이검토되어야함. 자율주행차량을위해어떤종류의면허가필요한지, 운전자없는차량을이용하는사람모두가운전면허를가져야하는지검토가필요함 - 도로에관한기술적기준이검토되어야함. 단, 자율주행차에서지능은도로가아닌차량에설치되는것이므로도로에대한규제의필요성은작을것임 - 자율주행차는인간운전자를통해조작권한을부여받을것이므로, 인간과차량이상호작용하는최적의방식을찾는 HMI(Human Machine Interface) 분야의추가적연구가필요하고, 이러한 HMI에서일정한수준의통일성을확보하기위한규제의필요성이나타남 - 차량과바깥세상간의통신이이뤄지는경우에는교환된정보를통해당사자를특정할수있으므로프라이버시이슈에대한책임을검토하여야함 - 책임판단시교통법규준수여부가고려되는데, 교통법규역시조정되어야함. 비엔나협약 (Convention on Road Traffic, Vienna) 제8조에서는 차량에는운전자가있어야한다 고정하고있고, 운전중휴대폰사용을금하는법률등도있는데, 완전자율주행이등장한다면이는불필요하고과도한규제가될것임 이용자가전면적인자율주행차를선택하는가장큰이유는 안전 인만큼자율주행차관련사고에대한책임분배를명확히해야안정적인시장확산이가능 29) European Commission (2014), Guidelines on Regulating Robotics. 67

80 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 [ 자료 ] SAE international(2015) 30) [ 그림 5-1] 전면적인자율주행차를구입하게될이유 ( 최대 3 개선택 ) 나. 자율주행차의법적정의 자율주행차에대하여법제를정비하기위해서는자율주행차에대한법적정의가필요한데, 자율주행차에대하여정의는각각상이 미국의네바다주, 캘리포니아주, 미시간주, 플로리다주의법안을보면각각자율주행차에대한정의가다름 < 표 5-2> 미국 4 개주의자율주행차정의분석 네바다캘리포니아미시간플로리다 수단 인공지능과기술로작동되는차량 아래의기술이탑재된차량 자율주행기술의제조자나 upfitter 에의해자율주행기술이설치된차량 자율주행기술이장착된차량 30) BCG (2015), Revolution in the Driver s Seat: The Road to Autonomous Vehicles 68

81 제 5 장주요분야별책임법제쟁점진단 수단의목적 차량으로하여금주행의모든기계적작동을수행하게하는것 차량을조종하거나주행하는기술 차량이운행되도록하는것 위기술이설치된차량을수있는 수단의작동방식 자연인의적극적조작이나지속적인모니터링이없을것 자연인의물리적모니터링없이 인간조작자의조종이나모니터링없이 인간조작자의적극적인조종이나모니터링없이 - ( 수단 ) 캘리포니아주가가장간단명료함. 네바다주의정의는인공지능을포함하는데, 아마도단순히액셀러레이터에벽돌을얹어놓은차량을제외하고자하는것으로보인다. 미시간주와플로리다주의정의는 automated와 autonomous를둘다포함하고있어서회귀적임 - ( 수단의목적 ) 캘리포니아주와플로리다주의정의에서는기술이차량을운행한다고명확히기재함. 하지만네바다주의정의에는조종 (control) 의요소가분명하게표현되어있지않고, 미시간주의정의에는수동형 (to be operated) 이사용되어누가차량을작동시키는지의문이남는데, human operator가등장하므로아마도인간이차량을이용한다는측면에서 operator가된다는의미로보임 - ( 수단의작동방식 ) 미시간주의정의가가장엄격하여, 4단계이상인경우에도자연인이차량이감당하기어려운상황에조작에소환된다면그정의에서제외될가능성이있음. 네바다주, 미시간주, 플로리다주의정의에서는부분적으로자동화된차량들의종류를열거하여제외시키는방식을쓰고있음 우리나라의 자율주행차 정의는명확하지않아향후어느정도수준의자율주행이이루어져야 자율주행차 에해당되는것인지논란이있을수있음 - 자동차관리법 에서자율주행차를 운전자또는승객의조작없이자동차스스로운행이가능한자동차 로정의하고있음 ( 자동차관리법제조제제1의3호 ) - 조작없이 요건이어느상황에서도조작을하지않아야자율주행차에해당된다는것인지, 위기상황에서의조작은제외하는것이면그범위는무엇인지명확하지않음. 엄격하게해석하여어느상황에서도조작을하지않아야해당된 69

82 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 다고해석한다면 자동차관리법 상 자율주행차 에해당되는차량은 5단계자율주행차뿐임 다. 현재까지의자율주행차사고사례 구글자율주행차사고 ( 16.2) 자율자동차의판단에따른운행에의하여사고가발생한경우임 문제상황 : ' 미국캘리포니아주마운틴뷰의구글본사인근에서시험주행을하던자율주행차가버스와충돌하는사고가발생함. 구글의자율주행차는본사인근의 6차선차로에서우회전을준비하고있던중배수로근처에놓인배수로를보호하기위한모래주머니를발견하고모래주머니를피해크게우회전을하려다옆차선의버스측면과충돌함 처리결과 - 본사고는구글이자율주행차량운행을시작한뒤 6년만에발생한첫자율주행차량과실로발생한사고임. 사고당시자율주행차에탑재된인공지능컴퓨터는당시시속약 3km 미만의자율주행모드로주행중이었고, ( 인공지능컴퓨터와안전을위하여차량내동승한운전자역시 ) 옆차선에서시속약 24km로주행하던버스가속도를줄일것이라판단했으나버스는속도를줄이지않았고그로인해사고가발생하였음. 차선변경당시해당자율자동차가좌측차선변경신호를보냈는지는나타나있지않음. 법적인과실비율산정에앞서구글은 자율주행차가움직이지않았더라면버스와충돌하지않았을것이다 고발표하며전적으로책임을인정함 - 본사고이후구글은기존에진행중이던 56대의시험주행차량운행을전면중단하면서, 해당인공지능에대해서는도로에서일어날수있는여러가지상황에대한인식이부족하여사고가발생한것으로보고이후 30만개의도로상황시나리오를추가로입력함. 각상황마다어떻게차량이스스로대처해야하는지를입력한것으로승객보호를최우선으로하도록프로그래밍됨, 또한이외에레이저센서장치도소개하는등사고이전보다자율주행차량의자율주행능력이고도로향상되었다고자체적으로판단함. 70

83 제 5 장주요분야별책임법제쟁점진단 테슬라자율주행차사고 ( 16.5) 자율자동차의인식기능의한계로인하여사고가발생한경우임 문제상황 : ' 테슬라모델S가자율주행기능인오토파일럿동작중사망사고가발생함. 양방향이중앙분리대로분리된고속도로의교차로에서자회전하던대형트레일러트럭의바닥면과모델S의전면유리가충돌하여탑승자사망함. 빛나는하늘때문에트레일러를인식하지못하여발생함 사고처리 - ' 자미도로교통안전국 (NHTSA) 조사보고서에따르면, 해당테슬라차량에는결함이없었고, 트럭과하늘을구분하지못한점은결함이아니라기술적한계인것으로판단하였음 31). - 조사결과에따르면운전자는레벨2의자율주행모드로차량을주행시키고영화를시청하고있었고, 당시운전자가충돌 2분전설정한주행속도는시속 74 마일 ( 시속 119km) 이었으며이는속도제한상한선인시속 65마일을초과한것이었음. 즉, 최소충돌 7초전에는운전자에게트럭이보였을것일뿐만아니라차량역시운전자에게수차례자율주행모드를해제할것을경고하였으나 ( 오토파일럿모드는핸들을잡고미세하게움직이기만해도자동으로해제됨 ) 운전자는브레이크를밟거나, 조향하거나, 기타충돌을피할아무런조치를취하지않았으며, 총 37분간의운전간격중운전자가운전대에손을올리고있었던시간은 25초에불과한등의점이밝혀졌고, 이는현재기술수준단계에서보조수단으로만사용해야할자율주행기능을과신하고, 운전중주의태만을저지른것으로서사고의원인에운전자과실이기여한바가크다고판단함 - 하지만최근美연방교통안전위원회 (NTSB) 은테슬라가운전자에게고안된것이외의외부시스템을이용하도록허용했고, 그시스템이운전자의주의를분산하게만들었으므로, 자율주행차가사고원인이라고지적함 (`17.9) 31) 71

84 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 < 표 5-3> 자율주행차사고주요실사례 일자사고내용처리결과 해커들이파이트-크라이슬러사자동차시스템을해킹하여엔진을급정지시키는영상공개 시험주행중이던구글자율주행차가배수로옆모래주머니를피해크게우회전하다가옆차선의버스와충돌 테슬라자율주행차가레벨 2 모드로시속 110km 로운전중, 실제하늘과흰색트레일러를구분하지못해트레일러와충돌하여탑승자사망 만대리콜실시 - 구글이전적으로책임인정하여보상 - 시험주행전면중단후 30 만개도로상황시나리오추가입력 - 美도로교통안전국 (NHTSA) 가 6 개월조사후하늘과트레일러를구분하지못한것은결함이아니라기술적한계이며, 자율주행차가운전자에게수차례경고하였으나이를무시한운전자과실이라고판단 32) (`17.1) - 하지만최근美연방교통안전위원회 (NTSB) 은테슬라가운전자에게고안된것이외의외부시스템을이용하도록허용했고, 그시스템이운전자의주의를분산하게만들었으므로, 자율주행차가사고원인이라고지적함 (`17.9) 시사점 현재까지의사고는주로제조업자가보상, 리콜등으로처리하고있음 - 자율주행차가아직개발중이며시장이작기때문에제조사가향후미래시장확대를위하여책임을지는경향이강함 단, 사망사고발생에대해제조사가적극적으로책임을부정한테슬라사건을볼때사고건수가많아지고사고수준이심각해지면제조업자의자율적인보상움직임은쉽지않아보임 32) 총 37 분운전기간중운전자가운전대를잡은시간이 25 초에불과하였음 72

85 제 5 장주요분야별책임법제쟁점진단 라. 현행법상자동차사고관련민사 형사주요책임유형 (1) 민사 자동차손해배상보장법상손해배상책임 ( 자동차손해배상보장법제3조 ) 자기를위하여자동차를운행하는자는그운행으로다른사람을사망하게하거나부상하게한경우에는그손해를배상할책임을짐 다만, 다음두경우중어느하나에해당하면그러하지아니함 - 승객이아닌자가사망하거나부상한경우에자기와운전자가자동차의운행에주의를게을리하지아니하였고, 피해자또는자기및운전자외의제3자에게고의또는과실이있으며, 자동차의구조상의결함이나기능상의장해가없었다는것을증명한경우 - 승객이고의나자살행위로사망하거나부상한경우 자동차손해배상보장법 ( 이하 자배법 ) 은자동차사고의대인배상책임을강화하고한편으로일정한배상책임보험의가입을강제하여인적피해에대한일정한배상을보장하기위함임. 자동차의운행으로사망이사망하거나부상당한경우의손해배상에관해서자배법은특별법으로서민법에우선하여적용됨 자배법손해배상책임에해당되면과실책임주의가무과실책임주의로수정되고, 입증책임이전환됨 자기를위하여자동차를운행하는자 는자동차에대한운행을지배하여 ( 운행지배 ) 그이익을향수하는책임주체로서의지위에있는자 ( 운행이익 ) 를말함 - 운행지배 : 자동차의운행과관련하여현실적으로자동차를관리, 운영할수있는것을말함. 사고발생당시반드시직접적으로자동차를관리, 운영을하고있을필요는없고그러한가능성만으로충분하므로상당히넓게인정되는경향임 - 운행이익 : 반드시직접적인경제적이익에한정하지않고간접적이든정신적인것이든불문함 - 운행자는자동차보유자, 운전자와는다른개념임 운전자는다른사람을위해서자동차를직접운전하거나, 이를보조하는사람 73

86 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 으로, 이러한운전자의경우운행자의손과발에불과하므로운행지배나운행이익이없음 보유자는자동차의소유자또는임차인을말하는데, 보유자는통상 자기를위하여자동차를운행하는자 의지위에있는것으로추인됨 민법상불법행위책임 ( 민법제750조 ) 자배법상대인사고외에는민법상불법행위책임에속함. 고의또는과실로인한위법행위로타인에게손해를가한자는그손해를배상할책임이있음 민법제750조에의한불법행위로인한손해배상책임의성립요건으로 1 가해자의고의 과실, 2 가해행위의위법성, 3 가해행위와인과관계있는손해의발생이필요함 - 불법행위책임에서는피해자가가해자의과실을입증하여야함 불법행위로인해가해자에게배상책임을지우기위해서는그를비난할만한귀책사유, 즉고의 과실이있어야하는데, 이는자기의행위의결과를변식할수있는판단능력을갖추고있음을전제로함 - 이처럼 불법행위의책임을변식할수있는정신능력, 법률상손해배상책임을부담할수있는자격내지지위 를 책임능력 이라하는데, 인공지능에게아직이러한책임능력이인정되기어려움 민법상사용자책임 ( 민법제756조 ) 자동차사고가어느사무종사중에발생한경우, 타인을사용하여어느사무에종사하게한자는피용자가그사무집행에관하여제삼자에게가한손해를배상할책임이있으므로그사용자에게도책임을물을수있음 민법제756조에의한사용자책임의성립요건으로 1 타인을사용하여어느사무에종사하게한행위, 2 피용자가사무집행에관하여제3자에게손해발생, 3 피용자의불법행위, 4 사용자가면책사유를입증하지못할것이필요함 - 사용자가피용자의선임및그사무감독에상당한주의를한때또는상당한주의를하여도손해가있을경우에는책임을물을수없음 74

87 제 5 장주요분야별책임법제쟁점진단 (2) 형사 교통사고처리특례법상인사사고에대한책임 교통사고처리특례법은교통사고로인한피해의신속한회복을촉진하고국민생활의편익을증진하기위하여업무상과실또는중대한과실로교통사고를일으킨운전자에관한형사처벌등의특례를정하고있음 차의운전자가교통사고로인하여업무상과실또는중대한과실로인하여금고또는벌금에처해짐 도로교통법상책임 도로에서일어나는교통상의모든위험과장해를방지하고제거하기위하여차의운전자에게는도로교통법상안전운전을할의무가있음 차의운전자가난폭운전을한경우, 무면허운전을한경우, 신호를어긴경우, 차선을지키지않은경우등에는벌금등에처해지게됨 양벌규정이있어법인의대표자나법인또는개인의대리인, 사용인, 그밖의종업원이법인또는개인의업무에관하여도로교통법상벌칙에해당되는위반행위를하면그행위자를벌하는외에그법인또는개인에게도해당조문의벌금또는과료의형을과함. 다만, 법인또는개인이그위반행위를방지하기위하여해당업무에관하여상당한주의와감독을게을리하지아니한경우에는그러하지아니함 < 표 5-4> 현행법상자동차사고관련민사 형사책임유형및주체 책임유형관련법률내용책임주체 자동차손해배상보장법손해배상책임 ( 제 3 조 ) 운행자 민사 형사 민법 불법행위책임 ( 제 750 조 ) 행위자 ( 운전자 ) 사용자책임 ( 제 756 조 ) 사용자 교통사고처리특례법인사사고에대한책임 ( 제 3 조등 ) 운전자 도로교통법 재물손괴, 난폭운전, 무면허운전등에따른책임 ( 제 151 조등 ) 운전자 / 고용주 75

88 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 마. 자율주행차등장으로인한책임법적쟁점 (1) 운전자의주의의무변화 민법상불법행위, 교통사고처리특례법위반에해당되기위해서는운전자의고의또는과실이인정되어야하는데, 운전자의과실여부판단시주의의무를다하였는지가고려됨 자동차를운전하는운전자는안전한운행을하기위한주의의무를다해야함. 일반적인주의의무로는운전개시전에차량을정비할것, 운전중정상적인작동방법으로주변상황에적절한대응조치를하며운전할것그외에전방주시, 도로교통법상의안전규범준수를지키는것등이있음 자율주행차에서는운전자의역할이축소되므로지금의주의의무수준을그대로유지하면자율주행의효용성이저해되므로주의의무수준에대한재설정기준마련이필요함 (2) 형사책임불분명 안정된보상을위해자배법에따른무과실책임을부과하는민사책임과달리형사법은책임주의원칙에따라사고행위의원인이있는운전자에게책임을부과함 교통사고처리특례법, 도로교통법을보면 차의운전자 의위반행위에대해서그운전자에게금고또는벌금을부과함 이처럼인간에게만범죄주체능력이인정되므로운전행위를한인공지능에게형사책임을물을수없음 책임주의원칙으로인해운전자대신제조업자, 운행자, 보유자등에게형사책임을부과하는것은어려워보임 양벌규정으로인하여사용자인법인에게부과되는경우는제외 - 단, 운전행위가아닌사고를유발한어느특정행위에책임이있다면그에따른형사책임을부과할수있을것임 ( 예-고의적으로부실한자율주행차를판매하여사고가유발된경우 ) 76

89 제 5 장주요분야별책임법제쟁점진단 (3) 자동차손해배상보장법적용혼란 현재는자배법에따라피해자에대한무과실에가까운손해배상책임을부담하는운행자가먼저보상을한후과실이있는자에게구상권을행사하는형태인데, 자율주행차등장에따라 운행지배, 운행이익 관점이변화하여자배법상책임을부담하는주체가불분명해짐 - 보통운행자가구상권을행사하는대상은과실이있는운전자였음. 하지만자율주행차시대에는운전자의과실보다는자율주행차의결함등이문제될가능성이큼. 이렇게되면통상적으로운전자에게구상권을행사하던운행자가제조사를상대로구상권을행사할가능성이높아지는데, 앞에서살펴본바와같이인공지능의법적 기술적 운영적특성상제조자의과실을찾기쉽지않아분쟁해결에장기간 고비용이지출됨 자배법에의하여손해배상을받기위해서는인적사고를당한사람이 다른사람 에해당되어야함. 운전자나운행자는 다른사람 에해당되지않아피해구제를받을수없음 - 자율주행시대의운전자나운행자는자율주행차에타고있는사람에불가할수있어기존대로타인성이부인되어야하는지의문임. 자율주행차에탑승한운전자나운행자에대한피해구제가되도록자배법이해석이변화해야하는지등이논의될필요성있음 (4) 제조물책임불분명 제조물책임법은 제조물 의결함으로발생한손해에대한제조업자의손해배상책임을규율하는법임 ( 제조물책임법제1조 ) - 제조물책임법상제조물은 제조되거나가공된동산 을의미함 ( 동법제2조제1호 ) 제조물책임법상결함을제조상의결함, 설계상의결함, 표시상의결함으로유형화하는한편, 그밖에통상적으로기대할수잇는안전성이결여된것도결함의한유형으로보고있음 ( 동법제2조제2호 ) - 제조상의결함 ( 가목 ) 77

90 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 제조상결함이란제조업자가제조물에대하여제조상 가공상의주의의무를이행하였는지에관계없이제조물이원래의도한설계와다르게제조 가공됨으로써안전하지못하게된경우를말함. 즉, 제조과정의오류로인하여제조물에이상이발생한경우무과실책임을지게됨 제조상결함이인정되려면원래 1 제조물이원래의도한설계와다르게제조되었다는점, 2 그로인하여제조물이안전하지못하게되었다는점이인정되어야함. 하지만피해자가이를입증하기어려우므로기상이상법리로증명책임을완화함 제품이정상적으로사용되는상태에서사고가발생한경우, 피해자의경우 1 그사고가제조업자의배타적지배하에있는영역에서발생하였다는점, 2 그사고가어떤자의과실없이는통상발생하지않는다는점을증명하면결함의존재와결함과사고사이의인과관계가추정됨. 반면제조업자는제품의결함이아닌다른원인으로말미암아사고가발생하였음을증명하여그추정을깰수있음 33) - 설계상의결함 ( 나목 ) 설계상의결함이란제조업자가합리적인대체설계 ( 代替設計 ) 를채용하였더라면피해나위험을줄이거나피할수있었음에도대체설계를채용하지아니하여해당제조물이안전하지못하게된경우를말함 설계상결함에기한제조물책임은과실책임적성격을가지는데, 이를판단함에있어 합리적인대체설계 가중요한요소로사용됨 합리적인대체설계가존재하는경우과실이인정될가능성이큰데, 합리적대체설계란해당제조물의설계와동일한범주에속하는설계로서, 해당설계보다더욱안전하고비용효율이높은설계를의미함 - 표시상의결함 ( 다목 ) 표시상의결함이란제조업자가합리적인설명 지시 경고또는그밖의표시를하였더라면해당제조물에의하여발생할수있는피해나위험을줄이거나피할수있었음에도이를하지아니한경우를말함 표시상의결함이존재하는지에대한판단을할때에는제조물의특성, 통상사 33) 대법원 선고 98다15934 판결 ; 대법원 선고 2003다16771 판결. 78

91 제 5 장주요분야별책임법제쟁점진단 용되는사용형태, 제조물에대한사용자의기대의내용, 예상되는위험의내용, 위험에대한사용자의인식및사용자에의한위험회피의가능성등여러사정을종합적으로고려하여사회통념에비추어판단하여야함 34) - 통상적결함 사회적으로허용되거나소비자가예견할수있는위험인지여부로판단하는바, 상기위험을넓게해석할경우과소배상의문제, 좁게해석할경우개발의욕저하의문제가발생함 제조물책임법은 4 가지면책사유를정하고있음 ( 제조물책임법제4조 ) - 제조업자가해당제조물을공급하지아니하였다는사실 ( 제1호 ), 제조업자가해당제조물을공급한당시의과학 기술수준으로는결함의존재를발견할수없었다는사실 ( 제2호 ), 제조물의결함이제조업자가해당제조물을공급한당시의법령에서정하는기준을준수함으로써발생하였다는사실 ( 제3호 ), 원재료나부품의경우에는그원재료나부품을사용한제조물제조업자의설계또는제작에관한지시로인하여결함이발생하였다는사실 ( 제4호 ) 이증명되면, 그제조업자는제조물책임을면할수있음 - 제조물을공급한후에그제조물에결함이존재한다는사실을알거나알수있었음에도그결함으로인한손해의발생을방지하기위한적절한조치를하지아니한경우에는제2호내지제4호의면책을주장할수없음 - 신기술을사용한제조물에서가장쟁점이되는사항은제2호에해당되는개발위험의항변임. 개발위험의항변은 당시의과학 기술 수준을어떻게해석하느냐에따라서인정여부가달라짐. 이기준이높다면개발위험의항변이받아들여진여지가줄어듬하는지식의총체를의미하며, 최고수준의지식까지를포함함 자율주행차에서는제조물책임법상제조업자책임이점점부각되는데, 자율주행차초기단계에는설계상결함 통상적결함인정여부, 면책사유해당여부등이불분명하여제조업자 사용자등측면에서위험비용을측정할수없 음 35) 34) 대법원 , 선고 2011 다 판결. 35) 권영준 이소은 (2016), 자율주행자동차사고와민사책임, 민사법학 제 75 호, 한국민사법학회. 79

92 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 바. 자율주행차책임법제변화의움직임 운전의주도권이운전자로부터자동차로이전됨에따라제조업자에게도사고에대한책임을더부과하는형태로변화중 이에따라각국은제조업자에게일부책임을부담시키거나새로운보험을만드는등관련입법안을마련중임 - ( 미국 ) 미시간주는시스템결함으로인한사고시자동차제조사가손해배상을부담한다는법안을통과시킴 ('16.12) - ( 영국 ) 정부는수동운행사고와자율주행운행사고를모두보상하는단일보험자방식으로전환하는법률안 (Vehicle Technology and Aviation Bill) 을발표하고의회에상정함 ('17) 36) 상기법률안에따르면자율주행운행사고시보험사가제3자 운전자의인적손해, 제3자의물적손해를보상하고사고의귀책사유가제조사, S/W 공급자등에게있는경우이들에게구상권을행사하여회수함 영국은 '18년이후자율주행차생산이가능하도록 '17년까지도로교통, 사고발생시책임부담및의무보험제도등관련법규를개정할예정임 - ( 일본 ) 정부는 자율운전손해배상책임연구회 ' 를구성하여 ('16) 4단계이상의자율주행차사고의손해배상책임부담을논의하고있으며, 보험회사는자율주행차실험실증용상품등을개발 제공중임 3. 의료 가. 의료행위에있어서인공지능활용증대 의사의의사결정을지원하는 IBM 왓슨을필두로인공지능의료분야가빠르게성장함 - 우리나라는길병원이 '16.9 국내최초로왓슨을도입하여암환자진단및치료법과정에서활용함 36) 이기형 (2017), 영국의자율주행자동차보험제도의주요내용과시사점, Kiri 리포트 제 415 호, 보험연구원. 80

93 제 5 장주요분야별책임법제쟁점진단 의료분야인공지능시장규모는 '14년 6.4억달러에서 '21년 6조달러로, 연평균 40% 씩성장할것으로전망됨 (Frost&Sullivan) 37) - 진단, 치료에관한의사결정지원도구로활용되며, 비용의감소와다양한사업자들의참여로관련시장의폭발적인성장유도 [ 자료 ]Frost&Sullivan (2015) 자료를생명공학정책연구센터재가공 (2016) 38) [ 그림 5-2] 의료분야에서의인지컴퓨팅과인공지능시스템활용시장현황및전망 ( ) 나. 현행법상의료사고관련민사 형사주요책임유형 (1) 민사 민법상채무불이행책임 ( 민법제 390 조 ) 채무불이행이란채무자가정당한이유없이채무의내용에좇은이행을하지않는것을말함 37) Frost&Sullivan (2015), Cognitive Computing and Artificial Intelligence Systems in Healthcare. 38) 우창우, 김무용 (2016), 헬스케어에서의인지컴퓨팅과 AI 시스템활용시장현황및전망, BioINdustry No. 209, 생명공학정책연구센터. 81

94 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 채무자가채무불이행을하였을때채권자는손해배상을청구할수있음. 단, 채무자의고의나과실없이이행할수없게된때에는그러하지아니함 의료계약에있어서의사는환자에게의료서비스를제공할채무를부담하며, 환자는의사에게의료서비스에대한대가를지급할채무를부담하게되는데, 이때일방의채무는상대방에게는채권이됨 이에따라의사가환자에대하여부담하는진료채무를제대로이행하지아니하여의료사고가발생한경우, 의사는채무불이행책임을지게됨 - 이때의료법인이나학교법인이설립하여운영하고있는병원에서는의료계약의당사자는당해법인이므로, 당해법인이채무불이행책임을짐 민법제390조에의한불법행위로인한손해배상책임의성립요건으로 1 채무자에게일정한채무의존재, 2 채무자의채무불이행사실, 3 채무자의귀책사유즉채무불이행의위법성, 4 채무불이행과인과관계있는손해의발생이필요함 - 채무자의귀책사유를판단함에있어의사가주의의무를다하였는지를고려함. 의료행위에있어의사가통상적으로갖추어야할주의의무를고의 과실로지키지않은의료과실로환자의생명신체건강을침해하는위법성이존재한다고판단함 민법상불법행위책임 ( 민법제750조 ) 의료사고가발생한경우의료인은환자에게발생한손해, 즉환자의상해나사망에대하여불법행위책임을부담할수있음 민법제750조에의한불법행위로인한손해배상책임의성립요건으로 1 가해자의고의 과실, 2 가해행위의위법성, 3 가해행위와인과관계있는손해의발생이필요함 - 손해와위법행위의인과관계를입증하여야하는것은채무불이행책임과동일함 - 과실의입증책임에있어, 원칙적으로채무불이행책임에서는채무를이행하지않는경우에채무자가자신의과실없음을적극적으로입증하여야하는반면, 불법행위책임에서는피해자가가해자의과실을입증해야함 82

95 제 5 장주요분야별책임법제쟁점진단 (2) 형사 형법상업무상과실치사상 ( 형법제268조 ) 업무상과실또는중대한과실로인하여사람을사상에이르게한자는금고또는벌금에처해짐. 따라서의료업무행위중과실또는중대한과실로사람이다치거나사망하는경우형법상업무상과실치사상에해당될수있음 업무상과실치사상판단시각업무의행위유형이나구체적태양및제반상황등을고려함. 직종에따라그특성을고려하여업무상주의의무를판단함 의사의환자에대한의료행위는기본적으로신체에대한침습행위를전제로함. 의료의침습으로얻는이익이침습으로인한인체의위해보다크기때문에의료행위로인하여환자에게기대하지않은결과가발생하였다는사실만으로업무상과실치사상을인정하지않고, 제반상황에맞추어이익형량과결과회피의무의이행여부, 위험방지조치등을검토하여야함 또한형법제24조에의하면 처분할수있는자의승낙에의하여그법익을훼손한행위는법률에특별한규정이없는한벌하지아니 하므로, 의료행위의경우대부분환자의동의를얻은후의료행위가수행되므로이를고려하여야함 - 이때의사가환자에게필요한사항을제대로설명하였는지여부가판단사항중하나임 의료기기법상일반행위의금지 ( 의료기기법제26조 ) 의료기기는 사람이나동물에게단독또는조합하여사용되는기구 기계 장치 재료또는이와유사한제품 으로 1 질병을진단 치료 경감 처치또는예방할목적으로사용되는제품, 2 상해또는장애를진단 치료 경감또는보정할목적으로사용되는제품, 3 구조또는기능을검사 대체또는변형할목적으로사용되는제품, 4 임신을조절할목적으로사용되는제품으로규정하고있음 ( 의료기기법제2조제1항 ) 누구든지허가또는인증을받지아니하거나신고를하지아니한의료기기를수리 판매 임대 수여또는사용하여서는아니되며, 판매 임대 수여또는사용할목적으로제조 수입 수리 저장또는진열하여아니됨 ( 동법제26조 ) 83

96 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 따라서의사가허가를받지않은의료기기를의료행위에사용한다면징역또는벌금에처해지게됨 ( 동법제51조 ) < 표 5-5> 현행법상의료사고관련민사 형사책임유형및주체 책임유형관련법률내용책임주체 민사 민법 채무불이행책임 ( 제 390 조 ) 계약당사자 ( 의사, 병원 ) 불법행위책임 ( 제 750 조 ) 행위자 ( 의사, 간호사등 ) 형사 형법업무상과실치사상 ( 제 268 조 ) 행위자 ( 의사, 간호사등 ) 의료기기법일반행위의금지 ( 제 26 조 ) 행위자 다. 인공지능을활용한의료행위에있어서책임법제쟁점 (1) 개요 의료관련인공지능은아직의사보조역할을수행하는정도로최종적인책임은의료인에게부과중임 - 주요국도책임분배주제보다인공지능의료기기활성화를위한규제개편주제를중심으로논의중임 ( 일본 ) 인공지능활용진찰도지원이가능하도록진료보수개정검토중임. 인공지능을이용한의료행위가진료보수대상에포함되면환자부담이증가하는데, 정부는인공지능의료를건강보험적용대상에추가해환자부담을낮춤으로써환자의인공지능활용을증대하고자함 최종적인책임주체는의료인이지더라도인공지능으로인해책임여부판단시고려요소에대한변화가오고있음 - 의료사고에서의료인의민사 형사책임판단시의료인의설명의무및주의의무준수, 의료법준수등이중요한결정요인이됨 - 인공지능이의사및환자의의사결정에영향을미치는요인으로작용함에따라의료인의설명의무및주의의무, 의료기기기준등에변화가발생함 84

97 제 5 장주요분야별책임법제쟁점진단 (2) 주의의무판단기준변동 의사가주의의무를위반하여환자에게손해를입힌경우민 형사상책임을부담하게됨 - 의사가치료등의의료행위를함에있어서는사람의생명 신체 건강을관리하는업무의성질에비추어구체적인증상이나상황에따라위험을방지하기위하여요구되는최선의조치를행하여야할주의의무가있음 주의의무는의료행위를할당시의료기관등임상의학분야에서실천되고있는의료행위의수준을기준으로판단하며, 의사의조치가합리적인선택이었다면의사의재량범위를인정함 39) - 의사가행한의료행위가그당시의의료수준에비추어최선을다한것으로인정되는경우에는의사에게환자를진료함에있어서요구되는주의의무를위반한과실이있다고할수없음 - 특히의사의질병진단의결과에과실이없다고인정되는이상그요법으로서어떠한조치를취하여야할것인가는의사스스로환자의상황기타이에터잡은자기의전문적지식 경험에따라결정하여야할것이고, 생각할수있는몇가지의조치가의사로서취할조치로서합리적인것인한그어떤것을선택할것이냐는당해의사의재량의범위내에속하고반드시그중어느하나만이정당하고이와다른조치를취한것은모두과실이있는것이라고할수없음 인공지능이의료행위에깊숙이침투하면서, 주의의무위반여부판단시인공지능진단사용여부, 인공지능진단결과준수여부등이반영될수있음 인공지능진단결과를주의의무판단기준으로사용하는경우인공지능진단과다른시술을한의사의입증부담이증가하므로의사의재량권이축소되고인공지능의존현상이높아질수있으므로, 적정한기준설정에있어서신중한판단이필요함 (3) 설명의무판단기준불분명 의사는설명및동의절차로인하여수술등이지체되면환자의생명이위험하 39) 대법원 선고 98 다 판결 85

98 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 여지거나심신상의중대한장애를가져오는경우가아니라면사람의생명또는신체에중대한위해를발생하게할우려가있는수술, 수혈, 전신마취를하는경우제2항에따른사항을환자에게설명하고서면으로그동의를받아야함 ( 의료법제24조의2 제1항 ) 이때환자에게설명하고동의를받아야하는사항은 1 환자에게발생하거나발생가능한증상의진단명, 2 수술등의필요성, 방법및내용, 3 환자에게설명을하는의사및수술등에참여하는주된의사의성명, 4 수술등에따라전형적으로발생이예상되는후유증또는부작용, 5 수술등전후환자가준수하여야할사항임 ( 의료법제24조의2 제2항 ) 의사가질병의증상, 치료방법의내용및필요성, 발생예상위험등을설명할때인공지능기술사용시기술의동작방식, 불확실성등에대한설명의무가더강화될것이라고예상됨 동작불확실성, 설명불가능성, 알고리즘불투명성등인공지능기술특성상명시적이고유효한설명이어려워이에대한기준마련이필요함 (4) 의료기기해당여부혼란 인공지능이학습의결과로의료의사결정을지원할경우의료기기해당되는지여부가불분명함 식품의약품안전처는 빅데이터및인공지능 (AI) 기술이적용된의료기기허가 심사가이드라인 ( 안 ) ('16.12) 에서, 빅데이터및인공지능기술이적용된의료기기해당여부는사용목적에따라구분된다고함 - 상기가이드라인은의료정보검색용은의료기기에해당되지않으며, 환자의질병 예방등의목적으로의료정보를분석, 진단또는예측하기위해제조된소프트웨어는의료기기에해당될수있다고함 같은인공지능기술이어도그목적에따라의료기기해당여부가달라지고의료정보검색과환자의질병을위한의료정보분석의기준또한명확하지않아, 의료현장에서는인공지능을전면적으로의료행위에활용하여도되는것인지의문을가질수밖에없음 86

99 제 5 장주요분야별책임법제쟁점진단 이에대한기준을명확하기위한의료기기법개정검토등이요구됨 (5) 소프트웨어에대한제조물책임법적용불분명 자율주행차와같이제조물책임이불분명한문제가있음 특히, 의료인공지능의경우클라우드내소프트웨어를이용할수있는라이센스형태로판매될수있는데, 소프트웨어의제조물책임법적용여부가논란이되고있어더욱제조물책임을물을수있는지불분명함 제조물책임법의적용을받기위해서는 제조물 이어야하는데, 제조물은 제조되거나가공된동산 ( 다른동산이나부동산의일부를구성하는경우를포함 ) 으로규정되고있음 - 소프트웨어가하드웨어에포함되어판매되는경우 ( 임베디드소프트웨어 ) 에는소프트웨어가동산에고정되기때문에제조물책임법상제조물로봄. 예를들어자율주행차의경우자율주행차내에자율주행소프트웨어가탑재되기때문에제조물책임법이적용됨 - 하지만소프트웨어만제공되는경우제조물책임법적용여부에논란이있고규정문언상아직은제조물책임법적용을인정하지않는것이일반적임 인공지능사고의책임분배에있어서제조사에게일정한책임을지게하기위해서는제조물책임법의개정검토가필요함 (6) 의료행위및의료행위주체에대한재검토필요 인공지능이도입되며다수의전문가가진료등에참여함으로써의료행위주체를의료인으로한정하는개념에대한의문이제기됨 의료행위 는명시적인정의규정없이시대적상황에맞는해석이가능하도록판례에의해구체화되고있음. 인공지능이의료영역에도입되면서진료정보분석등에정보통신기술제공자가관여할수밖에없는데, 이러한행위가의료행위에해당되면의료인이아닌기술자는관여할수없음 - 기존법제하에서진료정보의소유권, 관리와보존의주체등에대한제약이국 87

100 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 내의료영역인공지능의개발과도입, 기계학습과같은훈련을시키는데걸림돌이되고있음 의료행위의경계가무엇인지, 일부의료행위에대해서는일정기준으로나누어의료인이아닌데이터분석가등기술자가필요영역에서활동할수있도록의료행위주체개념을수정할필요가있는지재검토가필요함 4. 비서 가. 인공지능비서증대로인한사고발생 글로벌 IT 기업들의인공지능비서시장선점을둘러싼경쟁치열해지면서주요기업들이인공지능비서시장에앞다투어진출함 한증권사는 1 위를선점하고있는아마존의알렉사가 '20 년까지아마존에게 100 억달러의수익을가져다줄것으로예상함 40) 이러한경쟁속에 '24년인공지능가상비서시장의규모가 110억달러를초과할것으로예상됨 41) 인공지능비서가실생활에쓰이기시작하면서물건주문등인공지능비서를통한계약체결이증가함에따라주문오류등의사례가발생하고있음 - 대표적인사례는알렉사의주문오류사례임 < 표 5-6> 인공지능비서사고사례 '17. 1 미국의 6살어린이가아마존인공지능비서 알렉사 에게장난감과쿠키를사달라고말한주문결제가승인되어, 18만원상당의인형의집장난감과 1,8kg 의쿠키가배달됨 상기사건을다룬뉴스에서아나운서의마무리발언 ( 알렉사나에게인형의집을선물해줘 ) 을알렉사가주문으로인식하여결제진행함 상기주문오류에대해아마존은취소 환불처리를진행함 40) " 아마존, 알렉사덕에 3 년후에는 11 조원추가매출가능 "( ), 연합뉴스. 41) Global Market Insights (2016), Intelligent Virtual Assistant (IVA) Market Size. 88

101 제 5 장주요분야별책임법제쟁점진단 - 1 타인의음성을이용자의음성으로착각하여주문하거나이용자의주문내용을잘못인식하여주문하는등의주문오류, 2 구체적인상품특정없이주문할경우특정회사에게유리한물건을주문하는불공정거래행위가발생하여이용자의이익을해하는불공정거래행위등의문제발생이대두되고있음 나. 현행법상주문오류에대한민사처리방안 (1) 진의아닌의사표시를근거로계약무효주장 의사표시는표의자가진의아님을알고한것이라도그효력이있음. 그러나상대방이표의자의진의아님을알았거나이를알수있었을경우에는무효로함 ( 민법제107조 ) - 인공지능을이용한주문이사용자가주문하고자하는진의가아닌다른전자적의사가인공지능을통하여입력되어주문이성립하는경우는비진의표시가이루어진것으로보아민법제107조의적용대상이될수있음 - 인공지능에입력된목소리의주인이주문의의사가없음에도불구하고대화혹은혼잣말을통하여인공지능이계약의의사로파악하여청약을하는경우, 상대방이표의자의진의아님을알고있었거나알수있을경우에한해서만의사표시에대한무효가가능한데, 상대방이표의자의진의를조사할의무는없으므로비대면성이특징인전자적의사표시의경우무효가되기어려움 (2) 착오에의한의사표시를근거로계약취소주장 의사표시는법률행위의내용의중요부분에착오가있는때에는취소할수있음. 그러나그착오가표의자의중대한과실로인한때에는취소하지못함 ( 민법제109조 ) - 기기에목소리인식등추가제어기능이없는한착오가중대한과실에의한것이라고할수없음. 같은맥락에서만약추가제어기능이있음에도불구하고사용자의과실로인하여이를통제하지못하였다면제109조단서조항에따라착오에의한계약취소는어려움 89

102 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 (3) 전자문서법근거로계약무효주장 전자문서가작성자또는그대리인의의사에기한것이라고믿을만한정당한이유가있는자에의하여송신된경우전자문서에포함된의사표시를작성자의것으로보아행위할수있지만 ( 제7조제2항제2호 ), 전자문서가작성자의것이아님을수신인이알았던경우또는상당한주의를하였거나작성자와합의된절차를따랐으면알수있었을경우에는그렇지않음 ( 제7조제3항제2호 ) - 이는전자문서가권한없는자에의하여송신된경우작성자와수신인이자신의부주의여하에따라책임지도록한것임 - 인공지능비서를통해계약체결을한경우턱없이낮은가격이라는등의이유가아닌한수신인이오류에의한계약인지여부등을알수없으므로무효로하기어려움 < 표 5-7> 인공지능비서의주문오류시계약무효 취소의근거및요건 유형관련조항무효 취소요건 진의아닌의사표시 착오로인한의사표시 전자문서법상제한 민법제 107 조 민법제 109 조 전자문서및전자거래기본법제 7 조 상대방이표의자의진의아님을알았거나이를알수있었을경우무효 표의자의중대한과실없이법률행위의내용의중요부분에착오가있는경우취소가능 수신자가전자문서가작성자의것이아님을수신자가알았던경우또는상당한주의를하였거나작성자와합의된절차를따랐으면알수있었을경우무효 다. 인공지능비서사고에서의책임법제쟁점 (1) 이용자의손해부담가능성증대 이용자는착오로의한의사표시를이유로오류있는주문을취소할수있으나, 음성인식비활성화등인공지능비서의추가제어기능을설정하지않은경우이용자에게중대한과실이있다고보아주문취소가어려울수있음 90

103 제 5 장주요분야별책임법제쟁점진단 진의아닌의사표시, ( 전자문서이용계약시 ) 전자문서법상제한등을이유로계약무효를주장할수있으나이는상대방이주문오류를알았거나알수있는경우에만해당되어인정되기어려움 (2) 소프트웨어에대한제조물책임법적용여부논란 앞서본바와같이계약무효 취소의근거및요건상계약체결을무효로하거나취소하기어려워주문오류로인한이용자의손해부담가능성이높음 이용자는원치않은주문으로인한손해에대하여인공지능비서제조업자에게손해배상을청구할수있으나인공지능오류와손해의인과관계입증이어려워, 제조물책임법상입증책임전환이필요함 제조물책임법적용시입증책임이전환되나소프트웨어를민법상동산으로보아제조물책임법을적용할수있는지에대한논란이존재함 - 제조물책임법의적용을받기위해서는 제조물 이어야하는데, 제조물은 제조되거나가공된동산 ( 다른동산이나부동산의일부를구성하는경우를포함 ) 으로규정되고있음 - 소프트웨어가하드웨어에포함된경우에는제조물로볼수있겠지만서버등을통해소프트웨어결과만제공되는경우제조물책임법적용여부에논란이있고규정문언상아직은제조물책임법적용을인정하지않는것이일반적임 - 예를들어아마존비서인공지능인알렉사의경우, 사용자가스피커인에코등을통해주로이용하지만에코에알렉사에내장된것이아니라에코에연결된인터넷을통해알렉사를이용하는것으로제조물책임법적용이어려울수있음 (3) 알고리즘불투명성으로인한불공정거래행위회색지대확대 독점규제및공정거래에관한법률 ( 이하 공정거래법 ) 은사업자의시장지배적지위의남용과과도한경제력의집중을방지하고, 부당한공동행위및불공정거래행위를규제하여공정하고자유로운경쟁을촉진함으로써창의적인기업활동을조장하고소비자를보호함과아울러국민경제의균형있는발전을도모함 91

104 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 공정거래법에서금지하는 부당한공동행위는 사업자가계약 협정 결의기타어떠한방법으로도다른사업자와공동으로부당하게경쟁을제한하는 1 가격을결정 유지또는변경하는행위, 2 상품또는용역의거래조건이나, 그대금또는대가의지급조건을정하는행위, 3 상품의생산 출고 수송또는거래의제한이나용역의거래를제한하는행위, 4 거래지역또는거래상대방을제한하는행위, 5 생산또는용역의거래를위한설비의신설또는증설이나장비의도입을방해하거나제한하는행위, 6 상품또는용역의생산 거래시에그상품또는용역의종류 규격을제한하는행위, 7 영업의주요부문을공동으로수행 관리하거나수행 관리하기위한회사등을설립하는행위, 8 입찰또는경매에있어낙찰자, 경락자, 투찰가격, 낙찰가격또는경락가격, 그밖에대통령령으로정하는사항을결정하는행위, 9 제1호부터제8호까지외의행위로서다른사업자 ( 그행위를한사업자를포함한다 ) 의사업활동또는사업내용을방해하거나제한함으로써일정한거래분야에서경쟁을실질적으로제한하는행위중어느하나에해당하는행위를할것을합의하거나다른사업자로하여금이를행하도록하는것을말함 ( 공정거래법제19조제1호 ) 인공지능비서가불공정거래행위를할경우이에대한인식가능성, 회피가능성등을파악하기어려움 ( 예 ) 아마존의인공지능비서인알렉사를통해주문할경우, 아마존을통해서만물품구매를진행하는행위 - 불공정거래행위에해당되기위해서는사업자가공정한거래를저해할우려가있다고예측하면서도이를회피하지않고부당한행위를해야하는데, 인공지능기술동작의불확실성및불투명성으로인해불공정거래행위해당여부판단이어려운회색지대가확대됨 인공지능기술의불확실성및불투명성속에서도불공정거래행위여부를판단할수있도록인공지능알고리즘감사제도도입, 입증책임전환등을검토할필요있음 92

105 제 5 장주요분야별책임법제쟁점진단 5. 핀테크 가. 로보어드바이저등기술기반금융활동증가 핀테크는금융 (Finance) 과기술 (Technology) 의합성어로최근혁신적인기술과금융서비스를결합해새로운금융서비스를제공하는사업을말함. 인공지능은여기서의기술중하나로사용되고있음 모바일뱅킹등으로인해핀테크시장은급격하게성장하였으며, 앞으로는인공지능을활용한핀테크시장이확대될것으로예상됨 - `00년에는 600명에달하던골드만삭스뉴욕본사의트레이더가현재는 2명만남음. 기존의주식거래는 200명의개발자가운영하는자동거래프로그램이맡고있음 [ 자료 ] Accenture 42) [ 그림 5-3] 세계핀테크시장의성장현황 ( ) 42) Accenture (2016), Global Fintech Investment Growth Continues in 2016 Driven by Europe and Asia, Accenture Study Finds,newsroom( 자 ) ( -driven-by-europe-and-asia-accenture-study-finds.htm) 93

106 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 소프트웨어 ( 인공지능 ) 뿐아니라하드웨어 ( 로봇 ) 의발달이병행되어야인력을대체하는것이가능한제조업, 건설업, 유통업등의여타분야와는달리, 금융업의경우대부분의업무가데이터 ( 금융정보 ) 의처리만으로이루어지므로인공지능에의한업무대체가매우용이하여빠르게변화가이루어질것으로보임 나. 현행법상금융사고에대한민사주요책임유형 43) 민법상불법행위책임 ( 민법제750조 ) 금융업무의현실적인주체인피용자가고의또는과실에의한위법행위를할경우민법상불법행위로인한손해배상책임을부담함 민법제750조에의한불법행위로인한손해배상책임의성립요건으로 1 가해자의고의 과실, 2 가해행위의위법성, 3 가해행위와인과관계있는손해의발생이필요함 - 손해와위법행위의인과관계를입증하여야하는것은채무불이행책임과동일함 - 과실의입증책임에있어, 원칙적으로채무불이행책임에서는채무를이행하지않는경우에채무자가자신의과실없음을적극적으로입증하여야하는반면, 불법행위책임에서는피해자가가해자의과실을입증해야함 민법상사용자책임 ( 민법제750조 ) 피용자의고의또는과실이있다고하더라도업무상행위이기때문에피용자대신사용자, 즉금융회사에게책임을물을수있음 금융회사가피용자의선임및그사무감독에상당한주의를한때또는상당한주의를한경우에는책임을면하나, 금융업무중손해가발생한경우판례는이를대단히엄격하게해석하고있어피용자의고의또는과실이인정되는경우금융회사 ( 사용자 ) 는사실상무과실에준하는책임을부담함 43) 민사적책임, 형사적책임, 행정적책임으로나누어지나, 금융회사의형사적책임과행정적책임의경우금융소비자의피해를직접적으로구제할수있는수단이아니라는점에서, 본검토에서는금융소비자를상대로한민사상손해배상책임에주목함 94

107 제 5 장주요분야별책임법제쟁점진단 자본시장과금융투자업에관한법률 상손해배상책임 자본시장과금융투자업에관한법률 은금융소비자에게더욱강한보호를제공하기위하여일정한경우금융투자업자, 거래소가손해배상책임을지거나집합투자업자 신탁업자등이연대책임을지도록함 금융투자업자의손해배상책임 ( 제48조, 제64조 ) - 금융투자업자는설명의무를위반한경우이로인하여발생한일반투자자의손해를배상할책임이있음 - 금융투자업자는법령 약관 집합투자규약 투자설명서에위반하는행위를하거나그업무를소홀히하여투자자에게손해를발생시킨경우에는그손해를배상할책임이있음. 다. 다만, 배상의책임을질금융투자업자가신의성실의무 ( 제37조제2항 ), 이해상충의관리 ( 제44조 ), 정보교류의차단 ( 제45조 ), 불건전업무행위금지 ( 제71조 제85조 ) 를위반한경우그금융투자업자가상당한주의를하였음을증명하거나투자자가금융투자상품의매매, 그밖의거래를할때에그사실을안경우에는배상의책임을지지아니함. 이때관련되는임원에게도귀책사유가있는경우에는그금융투자업자와관련되는임원이연대하여그손해를배상할책임이있음 거래소의손해배상책임 ( 제399조 ) - 거래소는회원의증권시장또는파생상품시장에서의매매거래의위약으로인하여발생하는손해에관하여배상의책임을짐 집합투자업자 신탁업자등의연대책임 ( 제185조 ) - 집합투자업자 신탁업자 투자매매업자 투자중개업자 일반사무관리회사 집합투자기구평가회사및채권평가회사는 자본시장과금융투자업에관한법률 에따라투자자에대한손해배상책임을부담하는경우귀책사유가있는경우에는연대하여손해배상책임을짐 95

108 인공지능시대에서의필연적법적분쟁사례분석을통한인공지능발전혁신토대마련연구 < 표 5-8> 현행법상금융사고관련주요민사책임유형및주체 관련법률내용책임주체 민법 불법행위책임 ( 제 750 조 ) 사용자책임 ( 제 756 조 ) 행위자 사용자 자본시장과금융투자업에관한법률 손해배상책임 ( 제 48 조, 제 64 조 ) 손해배상책임 ( 제 399 조 ) 연대책임 ( 제 185 조 ) 금융투자업자 거래소 집합투자업자 신탁업자 투자매매업자 투자중개업자 일반사무관리회사 집합투자기구평가회사 채권평가회사 다. 인공지능금융사고에서의책임법제쟁점 (1) 설명의무판단기준불분명 인공지능이금융상품을판매할수있으나, 현재인공지능의대면일임을금지하고있어시장발전을저해하고있음 - 이러한금지이유로는 1 금융소비자에대한보호를위한 1 설명의무기준이명확하지않고 2 회사의피용자또는모집을대리하는회사의피용자가설명의무를이행하는것을전제하고있어인공지능을활용하여금융상품에중요한사항을설명한경우타인을사무에종사하도록하여회사의의무를이행하였다고확언하기어려운입법의공백이있음 금융회사는계약체결시설명의무를다하여야함. 계약체결은즉금융상품의판매를의미하는것으로, 미작성된약관을토대로고객개개인의특성및경제적상황에따른위험등을고려하여보다개별화된조건이결정되고이러한조건에따라계약이체결됨 사업자는약관에정하여져있는중요한내용을고객이이해할수있도록설명하여야하고, 이를위반하여계약을체결한경우에는해당약관을계약의내용으로주장할수없음 ( 약관의규제에관한법률 제3항및제4항 ) 96

109 제 5 장주요분야별책임법제쟁점진단 또한, 자본시장과금융투자업에관한법률 제47조, 보험업법 제95조의2 등에서개별적으로설명의무를부과하고있음 단, 금융회사가투자권유당시합맂적으로예측할수있는투자위험이아닌경우에는설명의무가있다고할수없는데 44), 인공지능이금융사고를운용하는상품의경우인공지능이운용하는지여부만을알리면되는지, 인공지능이어느데이터를기반으로어떠한알고리즘으로동작하는지알려야하는지등그기준이명확하지않음. 그리고인공지능의판단과정은금융회사도정확히알지못하여어디까지설명의무를부과할지명확하지않음 따라서인공지능이운용하는금융상품경우에대한설명의무기준이필요함 (2) 복잡한금융법준수의무검증체계또는사후징벌체계마련 금융관련법은매우복잡하고수시로변경되어이를인공지능알고리즘에반영할수있는방안을마련해야함 금융사고의경우그피해의범위및영향이커질수있으므로, 인공지능오작동등의사고를방지하기위한안전성심사, 검증체계가필요한지검토하고, 필요하다면어떠한방식으로검증할수있는지연구할필요가있음 검증방식이핀테크산업에저해된다면검증체계를최소화하고추후문제발견시사후징벌을강하게하는체계도고려할수있음 44) 투자신탁의수익증권을판매하는판매회사가고객에게수익증권의매수를권유할때에는투자에따르는위험을포함하여당해수익증권의특성과주요내용을명확히설명함으로써고객이그정보를바탕으로합리적인투자판단을할수있도록고객을보호하여야할주의의무가있고이러한주의의무를위반한결과고객에게손해가발생한때에는불법행위로인한손해배상책임이성립하나, 수익증권투자자가내용을충분히잘알고있는사항이거나수익증권의판매를전문적으로하는판매회사로서도투자권유당시합리적으로예측할수있는투자위험이아닌경우에는그러한사항에대하여서까지판매회사에게설명의무가인정된다고할수는없음 ( 대법원 선고 2014 다 판결 ) 97

110

111 제 6 장분석결과및정책제언 99