< C0CCBDB4C0A7C5ACB8AE203131C8A35FB9DABCD2BFB55FBFF8C0E5B4D420B0CBC5E428C3D6C1BE292E687770>

Similar documents
2016년 신호등 4월호 내지A.indd

2016년 신호등 10월호 내지.indd

목 차 Ⅰ. 사업개요 5 1. 사업배경및목적 5 2. 사업내용 8 Ⅱ. 국내목재산업트렌드분석및미래시장예측 9 1. 국내외산업동향 9 2. 국내목재산업트렌드분석및미래시장예측 목재제품의종류 국내목재산업현황 목재산업트렌드분석및미래시

<BBEAC0E7BAB8C7E8C1A6B5B52E687770>

2002report hwp

G lobal M arket Report 유럽재정위기 2 년, 주요국변화동향

학교교과교습학원 ( 예능계열 ) 및평생직업교육학원의시설 설비및교구기준적정성연구 A Study on the Curriculum, Facilities, and Equipment Analysis in Private Academy and It's Developmental Ta

<B8B6B1D4C7CF2DBAD0BEDFB0CBC5E4BFCF2DB1B3C1A4BFCFB7E128C0CCC8ADBFB5292DC0DBBCBAC0DAB0CBC1F5BFCF2DB8D3B8AEB8BB2DB3BBBACEB0CBC1F52E687770>

조사보고서 구조화금융관점에서본금융위기 분석및시사점

뉴스95호

Ch 1 머신러닝 개요.pptx

Untitled-1

( 제 20-1 호 ) '15 ( 제 20-2 호 ) ''16 '15 년국제개발협력자체평가결과 ( 안 ) 16 년국제개발협력통합평가계획 ( 안 ) 자체평가결과반영계획이행점검결과 ( 제 20-3 호 ) 자체평가결과 국제개발협력평가소위원회

<BBE7C8B8C0FBC0C7BBE7BCD2C5EBBFACB1B820C3D6C1BEBAB8B0EDBCAD2E687770>

신규투자사업에 대한 타당성조사(최종보고서)_v10_클린아이공시.hwp

<C0CCBCF8BFE42DB1B3C1A4BFCFB7E12DB1E8B9CCBCB12DC0DBBCBAC0DAB0CBC1F5BFCFB7E12DB8D3B8AEB8BBB3BBBACEC0DAB0CBC1F52E687770>

C O N T E N T S 목 차 요약 / 1 Ⅰ. 태국자동차산업현황 2 1. 개관 5 2. 태국자동차생산 판매 수출입현황 우리나라의대태국자동차 부품수출현황 Ⅱ. 태국자동차산업밸류체인현황 개관 완성차브랜드현황 협력업체 ( 부

( 1 ) ( 2 )

<31312E323820C3D6C1BEBAB8B0EDBCAD5FB9DFC7A5C8B8BFEB28C0FCB7ABBFACB1B8BDC720B9DABCD2BFB5292D6A322D20B3AAB8F020B0CBC5E42E687770>

C O N T E N T S 1. FDI NEWS 2. GOVERNMENT POLICIES 3. ECONOMY & BUSINESS 4. FDI STATISTICS 5. FDI FOCUS

[NO_11] 의과대학 소식지_OK(P)

(012~031)223교과(교)2-1

01 01NEAR

[11하예타] 교외선 인쇄본_ver3.hwp

5월전체 :7 PM 페이지14 NO.3 Acrobat PDFWriter 제 40회 발명의날 기념식 격려사 존경하는 발명인 여러분! 연구개발의 효율성을 높이고 중복투자도 방지할 것입니다. 우리는 지금 거센 도전에 직면해 있습니다. 뿐만 아니라 전국 26

산업별인적자원개발위원회역할및기능강화를위한중장기발전방안연구 한국직업자격학회

경상북도와시 군간인사교류활성화방안

신성장동력업종및품목분류 ( 안 )

1. 보고서의 목적과 개요 (1) 연구 목적 1) 남광호(2004), 대통령의 사면권에 관한연구, 성균관대 법학과 박사논문, p.1 2) 경제개혁연대 보도자료, 경제개혁연대, 사면심사위원회 위원 명단 정보공개청구 -2-

Hallym Communication Policy Research Center 23 "사물인터넷의 궁극적인 모습은 이 세상 모든 사람, 사물, 데이터 등 모든 만물이 인터넷으로 연결되는 초연결 지능사회일 것이다." 그런데 그 마지막 보루가 무너졌다. 2016년 3월 9


자유학기제-뉴스레터(6호).indd

보험판매와 고객보호의 원칙

그린홈이용실태및만족도조사

에듀데이터_자료집_완성본.hwp

ok.


untitled

제 2 편채권총론 제1장채권의목적 제2장채권의효력 제3장채권의양도와채무인수 제4장채권의소멸 제5장수인의채권자및채무자

hwp


<4D F736F F D20C3D6BDC C0CCBDB4202D20BAB9BBE7BABB>

감사회보 5월

목차 Ⅰ. 기본현황 Ⅱ 년도성과평가및시사점 Ⅲ 년도비전및전략목표 Ⅳ. 전략목표별핵심과제 1. 군정성과확산을통한지역경쟁력강화 2. 지역교육환경개선및평생학습활성화 3. 건전재정및합리적예산운용 4. 청렴한공직문화및앞서가는법무행정구현 5. 참여소통을통한섬

2016년 신호등 1월호 내지(1219).indd


untitled

장애인건강관리사업

RR hwp

제1강 인공지능 개념과 역사

목 차 주요내용요약 1 Ⅰ. 서론 3 Ⅱ. 스마트그리드산업동향 6 1. 특징 2. 시장동향및전망 Ⅲ. 주요국별스마트그리드산업정책 17 Ⅳ. 미국의스마트그리드산업동향 스마트그리드산업구조 2. 스마트그리드가치사슬 3. 스마트그리드보급현황 Ⅴ. 미국의스마트그리드정

UDI 이슈리포트제 18 호 고용없는성장과울산의대응방안 경제산업연구실김문연책임연구원 052) / < 목차 > 요약 1 Ⅰ. 연구배경및목적 2 Ⅱ. 한국경제의취업구조및취업계수 3 Ⅲ. 울산경제의고용계수 9

1. 상고이유 제1점에 대하여 구 도시 및 주거환경정비법( 법률 제9444호로 개정되기 전의 것, 이하 구 도시정비법 이라 한다) 제4조 제1항, 제3항은 시 도지사 또는 대도시의 시장이 정비구 역을 지정하거나 대통령령이 정하는 경미한 사항을 제외한

차 례

2003report250-9.hwp

01정책백서목차(1~18)

C O N T E N T S 목 차 요약 / 3 Ⅰ. 브라질소비시장동향및특성 경제현황 2. 소비시장의특성 Ⅱ. 브라질소비시장히트상품분석 최근히트상품 년소비시장, 이런상품을주목하라! Ⅲ. 우리기업의 4P 진출전략

1

<312E20C0AFC0CFC4B3B5E55F C0FCC0DAB1E2C6C720B1B8B8C5BBE7BEE7BCAD2E687770>

전기차보급활성화포럼 전기차보급정책방향ㅣ 211

4 차산업혁명과지식서비스 l 저자 l 한형상 / 한국산업기술평가관리원지식서비스 PD 김 현 / 한국전자통신연구원 IoT 연구본부장 SUMMARY 4차산업혁명의성격은초연결 초융합 초지능의세키워드로요약된다. 초연결은사람, 사물등객체간의상호연결성이확장됨을말하며이는곧실시간데이

USC HIPAA AUTHORIZATION FOR

보도자료 2014 년국내총 R&D 투자는 63 조 7,341 억원, 전년대비 7.48% 증가 - GDP 대비 4.29% 세계최고수준 연구개발투자강국입증 - (, ) ( ) 16. OECD (Frascati Manual) 48,381 (,, ), 20

C O N T E N T S 목 차 요약 Ⅰ. 동유럽의료기기시장개요 동유럽의료기기시장현황 2. 관련 EU 정책및지침 3. 시장전망 Ⅱ. 국가별의료기기시장동향 폴란드 2. 체코 3. 헝가리 4. 크로아티아 Ⅲ. 국가별유망품

Microsoft PowerPoint 지성우, 분쟁조정 및 재정제도 개선방향

<37322DC0CEB1C7BAB8C8A3BCF6BBE7C1D8C4A2C0C7B0DFC7A5B8ED5B315D2E687770>

- 2 -

Europe 2020 Strategy 글로벌산업기술생태계의융합과발전을선도하는일류산업진흥기관 EU 기술협력거점 *EU Issue Paper EU : KIAT EU ( ,

( ),,., ,..,. OOO.,, ( )...?.,.,.,.,,.,. ( ),.,,,,,.,..,

<BFA9BCBABFACB1B8BAB8B0EDBCAD28C6EDC1FD292E687770>

210 법학논고제 50 집 ( )

Global FDI Briefing [FDI FOCUS] 아세안의외국인직접투자와경제구역 (UNCTAD) 2017 년 12 월 18 일 [ 제 139 호 ]

334 가천법학제 10 권제 4 호 ( ) < 국문요약 > 자율주행자동차기술은급속도로발전하고있어그상용화가멀지않은것으로여겨지고있다. 많은기업이 2030년이후에는완전한자율주행자동차를보급하는것을목표로그기술개발과안전성확보에속도를높이고있다. 자율주행자동차가도입된다

G lobal M arket Report 북미온라인유통시장진출방안 - 미국편 -

이발간물은국방부산하공익재단법인한국군사문제연구원에서 매월개최되는국방 군사정책포럼에서의논의를참고로작성되었습니다. 일시 장소주관발표토론간사참관 한국군사문제연구원오창환한국군사문제연구원장허남성박사 KIMA 전문연구위원, 국방대명예교수김충남박사 KIMA객원연

ㅇ ㅇ

hwp


C O N T E N T S 목 차 요약 / 1 I. 중남미화장품시장현황 / 3 Ⅱ. 주요국별시장정보 / 9 ( 트렌드 유통망 인증 ) 1. 브라질 / 9 2. 멕시코 / 콜롬비아 / 칠레 / 64 Ⅲ. 우리기업진출전략 / 79 # 첨부. 화장품관

2010 산업원천기술로드맵요약보고서 - 화학공정소재

ICT À¶ÇÕÃÖÁ¾

< C617720BBF3B4E3BBE7B7CAC1FD20C1A632B1C72E687770>

제출문 한국연구재단이사장귀하 본보고서를정책연구용역과제인 학문분야별연구개발사업추 진체계수립을위한사전기획연구 의최종보고서 ( 초안 ) 로제출 합니다 년 6 월 한국연구재단 연구기관명 : 건국대학교산학협력단 연구책임자 : 박재민 공동연구원 : 엄미정 공동연구원 :


일시 : 2013 년 6 월 12 일 ( 수 ) 10:00 ~ 18:00 장소 : 중소기업중앙회중회의실 (2 층 ) 주최 : 한국경제연구원 ( 사 ) 한국규제학회 ( 사 ) 한국규제학회 Korea Society For Regulatory Studies


22 법학논고제 63 집 ( )

활력있는경제 튼튼한재정 안정된미래 년세법개정안 기획재정부

목 차 Ⅰ. 조사개요 1 1. 조사배경및목적 1 2. 조사내용및방법 2 3. 조사기간 2 4. 조사자 2 5. 기대효과 2 Ⅱ. P2P 대출일반현황 3 1. P2P 대출의개념 3 2. P2P 대출의성장배경 7 3. P2P 대출의장점과위험 8 4. P2P 대출산업최근동향

1

소준섭


Contents SEOUL NATIONAL UNIVERSITY FUTURE INTEGRATED-TECHNOLOGY PROGRAM FIP 13 FIP

SEOUL NATIONAL UNIVERSITY FUTURE INTEGRATED-TECHNOLOGY PROGRAM 13 : (IoT), 4.0,,,,,, CEO. 13 : ( ) ~ 11 1 ( ) : 310

2013_1_14_GM작물실용화사업단_소식지_내지_인쇄_앙코르130.indd

<4D F736F F D20302EC0CEC6AEB7CE2BC1BEB8F1B8AEBDBAC6AE2BBCBAB0FA BCBAB0FABEF7B5A5C0CCC6AEBFCFB7E1292E646F6378>

현안과과제_8.14 임시공휴일 지정의 경제적 파급 영향_ hwp

저작자표시 - 비영리 - 변경금지 2.0 대한민국 이용자는아래의조건을따르는경우에한하여자유롭게 이저작물을복제, 배포, 전송, 전시, 공연및방송할수있습니다. 다음과같은조건을따라야합니다 : 저작자표시. 귀하는원저작자를표시하여야합니다. 비영리. 귀하는이저작물을영리목적으로이용할

< C0DAC0B2C5BDB1B820BFEEBFB520B8DEB4BABEF32D33C2F720C6EDC1FD2E687770>


Transcription:

2017-11(통권 제217호) 인공지능 혁신 토대 마련을 위한 책임법제 진단 및 정책 제언 박 소 영

2017-11( 통권제 217 호 ) 인공지능혁신토대마련을위한책임법제진단및정책제언 박소영 Ⅰ. 검토배경 Ⅱ. 법적책임을어렵게하는인공지능의특징 Ⅲ. 관련정책및연구동향 Ⅳ. 주요분야별책임법제쟁점진단 Ⅴ. 정책제언

요약 요약 인공지능시대가눈앞에다가왔다. 독일의도시바트비른바흐에서는자율주행버스가운행을시작하였고, 중국에서는인공지능로봇 샤오이 가국가임상의사종합시험에합격한것이다. 각국정부와기업이앞다투어투자를집중하면서인공지능시대가예상보다빨리열린가운데, 이전에는없던새로운유형의사고도발생하고있다. 자율주행차가충돌사고를일으키고, 경비로봇이유아를공격하여상해를입혔으며, 텔레비전의아나운서멘트를인식한인공지능스피커는물건을자동으로주문했다. 이런사고는앞으로더많이, 더자주일어날가능성이높다. 그런우려때문에인공지능기술로인한피해를보상하고공평하게손해를분담하기위한책임법제를검토해야한다는공감대가형성되기에이르렀다. 현법체계는의사결정의주체를인간으로한정하고결정에대한책임을인간 ( 경우에따라서는법인 ) 이부담하도록되어있다. 하지만급격하게발전하는인공지능기술로의사결정의주체가확장되면과거와는다른차원의문제가발생한다. 인공지능이잘못된의사결정을하더라도인공지능에게는법인격이없기때문에의사결정의주체에게책임을물을수없게되고, 결과적으로책임소재가불분명해지는것이다. 그러면누가책임을져야하는것일까? 제작자 판매자 사용자등다수의이해관계자들이어떻게책임을분담해야혁신은장려하면서위험은방지하는균형을맞출수있는것일까? 이질문에대한답은간단하지않다. 데이터를기반으로수많은학습과정을통해결과를도출하는인공지능동작방식의특성때문에판단의근거나과정을설명하기어렵고, 기업기밀등을이유로알고리즘을공개하는것또한어려워서관련사고에대한법적책임주체를결정하기는쉽지않은것이다. 이러한한계때문에다양한책임법제쟁점이발생하는데, 이글에서는자율주행차, 의료, 비서각분야별로쟁점을진단하였다. 첫째, 자율주행차분야에서는운전자과실판단의기준이되는주의의무수준을재설정해야하고, 자동차운행에서제조사의역할이커지는만큼자동차손해배상보장법, 제조물책임법에대한재설계검토가필요하다. 둘째, 의료분야에서는인공지능이의사및환자의의사결정에크게영향을미치게되므로의료사고가발생했을때의료인의책임여부를판단하는주의의무및설명의무의기준을재설정해야한다. 또한인공지능이의료기기인가아닌가에대한검토도필요하다. 마지막으로비서분야에서는인공지능비서를 1

인공지능혁신토대마련을위한책임법제진단및정책방안 통한계약체결이증가함에따라주문오류, 불공정거래행위등의문제가발생할가능성도커지고있다. 소프트웨어에대한제조물책임법적용을검토해야하고, 불공정거래행위의회색지대확대방지를위한알고리즘의투명성확보방안도필요하다. 이처럼인공지능시대를맞이하는우리앞에는수많은책임법제쟁점들이놓여있다. 그러나발빠르게인공지능시대의책임법제프레임워크를마련하고있는미국, 유럽등과달리우리나라는일부주제만파편적으로연구할뿐범국가적연구체계를갖추지않고있다. 이글에서는법무 기술 정책 의료등다양한전문가들과국민이함께참여하는범국가적연구프레임워크를수립할것을제안하였다. 이런연구체계하에서인공지능기술분야별로시급성과상용화정도, 소요기간등을기준으로관련연구를분류하고우선순위에따라효율적인연구를수행하여인공지능초기시장진입을위한발전과혁신의토대를마련하여야할것이다. 또한새롭게정립되는책임분배의기준이앞으로인공지능분야에서표준등의기술설계과정에반영되는만큼국제적인논의과정에도적극적으로참여하여국제표준에서의입지확보는물론이고, 국제적흐름에맞는기술개발추진에도힘써야할것이다. 본 Issue Weekly의내용은필자의개인적인견해이며, 한국과학기술기획평가원의공식적인의견이아님을알려드립니다. 2

Ⅰ. 검토배경 Ⅰ 검토배경 일상에스며들고있는인공지능기술 인공지능의발달속도는예상보다빠르게진행되고있음 - 딥마인드의 알파고제로 발표 1) 는특정영역의인간활동을자동화하는수준을넘어선 범용인공지능 의등장가능성을보여줌 ('17.10) 2) 알파고제로 는기보 ( 棋譜 ) 교과서등어떠한정보입력도없이강화학습만으로기존알파고를 72 시간만에추월 운전, 물류처리, 일정관리, 진료, 심지어재판등많은영역에서인공지능기술이사용되며다양한변화를가져오고있음 - 미국위스콘신주대법원은인공지능이분석한자료를재범가능성판단의근거로활용하여피고인에게중형을선고한지방법원의원심판결을받아들임 ('17. 5) 3) 각국정부및기업의집중적인투자로인공지능시대는더빨리도래할예정 ( 정부 ) 인공지능을미래성장동력으로삼고관련프로젝트에큰규모의연구비를배분함 - ( 미국 ) 新미국혁신전략에서첨단제조, 첨단자동차, 뇌과학등을전략분야로제시하고있으며, 그중 브레인이니셔티브프로젝트 에 10년간 30억달러를책정함 ('13~'22) - ( 유럽 ) 7년간약 800억유로를투자하는 Horizon 2020 ('14~'20) 을통해 AI, 로봇등을연구하고있으며, 그중미래신흥기술 (FET) 분야플래그십프로그램으로채택된인공신경망을개발하는 휴먼브레인프로젝트 에는 10년간 10억유로를할당함 ('13~'22) - ( 일본 ) '16년을인공지능연구개발지원의원년으로삼고, 10년간 1,000억엔의투자계획을밝히고, AI IoT 보안통합프로젝트인 AIP(Advanced Integrated Intelligence Platform) 등을추진중임 - ( 중국 ) 인공지능시장을 '18년까지 1,000억위안규모로육성할계획이며, 이를위해 과학기술혁신 2030 의기존 15개프로젝트에인공지능을추가하는 15+1 방안을검토중임 ('17.2) 1) David Silver 외 16 인 (2017), Mastering the game of Go without human knowledge, Nature Vol.550. 2) " 인간도움없이독학한알파고제로, 범용 AI 나오나 (2017.10.23.), 한겨레. 3) Sent to Prison by a Software Program s Secret Algorithms (2017.5.1.), The New York Times. 3

인공지능혁신토대마련을위한책임법제진단및정책방안 ( 기업 ) 주요글로벌 IT 기업들이잇따라 인공지능퍼스트 를선언하며인공지능기술개발에총력을기울임 - ( 구글 ) 딥마인드등인공지능스타트업을활발하게인수하고있는구글은연례개발자대회인구글 I/O '17 에서순다피차이최고경영자가 모바일우선 에서 인공지능우선 으로변화함에따라앞으로인공지능기술에집중투자할것을밝혔음 - ( 아마존 ) 인공지능인력확보를위해연간약 2억 3천달러 ( 글로벌 IT 기업중 1위 ) 를투자함 < 표 1> 주요 IT 기업의인공지능전문가수및인력확보를위한투자액 [ 상위 5개사 ] 회사명 전문가수 투자액 (USD) amazon 1,178 227,769,001 google 563 130,048,389 microsoft 275 75,158,057 facebook 148 38,636,827 nvidia 175 34,280,190 [ 자료 ] Paysa (2017) - ( 마이크로소프트 ) '17 연례개발자대회에서인공지능을핵심성장동력으로삼겠다고발표하였으며, 현재전체의 6.5% 에달하는인원이인공지능기술을개발하고있음 - ( 삼성 ) 삼성글로벌 AI 포럼 ('17. 9) 에서인공지능시대에대한준비를강조하였으며, 인공지능분야의세계적권위자인 Yoshua Bengio 교수가있는몬트리올대에인공지능랩을개소하는등인공지능기술력강화에힘쓰고있음정부및기업의집중적인연구분위기속에서인공지능시장의급격한성장이예상됨 - (IDC) 인지 인공지능솔루션시장이 '16년부터 '20년까지연평균 55.1% 씩성장할것으로전망함 (80억달러 ('16) 470억달러 ('20)) ('16.10) 4) - (McKinsey) '25년에지식작업자동기술은최대 6조 7천억달러, 로봇기술은최대 4조 5천억달러, 자율운행자동차기술은최대 1조 9천억달러의경제적효과를창출할것이라고전망함 ('13.5) 5) 4) IDC (2016), Worldwide Semiannual Cognitive/Artificial Intelligence Systems Spending Guide from International Data Corporation. 5) Mckinsey Global Institute (2013), Disruptive technologies: Advances that will transform life, business, and the global economy. 4

Ⅰ. 검토배경 인공지능시대도래로인한각종사고및인공지능에대한우려의시선등장 인공지능기술이도입된분야에서기술오류등으로인한사고가발생하고있음 - ( 자율주행차 ) 테슬라모델S가자율주행기능인오토파일럿으로동작하던중빛나는하늘때문에좌회전하던트레일러를인식하지못하고충돌하여탑승자가사망함 ('16.5.7) 6) - ( 채팅로봇 ) 마이크로소프트인공지능채팅봇테이는일부사용자들이입력한욕설, 인종 성차별내용을학습하여발언함으로써선보인지 16시간만에운영이중단됨 ('16.3.24) 7) - ( 경비로봇 ) 미국캘리포니아주스탠퍼드쇼핑몰에배치된경비로봇이생후 16개월된아이를공격하여아이의다리에찰과상을입힘 ('16.7.7) 8) 일론머스크, 스티브호킹, 빌게이츠등은인공지능이인간에게위협적으로작용할수있음을경고하고있음 최근대한민국성인 1,000 명을대상으로한설문조사에따르면, 인공지능로봇에대한신뢰도는 63.7 점으로높지않았으며, 응답자의 48.5% 가인공지능이초래하는위험중오류로인한인명피해위험을가장고민하여야한다고응답함 ( 17.4, 성균관대 SSK 위험커뮤니케이션연구단 ) < 표 2> 인공지능종류별발생가능한사건예시 인공지능종류가격조정적격인물선정음성합성투자 발생가능사건수요, 최저가등을반영하여가격을정하는알고리즘간의가격담합지난 20년간의고용및승진데이터학습으로인해인종 성별등에대한차별행위발생특정인물의음성을합성하여보이스피싱에사용자동거래프로그램오류로큰손실초래 인공지능에대한신뢰형성을위해서는기존체계와의공존을위한시스템구축필요 인공지능이사회전반에미칠영향에대비하기위해서는기술적인노력뿐만아니라인공지능시대의위험성이나불명확성을최소화하려는시스템마련을위한노력이필수적임 - 미국, 유럽, 일본등에서인공지능으로인하여발생하는프라이버시, 일자리, 양극화, 데이터권력화, 규제문제등에대한연구가진행되고있음 세계적석학은모두윤리, 규제등인공지능관련논의가바로지금부터필요하다고주장 (`17, 세계지식포럼 ) 6) 자율주행차첫사망사고 ' 안전성 ' 도마위에 (2017.7.1.), 한국경제. 7) Microsoft is deleting its AI chatbot's incredibly racist tweets (2016.5.24.), Business Insider. 8) 실리콘밸리쇼핑몰경비로봇이 16 개월아이공격 (2016.7.14.), 연합뉴스. 5

인공지능혁신토대마련을위한책임법제진단및정책방안 그준비의일환으로인공지능시대에맞는책임법제검토가필요함 - 자동화된알고리즘의의사결정주체의등장으로기존법체계에중요한도전이제기됨 - 책임법제는단순히사후사고처리에만적용되는것이아니라기술설계방향및기술개발비용범위등에영향을미치므로기술개발과상용화의선결과제임 - 책임소재가불명확할경우, 개발자 판매자 소비자모두에게법적위험이증가하여인공지능신기술개발 적용 사용에대한혁신의욕이저해됨 6

Ⅱ. 법적책임을어렵게하는인공지능특징 Ⅱ 법적책임을어렵게하는인공지능특징 1. ( 법적특징 ) 법인격결여 현행법상자연인과법인만을법적권리 의무의주체로인정하며인공지능은법인격결여 ( 민사 ) 생존한인간 ( 민법제3조 ) 과법률의규정에좇아정관으로정한목적의범위내법인 ( 민법제34조 ) 만이권리와의무의주체가됨 ( 형사 ) ~ 한자 를범죄구성요건실현의주체로규정하여인간에게만범죄주체능력이인정됨 ( 법인에부여하는양벌규정제외 ) 프랑스, 미국등은법인의범죄주체능력과책임능력을인정하여법인또한형사처벌의대상으로인정 인공지능의법적지위논의의첫단계로민사상책임가능성에대한논의중 9) 인공지능이스스로입력데이터의특징을파악하고가중치를조절하여결과의정확성을높여판단하는 4단계수준 10) 이되면민사상인간과같은의사능력, 책임능력, 행위능력을인정할수도있겠으나 11), 무엇보다가장필요한권리능력을인정하기위해서는사회적합의가필요함 - 유럽의회는 '17.2 로봇이초래한손해의보상등을다루기위해로봇에게 전자인간 이라는새로운법적지위를부여하기로합의하였는데, 이는로봇은인간과는다른, 인간에게도움을주는다른존재임을명확히한것으로보임 EU RoboLaw 프로젝트최종결과보고서인 로보틱스규제가이드라인 (Guidelines on Regulating Robotics) 은 로봇은민사상또는형사상책임의주체가될수없다 고의견을제시함 < 표 3> 민사상능력의종류및내용 분류내용 권리능력 - 권리와의무의귀속주체가될수있는지위또는자격 - 생존한대한민국사람에게부여 ( 외국인의경우조건에따라부여 ) 9) 인공지능의민사상법인격부여문제는사고처리뿐만아니라인공지능의재산소유여부, 파산처리가능성등다양한법적 경제적이해관계에큰영향을미치는사안으로신중하고다각적인필요함 10) Yutaka Matsuo (2015), 인공지능과딥러닝 - 인공지능이불러올산업구조의변화와혁신. 11) 자율주행차내인공지능을책임주체로보자는주장도있음 (John Frank Weaver (2014), Robot Are People Too: How Siri, Google Car, and Artificial Intelligence Will Force Us to Change Our Lives) 7

인공지능혁신토대마련을위한책임법제진단및정책방안 분류내용 행위능력 의사능력 책임능력 - 단독으로완전 유효한법률행위를할수있는지위또는자격 - 행위무능력자의행위는취소가능 - 구체적인법률행위에서자기행위의의무나결과를정상적인인식력과예기력으로써합리적으로판단할수있는정신적능력내지지능 - 의사무능력자의의사표시는절대적무효 - 불법행위의책임을변식할수있는정신능력 2. ( 기술적특징 ) 동작의불확실성및설명불가능성 데이터기반판단으로인한동작불확실성내재결정론적인규칙기반알고리즘과달리인공지능의기반이되는기계학습알고리즘은주어진데이터에서숨겨진규칙을추출하여이를기반으로귀납적인판단을하므로학습에사용하는데이터에큰영향을받아동작을예측하기어려움학습대상이되는데이터의오류에따라편향성이강화되거나기술기반의새로운차별 ( 기술격차 ) 을만들어낼수도있음 수많은학습과정을통해결과를도출하므로인공지능판단의근거및과정파악곤란 인공지능이데이터를학습하여얻는결과는수백만개의실수값형태로나타나는등그모델과연산이복잡하므로사람이인공지능의판단에대하여설명하기어려움 3. ( 운영적특징 ) 알고리즘의불투명성 기업기밀성, 공개로인한왜곡방지등의이유로인공지능알고리즘은일정수준의불투명성을전제 ( 기밀성 ) 동작알고리즘자체가기업의재산이므로특허로등록되지않은이상공개가어려움 일부기업의경우, 공개를피하기위해일부러특허로출원하지않음 ( 공개로인한왜곡 ) 구체적인알고리즘공개시이를이용하여자신에게유리한결과를얻기위한다양한시도가발생한다면, 이는결과에왜곡현상을초래함 8 입증책임전환등불투명성에대한보완수단이없는한피해원인증명곤란

Ⅲ. 관련정책및연구동향 Ⅲ 관련정책및연구동향 1. 해외 주요국정부및기업은인공지능시대를대비한새로운규범체계를준비중 ( 유럽 ) `17.2 유럽의회에서로봇관련 12) 법적책임, 등록제등의내용을결의하는등선제적인법적프레임워크마련중 '12년부터 RoboLaw 프로젝트 에 4개국 ( 네덜란드, 독일, 영국, 이탈리아 ) 의공학, 법률, 철학전문가들이참여하여로봇기술의법적 윤리적이슈를검토함 - 자율주행차, 수술로봇, 로봇인공기관, 돌봄로봇등상용화에가까운기술사례에대한구체적인윤리적 법률적분석을통해로봇관련규범체계의근거마련 '14. 9 D6.2 로보틱스규제가이드라인 (D6.2 Guidelines on Regulating Robotics) 결과보고서도출 유럽의회는 '17.2 로봇세, 기본소득관련내용만제외하고법사위원회가마련한로봇관련결의안 13) 을통과시킴으로써로봇에게 전자인간 지위를부여하는등새로운법적프레임워크필요성인정 < 표 4> Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics 주요내용 구분내용결의여부 법적책임 - 로봇으로인한손해발생시보상가능한손해의유형및정도를제한할수없음 - 생산자에대한보험가입의무체계수립필요 - 법적책임관련정책결정을위한유럽전체적인연구필요 등록제 - 로봇분류체계에따른등록제도입 저작권및프라이버시 - 로봇창작물의저작권보호기준마련 로봇세 노동시장및기본소득 [ 자료 ] Kakao (2017) 수정 - 자율로봇제조사에게책임보험가입의무부여 - 로봇이생성하는경제적가치에로봇세를부과하여보험미적용사고보상을위한기금조성 - 노동시장에미칠영향을감안해세제, 사회안전망, 기본소득등에대한연구필요 ( 로봇세 부결 14) ) ( 기본소득제 부결 ) 12) 로봇관련논의이지만인공지능을탑재한로봇에대한논의로인공지능관련논의와유사함 13) European Parliament (2017), Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. 14) 유럽의회는로봇업계와관련기술발전저해가능성등을이유로로봇세도입에반대함. 반면에빌게이츠등은재교육, 기본소득제등의재원마련을위하여로봇세를도입하여야한다고주장함. 9

인공지능혁신토대마련을위한책임법제진단및정책방안 ( 미국 ) 법제적대응의필요성을인식하나선제적인법제도입보다는전반적인정책방향성을제시하는연구및지속적인모니터링을진행중 인공지능이슈들을다루기위해 NSTC 산하에 기계학습과인공지능소위원회 (Subcommittee on Machine Learning and Artificial Intelligence) 를신설함 - 다양한연구기관이나정부산하조직을모두아우르는워킹그룹을구성해전략계획및관련보고서를작성하는데, 상기논의과정에법적쟁점도함께논의되고있음 국립과학재단 (NSF), 고등정보연구계획국 (IARPA) 등의연구개발지원조직뿐만아니라, 의료, 법무, 에너지, 우주항공, 표준, 기술정책, 국방, 안보와보안의전문가들이모두참여함 - 인공지능국가연구개발전략계획 ('16.10), 인공지능의미래를위한준비 ('16.10), 인공지능, 자동화, 그리고경제 ('16.12) 보고서등을발간함 ( 영국 ) RoboLaw 프로젝트참여및특정분야 ( 자율주행차등 ) 에대한법제대응중국가차원의인공지능법제논의가부족하여, 영국의회의과학기술위원회 (Science and Technology Committee) 는정부에게관련연구를진행할것을촉구하며 ('16.5) 관련보고서를발간함 ('16.10) - 영국정부는상기보고서에대해서긍정적으로검토할것으로응답함 ('17.1) ( 민간 ) 글로벌 IT 기업및대학교중심으로연구그룹운영중 구글, 페이스북등기업과스탠포드, 옥스퍼드대학교등대학으로구성된다양한단체에서인공지능이법등사회에미치는영향을연구중임 < 표 5> 인공지능이미치는사회영향에대한연구중인주요민간단체 명칭운영주체내용 A100 (One-Hundred Year Study on Artificial Intelligence) Future of Life Institute Google AI ethics board Future of Humanity Institute 스탠포드대학교 Google, Facebook, IBM, Amazon, Microsoft 등 Google 옥스퍼드대학교 - AI 가자동차, 국가안보, 심리, 윤리, 법, 사생활, 민주주의등에미치는영향연구및관련법제준비 - 보고서 2030 년인공지능과삶 발간 ('16.9) - AI 관련연구과제설정및우수사례를발굴하여연구결과를오픈라이선스로출판할예정 - 인공지능기술악용방지를위한기술사용규칙및제한설정등을연구하며, 구성원, 활동내용등은비공개 - 인공지능으로인한인류의다양한실존적위험들에대한학제간연구수행 10

Ⅲ. 관련정책및연구동향 2. 국내 기술개발측면에집중하고있으며인공지능이가져오는사회변화에대한연구는부족한상황 지능형로봇개발및보급촉진법 에서정부가 지능형로봇헌장 을제정 공표하도록정하였으나아직이를제정하지않음 산업자원부에서 07 지능형로봇윤리헌장 초안을마련한바는있음 '17. 8. 법무부가 지능형로봇기술의상용화와형사사법적대응 연구를착수하는등각기관에서자체적으로인공지능시대에대응한법제연구가시작되고있으나, 기술, 법무, 정책등다양한전문가주체가참여하는국가차원의연구는부재한실정임 11

인공지능혁신토대마련을위한책임법제진단및정책방안 Ⅳ 주요분야별책임법제쟁점진단 1. 개요 인공지능기술이상용화되기시작함에따라이로인해발생가능한책임법제문제쟁점파악이시급초기상용제품이출시되었으며급속히성장하고있는자율주행차, 의료, 비서분야를주요분야로선정하여책임법제쟁점을진단함 2. 자율주행차 '20 년초 4 단계수준의자율주행차본격적출시예정 보스턴컨설팅그룹은 '35 년전세계신차시장의 4 대중 1 대는자율주행차일것으로전망함 15) SAE International( 국제자동차기술자협회 ) 은자율주행단계를크게 6 단계로구분하며 16), 현재세계자율주행차산업은 2 단계에서 3 단계사이에위치하여있음 17) 레벨명칭내용 < 표 6> 자율주행단계 핸들조작, 가 감속 운전환경모니터링 위험사태대비 시스템역량 주행환경모니터링주체 : 인간 0 비자동화지원없음인간인간인간 N/A 1 운전자지원 2 3 4 부분적자율주행 인간운전상태에서가 감속또는조향지원가능함 인간운전상태에서 2 가지이상의가 감속, 조향동시에지원가능함 주행환경모니터링주체 : 자율주행시스템 조건부자율주행 고도의자율주행 5 18) 완전자율주행 [ 자료 ] SAE international(2014) 자율주행가능하나특정상황시인간개입필요함 시내주행을포함한도로환경에서인간개입없이자율주행함 모든환경하에서인간개입없이자율주행함 인간과시스템 인간인간일부환경 시스템인간인간일부환경 시스템시스템인간일부환경 시스템시스템시스템일부환경 시스템시스템시스템모든환경 15) BCG (2015), Revolution in the Driver s Seat: The Road to Autonomous Vehicles. 16) SAE international (2014), Taxonomy and Definitions for Terms Related to On-Road Motor Vehicle Automated Driving Systems. 17) KOTRA (2017), 2017 년자율주행차산업현황분석. 18) 美도로교통안전국 (NHTSA) 에서정의하는 4 단계는 SAE 4, 5 단계를모두포괄함 12

Ⅳ. 주요분야별책임법제쟁점진단 3단계이상자율주행차보급시운전주체가변화됨에따라, 운행자또는운전자가주로책임지는현행법에서는일부책임주체상실, 부담편중등의문제가발생될것이라예상 2 단계이하는인간이운전주체로현행법제와관련법리로규율가능하여보임 < 표 7> 현행법상자동차사고관련민사 형사책임유형및주체 책임유형관련법률내용책임주체 자동차손해배상보장법손해배상책임 ( 제 3 조 ) 운행자 민사 형사 민법 불법행위책임 ( 제 750 조 ) 행위자 ( 운전자 ) 사용자책임 ( 제 756 조 ) 사용자 교통사고처리특례법인사사고에대한책임 ( 제 3 조등 ) 운전자 / 사용자 도로교통법 재물손괴, 난폭운전, 무면허운전등에따른책임 ( 제 151 조등 ) 운전자 / 고용주 ( 운전자의주의의무변화 ) 운전자의과실판단기준, 즉주의의무수준을그대로유지하면자율주행의효용성이저해되므로주의의무수준을재설정하기위한기준이필요함 ( 형사책임불분명 ) 인간에게만범죄주체능력이인정되므로운전행위를한인공지능에게형사책임을물을수없음 - 안정된보상을위해자동차손해배상보장법 ( 이하 자배법 ) 에따른무과실책임을부과하는민사책임과달리형사법은책임주의원칙에따라사고행위의원인이있는운전자에게책임을부과함 - 책임주의원칙으로인해운전자대신제조업자, 운행자, 보유자등에게형사책임을부과하는것은어려워보임 단, 운전행위가아닌사고를유발한어느특정행위에책임이있다면그에따른형사책임을부과할수있을것임 ( 예 - 고의적으로부실한자율주행차를판매하여사고가유발된경우 ) ( 자동차손해배상보장법적용혼란 ) 운전자가운행에개입되지않음으로써변화가요구됨 - 현재는자배법에따라피해자에대한무과실에가까운손해배상책임을부담하는운행자 19) 가먼저보상을한후과실이있는자에게구상권을행사하는형태인데, 자율주행차의등장으로 운행지배 20), 운행이익 21) 등의관점이변화하여자배법상책임을부담하는주체가불분명해짐 19) 자기를위하여자동차를운행하는자 ( 자동차에대한운행을지배하여 ( 운행지배 ) 그이익을향수하는책임주체로서의지위에있는자 ( 운행이익 )) 로, 보유자는통상그러한지위에있는것으로추인됨 20) 사실상의지배 현실적인지배뿐만아니라관념상의지배도포함하여인정함 21) 직접적인경제이익뿐만아니라간접적인경제이익, 정서적이익등도포함함 13

인공지능혁신토대마련을위한책임법제진단및정책방안 - 운전자가사라짐에따라통상적으로운전자에게구상권을행사하던운행자가제조사를상대로구상권을행사할가능성이높아져분쟁해결에장기간 고비용이지출됨 - 현자배법상운전자나보유자는제3자에해당되지않아피해구제를받지못하나, 자율주행이발전하면서자율주행차에탑승한운전자나보유자도피해구제를해야할필요성이증대함 ( 제조물책임불분명 ) 제조업자는제조물책임법상손해배상책임을부담하는데, 자율주행차초기단계에는설계상결함 통상적결함인정여부, 면책사유해당여부등이불분명하여제조업자 사용자등측면에서위험비용을측정할수없음 22) - ( 설계상결함 ) 제조업자가합리적인대체설계를채용하였더라면피해나위험을줄이거나피할수있었음에도이를채용하지않아안전하지못하게된결함으로, 자율주행차와같은신기술에서는합리적대체설계존재를인정하기어려움 - ( 통상적결함 ) 사회적으로허용되거나소비자가예견할수있는위험인지의여부로판단하는바, 상기위험을넓게해석할경우과소배상의문제, 좁게해석할경우개발의욕저하의문제가발생함 - ( 면책사유 ) 제조업자가해당제조물을공급한당시의과학 기술수준으로는결함의존재를발견할수없는경우제조물책임이면책되는바, 당시과학 기술수준 기준에따라면책여부가달라지는데신기술초기에는면책가능성이높아보임 ( 새로운사고유형및이해관계주체등장 ) 충돌로인한대인 대물사고를넘어서해킹으로인한자동차통제제어상실 정보유출등기존과는다른사고유형이등장하고, 자율주행차생산 운용과정에서제조업자뿐만아니라 S/W 업체, 부품업체, 통신사업자, 서비스사업자등다양한주체가등장하며법률관계가더욱복잡해짐운전의주도권이운전자로부터자동차로이전됨에따라제조업자에게도사고에대한책임을더부과하는형태로변화중현재까지의사고는주로제조업자가보상, 리콜등으로처리하고있음. 단, 사망사고발생에대해제조사가적극적으로책임을부정한테슬라사건을볼때사고건수가많아지고사고수준이심각해지면제조업자의자율적인보상움직임은쉽지않아보임이에따라각국은제조업자에게일부책임을부담시키거나새로운보험을만드는등관련입법안을마련중임 22) 권영준 이소은 (2016), 자율주행자동차사고와민사책임, 민사법학 제 75 호, 한국민사법학회. 14

Ⅳ. 주요분야별책임법제쟁점진단 - ( 미국 ) 미시간주는시스템결함으로인한사고시자동차제조사가손해배상을부담한다는법안을통과시킴 ('16.12) 23) - ( 영국 ) 정부는수동운행사고와자율주행운행사고를모두보상하는단일보험자방식으로전환하는법률안 (Vehicle Technology and Aviation Bill) 을발표하고의회에상정함 ('17) 24). 상기법률안에따르면자율주행운행사고시보험사가제3자 운전자의인적손해, 제3자의물적손해를보상하고사고의귀책사유가제조사, S/W 공급자등에게있는경우이들에게구상권을행사하여회수함 영국은 '18 년이후자율주행차생산이가능하도록 '17 년까지도로교통, 사고발생시책임부담및의무보험제도등관련법규를개정할예정임 < 표 8> 자율주행차사고실사례 일자사고내용처리결과 15.7 해커들이피아트크라이슬러사자동차시스템을해킹하여엔진을급정지시키는영상공개 - 140 만대리콜실시 16.2 16.5 시험주행중이던구글자율주행차가배수로옆모래주머니를피해크게우회전하다가옆차선의버스와충돌 테슬라자율주행차가레벨 2 모드로시속 110km 로운전중, 실제하늘과흰색트레일러를구분하지못해트레일러와충돌하여탑승자사망 - 구글이전적으로책임인정하여보상 - 시험주행전면중단후 30 만개도로상황시나리오추가입력 - 美도로교통안전국 (NHTSA) 가 6 개월조사후하늘과트레일러를구분하지못한것은결함이아니라기술적한계이며, 자율주행차가운전자에게수차례경고하였으나이를무시한운전자과실이라고판단 25) (`17.1) - 하지만최근美연방교통안전위원회 (NTSB) 은테슬라가운전자에게고안된것이외의외부시스템을이용하도록허용했고, 그시스템이운전자의주의를분산하게만들었으므로, 자율주행차가사고원인이라고지적함 (`17.9) - ( 일본 ) 정부는 자율운전손해배상책임연구회 ' 를구성하여 ('16) 4단계이상의자율주행차사고의손해배상책임부담을논의하고있으며, 보험회사는자율주행차실험실증용상품등을개발 제공중임향후제조업자와서비스사업자, 통신사업자, 부품사등간의책임소재분쟁이치열해질것으로예상됨 23) Michigan State, Senate Bill 0995, 0996, 0997, 0998. 24) 이기형 (2017), 영국의자율주행자동차보험제도의주요내용과시사점, Kiri 리포트 제 415 호, 보험연구원. 25) 총 37 분운전기간중운전자가운전대를잡은시간이 25 초에불과하였음 15

인공지능혁신토대마련을위한책임법제진단및정책방안 3. 의료 의사의의사결정을지원하는 IBM 왓슨을필두로인공지능의료분야가빠르게성장의료분야인공지능시장규모는 '14년 6.4억달러에서 '21년 6조달러로, 연평균 40% 씩성장할것으로전망됨 (Frost&Sullivan) 26) 우리나라는길병원이 '16.9 국내최초로왓슨을도입하여암환자진단및치료법과정에서활용함 의료관련인공지능은아직의사보조역할을수행하는정도로최종적인책임은의료인에게부과중주요국도책임분배주제보다인공지능의료기기활성화를위한규제개편주제를중심으로논의중임 ( 일본 ) 인공지능활용진찰도지원이가능하도록진료보수개정검토중 의료사고에서의료인의책임여부판단시설명의무및주의의무준수, 의료법준수등이중요한결정요인이되는데, 인공지능이의사및환자의의사결정에영향을미치는요인으로작용함에따라의료인의설명의무및주의의무, 의료기기기준등에변화발생 < 표 9> 현행법상의료사고관련민사 형사책임유형및주체 책임유형관련법률내용책임주체 민사 형사 민법 채무불이행책임 ( 제 390 조 ) 계약당사자 ( 의사 ) 불법행위책임 ( 제 750 조 ) 형법업무상과실치사상 ( 제 268 조 ) 행위자 ( 의사, 간호사등 ) 행위자 ( 의사, 간호사등 ) 의료기기법일반행위의금지 ( 제 26 조 ) 행위자 ( 주의의무판단기준변동 ) 의사가주의의무 27) 를위반하여환자에게손해를입힌경우민 형사 26) Frost&Sullivan (2015), Cognitive Computing and Artificial Intelligence Systems in Healthcare. 27) 의사가치료등의의료행위를함에있어서는사람의생명 신체 건강을관리하는업무의성질에비추어구체적인증상이나상황에따라위험을방지하기위하여요구되는최선의조치를행하여야할주의의무가있다고할것이나, 이와같은주의의무는의료행위를할당시의료기관등임상의학분야에서실천되고있는의료행위의수준을기준으로판단하여야하고, 의사가행한의료행위가그당시의의료수준에비추어최선을다한것으로인정되는경우에는의사에게환자를진료함에있어서요구되는주의의무를위반한과실이있다고할수없으며, 특히의사의질병진단의결과에과실이없다고인정되는이상그요법으로서어떠한조치를취하여야할것인가는의사스스로환자의상황기타이에터잡은자기의전문적지식 경험에따라결정하여야할것이고, 생각할수있는몇가지의조치가의사로서취할조치로서합리적인것인한그어떤것을선택할것이냐는당해의사의재량의범위내에속하고반드시그중어느하나만이정당하고이와다른조치를취한것은모두과실이있는것이라고할수없음 ( 대법원 1999.3.26, 선고, 98 다 45379, 판결 ) 16

Ⅳ. 주요분야별책임법제쟁점진단 상책임을부담하는데, 주의의무위반여부판단시인공지능진단사용여부, 인공지능진단결과준수여부등이반영될수있음 - 인공지능진단결과를주의의무판단기준으로사용하는경우인공지능진단과다른시술을한의사의입증부담이증가하므로의사의재량권이축소되고인공지능의존현상이높아질수있으므로신중한판단이필요함 < 의사의주의의무판단시발생가능한질문 > 진단율이인간의사평균대비매우높은인공지능을병원에서도입하지않는다면그당시의료수준으로최선의조치를행하였다고볼수있는가 인공지능의추천진단을그대로따른경우의사가주의의무를다한것인가 의사가진단율이높은인공지능의추천과다른진단을내려결과가잘못된경우의사에게주의의무위반의과실이있는가 ( 설명의무판단기준불분명 ) 의사는환자에게질병의증상, 치료방법의내용및필요성, 발생예상위험등을설명할의무가부과되는데, 인공지능기술을사용시기술의동작방식, 불확실성등에대한설명의무가더강화될것이라고예상되나그판단기준이불분명함 - 동작불확실성, 설명불가능성, 알고리즘불투명성등인공지능기술특성상명시적이고유효한설명이어려워이에대한기준마련이필요함 ( 의료기기해당여부혼란 ) 의사가허가받지않은의료기기를의료행위에사용하면형사처벌을받게되는데의료의사결정지원인공지능의경우, 의료기기해당여부가불분명하여의료기기법개정검토등이요구됨 - 식품의약품안전처기준에의하면사용목적에따라왓슨등인공지능제품의의료기기해당여부가달라질수있어의료현장에서는인공지능제품사용이조심스러움 28) 4. 비서 글로벌 IT 기업들의인공지능비서시장선점을둘러싼경쟁치열 주문시스템등인공지능비서를통한다양한수익창출이가능할것으로예상되어주요기업들이인공지능비서시장에앞다투어진출함 28) 식품의약품안전처 빅데이터및인공지능 (AI) 기술이적용된의료기기허가 심사가이드라인 ( 안 ) ('16.12) 은 빅데이터및인공지능기술이적용된제품의의료기기해당여부는사용목적에따라구분된다. 의료정보검색용은의료기기에해당되지않으며, 환자의질병 예방등의목적으로의료정보를분석, 진단또는예측하기위해제조된소프트웨어는의료기기에해당될수있다 고기술하고있음 17

인공지능혁신토대마련을위한책임법제진단및정책방안 한증권사는 1 위를선점하고있는아마존의알렉사가 '20 년까지아마존에게 100 억달러의수익을가져다줄것으로예상함 29) 이러한경쟁속에 '24 년인공지능가상비서시장의규모가 110 억달러를초과할것으로 예상됨 30) 물건주문등인공지능비서를통한계약체결이증가함에따라주문오류, 불공정거래행위등의문제발생가능성대두 ( 주문오류 ) 타인의음성을이용자의음성으로착각하여주문하거나이용자의주문내용을잘못인식하여주문하는등의문제가발생할수있음 ( 불공정거래행위 ) 구체적인상품특정없이주문할경우특정회사에게유리한물건을주문하는불공정거래행위, 담합등이발생하여이용자의이익을해할수있음 ( 예 ) 아마존의인공지능비서인알렉사를통해주문할경우, 아마존을통해서만물품구매를진행하는행위 < 관련사고실사례 > '17. 1 미국의 6 살어린이가아마존인공지능비서 알렉사 에게장난감과쿠키를사달라고말한주문결제가승인되어, 18 만원상당의인형의집장난감과 1.8kg 의쿠키가배달됨 상기사건을다룬뉴스에서아나운서의마무리발언 ( 알렉사나에게인형의집을선물해줘 ) 을알렉사가주문으로인식하여뉴스를시청중이던곳에서수많은알렉사가주문과결제를진행함 상기주문오류에대해아마존은취소 환불처리를진행함 책임의공정한분배논의과정에서소프트웨어에대한제조물책임법적용여부불분명, 불공정거래행위의회색지대확대등의문제가대두 (S/W에대한제조물책임법적용불분명 ) 주문오류로인한이용자의손해부담가능성이높은가운데, 소프트웨어에대한제조물책임법적용여부에논란이있어인공지능비서제조업자에대한손해배상청구가어려움 - 이용자는착오에의한의사표시를이유로오류있는주문을취소할수있으나, 음성인식비활성화등인공지능비서의추가제어기능을설정하지않은경우이용자에게중대한과실이있다고보아주문취소가어려울수있음 진의아닌의사표시, ( 전자문서이용계약시 ) 전자문서법상제한등을이유로계약무효를주장할수있으나이는상대방이주문오류를알았거나알수있는경우에만해당되어인정되기어려움 29) " 아마존, 알렉사덕에 3 년후에는 11 조원추가매출가능 "(2017.4.14.), 연합뉴스. 30) Global Market Insights (2016), Intelligent Virtual Assistant (IVA) Market Size. 18

Ⅳ. 주요분야별책임법제쟁점진단 < 표 10> 인공지능비서의주문오류시계약무효 취소의근거및요건 유형관련조항무효 취소요건 진의아닌의사표시 착오로인한의사표시 민법제 107 조 민법제 109 조 상대방이표의자의진의아님을알았거나이를알수있었을경우무효 표의자의중대한과실없이법률행위의내용의중요부분에착오가있는경우취소가능 전자문서법상제한 전자문서및전자거래기본법제 7 조 수신자가전자문서가작성자의것이아님을수신자가알았던경우또는상당한주의를하였거나작성자와합의된절차를따랐으면알수있었을경우무효 - 이용자는원치않은주문으로인한손해에대하여인공지능비서제조업자에게손해배상을청구할수있으나인공지능오류와손해의인과관계입증이어려움 - 제조물책임법적용시입증책임이전환되나소프트웨어를민법상동산 31) 으로보아제조물책임법을적용할수있는지에대한논란이존재함 ( 알고리즘불투명성으로인한불공정거래행위회색지대확대 ) 불공정거래행위에해당되기위해서는사업자가공정한거래를저해할우려가있다고예측하면서도이를회피하지않고부당한행위를해야하는데, 인공지능기술동작의불확실성및불투명성으로인해불공정거래행위해당여부판단이어려운회색지대가확대됨 - 인공지능기술의불확실성및불투명성속에서도불공정거래행위여부를판단할수있도록인공지능알고리즘감사제도도입, 입증책임전환등을검토할필요있음 31) 제조물책임법에서제조물은제조되거나가공된동산 ( 다른동산이나부동산의일부를구성하는경우포함 ) 으로정의하고있음 ( 동법제 2 조제 1 호 ) 19

인공지능혁신토대마련을위한책임법제진단및정책방안 Ⅴ 정책제언 1. 인공지능시대의책임법제설계를위한범국가적연구체계수립 인공지능기술적용이확대되는가운데필연적사고에대한최소한의안전장치인책임법제설계를위한범국가적연구필요 인간이아닌주체에의해손해가발생하였다는이유로피해자의손해보상이제한된다면관련연구개발및기술확산이저해되므로인공지능기술관련책임법제연구설계가시급함 선제적대응을통하여인공지능시장창출에기여하고, 사회적합의를통해올바른기술을구현하도록하는방향설정으로인공지능연구개발역량을효율적으로배분하여야함 따라서인공지능이등장하면서변화하는법률관계속의쟁점을발굴하고이에대한대안및재설계방안을모색하는연구를지속적으로추진하여야함 법무 기술 정책 의료등다양한전문가들이함께참여하는연구체계구축인공지능이행정 경영 사법등다양한최종결정에영향을끼치므로각분야전문가들이모여다각적으로논의할수있는장을마련하여야함혁신장려와위험규제사이에서균형을찾는책임분배를위해서는기술이해가바탕이되어야하므로관련의사결정에과학기술전문가가반드시참여하여야함 - 책임성확보를위한설명가능성, 정확성, 검증가능성, 공정성등검토에있어과학기술전문지식이필수적임 책임법제설계과정내국민참여기반시스템구축국민의공감대와동떨어진책임분담기준은인공지능기술에대한신뢰를저해시킴책임법제설계과정속에국민의의견을듣고반영할수있는시스템을구축함으로써새로운책임분담및판단기준에대한공감대를형성할수있음 20

Ⅴ. 정책제언 2. 시급성 상용화정도등을고려한연구우선순위수립 인공지능기술분야별시급성및상용화정도, 연구소요기간등을고려하여연구우선순위수립 자율주행차등급속히성장하고있는기술분야에대한책임법제설계가늦어질경우표준선점등이어려우므로연구별우선순위를수립함으로써연구의효용성을증대하여야함이를위해서인공지능기술분야별책임법제쟁점진단과각쟁점에대한시급성분석및연구방향수립이요구됨또한과도기적상황에서의충격을완화할수있는임시보험제도, 기금제도등에대한시급한검토가필요함 < 표 11> 시급성에따른책임법제쟁점분류예시 우선순위 1 2 3 쟁점 - 손해의합리적분담을위한제조물책임법재편 - 자율주행차보험제도 / 피해회복기금제도등수립 - 자동차손해배상보장법개정 - 로봇등록제 - 설명의무 주의의무등판단기준수립 - 알고리즘투명성확보방안 - 인공지능에대한법인격부여여부 ( 인공지능의형사처벌문제등 ) - 인공지능의공권력행위가능여부 - 로봇세 3. 국제적논의과정에의적극적참여 새로운국제규범형성과정에주도적으로참여하여국제표준에서의입지확보및주요시장에서상호운용가능한기술개발추진방향수립 책임분배기준은사후손해보상뿐만아니라표준등의기술설계과정에도큰영향을끼치므로, 국제적책임법제논의흐름에맞지않는기술은고립됨전략적인책임법제재편을위하여주요국의책임법제변화를지속적으로파악하고국제적규범형성과정에적극적으로참여하는체계를수립하여야함 21

인공지능혁신토대마련을위한책임법제진단및정책방안 참고문헌 David Silver 외 16인 (2017), Mastering the game of Go without human knowledge, Nature Vol.550. IDC (2016), Worldwide Semiannual Cognitive/Artificial Intelligence Systems Spending Guide from International Data Corporation. Mckinsey Global Institute (2013), Disruptive technologies: Advances that will transform life, business, and the global economy. European Commission (2014), Guidelines on Regulating Robotics. European Parliament (2017), Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. BCG (2015), Revolution in the Driver s Seat: The Road to Autonomous Vehicles. SAE international (2014), Taxonomy and Definitions for Terms Related to On-Road Motor Vehicle Automated Driving Systems. Frost&Sullivan (2015), Cognitive Computing and Artificial Intelligence Systems in Healthcare. Global Market Insights (2016), Intelligent Virtual Assistant (IVA) Market Size. Yutaka Matsuo (2015), 인공지능과딥러닝- 인공지능이불러올산업구조의변화와혁신. 곽현 전성태 박성혁 석왕헌 (2016), 인공지능 (AI) 기술및정책동향, 한국지식재산연구원이슈페이퍼, 한국지식재산연구원. 이원태 (2017), 4차산업혁명과지능정보사회의규범재정립, KISDI Premium Report 17-10, 정보통신정책연구원. 성균관대 SSK 위험커뮤니케이션연구단 (2017), 2017 년위험이슈인식조사 (3)-인공지능에대한신뢰수준. 최은창 (2016), 인공지능시대의법적 윤리적쟁점, Future Horizon 제28호, 과학기술정책연구원. 황종성 김선광 윤효운 김희정 김형준 (2016), 지능사회법제도이슈전망 : 2017, 한국정보화진흥원. 손승우 김윤명 (2016), 인공지능기술관련국제적논의와법제대응방안연구, 한국법제연구원. 김윤명 (2016), 인공지능과리걸프레임, 10가지이슈. 22

참고문헌 서울대법과경제연구센터 (2017), 데이터이코노미. 권영준 이소은 (2016), 자율주행자동차사고와민사책임, 민사법학 제75호, 한국민사법학회. 임석순 (2016), 형법상인공지능의책임귀속, 형사정책연구 제27권제4호, 한국형사정책연구원. KOTRA (2017), 2017년자율주행차산업현황분석 (https://news.kotra.or.kr/user/globalallbbs/kotranews/album/2/globalbbsdataallv iew.do?dataidx=159195&searchnationcd=101001) 이기형 (2017), 영국의자율주행자동차보험제도의주요내용과시사점, Kiri 리포트 제415호, 보험연구원. 권상로 한도율 (2013), 제조물책임법의문제점과개선방안에관한연구, 법학연구 제51호, 한국법학회. 식품의약품안전처 (2016), 빅데이터및인공지능 (AI) 기술이적용된의료기기허가 심사가이드라인 ( 안 ). " 아마존, 알렉사덕에 3년후에는 11조원추가매출가능 "(2017.4.14.), 연합뉴스. 박지용 (2014), 의료사고민사책임에있어계약법적접근론에대한비판적고찰, 서울법학 제21권제3호, 서울시립대학교법학연구소. 배현아 (2017), 보건의료법제하에서인공지능기술의의료영역도입의의의와법적문제, 법조 제66권제4호, 법조협회. 장연화 백경희 (2017), 왓슨의진단조력에대한현행법상형사책임에관한소고, 형사법의신동향 제55호, 대검찰청. 23

인공지능혁신토대마련을위한책임법제진단및정책방안 KISTEP Issue Weekly Issue Paper 발간현황 발간호제목저자및소속 이슈위클리 2017-10 ( 통권제 216 호 ) 2017-09 ( 통권제 215 호 ) 4 차산업혁명대응을위한정부 R&D 사업의전략적투자포트폴리오구축방안 지방분권화에따른자기주도형지역 R&D 혁신체제구축방안 조재혁, 나영식 (KISTEP) 김성진 (KISTEP) 2017-08 ( 통권제 214 호 ) 연구성과평가의새로운대안지표 altmetrics: 주요내용과활용방안 이현익 (KISTEP) 2017-07 ( 통권제 213 호 ) 2017-06 ( 통권제 212 호 ) 2017-05 ( 통권제 211 호 ) 신입과학기술인력의창의성및핵심직무역량수준진단과시사점 바이오경제로의이행을위한화이트바이오산업육성정책제언 자율과책무를바탕으로한출연연발전방향제언 김진용 (KISTEP) 유거송 (KISTEP), 박철환 ( 광운대학교 ), 박경문 ( 홍익대학교 ) 박소희, 안소희, 이재훈, 정의진, 정지훈 (KISTEP) 2017-04 ( 통권제210호 ) 4 차산업혁명주도기술기반국내스타트업의현황및육성방안조길수 (KISTEP) 2017-03 ( 통권제 209 호 ) 2017-02 ( 통권제 208 호 ) 2017-01 ( 통권제 207 호 ) 이슈페이퍼통권제 206 호 통권제 205 호 통권제 204 호 통권제 203 호 신정부의기초연구투자를위한정책제언 연구자중심 R&D 제도혁신방향과과제 문재인정부과학기술혁신정책목표달성을위한 20 대정책과제 비즈니스모델혁신관점의미래성장동력플래그십프로젝트사업성과분석 자율주행자동차활성화를위한법제개선방안및입법 ( 안 ) 제안 기업이바라본미래과학기술인재상변화및시사점 핀테크스타트업활성화를위한중소기업창업지원법령분석및제언 신애리, 윤수진 (KISTEP) 이재훈, 이나래 (KISTEP) KISTEP 김수연, 임성민 (KISTEP), 정욱 ( 동국대학교 ), 양혜영 (KISTI) 강선준 ( 한국과학기술연구원 / 과학기술연합대학원대학교 ), 김민지 ( 한국기술벤처재단 ) 이정재, 서은영, 이원홍, 황덕규 (KISTEP) 이재훈 (KISTEP) 통권제 202 호 블록체인생태계분석과시사점김성준 ( 씨앤엘컨설팅 ) 통권제 201 호 과학기술혁신추동을위한정부의산업기술 R&D 투자효율화방향탐색 고윤미 (KISTEP) 통권제 200 호 4 차산업혁명대응을위한스마트공장 R&D 현황및시사점김선재 (KISTEP) 24

KISTEP Issue Weekly Issue Paper 발간현황 발간호제목저자및소속 통권제 199 호 문재인정부의과학기술정책핵심철학과과제 이장재 (KISTEP) 통권제198호통권제197호통권제196호통권제195호통권제194호통권제193호통권제192호통권제191호통권제190호통권제189호 차년도정부연구개발투자방향의기술분야투자전략수립방법고도화 황기하, 정미진 (KISTEP) 4 차산업혁명대응을위한주요과학기술혁신정책과제손병호, 최동혁, 김진하 (KISTEP) 대기오염을유발하는전기차의역설 : 전기차보급및전력수급정책의고려사항 안상진 (KISTEP) 4 차산업혁명과일자리변화에대한국내산업계의인식과전망이승규 (KISTEP) KISTEP 이바라본지속가능한발전을위한공해 오염대응 10 대미래유망기술 중국 13 차 5 개년국가과학기술혁신계획변화와시사점 과학기술혁신을통한고령사회대응정책방향 - 일본사례를중심으로 ' 고용있는성장 ' 을위한부품 소재산업혁신생태계활성화방안 에너지부문 R&D 투자변화요인분석 : 주요국사례비교 지속가능한우주탐사를위한연구개발 (R&D) 정책방향 박종화 (KISTEP) 서행아 (KISTEP) 정의진, 오현환 (KISTEP) 최동혁, 손병호 (KISTEP) 장한수, 이경재 (KISTEP) 이재민 (KISTEP), 신민수 ( 한국천문연구원 ) 통권제 188 호 통권제 187 호 통권제 186 호 통권제 185 호 통권제 184 호 바이오안보 (Biosecurity) 의부상과과학기술정책방향 보건안보와식량안보를중심으로 대학연구자의행정부담측정과정책적시사점 한국경제의지속성장을위한바이오 헬스산업의진단과전망 미국등록특허분석을통한한국의기술경쟁력개선방안 제조업협업혁신을위한메이커스페이스활성화방안 중국사례를중심으로 한성구 (KISTEP), 장승동 ( 농림수산식품기술기획평가원 ), 김현철 ( 한국보건산업진흥원 ) 김이경, 김소라 (KISTEP), 윤이경 ( 이화여자대학교 ) 유승준 ( 한국바이오협회한국바이오경제연구센터 ), 문세영 (KISTEP) 엄익천 (KISTEP), 김봉진 ( 한국특허정보원 ) 한성호 ( 인천경제산업정보테크노파크 ) 통권제 183 호 나노융합산업의육성을위한정책방향문희성 (LG 경제연구원 ) 통권제 182 호 통권제 181 호 기업 R&D 지원정책의성과지표및성과관리개선방안 중소 중견기업을중심으로 딥러닝 (Deep Learning) 기술의이해와연구개발정책과제 배경화 ( 중소기업진흥공단 ) 최근우 (Queen Mary University of London), 송기선 (NAVER LABS), 강요셉 (KISTEP) 25

인공지능혁신토대마련을위한책임법제진단및정책방안 발간호제목저자및소속 통권제 180 호 통권제 179 호 통권제178호통권제177호통권제176호통권제175호통권제174호통권제173호통권제172호 통권제171호통권제170호통권제169호통권제168호통권제167호통권제166호 인공지능기술의활용과발전을위한제도및정책이슈 제 4 차산업혁명시대의 ICT 융합형재난안전 R&D 발전방향 국가연구개발사업의기획과사전평가를위한논리모형의활용 국제협력분야정부 R&D 전략적투자를위한정책제언 김윤정 (KISTEP), 윤혜선 ( 한양대학교 ) 이경미 (KISTEP), 최성록 ( 한국전자통신연구원 ) 강현규 (KISTEP) 신애리, 문관식, 김은정 (KISTEP) 스마트제조의글로벌현주소와표준화추진방향백수현 ( 한국표준협회 ) KISTEP 이바라본우리사회삶의만족과사회적신뢰를향상시켜줄 10 대미래유망기술 미래한국을열어갈 National Initiative 2025 혁신인증유형별기업의활동과성과영향요인실증분석 한국제조기업성장통의원인및극복전략 미래산업대응소재의정부 R&D 투자방향 이승규, 김상일, 유준우 (KISTEP) 이흥권외 (KISTEP) 김대진 ( 중앙대 ), 강태원 ( 서울대 ) 용태석, 이상남 (KISTEP), 박주현 (KIAT) 신흥안보의부상과과학기술의역할김상배 ( 서울대 ) 한국산업생태계의신진대사진단과시사점이정동 ( 서울대 ) 미래안전사회분야신직업발굴 채우철, 강진원, 김진용 (KISTEP) 혁신주체의관점에서본지역별혁신특성분석과정책적시사점한성호 ( 인천테크노파크 ) 청년 CEO 의창업성공률제고를위한양성프로그램의효과적인성과관리방안연구 다부처 R&D 사업추진현황진단및개선방안 배경화 ( 중소기업진흥공단 ) 김기봉, 문관식, 김은정 (KISTEP) 통권제 165 호 통권제 164 호 통권제 163 호 통권제 162 호 통권제 161 호 규제발굴 개선시스템구축및과학기술혁신저해규제분석연구 단기체류기후변화유발물질관련기술개발및정책동향 R&D 의혁신지향성강화를위한새로운평가방법모색 : ' 발전적평가 (Developmental Evaluation)' 를중심으로 대형연구개발사업성과활용실태결과분석및시사점 한국과미국의이공계졸업자직업분포비교 이재훈, 이흥권, 박소영, 서지희 (KISTEP) 이성진, 오동익 ( 한국환경산업기술원 ) 고용수 (KISTEP) 이길우 (KISTEP), 엄장환 ( 한국연구재단 ), 김태현 ( 한국연구실용화진흥원 ) 이정재, 김양진, 장진하 (KISTEP) 26

저자소개 박소영 - 한국과학기술기획평가원전략연구실과학기술법제팀장 - 변호사 / 변리사 - T. 02-589-5270 / E. sypark@kistep.re.kr KISTEP ISSUE WEEKLY 2017-11 ( 통권제 217 호 ) 발행일 2017년 12월 20일 발행처 한국과학기술기획평가원전략연구실서울시서초구마방로 68 동원산업빌딩 9~12층 T. 02-589-2250 / F. 02-589-2222 http://www.kistep.re.kr 인쇄처 나모기획 (T. 02-503-5454)