지능정보사회의도래와인공지능의특이점 검토배경 제 차산업혁명을통하여지능정보사회도래에직면하면서 인공지능을 필두로한지능정보기술이경제 사회등삶전반의영역에보편적으로적용 제 차산업혁명은지능정보기술 구현을통해기계의지능화를이루어생산성과 효율성이고도로향상되는등산업구조의근본적변화촉발 *

Size: px

Start display at page:

Download "지능정보사회의도래와인공지능의특이점 검토배경 제 차산업혁명을통하여지능정보사회도래에직면하면서 인공지능을 필두로한지능정보기술이경제 사회등삶전반의영역에보편적으로적용 제 차산업혁명은지능정보기술 구현을통해기계의지능화를이루어생산성과 효율성이고도로향상되는등산업구조의근본적변화촉발 *"

혜인 신
5 years ago
Views:

제 4 차산업혁명과소프트파워 이슈리포트 2017- 제 21 호 지능정보사회의도래와법 윤리적과제 -

kr), 공공 SW 제도적용팀소프트웨어산업진흥본부 2017. 11. 15. 목차 Ⅰ.

1 제 4 차산업혁명과소프트파워 이슈리포트 제 21 호 지능정보사회의도래와법 윤리적과제 - 인공지능기술의발달을중심으로 - 김성원선임 (sw_kim@nipa.kr), 공공 SW 제도적용팀소프트웨어산업진흥본부 목차 Ⅰ. 지능정보사회의도래와인공지능의특이점 Ⅱ. 인공지능의권리와책임그리고윤리적과제 1. 인공지능과법적문제 2. 인공지능에대한윤리적쟁점 3. 인공지능에대한국내외적접근현황 Ⅲ. 대응방향및시사점

지능정보사회의도래와인공지능의특이점 검토배경 제 차산업혁명을통하여지능정보사회도래에직면하면서 인공지능을 필두로한지능정보기술이경제 사회등삶전반의영역에보편적으로적용 제 차산업혁명은지능정보기술 구현을통해기계의지능화를이루어생산성과 효율성이고도로향상되는등산업구조의근본적변화촉발 * 인공지능기술및데이터활용기술 (ICBM) 의융합으로인간의고차원적정보처리능력 ( 인지 학습

2 지능정보사회의도래와인공지능의특이점 검토배경 제 차산업혁명을통하여지능정보사회도래에직면하면서 인공지능을 필두로한지능정보기술이경제 사회등삶전반의영역에보편적으로적용 제 차산업혁명은지능정보기술 구현을통해기계의지능화를이루어생산성과 효율성이고도로향상되는등산업구조의근본적변화촉발 * 인공지능기술및데이터활용기술 (ICBM) 의융합으로인간의고차원적정보처리능력 ( 인지 학습 추론 ) 을구현 산업의생산요소인노동 자본보다데이터와지식이중시되며 각종산업간 융합현상이나타나경계가모호해지고사회전반에혁신적변화발생 < 지능정보기술개념및특징 > * * 제 4 차산업혁명에대응한지능정보사회중장기종합대책 ( 관계부처협동, `17.1.) 특히인공지능기술의발달이가속화되면서 점차많은영역에서인공지능에의하여인간능력의한계를추월당하는사례가증가하고있음 * `97 년인공지능은체스경기에서이미인간추월을입증하였으며, 16 년 3 월딥마인드社의 알파고 가 바둑의이세돌 9 단을 4:1 로꺾은이래, 업그레이드버전인 알파고제로 가 17 년 5 월바둑세계 1 위인 커제 9 단을 3:0 으로누르고승리함 - 2 -

메디컬케어, 커머스, 인프라, 맞춤형스마트교육, 자율형 로봇, AI 기반핀테크등등다양한분야에서활용이전망됨 (`16.3.

3 < 딥마인드의 알파고 와바둑계인간대표이세돌, 커제와의대국 > 인공지능 알파고 와대결한바둑계인간대표이세돌, 커제의대국장면으로, 두경기모두인공지능 알파고 의승리로막을내렸다. 인공지능활용이급부상함에따라 기반 무인 유통체계 의료서비스 교육 제조업등다양한분야에신시장창출이전망 되며 거의모든영역에서직 간접적으로인공지능과밀접한관계가예측 * 자율주행자동차, 인텔리전트스마트홈, 메디컬케어, 커머스, 인프라, 맞춤형스마트교육, 자율형 로봇, AI 기반핀테크등등다양한분야에서활용이전망됨 (`16.3. CIO Summit 2016, 김재필 ) 이에따라 지능정보사회에직면하여인공지능의사회 구성원 에따라기존 인간중심의법 제도체계에근본적인패러다임변화가수반될것으로예측 따라서 문화지체현상등다양한부작용의예방또는법 제도에규정되지 않은인공지능행위의불측한사례에대해선제적으로대응함으로써예상 되는혼란및피해최소화필요성존재 - 3 -

4 인공지능의권리와책임그리고윤리적과제 1 인공지능과법적문제 인공지능의권리주체성 인공지능기술은인지 학습 추론을통해인간의구체적인지시없이도스스로의 행동을결정하여활동할수있는수준이상으로진보가능 인류가개발한인공지능이인류지능의총합을넘어서는 특이점 직면 * 특이점이란인류에의하여창조된 기술 이인간한계를초월하여스스로발전하고진화하는 경지를넘어서는것 (1950 년대존폰노이만의특이점, 어빙존굿의지능폭발등의개념구체화 ) 인공지능기술자체가점차인간을추월하게되면서일정한행위나가치의판단에 인공지능은단순히보조적인역할에서벗어나주도적인역할을수행할수있음 따라서인공지능은인간과유사한 행위자 로서기능할수있으며 기술의 발달정도에따라인간의대리자 보조자를넘어서자립 하여 스스로의 권리자 행위자로서행위할가능성을배제할수없음 인공지능기술은 약한인공지능 강한인공지능 초인공지능 단계 로순차적으로발달이전망 < 인공지능의분류 > 또한근 미래에는인간생산에의한부가가치창출이점차 기반으로대체될것으로전망 됨에따라 생산가치의귀속이나 오판에의한사고책임등문제가예측 * 맥킨지보고서에따르면현재구현된기술기준, 전세계작업활동의약 50% 를자동화할수있는잠재력이있으며, 2055년까지대체가능할것으로전망 대표적으로 가스스로의학습에의하여 인간을배제한채작성한지식재산의권리귀속등재산권문제와 오판에의한인적 물적손실발생의 책임을들수있음 - 4 -

인공지능과그들의권리 인공지능기술의고도화로지식집약적산업을대체하게되는경우 인공지능에 의한창작물의생성이촉발되어부의양극화 산출물의귀속등문제는더욱심화 현재기술수준으로이루어진인공지능에의하여도어문 음악 법률등다양한분야에서인공지능에의한창작이시도 활용중 * 언론분야에서는인공지능기반알고리즘에의하여이미기사를작성하고있으며 (AP 통신 : 워드스미스, LA 타임스 : 퀘이크봇등

외지식재산법제는대부분 창작자주의 를취하여 창작한자 에게 권리를귀속하게하고있으며 저작물은인간의사상또는감정을표현한창작이어야 하므로 인간 의범주에속하지않은 인공지능 의창작에대한권리문제발생 * 특허의경우, 발명은 자연법칙을이용한기술적사상의창작으로서고도한것 ** 으로, 특허를받기위해서는여전히 발명을한사람 또는 그승계인 이주체로한정됨 ** 발명 은독일법학자코울러

5 인공지능과그들의권리 인공지능기술의고도화로지식집약적산업을대체하게되는경우 인공지능에 의한창작물의생성이촉발되어부의양극화 산출물의귀속등문제는더욱심화 현재기술수준으로이루어진인공지능에의하여도어문 음악 법률등다양한분야에서인공지능에의한창작이시도 활용중 * 언론분야에서는인공지능기반알고리즘에의하여이미기사를작성하고있으며 (AP 통신 : 워드스미스, LA 타임스 : 퀘이크봇등 ), 자율주행자동차, 의료 ( 수술 ) 로봇등다양한분야에서의시도존재 대표적으로스페인말라가대학에서개발한작곡인공지능인이아무스 미국 예일대학의쿨리타 의법률분야인공지능인로스 등을들수있음 < 인공지능의활용예시 > 콘서트홀에서의 Iamus * 사진출처 : <Maerz Musik 2016> Quakebot 의지진발생보도기사 * 사진출처 : <LA Times> 국내 외지식재산법제는대부분 창작자주의 를취하여 창작한자 에게 권리를귀속하게하고있으며 저작물은인간의사상또는감정을표현한창작이어야 하므로 인간 의범주에속하지않은 인공지능 의창작에대한권리문제발생 * 특허의경우, 발명은 자연법칙을이용한기술적사상의창작으로서고도한것 ** 으로, 특허를받기위해서는여전히 발명을한사람 또는 그승계인 이주체로한정됨 ** 발명 은독일법학자코울러 (Kohler) 에의한발명정의 발명이란기술적으로표시된인간의정신적창작이며, 자연을제어하고자연력을이용해서일정한효과를낳게하는것 를수용한것으로파악되며, 따라서 인간 의범주에속하여야할것으로판단 또한 인공지능의창작물제작과정에있어서도관련한학습 의구성및데이터 수집과정에서타인의창작물등을무단으로수집 이용하게되는저작권침해문제발생 인공지능이웹또는외부에서권리자의허락없이그들의창작물을그자체의기억매체로일시적또는계속적으로복제및전송하게되므로권리침해발생 - 5 -

6 인공지능과그들의책임 인공지능에의한부가가치의귀속등권리문제외 인공지능의오판 오작동등으로 인해발생된피해에대한민 형사상책임에대한논란가속화 미국에서는자율주행자동차가도로주행중 교통법규위반으로행정처분을받은사례가존재 하며 테슬라의자율주행 전기자동차인모델 가자율주행운행중충돌사고가발생하여인명사상이발생 한바있음 * 단, 테슬라의해당사고건은미국도로교통안전국 (NHTSA) 의조사결과, 안전결함을발견하지못하여 조사가종결되었음 ( 연합뉴스, `17.1.) 또한 우버택시 의경우 를이용한가격책정알고리즘이러시아워시간에 배의 가격폭등을유발하여 알고리즘에의한가격카르텔 형성으로제소되어패소 한바있으며 오픈마켓에서동일 알고리즘을활용그림 사진등가격을고정 시킨혐의로 포스터레볼루션 이제소되기도함 자가학습알고리즘 에의한담합으로 그과정에경영자또는개발자등인간의 개입없이알고리즘스스로가이윤극대화를위한전략으로담합의결과를초래 그러므로인공지능의행위에의하여발생한손실에대해 인간의개입없는 인공지능스스로의행위 에관한책임분배문제발생 인공지능관련자들은그법인및관계자 의행위가아닌인공지능 그스스로의 행위이기때문에면피될수있다는주장이가능할것이므로처벌및책임의공백야기 따라서인공지능에의하여발생한손실에대한책임귀속대상이인공지능그자체라고 할수있을것인지또는인공지능알고리즘의설계자인지 인공지능의소유자또는 사용자인지불명확하며 기계등에적용되는제조물책임법이적용될수있는지도논란 최근국내의한연구에서는 강인공지능 의형법상범죄주체인정여부와관련하여 인간과동물과의차이점을분석하고 인공지능으로대표되는로봇류 트랜스휴먼 포스트휴먼 안드로이드 가인간의능력을갖고있다고한다면인간으로볼수있 으므로형법상주체가될수있을것으로분석 동연구에서는인간과동물을구별하는근본적인차이는 이성적 인공적도덕행위자 자율적 이사소통 창의성 의고도성측면에서파악하고있으며 강인공지능로봇과 인간의본질적인측면의공통성을도출하고있음 - 6 -

인공지능과세금 로봇세 논란 차산업혁명시대인공지능발달과함께가져올미래의청사진에대하여다양한 시각차가존재 차산업의선두주자들도인공지능의발달로파생될수있는디스토피아적미래 에대한우려를표명하는입장 유토피아적미래 를그리는입장이공존 * 빌게이츠, 일론머스크등은인간의판단결정권을 AI에게빼앗겨기계에의존하는애완동물과같은신세가될것을우려하였으며, 반면마크저커버그등은 AI가질병진단,

7 인공지능과세금 로봇세 논란 차산업혁명시대인공지능발달과함께가져올미래의청사진에대하여다양한 시각차가존재 차산업의선두주자들도인공지능의발달로파생될수있는디스토피아적미래 에대한우려를표명하는입장 유토피아적미래 를그리는입장이공존 * 빌게이츠, 일론머스크등은인간의판단결정권을 AI에게빼앗겨기계에의존하는애완동물과같은신세가될것을우려하였으며, 반면마크저커버그등은 AI가질병진단, 무인자동차등수많은분야에활용됨으로서많은생명을살릴수있다는입장차이를보임 국내의연구에서도인공지능기술의발달정도와사회의다양성요소등을고려하여미래사회에나타날수있는 가지전망을제시 < 미래사회시나리오 4 가지 > * * 이명호, 4 차산업혁명의미래사회시나리오 내용발췌 동연구에서는글로벌자본의지배력이강하고 시민사회역량이약한한국과같은 중진국들은노동상실사회 분열된통제사회 가될가능성이높다고판단 또한한연구에서도인공지능기술과가상현실이본격화된미래에는 의플랫폼계층이대부분의고급일자리를독점하고 의일반시민계층은 프레카리아트 계층으로전락할것으로전망 - 7 -

8 * 70여년후미래도시사회 ( 시민 ) 계급도구분내용 플랫폼소유주 플랫폼스타 - (0.0001%) 전세계상위플랫폼전환기업가및투자자계층 - (0.0002%) 대중적지지를받는정치인, 스타, 설계자등창의적전문가계층 인공지성 ( 로봇 ) - 효율성우위의인공노동력계층 프레카리아트 ( 일반시민 ) - (99.997%) 임시계약직 프리랜서형태의단순노동에종사, 저임금으로살아가는계층 => 미래도시연구보고서 - 미래의도시에서시민들이어떻게살아갈것인가? * 황순민, AI 권력이 초양극화사회 만든다, 매일경제 MBN, 매일경제, ( 이미지발췌 ) 반면 다른연구에서는로봇 인공지능 기술이리쇼어링 노동의질향상 임금인상 고소득일자리창출등긍정적효과가부정적효과보다클것으로전망 따라서인공지능기술의발달이가져올미래청사진이 장밋빛미래 인지 잿빛미래 인지는확신할수없으나 근시일내에다가올위험성에대한대응필요 특히인공지능기술의발달과맞물려빠르게는단순반복작업노동직부터시작 하여 점차비 반복적 지식집약적분야로로봇이확산되며인간을대체가능 로봇이인간을대체하게되면해당직무에종사하던노동자계층은새로운신설직종에적응 전문화 되지못하는이상생계유지수단을잃게되는반면 로봇시설관련투자자본가계층은발생하는모든부가가치를독점하게 되어 초양극화사회 가될수있는우려존재 이에인간의일자리를대체하는인공지능 로봇 에세금을부과함으로써 노인복지 아동교육 실직자재교육등다양한분야에서재원으로활용하자는의견제시 특히 의빌게이츠는기술을통해노동이대체된다고해서돈을벌지못하게되는것은아니므로소득세수준의세금을로봇사용자에게부과해야한다고주장 * 공장에서 $ 50,000 가치의노동을하는사람은그수익에대하여소득세, 사회보장세등과같은세금이부과되므로, 동일한작업을위하여로봇에대체투입된다면비슷한수준으로로봇에대한세금부과필요 반면 로봇세도입과관련하여규제로인한로봇및관련기술발전의저해가능성 세금과로봇윤리는별도의관점에서파악하여야한다는반대의견도존재 - 8 -

2 인공지능에대한윤리적쟁점 지능정보사회에따른윤리적문제 인공지능및로봇과관련한윤리적쟁점은설계 생산이용단계에적용되는윤리 기계의자율적행동에대한윤리및기계자체의도덕적존재론적지위문제발생가능 인공지능의경제성수익성만을고려하여개발할경우다양한가치와충돌할수있고특히 특정인이나특정집단의이익을위해악용될가능성존재 이경우악용한사용자에한정하여윤리적 법적책임을물을것인지또는

9 2 인공지능에대한윤리적쟁점 지능정보사회에따른윤리적문제 인공지능및로봇과관련한윤리적쟁점은설계 생산이용단계에적용되는윤리 기계의자율적행동에대한윤리및기계자체의도덕적존재론적지위문제발생가능 인공지능의경제성수익성만을고려하여개발할경우다양한가치와충돌할수있고특히 특정인이나특정집단의이익을위해악용될가능성존재 이경우악용한사용자에한정하여윤리적 법적책임을물을것인지또는 알고리즘을설계한개발자등까지확대할수있는지불명확 인공지능에의해야기된문제에대하여일부제조업체는회사가책임을부담하겠다는방침을정하기도하였으나 모든제조업체의방침이동일한것도아니며책임소재를확장하기에는책임의불명확문제가잔존 따라서앞서윤리적인개발 이용을위한지침이선행적으로마련될필요성존재 * 미국, EU, 일본등선진국에서는인공지능관련로봇의안정성, 사용가이드라인등을국가차원에서 준비하고있으며, 세계거대 IT 기업들또한자구적으로지능형제품에대한대처방안을마련중 또한 인공지능이윤리적딜레마 에서어떠한규범과목적 윤리가치에따라작동하는지여부의검증필요 자율주행중사고발생시 자율주행차의인공지능은탑승자보호와보행자보호중 어느것이더욱올바른것인지 딜레마문제발생 < 무인차의딜레마 > * * 채민기, 충돌때탑승자 보행자, 누굴살리나? 무인차딜레마, 뉴스 Q, 조선일보,

10 이외에도기술의발달에따라인공지능은단순히인간의보조를위한도구장치 개념을초월하여자발적인판단과행동을수행할수있도록진화가능 인공지능로봇이단순히인간을위한보조적장치의역할을수행하는경우 약한인공지능 사용자및개발자인 인간 이윤리적주체로사람이작성한 알고리즘에의한작동으로한정되므로책임은인간에귀속 그러나인공지능이자발적으로사유 행동하는단계로진화하는경우 강한 인공지능 인공적도덕행위자 로서주체성을고려할필요성이있음 3 인공지능에대한국내외적접근현황 국내주요동향 년 구 산업자원부에서는로봇관련각계전문가를중심으로 로봇윤리협의체 를구성하여로봇윤리헌장제정을시도하여 초안 을마련 인공지능을비롯한지능정보기술분야의발전이인간과기계의경쟁구도우려가존재하는만큼 기술을활용한로봇등이인간의통제내에서유익하게활용될수있도록로봇윤리규정의필요성부각 당시의시도는전세계에서인간과로봇의관계를규정하려는정부차원의최초사례로서평가될수있으며 관련내용은아래와같음 < 07` 로봇윤리현장초안 > * 제 1 장 ( 목표 ) 로봇윤리헌장의목표는인간과로봇의공존공영을위해인간중심의윤리규범을확인하는데있다. 제 2 장 ( 인간, 로봇의공동원칙 ) 인간과로봇은상호간생명의존엄성과정보, 공학적윤리를지켜야한다. 제 3 장 ( 인간윤리 ) 인간은로봇을제조하고사용할때항상선한방법으로판단하고결정해야한다. 제 4 장 ( 로봇윤리 ) 로봇은인간의명령에순종하는친구 도우미 동반자로서인간을다치게해서는안된다. 제 5 장 ( 제조자윤리 ) 로봇제조자는인간의존엄성을지키는로봇을제조하고로봇재활용, 정보보호의무를진다. 제 6 장 ( 사용자윤리 ) 로봇사용자는로봇을인간의친구로존중해야하며불법개조나로봇남용을금한다. 제 7 장 ( 실행의약속 ) 정부와지방자치단체는헌장의정신을구현하기위해유효한조치를시행해야한다

11 국내에서는 차산업혁명대응을위한전략과맞물려지능정보사회대응을위한정책수립 지능정보사회기본법 안 마련등다양한노력을지속하고 또한 지능형로봇개발및보급촉진법 의제정이래로 지능형로봇윤리헌장 의제정을위한연구를진행중 년제정목표 해외주요동향 로봇윤리개념은제 회국제로봇윤리심포지엄 이탈리아산레모 에서공론화 되었으며 에서는회원국들간다양한연구를추진 에서는유럽로봇연구네트워크 를통해로봇윤리로드맵을추진 그결과를국제로봇자동화학회 에서표명 로봇윤리로드맵에서는로봇이윤리 사회 경제적문제를야기할것으로전망하며 기준에대한철저한검증을요구하면서 로봇윤리의영역을 가지로분류 하였으며 로봇윤리 개원칙을제시 * 휴머노이드, 진화된생산시스템, 지능형홈, 네트워크로봇, 현장형로봇, 건강과복지를위한로봇, 군사용로봇, 교육용로봇 < 07` EURON 로봇윤리 13원칙 > 1) 인간의존엄과인권 8) 프라이버시 2) 평등, 정의와형평성 9) 신뢰성 3) 이익과손해 10) 연대와협력 4) 종교적다양성과다원성에대한존중 11) 사회적책임감 5) 반차별과반낙인화 12) 이익의공유 6) 자주성과개인적책임 13) 생물권에대한책무 7) 고지에입각한동의 * 이원태, 4차산업혁명과지능정보사회의규범재정립, KISDI Premium Report, 이후 에서는집행위원회의 로봇법프로젝트 를추진하여 로봇규제에관한 가이드라인 을제정 하였으며 유럽의회의법사위원회에서로봇법법제화를위한 가이드라인을제시 * 자율주행자동차, 수술용의료로봇, 로봇인공기관, 복지서비스로봇 (4 가지 ) 의윤리적 법률적분석을 시도하여규제정책의근거마련시도 이에따라 의회에서는 년 월법사위원회의제안내용을바탕으로한결의 안 통과

12 < `16 로봇관련결의 ( 안 ) 주요내용 > 구분항목내용 1 로봇등록제 - 첨단로봇의경우로봇분류체계에따라등록제도입 2 저작권및 프라이버시 - 로봇창작물의저작권보호기준을마련하고정책입안시점부터 프라이버시및데이터보호방안을적용 3 법적책임 4 로봇세 5 윤리원칙 - 향후 10~15년간인공지능발전으로초래되는법적이슈를다루기위한입법안을마련할것을 EU 집행위원회에요청 - 로봇때문에발생한피해라는이유만으로보상가능한손해의종류나정도를제한하거나보상의종류를제한할수없음 - 로봇이초래한피해에대해선엄격한책임원칙을적용하고, 로봇의행위와손해간일반적인인과관계만입증하면보상요건충족하도록설정 - 로봇이초래한손해의보상, 로봇이자율적으로결정한사건등을다루기위해로봇에게 전자인간 의지위를부여 - 자율로봇제조사가책임보험에가입하되보험미적용사고의보상을위해기금을조성, 로봇이행한서비스의대가로로봇에게지급되는금전적대가를이기금에이전하는안이제시됨 ( 부결 ) - 로봇디자인, 개발, 연구, 이용시적용되는윤리강령원칙들을담은로봇헌장을향후입법시고려할것 6 노동시장및 기본소득 - 로봇공학및인공지능발전이노동시장에미칠영향을감안해세제, 사회안전망, 기본소득등에대한고려필요 ( 부결 ) * 카카오정책지원팀, 인간과로봇의공존시대열리나, 카카오 AI 리포트, 미국정부에서는지난 년백악관에 기계학습및인공지능소위원회 를구성하여 인공지능의개발상황및성과등을모니터링하여국가과학기술위원회에보고 국가과학기술위원회에서는이를바탕으로 인공지능국가개발전략계획 인공 지능의미래를위한준비 인공지능 자동화그리고경제 등의보고서를발간 동내용은인공지능으로인하여촉발될사회의안정성 공정성문제와공공의 이익과의관계 책임문제 투명성을최우선과제로연구및정책의방향성을제시 미국민간에서는인공지능기계가인간에게우호적감적을갖도록설계하여야한다는 우호이론 을제안하기도하였으며 미국인류미래연구소에서는인공지능개발및활용의일반원칙을관련컨퍼런스에서공개 아실로마인공지능 원칙 * 인공지능과안전, 투명성, 책임, 사생활보호, 이익공유등인류의윤리적가치를공유하고발생하는 위험성을관리하기위한공정하고효율적법률시스템의필요성을인정하였으며, 전 세계의관련 전문가 2,000 여명이서명

13 < 17` 아실로마인공지능 23원칙 > [ 연구이슈 ] 1) 연구목표 : 인공지능 (AI) 연구의목표는지향하는바가없는지능이아니라유익한지능을창출하는것입니다. 2) 연구비지원 : AI에대한투자에는다음과같이컴퓨터과학, 경제, 법, 윤리및사회연구등의어려운질문을포함한, 유익한사용을보장하는연구를위한기금이동반되어야합니다. 미래의인공지능시스템이오작동이나해킹없이우리가원하는것을수행할수있도록매우탄탄하게만들수있는방안은무엇입니까? 인류의자원과목적을유지하면서자동화를통해우리가계속번영할수있는방안은무엇입니까? AI와보조를맞추고그와관련된위험을관리하기위해법률시스템을보다공정하고효율적으로업데이트할수있는방안은무엇입니까? AI는어떠한가치들에따라야하며, 그것이가져야하는법적, 윤리적상태는무엇입니까? 3) 과학-정책관계 : AI 연구자와정책입안자간에건설적이고건전한교류가있어야합니다. 4) 연구문화 : AI 의연구자와개발자간에협력, 신뢰, 투명성의문화가조성되어야합니다. 5) 경쟁회피 : AI 시스템을개발하는팀들은안전기준에대한질낮은해결책을피하기위해적극적으로협력해야합니다. [ 윤리와가치 ] 6) 안전 : AI 시스템은작동수명전반에걸쳐안전하고안정적이어야하며, 적용과실현이가능하다면검증할수있어야합니다. 7) 오류투명성 : AI 시스템이해를입히는경우그이유를확인할수있어야합니다. 8) 사법의투명성 : 사법결정에있어자동화된시스템이개입할경우, 권한있는인간기관이감사할수있는충분한설명을제공해야합니다. 9) 책임성 : 고급 AI 시스템의설계자와제조자는그것의사용, 오용및행위의도덕적함의에있어서, 그것을형성할책임과기회가있는이해관계자입니다. 10) 가치의준수 : 고도로자율적인 AI 시스템은그것이작동하는동안목표와행동이인간의가치와반드시일치하도록설계되어야합니다. 11) 인간의가치 : AI 시스템은인간의존엄성, 권리, 자유및문화다양성의이상과양립할수있도록설계되고운영되어야합니다. 12) 개인정보보호 : AI 시스템이개인정보데이터를분석하고활용할수있는경우, 사람들은자신이생성한데이터에접근해관리및제어할권리를가져야합니다. 13) 자유와개인정보 : 개인정보에대한 AI 의적용이사람들의실제또는인지된자유를부당하게침해해서는안됩니다. 14) 이익공유 : AI 기술은가능한많은사람들에게혜택을주고역량을강화해야합니다. 15) 공동번영 : AI 에의해만들어진경제적번영은모든인류에게이익이되도록널리공유되어야합니다. 16) 인간통제 : 인간은인간이선택한목적을달성하기위해, 의사결정을 AI 시스템에위임할것인지여부와방법에대해선택할수있어야합니다. 17) 비 - 전복 : 고도로발전된 AI 시스템의통제를통해부여되는권력은건강한사회가의존하는사회적시민적과정을전복하기보다, 존중하고개선해야한다. 18) AI 무기경쟁 : 치명적인자동화무기의군비경쟁은피해야합니다. [ 장기적이슈 ] 19) 능력치에대한주의 : 합의가없으므로, 미래 AI 의능력상한선에대한강한가정은피해야합니다. 20) 중요성 : 고급 AI 는지구생명체의역사에서중대한변화를나타낼수있으며, 그에상응하는관심및자원을통해계획되고관리되어야합니다. 21) 위험요소 : AI 시스템이초래하는위험, 특히치명적인또는실존적위험은예상되는영향에상응하여대비하고완화노력을기울여야합니다. 22) 재귀적자기개선 : 질과양을빠르게증가시킬수있도록스스로개선또는복제할수있도록설계된 AI 시스템은엄격한안전및통제조치를받아야합니다. 23) 공동선 : 수퍼인텔리전스는광범위하게공유되는윤리적이상에만복무하도록, 그리고한국가또는조직보다는모든인류의이익을위해개발되어야합니다. * ASILOMAR AI PRINCIPLES( 오병일, 아실로마인공지능원칙, 정보인권, ( 재인용 ))

14 일본정부의 지식재산전략본부 는인공지능의최대활용달성을통한새로운 혁신과문화발달을위한체계마련을검토해왔으며 특히인공지능창작물에 대응한저작권제도정비를시도하고있음 인공지능창작물이인간의창작물과외견상구분하기어려운수준이될경우 그사실여부가밝혀지기전까지동일하게취급될수있고 이에따라복잡한법적분쟁등수많은문제가양산될것으로판단되므로인공지능 창작물에대한보호의필요성 가능성 영향력등을고려기존저작권제도정비필요 따라서일본정부에서는 년지식재산추진계획을통하여 인공지능창작에 대한투자나이용촉진등을위하여 인공지능창작에관여하는당사자에대한인센티브보장측면에서접근하였으며 관련보고서에서는인공지능창작에관하여인간의관여양태에따라세가지로구분하여 논의를진행하였으며 인공지능저작권의과잉보호 의거성판단측면등문제점을파악 < 인공지능이용형태에따른저작권의보호 > * 손승우, 인공지능창작물의저작권보호, 정보법학, (91면. 해외-일본논의도표화 ) 인공지능개발이인간사회에미칠영향을논의하기위한간담회개최와인공지능개발 윤리가이드라인등을마련하여제시 < `16 G7 인공지능연구개발 8원칙 >

15 대응방향및시사점 인공지능의권리와책임에대한법적검토 대한민국헌법제 장이하에서는대한민국국민에대한권리와의무를규정 하고있으며 국민은헌법상명시된권리와열거되지아니한자유와권리에 대하여보장 헌법 제 조에서는모든국민이 인간 으로서의존엄과가치를가진불가침의 기본적인권을확인하고보장하는의무를국가에게부여 더나아가우리 민법 제 조에서는 사람은생존한동안권리와의무의 주체가된다 고규정하여권리의무의주체가될수있는대상을 으로 하고있으며 제 조에서특수한경우 의권리능력주체성을인정 또한 저작권법 에서 저작물 은 인간의사상또는감정을표현한창작물 을 저작자 는 저작물을창작한자 로규정하고있으며 특허법 에서는선출원주의를취하고있으나 특허를받을수있는자는 그발명을한사람및승계인 을두어원칙적으로 자연인 이특허를취득 할수있도록하고있음 인공지능은기본적으로 창작한자 인간 에해당될수없으므로권리귀속주체가될수없으며 인공지능을사용한자 또한스스로 창작 했다고볼수없음 업무상저작물또는직무발명제도를고려하더라도 창작물에대한권리의원천적 취득자는업무에종사하는 자연인 이대상이되므로인공지능이권리를취득할 수있는법적근거는부재 따라서 현행법체계내에서권리의주체가될수있는대상은 자연인 과 의제된 법인 만으로한정되며 인공지능은권리 의무의주체로판단될수 없음 그러나인공지능의지식재산권과관련한국내의논의에서는 약한저작권 보호 이론을적용하여일반적으로인간이생성한지식재산권과다른기준을 적용하여야한다는필요성제시

16 현재기술로실존하는인공지능은인간에게유용한창작물을제공하고있으므로인공지능에대한투자장려및산업발전을위해보호를고려할수있으나 인공지능은다양하고대량의창작이가능하여 강력한보호적용시지식재산의 독점을심화하고 인간을잠재적침해자의지위로만들어인간의이익에저해 따라서인공지능창작을인간의것과구별하여 약한저작권보호이론 을 적용하는한편 인공지능창작의특성을고려하여등록을필수요건으로보호 기간을단기간으로적용필요 * 저작권의보호는침해자의창작이권리자의창작을사실상그대로복제한것이아니라면저작권 침해를구성하지않는것으로판단하자는이론 인공지능의권리와책임 동반자 인가 보조자 인가 기술의발달이점차인공지능의진화 를 이끌어내면서 인공지능의지위또한단순한인간의보조자역할에서동반자 역할로대등해질것으로예상 인공지능로봇을사용자인인간자신의보조장치로이용하는것에서출발하여 점차인간자신의권리를대리행사하도록이용하는등사례를예측할수있음 따라서장기적인관점에서는 보조자 보다는 동반자 적관점에서제한적으로 권리의무의주체지위를인정할필요성존재 과거에도인간의편의성등에따라단체또는통합출연재산을연결하는관념에 해당하는 법인 을제한적인권리주체의대상으로입법화한선례가존재 또한 의회에서는인공지능로봇은 전자인간 으로서의권리와의무를동시에 부여받는다는 전자인간 이라는법적지위를부여할수있는 로봇시민법 에 관련한결의안을통과 이외에도사우디아라비아에서는전세계최초로미국의로봇업체인핸슨 로보틱스가개발한 소피아 라는여성로봇에게시민권을부여한바있음 인공지능의권리와책임의법제화방안 인간의대리역할을수행하는인공지능이나 제한적권리자인인공지능을고려하면권리귀속의명확성이나 관할을고려하였을때 인공지능로봇등록제도 의 운용필요

17 국내에서도주민의거주관계등인구의동태파악을명확하게하여주민생활의편익증진과행정사무의원활한처리를목적으로주민등록제도를운영하며 인간에게특정한행위를할수있는자격을부여하는각종제도또한적정한 자격여부를심사받아자격을 등록 함으로써개인에게제한되어있던행위를개방 따라서일정기준에따라인공지능을분류한뒤 강인공지능 이상으로권리를 제한적으로행사하는것이가능할것으로판단되는인공지능의등록의무화필요 인공지능을주민등록과같이등록하도록함으로써 관할과권리의귀속 의무책임등관계를명확하게정리할수있을것으로판단되며 제한적으로인정되는권리의범위에따라 재산권 이좁은범주로인정될수 있다면 인공지능의 소득 에세금을부과함으로써각종복지재원으로활용가능 또한인공지능에게일정한권리와의무가인정될수있다고하더라도 인공 지능의오판에대한피해자의적합한구제방안문제는여전히잔존 이경우 인공지능이스스로 생명체 로써의지위를주장할수있을지는의문이드나 탄생의과정은설계자에의한 알고리즘 을바탕으로신체가 제조 되었다는측면을주목 따라서인공지능은제조또는가공된동산으로 제조물 의성질을가진다고 할수있으므로 인공지능을 제조한자 주로법인 에게책임부여가가능할것으로판단 * 인공지능 (SW) 과로봇 (HW) 이결합된측면에서접근하였을경우의 제조 책임으로파악, 현재 SW 분야에대한제조물책임인정여부에대하여는국 내외적으로찬 반견해가혼재되어있음 이에인공지능을설계한자또는제조자의지위를가지는자에게책임과면책을위한입증책임을부여하여탈법행위방지및적합한피해자구제방안을마련하고 인공지능생산자 설계자 제조자등 에게인공지능의기능및오류감독및 개선노력의무화조항을마련함으로서불측한사고의예방과책임회피를할수 없도록대책수립

18 참고문헌 국내문헌 제 차산업혁명에대응한지능정보사회중장기종합대책 관계부처협동 한국로봇산업진흥원 로봇이생산성 고용 일자리에미치는영향 제 호 카카오정책지원팀 인간과로봇의공존시대열리나 카카오 리포트 권용수 일본정부 인공지능 의창작물에도저작권을인정하는법정비실시 저작권동향 제 호 한국저작권위원회 권웅기김훈태 지능형로봇활용 어디까지왔나 이슈리포트 포스코경영연구원 김승래 시대의지식재산권보호전략과대책 지식재산연구 제 권제 호 한국지식재산연구원 김용주 인공지능창작물에대한저작물로서의보호가능성 법학연구 제 권 충남대학교법학연구소 김윤명 정필운 고인석 김대규 지능정보사회대응을위한법제도조사연구 소프트웨어정책연구소 김윤명 인공지능 로봇 의법적쟁점에대한시론적고찰 정보법학 제 권제 호 김윤명 인공지능과법적쟁점 가만들어낸결과물의법률문제를중심으로 제 호 소프트웨어정책연구소 김윤명 인공지능과지식재산권문제 인공지능이만들어낸현상에대한우답 경제와와해 사회 산업 미디어의새로운지평 한국정보사회학회 한국미디어경영학회 년하계학술대회 코엑스컨퍼런스룸 박준석 우리특허법상 벌명 의개념에관한고찰 서울대학교법학 제 권제 호 서울대학교법학연구소 손승우 인공지능창작물의저작권보호 정보법학 제 권제 호 한국정보법학회 손승우김윤명 인공지능기술관련국제적논의와법제대응방안연구 한국법제연구원 손영화 인공지능 시대의법적과제 법과정책연구 제 권제 호 법과정책학회

19 송승현 트랜스휴먼및포스트휴먼그리고안드로이드 로봇 에대한형법상범죄주체의인정여부 홍익법학 제 권제 호 홍익대학교법학연구소 윤지영등 법과학을적용한형사사법의선진화방안 한국형사정책연구원 윤태영 인공지능 과민사책임 인터넷법제도포럼 한국인터넷진흥원 이명호 차산업혁명의미래사회시나리오 미래전략연구소 이상형 윤리적인공지능은가능한가 법과정책연구 제 권제 호 법과정책학회 이원태 차산업혁명과지능정보사회규범재정립 정보통신정책연구원 이중기 인공지능을가진로봇의법적취급 홍익법학 제 권제 호 홍익대학교법학연구소 임석순 형법상인공지능의책임귀속 형사정책연구 제 권 형사정책연구원 임유진 유럽의회 로봇법 결의안통과와그의미 이슈분석 대외경제정책연구원 장유미 일본정부 인공지능이제작한저작물에대한저작권인정여부를검토 저작권동향 한국저작권위원회 정인 인공지능 의윤리적이슈와금융업관련고려사항 지식비타민 호 금융지주경영연구소 최은창 인공지능시대의법적윤리적쟁점 미래연구포커스 과학기술정책연구원 국외문헌 언론기사 김범수 빌게이츠 로봇사용자에게 로봇세 거둬사회복지에써야 조선

20 배병일 어떻게생각하십니까 로봇세도입 찬성 서울경제 양사록 인공지능피해 법적책임은누가 서울경제 유신 강한인공지능 약한인공지능 사이언스온 이강봉 로봇세 신설 현실화될까 장길수 구글의미래학자 커즈와일 의 대미래예측 로봇신문 장길수 미경제학자 빌게이츠 로봇세 도입에반박 로봇신문 조민지 이은주 로봇이야구기사를쓴다 그런데아주잘쓴다 뉴스 채민기 충돌때탑승자 보행자 누굴살리나 무인차딜레마 뉴스 조선일보 최연구 기술과문화간의격차 문화지체현상 하선영 로봇세내라 말도안된다 인간들싸움붙었다 중앙일보 황보연 인공지능시대 노동보조형유토피아 노동대체형디스토피아 한겨례 황순민 권력이 초양극화사회 만든다 매일경제 교도통신

(012~031)223교과(교)2-1

(012~031)223교과(교)2-1 0 184 9. 03 185 1 2 oneclick.law.go.kr 186 9. (172~191)223교과(교)2-9 2017.1.17 5:59 PM 페이지187 mac02 T tip_ 헌법 재판소의 기능 위헌 법률 심판: 법률이 헌법에 위반되면 그 효력을 잃게 하거 나 적용하지 못하게 하는 것 탄핵 심판: 고위 공무원이나 특수한 직위에 있는 공무원이 맡