인공지능 (AI) 법제개선의방향

인공지능 (AI) 법제개선의방향

01 입법상황및배경논의 (1) 국내에서도인공지능논의본격화 알파고 (AlphaGo) 효과 - 급작스러운관심의집중 - 관련기업들 ( 구글, 애플, 테슬라등 ) 의서비스상용화단계 소위 4 차산업혁명 - 자율적판단이가능한기계지능에의한자동화생산 - 전통적자본주의의생산력과생산관계의변모 입법정책적대응 - ITC 융합특별법, SW 진흥법 등법체계개선을통한산업진흥 - 지능정보사회기본법안 (2.23), 디지털기반산업기본법안 (3.7), 제 4 차산 업혁명촉진기본법안 (3.30), 로봇기본법안 (7.19) - 지능정보사회중장기종합대책 (2016.12) - ( 향후 )SW 안전및프라이버시관련법제, 개별법률개선

01 입법상황및배경논의 (2) 2 차례의인공지능의겨울 (AI Winter) 제 1 단계 (1950-1960) - 1956 년다트머스워크샵 (AI 용어등장 ) / 추론과탐색 - 토이프라블럼 (Toy Problem) 만해결할수있는한계 제 2 단계 (1980 년대 ) - 특정분야지식 ( 정보 ) 주입중심의전문가시스템 (expert system) - 모라벡의역설 (Moravec's paradox) 제 3 단계 (2000 년대이후 ) cf. 마음 ( 감성, 직관, 의식등 )? - 머신러닝 (machine learning) 지도학습 / 비지도학습 - 딥러닝 (deep learning) 인공지능의겨울은재차도래할것인가?

01 입법상황및배경논의 (3) 아키텍처 ( 기반 ) 규제와알고리즘 ( 기반 ) 규제 인공지능기술은종래 IT 영역및뇌과학 ( 인지과학 ) 등의융합 - 종래 IT 영역의발전 사물인터넷, 클라우드컴퓨팅, 빅데이터등 아키텍처규제 (Architectural Regulation) - 종래 IT 법학또는사이버법학 (cyberlaw) 이론의근간 - 아키텍처는자연적인사실로서의존재가아니라인간이의도적으로구축한구 조이며, 이는역설적으로인간스스로의행위를규제 ( 제약 ) 하기도함 - 상대적으로정적이고, 소극적인속성 알고리즘 ( 기반 ) 규제 (Algorithmic Regulation) - 알고리즘에의한자율적학습과판단 / 알고리즘의수정 재생산 - 상대적으로동적이고, 적극적인속성 - cf. Tim O'Reilly 의알고리즘규제 종래 IT 법학의아키텍처규제론활용

01 입법상황및배경논의 (4) The Path of Robotics Law 칼로 (Ryan Calo) 의아키텍처규제론 (Code is Law) 의응용 - 신체화, 우발성, 사회적유의성에기반한전통법리의변화주장 - 과거사이버법학이논의해온바와같은노력이필요함을주장 볼킨 (Jack Balkin) 의반론 - 기본적취지에동의하지만칼로의접근방법에는문제가있음 (cf. 우발성예외 ) - 기술은그자체의본질이아니라활용방식에따라다르게평가 ( 법현실주의 ) - 인공지능환경에서아키텍처규제론의한계지적 (Code is Lawless) 볼킨에대한반론 - 우발성은전통적법규범에도존재 (cf. 법현실주의 ) - 법의비결정성문제가더욱복잡한지형을갖게된것으로보는것이타당 - 최초설계자의의도를일탈한현실적 ( 법적 Ⅹ) 규제양상의전개 의도치않은아키텍처규제에대한불가피한순응

01 입법상황및배경논의 (5) 불확실성 기술발전및보편화방향의불확실성

01 입법상황및배경논의 (6) 과도한기대 핵심입법사실 = 마음의탄생 Ⅹ / 자동화의극대화

01 입법상황및배경논의 (7) Artificial(Ⅹ) / Augmented( ) Intelligence 인공지능을주축으로하는지능정보기술은국가공동체의암묵 적인운영규칙과전제들을변경시킬가능성이높음 인공지능기술이일상화되더라도향후상당기간동안은인간중 심적사고와의작별을논하기에는시기상조임 ( 탈인간중심?) - 인공지능은아직까지지능적개체에불과하며, 인간의마음 (mind) 까지가질수 있다는것은아직까지가설에불과함 (cf. AI Winter) 인공지능기술이인간과동일한감성과자의식을가지게된다고 하더라도종국적으로그러한결별은이루어지지않을것임 - 인공지능알고리즘의개발은기본적으로글로벌 IT 기업의이해관계가전제됨 과도한기술적전망앞에, 알고리즘규제의이면에서누군가부 당한입법자로서의권한을누릴수있는가능성우려 *

01 입법상황및배경논의 (8) 전자인 (electronic person) 인간으로서의인격을의미하는것이아님 European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) 59. 향후입법수단의영향에대한평가를수행할때다음과같은모든법적해결책이미치는영향을분석할것을집행위원회에촉구한다. f) 로봇에대한특정법적지위를창출하여최소한최첨단자율로봇이특정권리와의무를지닌전자인격의지위를갖게함으로써로봇이야기할수있는모든피해를보상할수있게하고, 로봇이스마트한자율적결정을내리거나제 3 자와독립적으로상호작용하는경우에는전자인격을적용하게하는것 Transhuman 인가? 아니면 Posthuman 인가?

01 입법상황및배경논의 (9) 딥러닝과인공신경망 블랙박스 법적책임과권한부여문제 ( 인과관계 )

02 대응법제구성의방향성 (1) 유럽연합 (EU)

02 대응법제구성의방향성 (2) 영국

02 대응법제구성의방향성 (3) 미국 (1)

02 대응법제구성의방향성 (4) 미국 (2)

02 대응법제구성의방향성 (5) 일본

02 대응법제구성의방향성 (6) 문제상황 : 진흥법제와추진체계범람 ( 법령정비 ) 국가주도진흥및촉진법제의범람 - 국가정보화기본법 * - 정보통신망법, SW 산업진흥법, 정보통신융합법 *, 정보통신산업진흥법 - 산업융합촉진법, 지능형로봇개발및보급촉진법 지능정보사회관련추진체계혼선 - 과학기술전략회의 ( 과학기술전략회의설치및운영에관한규정 ), 정보통신전 략위원회 ( 정보통신진흥및융합활성화등에관한특별법 ), 지능정보사회추 진단 ( 지능정보사회추진단의설치및운영에관한규정 ), 4 차산업혁명전략위 원회 ( 4 차산업혁명전략위원회규정 ) + 4 차산업혁명위원회 ( 입법예고완료 ) - 부처차원 : 과학기술정보통신부, 산업통산자원부, 기획재정부등 - 이제까지 ICT ( 규제 ) 정책의일관성등을확보하기위하여다양한위원회형태 ( 다부처참여 ) 의협의체운영이이루어졌지만, 그한계가명확한것으로평가됨 새로운진흥법제및추진체계 신설 or 정리?

02 대응법제구성의방향성 (7) 입법초점 (1): 상시적 제도적평가체계구축 지능정보기술발전방향의정확한예측은사실상불가능함 예 측판단의불확실성 - 영역별기술수용시점등의판단에는다양한변수가개입할여지가큼 - 기술의변화를규범이따라가기힘든측면이상존함 불확실성에대비하기위한상시적평가체계의구축필요 - 단기적관점의연구용역으로는이러한불확실성에대비할수없음 - 상시적 체계적인평가를통해규제개선작업을병행할필요가있음 기술및입법을대상으로한평가체계 - 기술영향평가 ( 과학기술기본법 제14조 ): 중요한의미를가지지만일회성이벤 트로인식되고있으며, 정책반영여부도불투명함 - 입법영향평가 ( 분석 )( 법적근거없음 ): 국회입법조사처등에서시범적으로실시 중에있지만, 아직까지제도화여부는불투명 (cf. EU Impact Assessment)

02 대응법제구성의방향성 (8) 입법초점 (2): 사회적협의및조정토대마련 지능정보기술로인한변화에즉각적으로대응하는이해관계자들 간의의견조율체계필요 ( 예. multistakeholderism) - 전사회적인거시적변화가예견되는만큼이에대한사회적타협이요망됨 - 타협이부재할경우지능정보기술등의시장안착및사회적수용난관예상 (ex. 콜버스, 우버 ) 입법및기술평가체계에관련사항을포함하는것도가능 - 영향평가는주로실증주의기법을활용하지만, 최근그한계가제기되고있음 - ( 해외주요국 ) 문서화된의견수렴 (consultation) 을포함하는영향평가운영 의견수렴의입법및정책반영여부에대한공식적소명절차 - 입법및정책에관한책임성부여및향후비판적피드백의토대 - 지능정보기술의사회적수용성의제고일환 ( 기술저항방지 )

02 대응법제구성의방향성 (9) 입법초점 (3): 법적규제방식의스마트화 전통적정부규제와같은획일화된방식의규제는한계가있음 - 경성법 (Hard Law) 이아닌연성법 (Soft Law) 적접근방식이필요함 기술에기 반한관련분야산업발전에대한고려등 - 입법기술적차원 : 수범자들의재량적판단및대응의폭확대 (cf. 자율규제 ) 지능정보기술수준및발전단계에따른대응방식차등화 - 지능정보기술의수준및발전단계의분류기준모색 / 제시 (cf. 자동화, 물리성 ) - 과도한예측에기반한규제설정은규제실패및불필요한규제를양산함 위험관리및책임분담을위한기본원칙제시 - 알고리즘투명성관리의필요성판단및그에따른규제등대응원칙제시 - 사고발생시위험및책임분담의기본원칙제시

02 대응법제구성의방향성 (10) 입법초점 (4): 새로운거버넌스모색 종래 ICT 정책거버넌스의한계 (ex. 정보통신전략위원회 ) * - 지능정보사회는전사회적인변화를상정하고있음에도불구하고, 실제적정책 운용은전적으로개별부처의판단에따라달라짐 ( 부처이기주의 ) 새로운유형의정책결정및추진체계의모색이필요함 - 정부부처소관영역별전문성과지능정보기술 / 사회에관한전문성을포괄할수 있는제도디자인 (cf. 합의제중앙행정기관설정및이를통한규제개선등 ) - 지능정보기술의활용및그로인한위험을관찰 / 관리하고, 이에대한대응방안 을전문적으로연구할수있는기능필요 (cf. 국가정보화?) * * 참고 : European Parliament(2014-2019), DRAFT REPORT with recommendations to the Commission on Civil Law Rules on Robotics(2015/2103(INL)), Committee on Legal Affairs, 2016.5.31. / U.K. House of Commons(Science and Technology Committee), Robotics and Artificial Intelligence, 2016.10.12.

03 알고리즘의입법적함의 (1) 알고리즘관련입법사례 알고리즘규제 - 선택제한 ( 행위구조제약 ) - 현재적제약 - 정당화절차불요 ( 불투명성 ) - 규제방식의다양성 ( 확장용이 ) 비교 : 법적규제 - 선호제한 ( 실정법적제재 ) - 사후적제약 - 정당화절차존재 - 규제방식의형식성 ( 사례 ) Right to Explanation EU 개인정보보호규칙 (GDPR) 제13조제2항 (f) 호 [ 프로파일링관련 ] 제22조제1항및제4항에언급된프로파일링을포함한자동화된의사결정의존재, 그리고적어도그러한경우, 이에사용되는로직에관한의미있는정보와해당처리가정보주체에대해갖는중요성과예상결과 를정보주체에게추가적으로제공해야한다고규정하고있음 알고리즘의투명성 / 관리가능성확보필요

03 알고리즘의입법적함의 (2) 알고리즘기반의비인간행위자 강한인공지능 (Strong AI) 과약한인공지능 (Weak AI) - 강한인공지능 : 사람이상의자의식과지능을갖춘기계지능 - 싱귤레러티 (Singularity)? 인공적도덕행위자 (Artificial Moral Agent) - 튜링테스트 (Turing Test) Allan Turing - 중국어방 (Chinese Room) 사고실험 John Searle - 일라이자효과 (Eliza Effect) Joseph Weizenbaum 인공지능의인간과의상호작용 - 인간이인공지능은인간으로느끼고상대하는상황은출현가능 - 현실적 현상적차원에서는인간과인공지능은충분히상호작용가능 - 다양한법적 윤리적문제발생 법 ( 학 ) 적측면에서의논의는불가피

03 알고리즘의입법적함의 (3) 비인간행위자의 ( 법적 ) 주체성 인간이성에기반한법적사고 - 고도의지능적개체에게인간과동등한법적지위를부여할것인가? - (SW) 제조물책임, 인공지능의법적추론에관한신뢰성 - 인간감성의중요성과이의알고리즘화방식의문제 비인간행위자의책임 - 책임소재 ( 인과관계 ) 파악의어려움 / 위험책임또는무과실책임등 (cf. Unger) - 사회또는공동체로의책임전가가능성 비인간행위자의권리 - 인간의행동및사고패턴습득 (ex. 데이터스크롤링 ) / 권리인정 정보독점 - 사회또는공동체로의권리귀속가능성 / cf. 공정이용 ( 예외법리 ) 예외적법리의보편화 / 공동체적대응

03 알고리즘의입법적함의 (4) 비인간행위자의규범적판단 인공지능의인간적인규범판단 ( 인공적도덕행위자 ) - 하향식접근 윤리적입장의다양성 / 현실적합성? - 상향식접근 판단의조정불가피 / 인간의감각 경험과동일조건조성? - 최근에는하향식과상향식의융합의논의되고있지만, 이는이론적시도에불과 인공지능의중립적법적판단 (cf. 감성, 의식, 마음 ) - 법의속성상지능 ( 중심 ) 적개체 ( 인공지능 ) 가가치판단 형량이가능한지의문 - 그러한판단이가능하다고할지라도학습데이터에따라다른가치형성 - Big Data: A Tool for Inclusion or Exclusion?(FTC, 2016.1); Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights( 백악관, 2016.5) 데이터근본주의 (data fundamentalism) 에대한회의 - 알고리즘 ( 규제 ) 에의한차별등의문제가언제든지발생가능 알고리즘규제와통제방식에대한연구필요

03 알고리즘의입법적함의 (5) 알고리즘과개별법률변화가능성 법률구분헌법저작권개인정보보호법제민사법제형사법제행정및공공법제노동및복지법제 주요내용 - 차별등인권의문제 (ex. 젠더 / 트랜스휴먼단계, cf. 포스트휴먼 ) - 인간의존엄 (ex. 뉴럴링크 ) - 알고리즘을통한표현의자유인정여부 - 인간의입헌주의와인공지능의입헌주의 - 인공지능학습과정에서의대규모저작권침해 - 비인간행위자의저작권보호?(cf. 일본 ) - 자동화프로파일링의증가대응필요 - 자동화된동의방식도입 - 식별정보가아닌프라이버시의법적보호방안 - 인공에이전트와인간의합리성격차 - 스마트계약 ( 자동화 ) 과의사표시 - (SW) 제조물책임 - 인공지능의형벌능력 (cf. 법인 ) - 인과관계인정방식 - 전자정부의확장 ( 정보제공 자동화행정행위 ) / 행정자동결정 - RegTech / AI 법률서비스 (cf. 스탠포드 CodeX) - 자율주행자동차 / 자율주행드론행정규제 - 소프트웨어안전관리 ( 통합및특별법 vs. 개별영역법률 ) - Reverse Engineering 의무화방안 - 특수고용형태의증가 (ex. 플랫폼노동 ) - 노동시간및장소규정의변화 - 알고리즘활용관련조세 ( 로봇세 ) 및기본소득 (cf. 자동화생산 )

03 알고리즘의입법적함의 (6) Data Tech. 과개인정보쟁점 ( 변화방향 ) 향후개인정보보호법제는광범위한보호영역을설정하되, 구체적인규제는일률적인기준설정이아니라위험이있는곳에집중될수있도록하는것이타당할것으로판단됨 구분 ( 과거 ) 프라이버시 ( 현재 ) 개인정보자기결정권 ( 미래 ) 新프라이버시 보호대상 식별성비전제 ( 사생활영역 ) 식별성전제 ( 개인정보 ) 식별성 + 비식별성 ( 포괄성 ) 권리주장소극적적극적소극적 + 적극적 규제및집행 맥락적형량 개인정보 ( 확정 ) 개념기반 (* 유의 : 해석적형량불가피 ) 실질적위험기반 (Risk Based Approach)

03 알고리즘의입법적함의 (7) 알고리즘의법학적함의 과도한기대는허황된담론과규제를양산 - 확인할수없는것에대한이론, 가설, 믿음의양산 - 현실적인우려에입각한규제의양산 ( 우리나라의전통적 IT 규제 ) 현실법제도관련함의 - 알고리즘규제의투명성확보방안모색필요 (cf. 전통적인규제방식지양 ) - 인공지능에관한법적 ( 권리및책임등 ) 문제의해소를위한방안모색 - 국정거버넌스등전국가적차원의구조조정대비 ( 중장기 ) 법이론적함의 - 법과이성 ( 합리성 ) 의관계에대한근원적재검토 감성, 직관등과의관계 - 법및법적판단의중립성에대한재검토 학습, 구성, the political 의의미 법 ( 학 ) 의역할과섬세한협업적연구필요

04 법제개선과제 (1) 현재정부의대응 신산업규제혁신관계장관회의, 규제혁신방안, 2016.2.17. 세부과제조치사항일정소관 인공지능안정성관련연구및 제도정비 인공지능관련법적책임연구 지능정보SW, 데이터안전성관련제도연구 17.12월 미래부 자율주행차인증제도정비 20년 국토부 인공지능관련손해배상법제전반연구 17.12월 미래부 인공지능윤리관련연구지능정보윤리헌장제정방향수립 17.12 월미래부 데이터재산권관련연구데이터재산권권리보호관련연구 17.12 월 지능정보기술산출물관련지식 재산권법연구 지능정보사회기본법제정추진 지식재산권법제정비방안연구 지능정보사회기본법제정방안연 구 17.12 월 미래부 문체부 미래부 문체부 17.12 월미래부

04 법제개선과제 (2) 단계적입법전략구성및추진의필요성 단기적관점에서의입법및규제개선 - 기술의개발및보급등진흥을위한효율적체계정비 - 향후입법개선을위한추진체계마련 ( 기본법제정비 ) - 디지털화로인한자동화대응 (cf. 독일의인더스트리 4.0) 중장기적관점에서의입법개선 - 개별법률적차원에서의개선은중장기적과제라는평가가가능함 - 상시적영향분석을통한변화의추적및관리 - 해외입법동향의면밀한관찰 ( 국내외규제형평성고려 ) 입법적차원의세밀화된단계별입법전략마련 - 인공지능에관한 2015 년기술영향평가및 2016 년지능정보사회중장기종합 대책는단계별전략부재 - 집중적연구인력및체계를수반하는입법전략의구성 ( 실질적학제간연구 )

04 법제개선과제 (3) 대한민국국회가해야할일은?

들어주셔서감사합니다