<5BB1DBB7CEB9FAB9FDC1A6C0FCB7AB20BFACB1B D31382D325D20BECBB0EDB8AEC1F22DC3D6C1F6BFAC2E687770>

Transcription

1 디지털사회법제연구 (Ⅴ) - 알고리즘중립성보장을위한법제연구 최지연

2

3 디지털사회법제연구 ( ) - 알고리즘중립성보장을위한법제연구 - Legal Research for Digital Society (Ⅴ) - A Legislative Study for Algorithmic Neutrality - 연구자 : 최지연 ( 부연구위원 ) Choi, Jiyeon

4

5 요약문. 배경및목적 알고리즘의사회 경제적활용도는더욱높아질것으로예측되지만관련법적 제도적장치는미비한실정임 알고리즘의공정하고중립적이용을보장할수있는법제적설계가필요함 알고리즘의중립성을보장하기위한해외법제와정책사례를분석하여향후우리입법에시사점을제시하고자함. 주요내용 알고리즘의개념공학적정의는미리정해둔규칙, 절차, 규제, 명령에따라부여되는자료를일련의과정을거쳐결과로도출해내는것현행법상의지위는법인격이인정되지않고, 계약의주체가될수없으며, 형벌의적용대상이되지않는등그존재가인정되지않음. 하지만제조물책임법에서알고리즘으로이루어진인공지능을탑재한동산을제조물로간주하고있고, 저작권법에서따로정의를두어보호대상에서제외하는등법적테두리에두고있음신문등의진흥에관한법률에서알고리즘이신문등의간행에이용될수있음을밝히고있으나, 독점규제및공정거래에관한법률에서는알고리즘에대한언급을찾을수없음

6 여러법에산재한과학기술및산업관련법률을종합적으로조정하고, 인공지능 개발과활용에동반하는윤리적인문제를법적으로규정하는내용으로 지능정보 사회기본법 ( 안 ) 의제정이논의되고있음 알고리즘편향성의문제 추천알고리즘에서특정요인에가중치를두어설계자의의도와부합하는결과를추천하도록함은공정경쟁을해칠수있음유럽연합과구글의반독점행위사례에서도검색알고리즘의조작이경쟁을제한하여반독점법에위배함을알수있음가격결정알고리즘의사용이의도치않은디지털카르텔을이루어경쟁을저해하는결과를가져오기도함특정개인이의도를가지고알고리즘을왜곡하는것과함께사실이아닌정보가온라인공간에서확산되어인공지능알고리즘이객관적인사실처럼대중에게전하는것도미디어프레이밍임 알고리즘중립성확보를위한해외제도적논의 유럽연합은로봇법결의안을통해인공지능산업의윤리적 기술적가이드라인을제공하고자함유럽연합개인정보보호규정에서도알고리즘에의해자동화된의사결정을제한하는조항과정보주체의권리를명시한조항을두어알고리즘의중립성을보장하고자함미국연방거래위원회도빅데이터의편향성과부정확성에대해보고서를통해경고함

7 . 기대효과 해외논의사례를소개하고분석함으로써알고리즘의중립성확보에대한국내논의 발전에기여하고, 향후관련입법에기초자료로사용함 주제어 : 알고리즘, 인공지능, 중립성, 편향성, 공정성

8

9 Abstract. Backgrounds and Purposes Utilization of Algorithm is expected to increase, yet legal and systemic regulations are not in place. Need for legal system guaranteeing algorithmic neutrality exists. By introducing and analyzing laws and policies on algorithm neutrality overseas, this report aims to draw suggestions for development of Korean laws.. Major Content Definition and Status of Algorithm Definition of Algorithm in computer-scientific term is a procedure that a system follows in accordance with the pre-designed principles, rules, and orders to digest given materials and to produce results. Algorithm under current Korean laws is not recognized as a subject holding legal personality, it cannot be a party to a contract, and it cannot be criminally penalized as well; however, product liability law recognizes algorithm as a product thus an object that the law applies, as long as the artificial intelligence using algorithm is installed on a product.

10 Law on Promotion of Newspaper states that algorithm may be used for publication of newspapers, while the Law on Monopoly Regulation and Fair Trade is silent on dealing with algorithms. For comprehensive coordination of laws related to science and technology that currently exists in many different laws, and to provide legal answers for ethical questions that follows development and utilization of artificial intelligence, the Foundational Bill on Intelligence Information Society is proposed. Issues on Algorithmic Bias Doctoring algorithm producing suggestions to place heavier weight on certain sector to meet the designer s intention may hinder fair competition. EU against Google case evidences that manipulation of search algorithm limits competition and violates anti-monopoly law. Use of price-determining algorithm forms unintended digital cartel and may harm competition. While a person may manipulate algorithm intentionally and produce fake news online, even without such ill-motive, false information may be spread online that algorithm picks up such information and delivers it to the public. With or without intention, both constitute media framing. Discussion on Algorithm Neutrality overseas EU provides ethical and technical guideline by the Robolaw Resolution.

11 EU GDPR adopts provision limiting automatic decision-making by algorithm and provision stating the rights of the subject holding the information for algorithmic neutrality. US FCC warned of biases and inaccuracy of big data in its report.. Expected Effects By introducing and analyzing overseas discussions and cases, this report aims to contribute to the development of the algorithmic neutrality discourse in Korea, and also to serve as a basic research information for further legal studies. Key Words : algorithm, artificial intelligence, neutrality, bias

12

13 목차디지털사회법제연구 (V) korea legislation research institute 요약문 3 Abstract 7 제 1 장서론 / 3 제1절연구의필요성및목적 연구의필요성 연구의목적 17 제2절연구의범위와방법 17 제 2 장인공지능알고리즘기술의발전과법제현황 / 19 제1절인공지능알고리즘기술의발전현황 인공지능알고리즘의개념 인공지능알고리즘기술의발전현황 22 제2절인공지능알고리즘규제의현황 현행법상인공지능의법적지위 지능형로봇개발및보급촉진법 지능정보사회기본법안 30 제 3 장인공지능알고리즘활용의쟁점분석 / 35 제 1 절알고리즘편향성의문제 - 상업적중립성 37

14 목차디지털사회법제연구 (V) korea legislation research institute 1. 추천알고리즘의중립성문제 가격결정알고리즘과디지털카르텔 40 제2절알고리즘편향성의문제 미디어프레이밍 인공지능알고리즘에의한미디어프레이밍 소셜미디어의알고리즘을활용한대응 44 제 4 장알고리즘중립성확보를위한제도적논의 / 47 제1절유럽의논의현황소개및분석 유럽연합의로봇법결의안 영국의로봇과인공지능보고서 유럽연합의개인정보보호규정 (GDPR) 51 제2절미국의논의현황소개및분석 연구기관의인공지능보고서 백악관보고서 연방거래위원회의알고리즘중립성보고서 55 제3절소결 56 제 5 장결론 / 59 참고문헌 63

15 제 1 장 서론 제1절연구의필요성및목적제2절연구의범위와방법

16

17 제 1 장 서론 제 1 절연구의필요성및목적 1. 연구의필요성 지난해이세돌 (9단) 을 4대1로꺾은바있는바둑인공지능알파고 (AlphaGo) 는올해세계 1위기사인중국의커제 (9단) 을상대로 3대 0 완승을거두었다. 1) 구글딥마인드사의인공지능인알파고는작년이세돌과의대국이후인간의기보를학습하지않고스스로학습 2) 하는머신러닝기술을갖추었다고알려졌고, 이를통해한층더발전했음을세계최강바둑기사와의대국을통해입증한것이다. 딥마인드사가알파고는이제바둑을떠나의료등다른분야로진출을확대하겠다고밝혔지만, 이미 IBM사의왓슨이암진료에사용되는등인공지능을장착한기계가인간생활에서인간보다훨씬우월한성능을보이고있는실정이다. 이미우리앞에다가온 4차산업혁명의중심에는인공지능을개발, 발전하는과학기술이있고, 인공지능의핵심기술은한정된정보를수집, 투입하여최적의결과를산출해내는메커니즘인알고리즘이라고할수있을것이다. 사소하게는인터넷만켜면보이는검색창에서검색결과를표시하는것과쇼핑몰에서맞춤형추천제품을표시해주는것부터 1) 연합뉴스 2017년 5월 23일기사, ( 최종검색일 2017년 8월 21일 ) 2) 서울경제신문 2017년 5월 23일기사, ( 최종검색일 2017년 8월 21일 )

18 16 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 단순한전자일정표의한계를넘어개인비서역할을한다거나자산관리를해주는어드바이저의역할, 법률서비스의제공등고차원적서비스를제공하는인공지능알고리즘기술은그사회 경제적활용도가더욱높아질것으로예측된다. 하지만그기술이널리사용되는것에비해관련한법적 제도적장치는적절히갖추어져알고리즘의공정하고중립적인이용을뒷받침할수있도록하는가하는점은여전히문제제기의대상이된다. 인공지능알고리즘자체가인간이투입하는정보에기반을두어최적의결과를산출해내는시스템이라고이해할때, 이론적으로는사용자의의도에따라얼마든지비뚤어진결과를생산해낼수있고, 또실제로도인공지능알고리즘을악용한사례를볼수있다. 마이크로소프트사의채팅봇테이가인간과의대화에서편견을학습하여인종차별적인언사를서슴치않았던사례가있고, 3) 알고리즘을조작하여가짜뉴스를많이노출시킨것으로문제가되었던경우도있다. 4) 그런가하면페이스북에서는신뢰도가낮은기사의노출을낮추는방식으로가짜뉴스를거르는내부알고리즘을강화하는방식으로기존의알고리즘악용문제를알고리즘으로풀어보겠다하기도한다. 5) 이처럼알고리즘은실생활에서의활용도가높고영향력이이미지대하지만알고리즘기술의공정성과가치중립성을보장하기위한법제적설계는미비한실정이기에, 논의를이끌어가고있는해외사례를분석하고우리나라법제현황을비교하여국내입법에의시사점을도출하는것이필요하다. 3) 조선비즈, 2016년 3월 27일기사, ( 최종검색일 2017년 8월 21일 ) 4) 연합뉴스, 2016년 11월 15일기사, ( 최종검색일 2017년 8월 21일 ) 5) 경제타임스, 2017년 5월 4일기사, ( 최종검색일 2017년 8월 21일 )

19 제 1 장서론 연구의목적 인공지능알고리즘의공정한운용을규율하는법제가없는현실에서나타나는여러법문제등을분야별로고찰하고, 규제에대한현재논의현황과법체계상의실현가능한방안등에대한연구를진행하고자한다. 이와같은현상의분석을통해인공지능알고리즘에적용되는현행우리나라법제에대해이해하고, 세계적으로논의되고있는관련입법방향과논의의분석결과를우리의현황과비교하고, 향후알고리즘의중립성보장을위한방안도출및정책적제안을제시하는것을본연구의목적으로한다. 제 2 절연구의범위와방법 본연구에서는단기적산업 기술진흥을목적으로하고있는현행인공지능알고리즘관련법의한계를파악하고, 규제체계미비에기인하여나타나는알고리즘관련쟁점을정리하고자하였다. 이후국제적으로논의를선도하고있는미국, 유럽의입법동향과정책을비교분석하여시사점을도출하는것을본연구의범위로한정하여연구를수행하였다. 연구수행방법으로는국내선행연구와해외입법관련자료, 논문등의문헌연구를 주로하되인공지능알고리즘기술의특성상과학기술의전문가의자문을얻기위한전 문가자문회의를다음과같이개최하여자칫미비할수있는전문분야지식을보충하였다. 알고리즘중립성보장을위한법제연구전문가자문회의 일시 2017 년 7 월 24 일월요일 10:00 14:00 장소 참여자 발제자 1 발제자 2 서울역공항철도회의실 (AREX-II) 이혜연교수 ( 아주대 ) 알고리즘의작동원리및데이터분석 이진태박사 ( 저작권위원회 ) AI 관련법적이슈

20 18 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 토론자 1 이원태박사 ( 정보통신정책연구원 ) 참여자 토론자 2 권헌영교수 ( 고려대 ) 토론자 3 차성민교수 ( 한남대 )

21 제2장인공지능알고리즘기술의발전과법제현황 제 1 절인공지능알고리즘기술의발전현황 제 2 절인공지능알고리즘규제의현황

22

23 제 2 장 인공지능알고리즘기술의발전과법제현황 제 1 절인공지능알고리즘기술의발전현황 1. 인공지능알고리즘의개념 컴퓨터인터넷용어사전에따르면알고리즘 (Algorithm) 이란 어떤문제를해결하기위해명확히정의된유한개의규칙과절차의모임. 명확히정의된한정된개수의규제나명령의집합이며, 한정된규칙을적용함으로써문제를해결하는것 이다. 6) 인공지능알고리즘은 컴퓨터혹은디지털대상이과업을수행하는방법에대한설명으로명확히정의된한정된개수의규제나명령의집합 으로정의되는데, 7) 이는앞에서정의한알고리즘의의미와크게다르지않다. 즉, 자료를투입하여정해진규칙대로처리하여결과를도출하는것을의미할때, 알고리즘과인공지능알고리즘은명백한차이를두지않고함께쓰이는것으로볼수있다. 특정정보를투입하여사전에정해둔계산처리과정을거쳐결과를생산해내는정보처리의규칙의모음으로써알고리즘은다음과같은다섯가지특징을가진다. 8) 6) 컴퓨터인터넷IT용어대사전, , 일진사 7) Goggey, A. (2008). Algorithm In M Fuller(ed.), Software Studies: A Lexicon. Cambridge, MA: the MIT Press; 이원태, EU의알고리즘규제이슈와정책적시사점, 정보통신정책연구원 ( ), 4. 재인용 8) 앞의주6, 컴퓨터인터넷IT용어대사전

24 22 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - ⓵ 입력 : 외부에서제공되는자료가있을수있다. ⓶ 출력 : 적어도한가지결과가생긴다. ⓷ 명백성 : 각명령들은명백해야한다. ⓸ 유한성 : 알고리즘의명령대로수행하면한정된단계를처리한후에종료된다. ⓹ 효과성 : 모든명령들은명백하고실행가능한것이어야한다. 어원은 9세기의과학자 AL KHOREZMI의이름에서유래한다. 미리정해둔규칙, 절차, 규제, 명령에따라부여되는자료를일련의과정을거쳐결과로도출해내는것을알고리즘의작동형태로이해한다면, 일련의규칙, 절차, 규제, 명령등의종류와구성된방법에따라같은결과를구하는처리에있어서도시간적효율성이나결과의품질에차이가날수있다. 최적의결과를최단처리과정과최단시간동안에도출해내는알고리즘이당연히알고리즘사용자의입장에서는 좋은알고리즘 일것이지만, 이러한알고리즘을사용하여얻어낸결과가목적과부합하는결과이지만사회적 윤리적가치와배치한다면그래도해당알고리즘을 좋은알고리즘 으로간주하고지속적으로활용할수있을지에대해서는고민이필요하다. 이를위해서는먼저알고리즘이사전적의미를넘어우리생활에서어떻게활용되고있는지를알아보아야할것이다 2. 인공지능알고리즘기술의발전현황 알고리즘은대표적으로아마존, 넷플릭스, 유튜브등의추천알고리즘에빅데이터에 기반을둔자료와함께설계되어작동하고있다. 알고리즘에의한추천시스템은크게 전체추천, 그룹추천, 개인화추천, 연관아이템추천의네종류로나눌수있다. 9) 9) 이혜연, 알고리즘의작동원리및데이터분석, 2017년 7월 24일한국법제연구원디지털사회법제연구 (V)- 알고리즘중립성보장을위한법제연구워크숍자료집 10면

25 제 2 장인공지능알고리즘기술의발전과법제현황 23 전체추천은불특정다수에게보여지는추천방식으로포털사이트의메인화면에나타나는디렉터에의해추천되어지는아이템, 검색창에나타나는연관검색어등이대표적이다. 10) 그룹추천은특정유저들을그룹으로나누어특화된아이템을추천해주는방식으로, 포털사이트의연령별인기키워드등으로나타나고, 개인화추천은사용자의과거이력이나행동패턴등의데이터를수집하여사용자의관심사를추출하고그와연관된아이템을추천해주는형태로, 유튜브메인화면의추천동영상이이와같은개인화추천알고리즘을사용한다. 11) 연관아이템추천은개인화추천과비슷하지만, 사용자개인의데이터를바탕으로관심사에맞는아이템을추천한다기보다선택하는아이템과즉각적으로맞는관련아이템을보여주는추천방식으로, 유튜브에서동영상을하나선택하면관련동영상이보여지는것이연관아이템추천의사례이다. 12) 알고리즘을이용한추천시스템의경우, 제일처음대상사용자집단을설정하는것은알고리즘을설계하는사람이지만, 일단사용자모집단이설계되고나면사용자의데이터를사용해서관심사를파악하는단계, 관심사와관련된다른아이템을찾아내는과정, 관련아이템의중요도를파악해서우선순위를매기는작업, 그리고마지막으로도출된결과를사용자의개인적상황에맞도록다시한번여과하여적절하지않은아이템을제외하는것등은모두인공지능알고리즘이규칙에따라수행하는작업이다. 이런추천알고리즘은포탈의검색 추천서비스나개개인의생활서비스상품 서비스구매를도와주는역할을수행하여사용자의선택에영향을미치게되었다. 동일한알고리즘을전자상거래에사용하는여러판매자의경우동일한결과를도출하여같은판매전략과시장가격에도달하게되고의도치않았더라도담합에이를수있다. 따라서알고리즘을이용하는데있어전자상거래의거래구조및경쟁구도에도변화를일으키게되고, 경쟁법상의문제를고려하게되었다. 또, 지난해미국대선과정과올해한국대선과정에 10) 앞의주 9, 이혜연, 10면 11) 앞의주 9, 이혜연, 10면 12) 앞의주 9, 이혜연, 10면

26 24 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 서끊임없이이슈가되어왔던가짜뉴스또한사실이아닌뉴스를뉴스추천알고리즘이지속적으로노출함으로써편향된정보를확산하는데이용된사례로, 이를교정하기위한방안이지속적으로고안되고, 사용되고있으며이는이후 2절의 2장내용에서자세히다룰예정이다. 제 2 절인공지능알고리즘규제의현황 1. 현행법상인공지능의법적지위 현재우리나라에서인공지능알고리즘의설계나이용, 보급등을직접적으로규제하는 법제도는없다. 하지만알고리즘코딩으로작동하는인공지능의현행법상의지위를살펴 봄으로써알고리즘에적용되는법적권한과규제, 한계등을알아볼수있을것이다. (1) 헌법 먼저헌법에있어서인공지능의지위를살펴보자면, 자연인이아니지만법인격이부여되는법인의경우와비교해볼수있을것이다. 우리헌법은법인에게도법인격을부여하여헌법상기본권의주체성을인정하는데, 이는 법인이그구성원인자연인의기본권행사를편리하게해주거나그것을촉진시켜주기때문 13) 이며, 이와같은법인의헌법상인격권주체성은헌법재판소도결정례 14) 를통해인정해오고있는바이다. 하지만인공지능의경우법인격과는확연히달라 그구성원인자연인의기본권행사를편리하게해주거나그것을촉진시켜 주지않으므로같은논리로법인격을인정하고기본권을인정할수는없을것이고, 현재까지의법이론이나판례에서는인공지능의법인격을인정할기타연유는없다. 다만올해 1월유럽연합의회가인공지능로봇을 전자인간 (Electronic Personhood) 으로지정하는결의안을채택한바있는데, 인간에게종속하는 13) 권영성, 헌법학원론, 박문사, 2008., 면 14) 헌재 2009헌가27,

27 제 2 장인공지능알고리즘기술의발전과법제현황 25 노예계급으로구분되긴하지만사람이아닌존재가법적권리를얻은최초의사례로, 15) 세계적으로이와같이인공지능의법인격을인정하는추세가된다면향후우리나라의 법체계에서도인공지능의기본권주체성을인정할필요성이생길수있을것이다. (2) 민법 민법에서는법인이법률관계를처리하는데있어편리하고자, 또구성원개인과단체의책임을분리하고자하는두가지목적에의해법인의권리주체성을인정하는데 16) 이는인공지능에게도민법상의권리주체성을인정하는것을고려할때참고할만하다. 하지만법인의권리능력이정관에정한목적의범위내에서만인정됨 17) 을고려하면, 인공지능의활용이더욱보편화되어법인처럼인공지능도독립적인법률관계를처리하는편이더욱편리해지고필요해질때, 인공지능제작의목적범위내에서만민법상의권리주체성을인정할수있을것으로보인다. 인공지능알고리즘의작동으로자동적으로전자계약이맺어지는경우, 사람인사용자를대신해서일정정도의자율성을가지고계약을맺는컴퓨터프로그램에자연인과같은법적지위를부여할것인가하는문제는계약의효력과책임의측면에서중요한의미를가진다. 독자적의사결정이가능한인공지능프로그램은 지능형에이전트 라고불리는데, 18) 법인격이없이사용자를대리하는역할을수행하는것으로보아법적행위능력이없는것으로간주하거나, 법인격주체로계약을사용자대신체결하는대리인으로보는두가지방법이있을것이다. 15) 김미희, AI 로봇은전자인간 EU, 법적지위부여, 파이낸셜뉴스, ( 최종검색일 2017년 8월 22일 ) 16) 김준호, 민법강의제18판, 법문사, 2012, 126면 17) 민법제34조 18) Caglayan, A., and Harrison, C., Agent Sourcebook, Wiley Computer Publishing, p.4, 1997; 윤지웅, 인터넷환경하에서지능형에이전트현황및전망, 정보통신정책연구원, 정보통신정책제10권 20호통권 220호, 1998., 18면재인용

28 26 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - (3) 형법 우리형법제2조와제3조에따르면내국인과외국인에게만형벌이적용되도록하는바, 자연인에게만적용되는형법에서인공지능은제외대상이되는것으로생각할수있다. 이는법인의행위능력을인정하지않는판례와학계의해석과도일치하지만, 19) 일견해외에서는필요에의해법인의개념이만들어진것과같이독립적책임주체로서 e-인격 (e-person) 의개념을도입할수있을것이라는주장도있다. 20) 이와같은주장은 1747년스위스바젤의동물소송으로사형선고를받은닭의사례와같이 동물형법 을 인공지능형법의모범 으로삼고자하는주장으로뒷받침할수있다. 21) (4) 제조물책임법 알고리즘으로작동하는인공지능자동차가사고를낸경우, 법적책임을누가져야하는지의문제가대두되었을때, 제조물의결함으로손해가발생할경우제조업자가책임을지도록하는제조물책임법을적용하여알고리즘의설계자가사고의민사상손해배상을하도록해야한다는의견이제시된바있다. 그러나이와같이책임소재를가리기위해서는그전제가되는정의, 즉인공지능알고리즘이제조물인지에대한논의가선행되어야할것이다. 제조물책임법은그정의규정에서제조물을 제조되거나가공된동산 으로규정 22) 하고있는데, 인공지능알고리즘자체를동산으로간주하여제조물의정의에부합하는것으로보기는힘들다. 하지만이와같은논의의시발점이되었던자율주행자동차의사고건으로돌아가보면, 책임의원인이알고리즘으로이루어진인공지능을탑재한자동차이기 19) 이재상, 형법총론, 박영사, 2010, 74면 20) Hilgendorf, recht, Maschinen und die Idee des Posthumanen, Telepolis, ; Fitzi, Roboterals legale Pers onnen mit begrenzter Haftung, 2013, S ; 임석순, 형법상인공지능의책임귀속, 형사정책연구원, 형사정책연구, 제27권제4호, 통권제108호, 2016 겨울, 2016., 77면 21) 앞의주 20, 임석순, 78면 22) 제조물책임법제2조제1항

29 제 2 장인공지능알고리즘기술의발전과법제현황 27 때문에, 자동차라는동산에내장된인공지능이라는점에서자율주행자동차를제조물로 간주하는것에는큰무리가없다. 23) 이와같이인공지능이하드웨어와결합한경우제조 물의정의에부합하여제조물책임법의적용이가능함은판례를통해서도드러난다. 24) (5) 저작권법 저작권법은기본적으로하나의아이디어를가지고다양한창작방법이있을수있음을인정하는단계를넘어, 같은아이디어를활용한여러창작기회를장려한다. 이는보호의대상을아이디어와표현으로나누어아이디어는보호하지않되표현은보호의대상으로두는것으로나타나는데, 저작권법에서인공지능의작동규칙인알고리즘은보호대상인표현이아닌보호에서제외되는아이디어의영역으로간주한다. 그래서저작권법은알고리즘을 해법 이라는법률용어로규정하고, 명시적으로저작권법상의보호대상에서제외하고있다. 25) 저작권법제101조의2( 보호의대상 ) 프로그램을작성하기위하여사용하는다음각호의사항에는이법을적용하지아니한다. 1. 프로그램언어 : 프로그램을표현하는수단으로서문자기호및그체계 2. 규약 : 특정한프로그램에서프로그램언어의용법에관한특별한약속 3. 해법 : 프로그램에서지시명령의조합방법 23) 최경진, 지능형신기술에관한민사법적검토, 한국정보법학회, 정보법학제19권제3호, 232면 24) 서울중앙지방법원 선고 2003가합32082판결, 소프트웨어자체는제조물로인정되지않지만소프트웨어가저장된매체는제조물로인정함. 25) 저작권법상으로는알고리즘이보호받지못하지만, 소프트웨어특허를통해지식재산권으로보호받을수는있다. 이를위해서는 컴퓨터소프트웨어관련발명심사기준 에따른요건을충족해야한다.

30 28 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - (6) 신문등의진흥에관한법률 신문류간행물발간의자유를보장하고산업을육성하는것을그목적으로하는 신문등의진흥에관한법률 은일반 특수일간신문, 주간신문, 인터넷신문등을그법적용의대상으로한다. 26) 법제2조제2항에 인터넷신문 을정의함으로써종이신문뿐만아니라인터넷상의웹사이트를이용하여간행되는전자간행물도신문의범주에포함한것인데, 인터넷신문 의정의를 컴퓨터등정보처리능력을가진장치와통신망을이용하여... 간행하는전자간행물 로둠으로써, 알고리즘을이용한장치가인터넷신문의간행에사용된다는점을구체적으로명시하였다. 즉알고리즘이신문등의간행에이용될수있다는점을법에서명확히밝혔다고볼수있다. 알고리즘을이용해간행되는전자간행물로써의인터넷신문을법에서인정하는것에그치지않고, 동법은인터넷신문의공정성을담보하기위해노력하고있다. 법제10조에인터넷뉴스서비스사업자의준수사항으로기사배열의기본방침과기사배열의책임자를공개하도록하고있다. 신문등의진흥에관한법률제10조 ( 인터넷뉴스서비스사업자의준수사항 ) 인터넷뉴스서비스사업자는기사배열의기본방침이독자의이익에충실하도록노력하여야하며, 그기본방침과기사배열의책임자를대통령령으로정하는바에따라공개하여야한다. 인터넷뉴스서비스사업자는독자적으로생산하지아니한기사의제목 내용등을수정하려는경우해당기사를공급한자의동의를받아야한다. 인터넷뉴스서비스사업자는제공또는매개하는기사와독자가생산한의견등을혼동되지아니하도록대통령령으로정하는바에따라구분하여표시하여야한다. 인터넷뉴스서비스사업자는제공또는매개하는기사의제목 내용등의변경이발생하여이를재전송받은경우인터넷뉴스서비스사업자의인터넷홈페이지에재전송받은기사로즉시대체하여야한다. 26) 신문등의진흥에관한법률제 2 조 1 항과 2 항

31 제 2 장인공지능알고리즘기술의발전과법제현황 29 법조항에기사배열의기본방침과책임자를공개토록함으로써기사배열에사용된알고리즘의공정성과중립성을보장하고자최소한의장치를둔것으로볼수있으나, 현실에서그공개방침에대해알아보자면 정보를더빠르고정확하게전달 이라든지 이롭고바른정보를제공 27) 등의선언적표현으로요건을갖추는등효과는크지않는것으로보인다. (7) 독점규제및공정거래에관한법률 독점규제및공정거래에관한법률 에서는인공지능이나알고리즘에대한직접적인언급이없는데, 이는민법상인공지능이계약의주체로인정되지않고, 헌법상인격권주체성이인정되지도않는점에서기인한것으로볼수있다. 하지만가격결정에있어알고리즘이널리사용되고있고, 경쟁자관계에서이렇게알고리즘을활용하여가격을결정하는행위가의도하지않은담합의결과를불러일으킬수있다는점이알고리즘과독점규제및공정거래에관한법률의연결고리이다. 이문제는현시점에서는매우새로이인식되는것으로, 이에대한현행법상의규제방안은아직미비한실정이다. 알고리즘사용과담합, 또는경쟁의저해에대해서는제3장쟁점분석디지털카르텔부분에서더욱자세히논의할예정이다. 2. 지능형로봇개발및보급촉진법 인공지능알고리즘을가장직접적으로다루는법으로는 지능형로봇개발및보급촉진법 이있다. 이법은지능형로봇을 외부환경을스스로인식하고상황을판단하여자율적으로동작하는기계장치 28) 로정의하는데현행법중에서는알고리즘을활용한인공지능에대한가장적절한정의규정을가진법으로볼수있다. 27) 기사배열기본방침의예 : 28) 지능형로봇개발및보급법

32 30 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 8개장, 49개조항으로이루어진지능형로봇개발및보급촉진법은법의제목에서도나타나듯이로봇의개발과보급을촉진하기위한국가적계획수립과국가의책무, 지능형로봇투자회사의설립과감독, 로봇랜드의조성, 로봇산업진흥원설립등의내용으로구성되어로봇산업진흥법제의성격을보인다. 인공지능로봇을이용한산업활성화를통한경제적부흥을목적으로하는법이라, 인공지능알고리즘자체의법적의의나규제등에대한내용과는거리가있다. 3. 지능정보사회기본법안 인공지능의중립성과규제에대한논의가비교적활발하게진행되고있는해외와달리국내에서는아직인공지능알고리즘의공정한활용이나책무성등에대한논의가미비한것이사실이며, 따라서관련규제도논의초기단계에머물고있다. 국가정보화기본법, 정보통신망이용촉진및정보보호등에관한법률, 소프트웨어산업진흥법, 클라우드컴퓨팅발전및이용자보호에관한법률, 정보통신진흥및융합활성화등에관한특별법, 정보통신산업진흥법, 산업융합촉진법, 지능형로봇개발및보급촉진법 등사회적으로진행된논의에비해관련법규가다수존재하고있으나, 대부분의내용이기술의개발, 진흥, 보급등과학기술의발전의기초가되는내용이며, 이미상용화되고앞으로도무한히확장될인공지능알고리즘의공정성등에대한고려는찾아볼수없다. 이에여러법에산재한과학기술및산업관련법률을종합적으로조정하고, 인공지능개발과활용에동반하는윤리적인문제를법적으로규정하는내용으로 지능정보사회기본법 ( 안 ) 의제정이논의되고있다. 29) 총 8 장 49 조와 3 개조의부칙으로구성되어있는 지능정보사회기본법안 이올해 2 월 강효상의원을대표로하여발의되었는데, 이법안은인공지능을주축으로한지능정보기 술을기반으로사회모든분야에서인간의능력과생산성을극대화하여인간의한계를 29) 2016 년 10 월미래창조과학부국정감사에서 지능정보사회기본법안 의초안이제시되었음. 이후법제정을위해두차례의세미나가개최되었고, 2017 년 2 월발의되어 6 월 23 일현재계류중임.

33 제 2 장인공지능알고리즘기술의발전과법제현황 31 극복해발전하는미래지향적인간중심사회를지능정보사회로정의 30) 하고, 지능정보사 회정책추진에대하여기본법으로서역할을할것을명시하고있다. 31) 제2조 ( 정의 ) 이법에서사용하는용어의뜻은다음과같다. 1. 지능정보기술 이란전부또는부분적으로자율적인정보의인지, 학습, 추론, 분석, 처리, 생성등을수행하는기술또는이와연계한소프트웨어산업진흥법제2조제1호의소프트웨어, 정보통신진흥및융합활성화등에관한특별법제 2조제1항제2호의정보통신융합및산업융합촉진법제2조제1호의산업융합등에활용되는기술을말한다. 2. 지능정보기술개발자 란지능정보기술을이용하여각종서비스및상품을개발제작하는자를말한다. 3. 지능정보서비스 란지능정보기술을이용하여정보및제반역무를제공하거나이를매개하는것을말한다. 4. 지능정보서비스제공자 란영리를목적으로지능정보서비스를제공하는자를말한다. 5. 지능정보사회 란지능정보기술을기반으로사회모든분야에서인간의능력과생산성을극대화하여인간의한계를극복해발전하는미래지향적인간중심사회를말한다. 제4조 ( 다른법률과의관계 ) 지능정보사회정책추진에관한다른법률을제정하거나개정할때에는이법의목적과기본원칙에맞도록노력하여야한다. 지능정보사회정책추진에관하여다른법률에특별한규정이있는경우를제외하고는이법에서정하는바에따른다. 즉, 정보통신산업진흥과연계하여다양한법률들이난립하고있는실정이라기존관 련입법및추진체계의정비가필요한상황 32) 에서지능정보사회기본법안이제정되어 30) 지능정보사회기본법안제2조제5호 31) 지능정보사회기본법안제4조 32) 지능정보사회기본법안제안이유

34 32 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 지능정보사회의발전지원, 사회적 윤리적문제해소를위한기반구축, 기존규제개선, 정책추진체계개선을통해인간중심의지능정보사회구현에기여하고자하는원래의 취지를살린다면국민의삶과경제에도움이될수있을것으로보인다. 이법안에서인공지능알고리즘과직접적으로관련한조항은제17조제2항의제 4호지능정보기술로인한위험의방지, 제5호지능정보기술로인한차별의방지및이용자의권익보호, 제6호지능정보기술관련윤리의확립, 제7호지능정보기술관련지식재산권의보호등네개조항으로보인다. 제17조 ( 지능정보사회발전기본계획의수립 ) 위원회는지능정보사회정책의효율적체계적추진을위하여 3년마다지능정보사회발전기본계획 ( 이하 기본계획 이라한다 ) 을수립하여시행하되, 필요한경우수립주기를단축하거나기본계획을변경할수있다. 기본계획에는다음각호의사항이포함되어야한다. 1. 지능정보사회발전단계별목표와정책의기본방향 2. 지능정보기술의개발활용및산업화전략 3. 고용, 복지및분배체계의조정및개선 4. 지능정보기술로인한위험의방지 5. 지능정보기술로인한차별의방지및이용자의권익보호 6. 지능정보기술관련윤리의확립 7. 지능정보기술관련지식재산권의보호 8. 지능정보기술에관한국제협력활성화 9. 지능정보사회문화창달 10. 지능정보사회정책과관련된재원의조달및운용 11. 그밖에지능정보사회정책추진을위하여필요한사항 다만상기내용은지능정보사회발전기본계획에포함되어야할사항으로간단히언급되었을뿐, 각호의내용관련자세한사항은법안에포함되지않았다. 하지만위험의방지, 차별방지와사용자권익보호, 윤리확립및지식재산권의보호등은모두기존법체계에서인공지능알고리즘과관련하여충분히다루어지지않아규제의대상에서벗

35 제 2 장인공지능알고리즘기술의발전과법제현황 33 어나있었으나알고리즘의이용과중립성확보에있어중요한쟁점들이다. 따라서지능정 보사회기본법안에서기본계획에포함하도록규정하는것은인공지능알고리즘을이런 이슈들과함께법규제의틀로포함하고자한다는점에서의의를가진다. 지능정보기술로발생할수있는윤리의문제는제24조에서윤리헌장을제정하여윤리적원칙을세우고, 제22조에설치근거를두는기관자율지능정보기술윤리위원회를통해기술의개발과활용원칙에윤리헌장을적용하는것으로여러가지잠재적인윤리문제를사전에예방하고, 동시에사후해결의방안을법에서제시하고있음을알수있다. 제24조 ( 지능정보기술윤리헌장 ) 위원회는지능정보기술의개발및활용과관련하여다음각호의사항을포함하여대통령령으로정하는바에따라지능정보기술윤리헌장 ( 이하 윤리헌장 이라한다 ) 을제정하여공표할수있다. 1. 지능정보기술의연구, 개발, 활용단계에서고려하여야하는윤리적원칙 2. 지능정보기술의연구, 개발, 활용과관련한인간존엄, 프라이버시, 안전등의제고를위한사항 3. 지능형로봇개발및보급촉진법제18조제1항에따른지능형로봇윤리헌장의내용 4. 관련윤리원칙확립을위해학제간연구및협력이필요한사항위원회는윤리헌장을제정하는과정에서반드시민관협력포럼의의견을요청및반영하여야하며, 제시된의견의반영여부및그근거를명시한내용을위원회홈페이지에공표하여야한다. 윤리헌장은지능정보기술의개발및활용에관한최소한의윤리적기준으로서이를법적책임판단의유일한근거로활용할수없다. 위원회는윤리헌장의내용에수정이필요하다고인정하는때에는이를개정할수있다. 윤리헌장의제정개정에관한절차, 홍보, 그밖에필요한사항은대통령령으로정한다. 제22조 ( 기관자율지능정보기술윤리위원회의설치등 ) 지능정보기술의윤리및안전을확보하기위하여다음각호의기관은기관자율지능정보기술윤리위원회 ( 이하 기관윤리위원회 라한다 ) 를설치할수있다.

36

37 제3장인공지능알고리즘활용의쟁점분석 제 1 절알고리즘편향성의문제 상업적중립성 제 2 절알고리즘편향성의문제 미디어프레이밍

38

39 제 3 장 인공지능알고리즘활용의쟁점분석 제 1 절알고리즘편향성의문제 - 상업적중립성 1. 추천알고리즘의중립성문제 (1) 전자상거래웹사이트추천알고리즘의신뢰도 국내인터넷쇼핑몰에서물건을구매할경우, 해당웹사이트에가입한구매자의신상에관련된여러가입정보, 예를들어기혼 / 미혼, 성별, 직업, 거주지, 종교, 취미, 반려동물의유무등을바탕으로이른바추천항목이제시되는것이일반적이다. 반면쇼핑몰회원가입시이메일주소이외의다른정보를달리요구하지않는해외쇼핑몰의경우, 가입시입력한개인신상정보가없기때문에처음에는소비자로하여금관심영역을지정하도록두고구매가이루어질수록기존구매결과에기초하여비슷한제품을재구매하도록추천하는경우가많다. 이는단순히이전에구매한제품정보를저장하여다시구매하도록목록에표시하는수준을넘어서, 이전구매제품을구매한비슷한연령대의비슷한선호도를가진다른소비자가일반적으로선호하는다른제품을빅데이터의분석을통해도출하고, 추천을통해구매를촉진하는결과를가져온다. 이와같은맞춤형추천을사용하는전자상거래업체로아마존을들수있다. 정확한기술방법은산업비밀로공개되지않고있지만, 아마존에서구매자에게제공하는맞춤형추천을고안해내기위해사용하는인공지능알고리즘의경우, 기본적으로소비자가주문하고구매한상품을비슷한물건과연결하고인구통계데이터베이스등을활용하여소비

40 38 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 자와비슷한유형의다른소비자의선택을분석하며, 아마존이전에방문했던웹사이트나 개개인의클릭버릇등에대한복잡한평가와분석을종합하여이루어진다. 33) 하지만알고리즘을이용한맞춤형추천이특정요인에가중치를두어결과를일정방향으로유도했다면, 이는투입된정보를정확하게계산하여결과를도출한것으로이해하기보다이미결정된방향과일치하는결과를이끌어내기위해알고리즘을이용했다고볼수도있다. 대표적으로맞춤형추천시선택지의최상단에무엇을두고, 선택지의최하단에어떤제품을위치하도록하는지의문제를생각해볼수있는데, 동일한용도로사용되는비슷한제품의경우소비자에게얼마나노출이되는지가구매결정에매우중요한요인으로작용할수있기때문에, 정당한이유없이특정기업의제품을다른제품보다적극적으로노출하도록알고리즘을조절했다면이는알고리즘의중립성을해치며결론적으로공정경쟁을저해하는것으로볼수있다. 공정한결과를보여주지못하는알고리즘은신뢰도가낮아질수밖에없다. 가령쇼핑몰의웹페이지에서에어컨을검색했을때, 대기업제품이제일먼저나오고, 중소기업이나해외기업의제품이나중에나오도록배열하도록코드가설계된알고리즘은그검색결과의공정성에의문을불러일으켜결국도출된결과뿐만이아니라검색에사용된알고리즘자체에대한신뢰도의문제를야기한다. (2) 검색알고리즘조작을통한구글의유럽연합반독점법위반사례 추천알고리즘의설계방법에따른결과왜곡과이에대한감독기관의대응은최근유럽 연합이구글에검색분야독점적지위악용으로불법적수익을거두었다는이유로과징금 을부과한사례를대표적으로볼수있다. 유럽연합은 2010 년부터구글의반독점행위에 33) Francesca Musiani, Governance by Algorithms, Internet Policy Review Vol.2, Issue 3. ( ), 5

41 제 3 장인공지능알고리즘활용의쟁점분석 39 대한조사를실시했는데, 온라인쇼핑서비스인 구글쇼핑 제품이구글의검색결과상위에표시되는것을검색에있어구글이독점적지배력을악용하여불공정경쟁행위를해온것으로결론내리고, 그간의불법적수익에대하여과징금 24억2천만유로 ( 한화약 3조천억원 ) 를부과하였다. 34) 유럽연합은 2010년 11월구글의반독점규정위배에대한조사에착수했는데, 착수를시작한이후유럽과미국의경쟁사들에서구글의반독점법위반에대한고발문서가접수되었다. 이후구글은세차례의교정약속을함으로써사건을순조롭게마무리하고자하였으나, 구글이제시한교정약속이충분하지않다는판단하에사건은쉽사리마무리되지않았고, 조사는계속진행되었다. 이후유럽연합은지속적으로법위반사례와경위조사를거쳤고, 2017년 6월, 조사를시작한지 7년이지나겨우구글의법위반에대해과징금을부과했다. 유럽연합의과장금부과보도자료에따르면, 구글은체코를제외한유럽전역에서 2008년이후인터넷검색엔진시장점유율을독점하고있었는데, 시장을독점하는것자체는유럽연합의반독점규정상불법이아니지만, 시장의독점적점유자가그독점적지위를악용해경쟁을제한할경우는현재시장에서의독점적지위를더욱공고히하고다른시장에도영향을미칠수있기때문에경쟁을제한하는것은금지된다. 35) 그런데구글은구글온라인쇼핑에등록된물건을경쟁상품보다검색결과에서우선순위에두는방법으로구글온라인쇼핑상품과경쟁상품이검색결과에서나타나는방식에차등을두었고, 이는구글이검색엔진의독점적시장점유자로서지위를악용해경쟁을제한하는행위이기때문에유럽반독점법에위배된다고유럽연합은판단하였다. 구글온라인쇼핑등록상품의경우일반적인검색알고리즘을거치지않고따로잘보 이도록표시되는반면, 경쟁사의상품은일반적인검색알고리즘의규칙을적용해서검색 34) European Commission - Competition, 2017년 6월 27일과징금부과에대한기자회견내용참조, /rapid/press-release_memo _en.htm ( 최종검색일 ) 35) 체코의경우 2011년이후구글이독점상태임

42 40 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 결과로나오더라도상위에랭크되지않고, 따라서가시성도떨어지는결과가나타난것이 다. 이는페이지클릭수와판매율과즉각비례하였고, 이를통해구글이불법적수익을 취득했다고유럽연합은판단하였다. 2. 가격결정알고리즘과디지털카르텔 또한알고리즘의상업적활용은, 설사의도하지않았다고하더라도, 담합의결과로이어질수있다는점도지적된바있다. 36) 여행업계, 호텔예약, 스포츠, 엔터테인먼트등을포함한전자상거래업체는대부분자동판매가격결정알고리즘을사용하는데이런가격결정알고리즘은데이터분석을통해재고상품과수요예측을하고이를바탕으로가격을최적화한다. 이렇게비슷한가격결정알고리즘이서로서로의반응과주된전략을예측하여더욱안정적인시장환경을조성하게되고, 이는의도하였든의도하지않았든담합의결과를불러오게되는것이다. 가격결정알고리즘을이용하여담합에이르게되는경우를 Ariel Ezrachi 와 Maurice E. Stucke 는다음과같은네가지유형으로나누어설명하고있다. 37) 가격결정알고리즘을이용한담합의유형 1. 전달자유형 (Messenger) 2. 중심과방사형 (Hub and Spoke) 3. 예측가능한대리인형 (Predictable Messenger) 4. 자율화된기계형 (Autonomous Machine) 이표는 Ezrachi와 Maurice E. Stucke의논문내용을바탕으로저자가정리함 36) 아마존웹싸이트에서판매한포스터제조사들이특정가격결정알고리즘을채택하여담합한혐의로미국법무부에의해기소된바있다. Ariel Ezrachi 외, Artificial Intelligence & Collusion: When Computers Inhibit Comp etition, The University of Oxford Centre for Competition Law and Policy, Working Paper CCLP (L) 40, 2 37) 앞의주, Ezrachi & Stucke, 7-25면

43 제 3 장인공지능알고리즘활용의쟁점분석 41 첫째, 전달자유형은네유형중가장명백히사용자의담합의지가알고리즘에나타난종류로, 가격결정알고리즘은사용자의명령을수행하는제한된역할을할뿐이다. 전통적인담합과일치하나담합의실행에있어알고리즘이라는도구를사용한것으로이해할수있다. 둘째, 중심과방사형의경우중심에있는한사업자가수직관계에있는다수의경쟁기업들에동일한가격결정알고리즘을사용하도록하여수평적담합의효과를이루는것으로, 우버택시의가격조정사례가이유형의담합에해당한다. 경쟁기업들사이수평적인정보교환은없으나, 중심에있는사업자와수직적관계만으로도가격이정리되고, 더욱낮아지지않는것이특징적이다. 셋째예측가능한대리인형의경우높은시장투명성으로담합의동의나의도없이도경쟁기업의가격정보를파악할수있게되어묵시적으로담합의결과를가져오는경우이다. 경쟁자간정보의교환도, 중심에있는사업자와의수직적관계도전혀없으나, 투명한시장에서공유되는가격정보만으로도서로최고의이윤을추구하다보니같은품목은같은가격으로수렴되는결과가나오는것이다. 이는투명한시장이일반적으로는경쟁을촉진하는것으로여겨져왔으나알고리즘을이용한가격결정환경에서는의도하지않았어도오히려담합을조장하고경쟁을저해하게된다는점에서매우특징적이다. 38) 마지막으로자율화된기계형의경우최적화된자율학습기계인인공지능알고리즘에기업이가격결정권을위임한경우, 인공지능알고리즘은시장데이터학습을통해자율적으로담합행위를하게된다. 앞서언급한포스터업체의담합기소사건이나우버, 석유등다른유형들처럼실제담합사례가보도된바는없는유형이지만, 현재인공지능알고리즘의시장활용도 39) 를생각해본다면그담합의의도와목적을밝히기어렵고알고리 38) 예를들어, 우리나라주유소의실시간판매가격정보를공개하도록하여시장투명성을높였으나가격정보공개정책시행이후오히려석유가격이높아졌다. 김건우, 알고리즘으로움직이는경제, 디지털카르텔가능성커진다, LG경제연구원, 면 39) 월스트리트저널이주유소, 슈퍼마켓등이인공지능알고리즘을이용하여가격담합에이르는사례를보도한바있다. 전지은, 이충권 (2014), 온라인판자들의가격조정에관한연구, 한국전자거래학회지 19(3),

44 42 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 즘에의한담합을사용자기업이인지하기도쉽지않기때문에드러나지않고있을뿐, 실제로현실에서이와같은담합현상이나타나고있을수도있음을알수있다. 제 2 절알고리즘편향성의문제 - 미디어프레이밍 1. 인공지능알고리즘에의한미디어프레이밍 온라인공간의가장큰장점이자특징이라면온라인에접근하는모든사람에게평등하게주어지는표현의자유라고할수있겠다. 누구나인터넷에접속한다면자신의생각을온라인이라는 공적인공간 에게시하여다른사람들과나눌수있는, 인터넷시대이전에는가히생각할수없던대중과의소통플랫폼이온라인공간이라고할수있다. 하지만온라인에정보를게시하는것과, 그정보를보다많은사람들에게효과적으로전달하여게시물의파급력을높이는것은다른문제일것이다. Francesca Musiani가 Governance by Algorithms 에서언급한바와같이온라인에서게시되는정보를어떻게배열하여효과적으로전달하는가하는문제는게시자인인터넷사용자뿐만아니라웹사이트와인터넷을운영하는기술, 전산도구가함께관여하는것이다. 40) 즉, 일차적으로인터넷이라는공적가상공간에정보를제공하는것은사용자인일반인, 즉정보의게시자일것이나, 수많은게시물과정보를검색엔진을거친뒤그순위를결정하는것은인공지능알고리즘일것이다. 인공지능알고리즘은또우선순위를결정하는데있어서특정정보는제일위에두어그확산을권장하고, 어떤정보는제일아래에두어그가시성을최소화하는등의작용을함으로써실질적으로정보의중요성, 파급력등을통제한다. 일견알고리즘에위임된거대권력이라고볼수도있는정보의배열방법은이를이용 하여특정집단의이익을실현하고자하는이들에의해문제가제기되기도하였다 ) Francesca Musiani, Governance by Algorithms, Internet Policy Review Vol.2, Issue 3. ( ), 3

45 제 3 장인공지능알고리즘활용의쟁점분석 43 년미국대선에서인터넷을통해드러난가짜뉴스의양이가짜가아닌뉴스의양을넘어섰다고하는데, 이는단순히이익을위해허위로지어낸뉴스의건수가많은것이아니라일단게시된가짜뉴스의노출도가높고활성화된사회관계망서비스등을통한확산이빨랐던것 41) 이그이유로알려져있다. 이는진짜보다더흥미롭고자극적인 42) 가짜뉴스의특징에기인하며, 페이스북에서가짜뉴스가진짜뉴스보다더욱더많은호응을얻은것 43) 도같은맥락에서이해할수있다. 결국뉴스를접하는개인이뉴스에대해가지는견해나뉴스를이해하고이에기반을두어펼치는주장등이온라인상의의사표시로나타나고, 이는다시알고리즘이분석하는데이터로종합되어사실이아닌뉴스가사실처럼제공되기에이르는것이다. 즉, 미디어프레이밍이란한개인이의도를가지고알고리즘의작동을왜곡하여원하는방향으로기사의노출방법등을조절하는것과함께, 특정의도를가진개인이투영하는공정하지않은정보가의도하든의도하지않았든그선정성에말미암아온라인공간에서폭발적으로확산되고, 이를인공지능알고리즘이여과없이받아들여객관적이고공정한사실처럼다시대중에게제공하는것도포함한다. 상업적목적의알고리즘사용에서중립적이지않은검색결과의배열이알고리즘자체 의신뢰도를떨어트린것처럼, 미디어프레이밍은결국기사를선택하고소개하는인공지 능알고리즘의편향성으로말미암아해당미디어의신뢰도를낮추는결과를가져온다. 41) 가짜뉴스들은확산속도가이를바로잡는뉴스보다 8배나빠른것으로나타났다. a8d943a495464d408e9e1a7df12646df ( 최종방문일 : ) 42) ( 최종방문일 : ) 43) 미국대선전 3개월간페이스북검색상위 20위권뉴스중좋아요, 공유, 댓글등의호응수로따져보았을때, 진짜뉴스는 736만건, 가짜뉴스는 871만건으로나타났다. _ html ( 최종방문일 : )

46 44 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 2. 소셜미디어의알고리즘을활용한대응 편향성을가진기사를미디어프레이밍을통해확산시키는것에대한문제는세계적으로독보적인영향력을가진소셜미디어인페이스북의가짜뉴스노출사건이대표적이다. 페이스북이라는플랫폼을통해가짜뉴스가확산되고, 그것이미국대선에도영향을주었다는사실이발표되면서페이스북은가짜뉴스의확산을막기위한대책을강구하기시작했다. 그첫번째로지난 1월언론사와협업하여개발한대응모델인 페이스북저널리즘프로젝트 를공개했는데, 언론사와뉴스상품공동개발 (Collaborative development of news products), 언론인을위한훈련및도구 (Training &Tools for Journalists), 모든사람을위한교육및도구 (Training &Tools for Everyone) 등의내용을제공하기로했다. 44) 이와같이전통적인언론사와의협업을통한대응이외에도적극적으로가짜뉴스판별시스템을도입할계획도발표했는데, 외부검증기관을선임하여게시되는뉴스를검토하여가짜뉴스여부를판단하고, 알고리즘을따로설계하여판단결과에따라가짜뉴스일경우자동적으로페이스북뉴스피드에나타나지않도록설정하거나, 45) 가짜뉴스로의심되는내용의게시물인경우알고리즘이자동적으로관련된다른기사를검색, 제공하여게시물의진위를여러기사를통해사용자가가릴수있도록하는시스템을도입하겠다고발표했다. 46) 지난대선때에는가짜뉴스가선거에영향을미치지못하도록신뢰도가낮은게시물의경우알고리즘을통해노출순위를낮추고, 가짜뉴스의배포를위해만들어진가짜계정의경우차단하는등의조치를취하기도했다. 47) 역시가짜뉴스등의노출로미디어프레이밍의문제를겪고있는구글의경우, 페이스 44) 페이스북저널리즘프로젝트, ( 최종방문일 2017년 8월 23일 ) 45) Peter Sayer, 페이스북가짜뉴스알아내는팩트체크프로그램, 독일부터적용, ( 최종방문일 2017년 8월 23일 ) 46) 페이스북, 관련기사로가짜뉴스밀어낸다. ( 최종방문일 ) 47) 연합뉴스, 김태균, 페이스북, 대선앞두고가짜뉴스자동차단조처강화, dscience/ 페이스북-대선-앞두고-가짜뉴스-자동차단-조처-강화 /ar-bbaisze ( 최종방문일 )

47 제 3 장인공지능알고리즘활용의쟁점분석 45 북이전통적인언론사등과협업프로젝트를계획하는것과유사하게프랑스에서르몽드, 리베라시옹, AFP등의주요언론사들과협업을통해허위정보를차단할계획을발표한바있다. 48) 이를위해서는각각뉴스의진위를먼저언론사들과의협력을통해정확하게판단하고, 이를구글검색알고리즘에반영하여가짜뉴스의경우노출도를낮추는방향으로조절할예정이다. 그선정성에기인하여알고리즘에의해자동적으로폭넓게신속히확산되는가짜뉴스에대처하는방안으로진위를가린다음자동적으로노출을막는알고리즘의설계, 관련기사를게시하여독자로하여금진위를따지는데도움을줄수있는알고리즘의반영등으로역시알고리즘을활용하는방법을제시하고있음이인상적이다. 이렇게법이방안을마련하기전에시장에서자율적으로알고리즘의중립성을저해하는현상에대한규제가이루어지는점은매우눈여겨볼만한데, 과학기술의발전속도와폭이매우빠르고방대하여법제적장치로충분히, 그리고공정하게규제할수있는지, 과연법제도를통한규제가최선인지에대하여다시한번생각해볼수있는계기를만들어주기때문이다. 가짜뉴스는현행 형법 상의명예훼손죄 ( 제307조, 제309조 ), 업무방해죄 ( 제314조 ), 정보통신망법 상의명예훼손죄 ( 제70조 2항 ), 공직선거법 상허위사실공표죄 ( 제250 조 ) 등으로충분히대응할수있어대응을위한독자적인규제법의제정에는부정적인의견이많은데, 49) 페이스북이나구글의대응전략처럼업계에서자발적으로정화대책을도입하는경우, 입법을통한규제보다훨씬전문적이고효율적일수있다. 따라서인터넷매체의인공지능알고리즘중립성확보를위한법제적방안을입법을통해마련하는것보다는기존법의최대한적용과활용, 그리고업계의자율적규제를법적으로지원하고도모하는방안을모색하는것이더욱효과적일수있다. 48) 최홍규, 가짜뉴스관련논점과페이스북, 구글의대응방안, 슬로우뉴스, ( 최종방문일 ) 49) 가짜뉴스, 어떻게막을것인가? 바른정당하태경의원주최세미나, s/view.php?uid=29271 ( 최종검색일 )

48

49 제4장알고리즘중립성확보를위한제도적논의 제 1 절유럽의논의현황소개및분석 제 2 절미국의논의현황소개및분석 제 3 절소결

50

51 제 4 장 알고리즘중립성확보를위한제도적논의 제 1 절유럽의논의현황소개및분석 1. 유럽연합의로봇법결의안 유럽의경우인공지능과로봇기술의활용, 그에따른여러문제를법제화를통해해결하고자하는논의가일찍부터진행되어왔다. 50) 로봇사용의규범화에대한일련의논의는제일먼저 2007년에유럽로봇연구네트워크 (EURON: European Robotics Research Network) 가발표한 EURON 로봇윤리로드맵 (The EURON Roboethics Roadmap 에서출발하여, 2014년유럽연합집행위원회가제정한 로봇규제에관한가이드라인 (Guidelines on Regulating Robotics) 을거쳐 2016년 5월유럽의회법사위원회가제출한 로봇법규칙초안을위한보고서 (Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics) 를거쳐 51) 올해 1월로봇법결의안이채택되고 2월 16일에본회의를통과함에따라 EU의로봇법제정으로연결될것으로예상된다. 52) 로봇법결의안은 현재시판되고있는로봇과향후 10~15 년사이에제공될로봇의법 50) 이시직, 4차산업혁명시대, 지능정보기술의사회적영향과법적과제, 연세공공거버넌스와법, 제8권제1호 ( ), 56면 51) 앞의주 ) European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)), V0//EN ( 최종방문일 )

52 50 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 적토대 를만들기위해제안되었는데, 53) 로봇및인공지능산업의윤리적 기술적가이드라인을제시하고자한다. 유럽의회의원들은로봇및인공지능의안정성과보안성을보장하면서도경제적이익을창출하기위해서는규제가필요하다는것에공감하여서로봇법결의안을통과시키기에이르렀다. 따라서로봇및인공지능관련법적책임소재를분명히하고, 법적 윤리적표준을마련하며, 로봇이노동인력을대체한후노동시장의대응방향등을제시하고있다. 구체적으로는법적책임소재를명확히하기위해로봇에법적지위를부여하는것을고려해야한다고하였고, 로봇제작자와사용자용법적 윤리적표준을마련할것, 윤리규정등을총괄하는 EU로봇담당국을신설할것을강조하고있다. 특징적인것으로는아이작아시모프가소설에서제시한로봇3원칙 54) 을그대로수용한다는점과, 긴급상황에서는로봇의작동을정지할수있는 킬스위치 의탑재를권장한다는점이다. 2. 영국의로봇과인공지능보고서 이렇게유럽연합차원에서의인공지능기술의윤리적 법적영향과규제가능성, 방향등에대한적극적인논의와함께유럽연합내의각국에서도독자적이지만비슷한논의가진행되어, 영국의경우하원에서 로봇과인공지능 (Robotics and Artificial Intelligence) 이라는보고서를통해인공지능의윤리적, 법적이슈와법제화방안등을발표하기도했다. 이보고서는유럽의회의로봇법규칙초안을위한보고서의지침을따라작성, 발표된것이아니라영국에서독자적으로로봇과인공지능의법적이슈를포착하여선제적으로대응하였다는데에서영국의선제적대응의의미가있다. 53) 결의안제안자델보의원. 임유진연구원, 대외경제정책연구원구미 유라시아본부유럽팀, 이슈분석 , 대외경제정책연구원, 2면 brdctsfileno=67131 ( 최종방문일 ) 54) 로봇은인간을헤쳐선안되며, 인간의명령을들어야하고, 스스로를보호해야한다.

53 제 4 장알고리즘중립성확보를위한제도적논의 유럽연합의개인정보보호규정 (GDPR) 인공지능의포괄적인윤리적법적문제뿐만아니라, 인공지능알고리즘의의사결정과정에있어편향성에대한문제도지적된바있다. 이에유럽연합도알고리즘에대한법적규제를통해알고리즘의투명성을높이는방안으로알고리즘에서처리하는정보의주체가의사결정과정에직접참여할수있도록하고자, 2016년 4월 개인정보보호규정 (General Data Protection Regulation, GDPR) 을채택하였다. 총 11개장과 99개조항으로이루어진 GDPR 55) 의주요목적은유럽연합전역에통일적인개인정보보호규정을구현함으로써각국이각각의개인정보법률로법제도적불일치가있었기에이를해소하고자하는것이다. 개인정보에관한여러조항가운데에서도알고리즘에의해자동화된의사결정을제한하는조항 56) 과정보주체의권리를명시한조항 57) 이편향되지않은알고리즘의중립성과관련이되는조항이다. GDPR 제22조프로파일링을포함한자동화된개인적결정 1. 개인은, 본인에게법적효력을나타내거나비슷하게중요한영향을끼치는, 프로파일링을포함한자동화된처리과정에전적으로의존한결정의대상이되지않을권리를가진다. 제 3 장정보주체의권리 제12조제13조제14조제15조제16조 정보주체의권리행사를위한투명한정보, 소통과양상정보주체로부터개인적정보가수집될때제공되어야할정보정보주체로부터개인정보가수집되지않을때제공되어야할정보정보주체의접근권수정권한 55) GDPR 원문, ( 최종방문일 ) 56) GDPR Art ) GDPR Chapter 3

54 52 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 제 17 조삭제권한 ( 잊혀질권리 ) 제18조제19조제20조제21조제22조제23조 처리의제한권개인정보의수정이나삭제, 처리수정의수정이나삭제관련통지의무정보이동성에대한권리반대할권리프로파일링을포함하여자동화된개인적결정제한 이와같은조항에의해정보주체가알고리즘의의사결정시스템에참여할수있도록 제도적으로보장하고자하며, 본규정은 2018 년부터시행에들어간다. 제 2 절미국의논의현황소개및분석 1. 연구기관의인공지능보고서 미국의스탠포드대학은 인공지능과 2030년의삶 (Artificial Intelligence and Life in 2030) 58) 이라는보고서를통해인공지능이인간삶의전반에끼치는영향과인공지능의역기능에대해설명하며규제의필요성을역설하였다. 59) 스탠포드대학에서인공지능자체와인간과사회에미치는인공지능의영향에관해장기적인관점으로조사하는 인공지능에관한백년연구 프로젝트를진행하는데, 그첫번째과업으로작성한보고서이다. 본보고서에서는전형적인미국의도시를예로들어교통, 로봇, 헬스케어, 교육, 빈곤 지역, 공공의안전과보안, 고용과직장, 엔터테인먼트의여덟개분야를선정, 2030 년을 58) Artificial Intelligence and Life in 2030 원문, ( 최종방문일 ) 59) 이시직, 앞의논문, 57면

55 제 4 장알고리즘중립성확보를위한제도적논의 53 기준으로인공지능의활용상황에대한예측을담았다. 기업과공학, 법률가, 경제학자등전문가 17명으로구성된멤버가연구진으로참여하고있는데, 5년마다기존보고서의예측을재검토, 수정하며 100년동안진행하는것이목표이다. 보고서는전반적으로매우신중하게예측하고있지만, 인공지능이용의확대와확산에대해긍정적으로평가하고있으며, 유용한인공지능프로그램의발달로사회와경제에도움이될것으로전망하고있다. 하지만인공지능이인간의노동을대체하는것을기정사실로두며, 어떤식으로대체가이루어지는지에대해서사회적혼란의여지가있고경제적으로도도움보다당장은부정적인영향이있을수있는것으로도기술하였다. 또한어떤직업이없어지고어떤직장이새로생길것인가등의예측이쉽지않지만스텐보드의보고서는기본적으로기업조직의형태에도영향을주어변화를이끌어낼것으로전망한다. 2. 백악관보고서 로봇과인공지능의인간삶에끼치는사회적경제적영향에대한인지, 분석, 그리고이를규제할체계의정립에대한논의는일반인들이나학계에서뿐만아니라미국백악관에서도이미일어나고있었는데, 2016년 10월에 인공지능의미래를위한준비 (Preparing for the Future of Artificial Intelligence) 60) 를발표하고연이어 인공지능, 자동화, 경제 (Artificial Intelligence, Automation and the Economy) 61) 를발표해, 사회적영향력과규범력에대한필요를확인함과함께동시에정부주도로인공지능의역기능에는정면으로대치할것을천명했다. 58 페이지에이르는인공지능의미래를위한준비보고서는대통령실과국가과학기술 위원회가함께준비한것으로총 7 개의정책방향과 23 개의세부항목으로구성되어있다. 60) Preparing for the Future of Artificial Intelligence, uture_of_ai.pdf ( 최종방문일 ) 61) Artificial Intelligence, Automation and the Economy, ( 최종방문일 )

56 54 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 인공지능기술에대한미국정부의대응방안을보고서에담아인공지능의지원과규제 를동시에규정하고있으며, 인공지능관련정책수립의기초자료로활용될전망이다. 7 대정책방향 인공지능의미래를위한준비보고서 1. 인공지능은헬스케어, 교통수단, 범죄검거등공적이익을추구해야한다. 2. 정부는인공지능을포용하고지원할것이다. 3. 자율주행자동차와드론에직접적인규제가필요하다. 4. 인공지능은인력의대체제가아닌보완재다. 5. 불완전한데이터는아예사용하지마라. 6. 어떤아이도뒤처지게해서는안된다. 7. 안전과세계를생각해야한다. 류현정, 조선비즈참조 62) 인공지능, 자동화, 경제보고서에서는제목에서나타나듯이인공지능과자동화가경제에미치는영향을분석하고대응책을마련하는내용이주를이룬다. 인공지능의미래를위한준비보고서처럼인공지능, 자동화, 경제보고서에서도경제적효과에대한분석과함께세가지정책적대응을제시하고있다. 인공지능, 자동화, 경제보고서정책적대응 1. 인공지능에대한투자 2. 미래의직업을위한교육과훈련 3. 사회적안전망의강화 장길수, 로봇신문사기사참조 63) 62) ( 최종검색일 ) 63) ( 최종검색일 )

57 제 4 장알고리즘중립성확보를위한제도적논의 55 인공지능에대한투자를정책적전략 1번으로두고설명하면서눈여겨볼점은알고리즘의편향성에대해서도주의해야한다는사실을언급한점이다. 또한보고서는이를위해서는다양성을고취해야하고과학, 수학, 기술분야연구에더욱매진해야할것을당부하고있다. 앞의두보고서가인공지능과사회, 경제적영향전반에대한사항을분석하여정부의정책방향을제안하였다면, 백악관이 2016년 5월에발간한 빅데이터 : 알고리즘시스템, 기회, 시민권에대한보고서 64) 에서는알고리즘이 4가지편향된데이터 65) 를반영할가능성을제기하였다. 네가지요인은 1) 데이터자체를잘못채택한것 2) 불완전하고부정확한시기에맞지않는데이터, 3) 편향적인데이터, 4) 역사적인편향성등으로, 백악관은빅데이터의활용시이와같이잘못된데이터를반영해서결과를도출할경우정확하지않은정보가포함되고차별, 불평등이결과에의도치않게나타날수있음을경고하고있다. 66) 3. 연방거래위원회의알고리즘중립성보고서 또한백악관과함께미국의연방거래위원회도중립적이지못한알고리즘의활용에경 계하는보고서 67) 를작성하여서, 알고리즘의편향성에대응해야함을주장한바있다 년 1 월빅데이터 : 포함의도구인가배제의도구인가? 라는제목으로발행된이보 고서는주로빅데이터의이용과혜택, 위험등에대해소개하고, 빅데이터를사용하는 64) Executive Office of the President(2016 May), Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights 65) 잘못채택된데이터, 불완전하고부정확한시기에맞지않는데이터, 편향적인데이터, 역사적인편향성등의문제를들어알고리즘설계자의악의가아니더라도데이터에기인하여불공정한결과가도출될수있음을시사하였음. 66) 이원태, EU의알고리즘규제이슈와정책적시사점, 정보통신정책연구원 , 6면 67) Federal Trade Commission(2016 January), Big Data: A Tool for Inclusion or Exclusion?, 6big-data-rpt.pdf ( 최종방문일 )

58 56 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 기업에적용되는법제의소개와함께정책적조언도제공한다. 전체적으로사용하는빅데이터의편향성에대한경고가주어지지만, 가장중요하게는제4장에서빅데이터를사용하는기업에주는조언으로빅데이터의잠재적편향성과부정확성에대해꼼꼼히연구해보도록제언하고있다. 이는앞서소개한 Ariel Ezrachi의 Artificial Intelligence & Collusion: When Computers Inhibit Competition 에서설명한경우와아주일치하지는않지만, 알고리즘을이용한가격책정이의도하지않았다고하더라도결과적으로담합에이르게되는현상을연방거래위원회에서도인지하고지적한경우와도유사한것으로이해할수있다. 제 3 절소결 앞서살펴본해외의사례는모두미국과유럽에서우리나라보다선제적으로인공지능과알고리즘의여러쟁점에대해고민하고해결방안과정책을제시한결과이다. 크게는인공지능전반을다루면서인공지능을점점더적극적으로사용하게될미래사회를대비하고자하는논의이고, 인공지능기술의중심에는입력된값으로결과를도출하는알고리즘이있기에모든사례가알고리즘관련논의라고칭할수도있을것이다. 다만, 본보고서에서중점적으로연구하는부분은인공지능알고리즘에서도알고리즘이작동하는데있어중립성을보장하기위한법제적장치가필요한가, 해외에서는알고리즘중립성보장을위한방안과논의가어떻게진행되고있는가하는것에있는데, 유럽의로봇법결의안, 영국의로봇과인공지능보고서, 미국의스탠포드대학의인공지능보고서, 백악관보고서등은알고리즘의편향성에대해언급하는부분이없지는않지만전체적인방향은인공지능기술의활용과사회 경제적영향분석에두고있어서본연구에유의미한분석결과나시사점을도출하기어렵다. 하지만유럽 GDPR의알고리즘에의해자동화된의사결정을제한하는조항과정보주체의권리를명시한조항, 미국연방거래위원회의중립적이지못한알고리즘의활용에경계하는보고서를통해서는알고리즘

59 제 4 장알고리즘중립성확보를위한제도적논의 57 의편향성에해외국가들에서도고민하고대응책을마련하고있음을알수있다. 이는 현재우리가법제화를통해중립성을보장해야하는가를고민하는것이타당한고민임 을알려주는것임을알수있다.

60

61 제 5 장 결론

62

63 제 5 장 결론 인공지능알고리즘은이미우리생활전반에활용되고있으며, 앞으로도그확산도는매우클것으로예상되어알고리즘기술의이용에있어공정성이우려된다고하여알고리즘의사용을자제한다는것은사실상불가능한정도에도달했다. 알고리즘을디자인하는사람의편향성을흡수하여 ( 의도하지않았지만 ) 공정하지않은결과를도출하는경우, 알고리즘설계자와관계없이데이터자체의문제로말미암아편향된결과가도출될경우, 또는상업적인목적이나다른정치, 사회적, 개인적인목적을이루기위해이득이되는결과를도출해내는알고리즘을설계하는경우, 모두빅데이터를통해수집된정보가알고리즘기술로처리되어나온결과가공정하지않다는점에서바람직하지않다. 이에유럽에서는일찍이알고리즘기술과로봇의윤리적문제에대한법규적제제가논의되었으며, 현실적으로도로봇기술자에적용되는윤리강령이나알고리즘으로처리되는정보에정보주체가개입할수있는법규를논의하고, 제정한바있다. 미국에서는이와같은문제점에대한인식이최근정부에서이루어졌고, 이에대응하여야한다는보고서가채택된바있지만아직적극적인규범적대응은시작되지않았다. 우리나라에서는 지능정보사회기본법 의제정을통해알고리즘공정성보장의기초를세우고자하고있지만, 아직그구체적인입법전망이불투명하며, 제정이된다고하더라도인공지능알고리즘의윤리성, 공정성에대한구체적인대응을담기보다알고리즘을포함한지능정보사회에범부처적접근을용이하게실현할수있는대응체계적입법이될것으로예측할수있다. 즉, 알고리즘의공정성을보장하기위한규제체계를설립하는것은쉽게실현될수없을것으로보인다.

64 62 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 그럼에도불구하고현재국내에서진행되고있는논의를지속적으로발전시키고, 혹은해외에서이미상당히발전되어온토론의쟁점을국내현실에대입하여고민하여전세계적알고리즘규제의수준과내용이국내에서도상응할수있도록대안을만들수있도록고민해야할것이다. 알고리즘이내재되어있는인터넷에는국경이없고, 사람들의거래, 움직임, 교환은날이갈수록국제적이되어간다. 지금당장알고리즘공정성을보장하기위한국내적입법대책을제시할수없다고하더라도, 지속적으로논의를발전시켜나가고해외입법례를탐구함으로서항상그시대에서얻을수있는최선수준의규제를유지해나가는것이중요하다. 다만, 인공지능알고리즘관련기술발전의속도와수준은법제도의규제가따라잡기쉽지않을수있고, 섣부른규제는자칫적절하지않아오히려역효과를일으킬수있다. 업계의자율규제를기본으로삼되, 공적인영역에서부족함을법제화를통해보충해주는방향으로규제의기본틀을잡고, 해외의논의와수준을맞추어연구와고민을지속해나가는것이인공지능알고리즘의중립성을최대한보장하고, 사회와산업, 개인에게도도움이되는방안일것이다.

65 참고문헌

66

67 참고문헌 65 참고문헌 국내문헌권영성, 헌법학원론, 박문사, 2008., 면김준호, 민법강의 제18판, 법문사, 2012, 126면이재상, 형법총론, 박영사, 2010, 74면컴퓨터인터넷IT용어대사전, , 일진사이시직, 4차산업혁명시대, 지능정보기술의사회적영향과법적과제, 연세공공거버넌스와법, 제8권제1호 ( ), 56면이원태, EU의알고리즘규제이슈와정책적시사점, 정보통신정책연구원 ( ) 임석순, 형법상인공지능의책임귀속, 형사정책연구원, 형사정책연구, 제27권제4호, 통권제108호, 2016 겨울, 2016., 78면최경진, 지능형신기술에관한민사법적검토, 한국정보법학회, 정보법학제19권제3호, 232면윤지웅, 인터넷환경하에서지능형에이전트현황및전망, 정보통신정책연구원, 정보통신정책제10권 20호통권 220호, 1998 전지은, 이충권 (2014), 온라인판자들의가격조정에관한연구, 한국전자거래학회지 19(3), 김건우, 알고리즘으로움직이는경제, 디지털카르텔가능성커진다, LG경제연구원, 면

68 66 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 이혜연, 알고리즘의작동원리및데이터분석, 2017 년 7 월 24 일한국법제연구원디지털 사회법제연구 (V)- 알고리즘중립성보장을위한법제연구워크숍자료집 10 면 헌재 2009 헌가 27, 서울중앙지방법원 선고 2003 가합 판결 민법 제조물책임법 형법 지능형로봇개발및보급법 지능정보사회기본법안 이혜연, 알고리즘의작동원리및데이터분석, 2017 년 7 월 24 일한국법제연구원디지 털사회법제연구 (V)- 알고리즘중립성보장을위한법제연구워크숍발표내용 외국문헌 Francesca Musiani, Governance by Algorithms, Internet Policy Review Vol.2, Issue 3. ( ) Ariel Ezrachi & Maurice E. Stucke, Artificial Intelligence & Collusion: When Computers Inhibit Competition, The University of Oxford Centre for Competition Law and Policy, Working Paper CCLP (L) 40 Goggey, A. (2008). Algorithm In M Fuller(ed.), Software Studies: A Lexicon. Cambridge, MA: the MIT Press

69 참고문헌 67 Caglayan, A., and Harrison, C., Agent Sourcebook, Wiley Computer Publishing Hilgendorf, recht, Maschinen und die Idee des Posthumanen, Telepolis, Fitzi, Roboterals legale Personnen mit begrenzter Haftung, 2013 Executive Office of the President(2016 May), Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights GDPR Artificial Intelligence and Life in 2030, Stanford University Preparing for the Future of Artificial Intelligence, White House Artificial Intelligence, Automation and the Economy, White House Big Data: A Took for Inclusion or Exclusion? Federal Trade Commission (2016 January) European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) 웹사이트임유진연구원, 대외경제정책연구원구미 유라시아본부유럽팀, 이슈분석 , 대외경제정책연구원, 2면 no=110&brdctsno=210683&brdctsfileno=67131 연합뉴스 2017 년 5 월 23 일기사

70 68 디지털사회법제연구 (V) - 알고리즘중립성보장을위한법제연구 - 서울경제신문 2017년 5월 23일기사 조선비즈, 2016년 3월 27일기사 연합뉴스, 2016년 11월 15일기사 경제타임스, 2017년 5월 4일기사 파이낸셜뉴스, 2017년 1월 13일기사 한국일보 2017년 6월 23일기사 한국일보 2017년 1월 25일기사 허핑턴포스트 2017년 3월 17일기사 페이스북저널리즘프로젝트 아이티월드 2017년 1월 17일기사

71 참고문헌 69 블로터 2017년 8월 4일기사 연합뉴스 2017년 5월 4일기사 페이스북-대선-앞두고-가짜뉴스- 자동차단-조처-강화 /ar-bbaisze 슬로우뉴스 2017 년 2 월 28 일기사 비즈와치 2017 년 2 월 21 일기사, 가짜뉴스, 어떻게막을것인가? 바른정당하태경의원 주최세미나, European Commission - Competition, 조선비즈 2016 년 11 월 8 일기사 아이로봇뉴스 2016 년 12 월 22 일기사

72

73 글로벌법제전략연구 디지털사회법제연구 (Ⅴ) - 알고리즘중립성보장을위한법제연구 - 한국법제연구원 값 5,500 원 1. 本院의承認없이轉載또는譯載를禁함. c 2. 이보고서의내용은본원의공식적인견해가아님. ISBN

74 ISBN: 값 5,500원