동향 제 28 권 19 호통권 633 호 미국국가과학기술위원회 (NSTC) 의인공지능 (AI) 기반준비를위한권고안 3) 김희연 * 1. 개요 인공지능 (Artificial Intelligence) 기술의발전이급속히이루어지면서그사회적영향에대한관심이높아지고있다 (Standing Committee of the One Hundred Year Study of Artificial Intelligence, 2016). 미국백악관은 2016년 10월, 인공지능의역할이증대하는미래를대비하기위해인공지능의현재, 그리고인공지능의발전으로인해사회와공공정책에서대두되는질문들을다루고특정분야에있어연방기관등정부측에대한권고안을정리한 Preparing for the Future of Artificial Intelligence 보고서를발표하였다. 이에본고에서는상기보고서에서제시한권고안을소개하고자한다. 2. 주요내용 인공지능 (AI) 기술의진보와활용으로급격히변화될사회에대비할필요가높아짐에 따라미국에서는백악관의과학기술정책실 (OSTP, Office of Science and Technology * 정보통신정책연구원 ICT 전략연구실부연구위원, (043)531-4332, kimhy@kisdi.re.kr 12
미국국가과학기술위원회 (NSTC) 의인공지능 (AI) 기반준비를위한권고안 Policy) 을중심으로여러기관들이공동주관하여공공워크숍을개최하였다. 해당워 크숍은아래표와같다. < 표 1> AI 워크숍 워크숍 개최일 AI, Law, and Governance 2016. 5. 24 AI for Social Good 2016. 6. 7 Future of AI: Emerging Topics and Societal Benefit at the Global Entrepreneurship Summit 2016. 6. 23 AI Technology, Safety, and Control 2016. 6. 28 Social and Economic Impacts of AI 2016. 7. 7 또한상기워크숍뿐만아니라민간부문과공동으로공무원이참여하는개별회의및컨퍼런스세션을개최하였으며, 워크숍의주제에대한대중의의견 (161개 ) 을받기도하였다. 이러한내용들을토대로미국국가과학기술위원회 (NSTC, National Science and Technology Council) 의머신러닝및인공지능소위원회 (Subcommittee on Machine Learning and Artificial Intelligence) 1) 는 8개분야를중심으로 23개의권고안을제시하였다. 그내용은다음과같다. (1) 공공선을위한 AI 적용 (Applications of AI for Public Good) 권고 1: 민간및공공기관은사회에이로운방식으로 AI 와머신러닝을책임있게 활용할수있는지여부와그방법을검토할것이권장된다. 일반적으로업무에첨 단기술과데이터사이언스를활용하지않는사회정의및공공정책기관 (Social 1) 머신러닝및인공지능소위원회 (Subcommittee on Machine Learning and Artificial Intelligence) 는 부처간협력을촉진하고, AI 와관련된기술적 정책적조언을하고, 산업 - 연구기관 - 연방정부의 AI 기술개발을모니터링하기위해 2016 년 5 월출범하였다. 13
동향 justice and public policy institutions) 은이미다른방식으로해결한광범위한사회문제에 AI를적용하는데도움을줄수있는 AI 연구자및실무자와의협력을고려해야만한다. 권고 2: 연방기관은 AI 공개훈련데이터 (open training data) 와공개데이터표준 (open data standards) 에우선순위를두어야한다. 정부는사회문제를해결하기위해 AI를활용할수있도록하는데이터셋의공개를강조해야한다. 가능한조치로는 AI를위한공개데이터 (Open Data for AI) 이니셔티브가포함될수있다. 이는 AI 연구를촉진하고, 정부, 학계, 민간부문에걸친공개데이터표준과모범사례이용을촉진하기위해상당한수의정부데이터셋을개방하는것을목표로한다. (2) 연방정부에서의 AI(AI in the Federal Government) 권고 3: 연방정부는주요기관들이그들의임무에 AI를적용하여역량을개선하기위한방법을모색해야한다. 예를들어, 교육부 (Department of Education) 가 ARPA-ED(Advanced Research Projects Agency for Education) 를통해수행한것처럼, 연방기관은고위험-고보상 (high-risk, high-reward) 의 AI 연구및그활용을지원하기위해미국국방고등연구기획국 (DARPA) 과같은조직의신설가능성을검토해야한다. ARPA-ED는 AI 및기타기술이학생들의학습성과를크게향상시킬수있는지판단하기위한 R&D를지원하는사업이다. 권고 4: 국가과학기술위원회 (NSTC) 머신러닝및인공지능 (MLAI) 소위원회는정부의 AI 실무자들의학습공동체 (a community of practice) 를구축해야한다. 기관들은협력하여정부업무에서 AI 사용에관한표준과모범사례를개발하고공유해야한다. 기관은연방정부직원의직업훈련프로그램에 AI 관련내용이포함되도록해야한다. 14
미국국가과학기술위원회 (NSTC) 의인공지능 (AI) 기반준비를위한권고안 (3) AI 와규제 (AI and Regulation) 권고 5: 기관은 AI 활용제품에대한규제정책을설정할때적절한고위급의기술전문가를활용해야한다. AI 활용제품의효과적규제를위해서는기관대표자간의협력, 기존규제체계및일반적규제관행에대한지식이있는직원, AI에정통한기술전문가가필요하다. 기관대표자는필요한기술인재를채용하기위한조치를취하거나기존의인력내에서해당인재를찾아야하고, 규제정책토론석상에충분한수의기술전문가가참여할수있도록해야한다. 권고 6: 기관은기술현황에대한좀더다양한관점을가진연방기관인력을양성하기위해폭넓은인력할당및교환모델 (personnel assignment and exchange models)( 예 : 고용권한 ) 을사용해야한다. 권고 7: 교통부 (The Department of Transportation) 는관련업계및연구자들과협업하여안전, 연구및기타목적을위한데이터공유를확대할수있는방법을모색해야한다. 도로와영공에서 AI의미래중요성을고려하여, 연방관계자들은기술이발전하며정책결정에더나은영향을미칠수있는풍부한데이터셋개발 ( 소비자개인정보보호에부합하는 ) 에단기적으로초점을맞춰야한다. 권고 8: 미국정부는확장가능성이높고, 자율비행항공기및유인항공기모두충분히수용할수있는첨단 / 자동항공교통관리시스템을개발하고실행하는데투자해야한다. 권고 9: 교통부 (The Department of Transportation) 는완전자율주행차량 (fully automated vehicles) 과무인항공시스템 (UAS) 을교통시스템에안전하게통합하는것을가능케하는규제프레임워크의개발을지속해야한다. (4) 연구및노동인력 (Research and Workforce) 권고 10: 국가과학기술위원회 (NSTC) 의머신러닝및인공지능 (MLAI) 소위원회 는 AI 의발전을모니터링하고 AI 의현황에대해특히주요단계 (milestones) 와 15
동향 관련하여고위관리자에정기적으로보고해야한다. 시간이경과하면서지식이발전하고전문가의견이달라지므로소위원회는주요단계목록을업데이트해야하며, 적절한경우에 AI 발전에관해대중에게알리는것을고려해야한다. 권고 11: 정부는다른국가에서의 AI 현황을모니터링해야한다. 특히주요단계 (milestones) 와관련하여그러하다. 권고 12: 산업계는곧도달될주요단계 (milestones) 의가능성등산업계에서 AI 의전반적진보에대해정부가항상최신정보를인지할수있도록정부와협업해야한다. 권고 13: 연방정부는기초및장기적 AI 연구에우선순위를두어야한다. 연방및민간부문의 AI R&D의꾸준한증가 - 특히기초연구및장기 / 고위험연구이니셔티브에중점을둔 - 로국가전체적인혜택이있을것이다. 기초및장기연구는민간부문에서투자할가능성이낮기때문에이러한분야의 R&D에대한연방정부의투자는중요할것이다. 권고 14: 국가과학기술위원회 (NSTC) 소속머신러닝및인공지능 (MLAI) 소위원회와과학기술공학교육위원회 (CoSTEM) 는공동으로 AI 연구자, 전문가, 사용자등 AI 인력의규모, 우수성, 다양성을적절히증가시키는조치를개발하기위한 AI 인력파이프라인 (AI workforce pipeline) 연구를시작해야한다. (5) AI, 자동화, 경제 (AI, Automation, and the Economy) 권고 15: 대통령실은미국고용시장에대한 AI와자동화의영향을추가로조사하고권고한정책들의대응개요를제시하는후속보고서를금년말까지발표해야한다. 16
미국국가과학기술위원회 (NSTC) 의인공지능 (AI) 기반준비를위한권고안 (6) 공정성, 안전및거버넌스 (Fairness, Safety, and Governance) 권고 16: 개인에대한중대한결정에관한의사결정지원을위해 AI 기반시스템을사용하는연방기관은증거기반검증과확인에기초하여그러한시스템의효율성과공정성을보장하기위해특별히주의를기울여야한다. 권고 17: 개인에대한중대한결정에 AI 기반시스템을이용하는주정부및지방정부에게보조금을주는연방기관은연방보조금으로구입한 AI 기반제품이나서비스가상당히투명한방식으로성과를내고효율성과공정성에기반하여지원되도록보조금조건을검토해야한다. 권고 18: 학교와대학은 AI 커리큘럼의핵심부분으로윤리학과보안, 프라이버시, 안전과관련된주제들, 머신러닝, 컴퓨터사이언스, 그리고데이터사이언스를포함시켜야한다. 권고 19: AI 전문가, 안전전문가, 각전문가단체는성숙한 AI 안전공학분야를목표로진보를계속하기위해협력해야한다. (7) 전세계적고려사항및보안 (Global Considerations and Security) 권고 20: 미국정부는 AI 관련국제참여에대한범정부차원의전략을수립하고, 국제적참여및모니터링이필요한 AI 분야목록을작성해야한다. 권고 21: 미국정부는 AI R&D에대한정보를교환하고협력을촉진하기위해주요국제이해당사자와긴밀히교류해야한다. 여기에는외국정부, 국제기구, 산업계, 학계, 그리고기타관계자들이포함된다. 권고 22: 기관의계획과전략은 AI가사이버보안에미치는영향과사이버보안이 AI에미치는영향을설명해야한다. AI 이슈에관련된기관은지능적인적 (intelligent adversary) 으로부터 AI 시스템과생태계를안전하고회복탄력적으로유지하게하는방법에대한의견을나누기위해미국정부및민간부문의사이버 17
동향 보안전문가들과교류해야한다. 사이버보안문제에관련된기관은효과적이고효율적인사이버보안을위해 AI를이용하는혁신적인방법에대해미국정부및민간부문의 AI 전문가들과교류해야한다. 권고 23: 미국정부는국제인도법 (international humanitarian law) 에부합하는자율및반 - 자율무기 (autonomous and semi-autonomous weapons) 에대한정부차원의단일정책개발을완성해야한다. 3. 결어 인공지능과관련기술의발전은신기술의활용을통해여러가지사회의현안을해결하고, 효율성을높이는데도움이될것이라는기대를가지게함과동시에새로운위험의도래와그리고그위험을우리가기존의규제및위험관리체계내에서관리가능한것인지에대한깊은우려를동시에가지게한다. 새로운기술로인한사회경제적영향에대한긍정적, 부정적전망은공존하지만언제나그렇듯해당기술들의극적인전환이가져올긍정적인측면은극대화하고위험요소는사전에예측하고대응하는방향으로이루어져야할것이다 ( 김희연, 2015). 이러한면에서보았을때미국의국가과학기술위원회에서발표한권고안은그내용이포괄적이기는하지만인공지능등주요기술에기반한사회를준비하며우리가관심을가지고관련정책을만들어나가야할큰틀을제시하고있다는점에그의의가있다. 참고문헌 Executive Office of the President, National Science and Technology Council Committee on Technology (2016). Preparing for the Future of Artificial Intelligence. Retrieved from https://www.whitehouse.gov/sites/default/ files/whitehouse_files/microsites/ostp/nstc/preparing_for_the_future_of 18
미국국가과학기술위원회 (NSTC) 의인공지능 (AI) 기반준비를위한권고안 _ai.pdf Standing Committee of the One Hundred Year Study of Artificial Intelligence (2016). Artificial Intelligence and Life in 2030. Retrieved from https://ai 100.stanford.edu/sites/default/files/ai100report10032016fnl_singles.pdf 김희연 (2015), 세계경제포럼 (WEF) 의미래기술과사회적영향분석동향, 정보통신방송정책, 27권 18호, pp.24~31. 19