제30회정보문화의달글로벌정보문화컨퍼런스 AI 원칙과윤리 에마아리사 동경대학교특임강사 2017. 6. 1. 목
AI 나로봇이우리생활에들어온다면어떤일이생길까? - 실제로겪어보기전까지우리는알수없습니다. 2
에피소드 : 로봇호텔방문기 사진 : 호텔에서사용중인로봇들. 좌측 ( 공룡들과여성들 ): 호텔프론트의로봇들, 우측상단 : 짐옮기는로봇, 우측중앙 : 벨보이로봇, 우측하단 : 의사소통을담당하는로봇. ( 호텔에서제공된사진들 ) 3
조사결과 (1) 로봇은우리의일자리가아닌허드렛일을대신한다. 비용, 효율성, 그리고요구간의균형 호텔룸청소 : 인간 복도청소 : 로봇 누가일을분배하는가? 어떤일들을인간이해야하는가? 일반화된정규직들 안내서없는일반적인스킬을가진정규직 작업장을바꾸기위해서는유연성이요구됩니다. 디지털격차를대비하기위해미래에는어떠한교육이이뤄져야할까? 히로타카오사와, 아리사에마, 등. 로봇과일하면실제로어떠한위험과어떤혜택이있을까? : 로봇호텔분석결과로부터. 2017 년 ACM/IEEE 인간과로봇의협력관계에관한합동국제컨퍼런스 (HRI 17) 중발췌. ACM, New York, NY, USA, 2017, pp. 241-242. doi: https://doi.org/10.1145/3029798.3038312 4
조사결과 (2) 로봇은고용인들의감정노동을줄인다 호텔은고용인들에게과도한접객을요구하지않는다. 하지만투숙객들은로봇에게감사와미소를보여줍니다. 서비스산업의본질은무엇일까? 서비스산업의예측해볼수있는미래 서비스산업의양극화 고급진맞춤형서비스 vs 저렴하고동일화된서비스 사회적정의와형평성을어떻게고려할것인가? 히로타카오사와, 아리사에마, 등. 로봇과일하면실제로어떠한위험과어떤혜택이있을까? : 로봇호텔분석결과로부터. 2017 년 ACM/IEEE 인간과로봇의협력관계에관한합동국제컨퍼런스 (HRI 17) 중발췌. ACM, New York, NY, USA, 2017, pp. 241-242. doi: https://doi.org/10.1145/3029798.3038312 5
사회와기술의공동구축 AI 와로봇들은과연 사회문제를해결하는존재인가? 사회문제를일으키는존재인가? 우리가살고싶은사회는어떤사회인가요? 어떻게하면살고싶은사회와기술을 구축할수있을까요? 6
인공지능의정의와윤리 7
인공지능이란? 약인공 지능 강인공 지능 빅데이터사물인터넷 (IoT) 드론 http://www.nature.com/nature/jou rnal/v529/n7587/index.html http://www.nikkei.com/article /DGXZZO92976710Z11C15A00 00000/ 초인공 지능 https://www.amazon.co.jp/e X-MACHINA/dp/B00XI059W8 https://en.wikipedia.org/ wiki/chappie_(film) 8
윤리와인공지능의두갈래 0. 연구 ( 자 ) 윤리 1. AI 의윤리 윤리 -> 원칙과규칙연구개발가이드라인, 기준, 법, 윤리적검토 윤리 -> 사회적, 정치적, 경제적영향영향평가, 행정, 가치배열 2. 윤리적인 AI 도덕적인기계, 강인공지능 / 초인공지능등을구상함으로써권리 / 자율성 / 인간과기계간의관계등에대한개념재정립 9
cf. 신경윤리학 1. 신경과학에서의윤리 윤리의실천 : 임상실습, 가이드라인 윤리적이고, 법적이며, 사회적인실행들 2. 윤리학의신경과학 도덕적이고, 사회적인의사결정을이해하기위한신경과학적방법적용 철학적인생각 Roskies, A.L. (2005) 신경윤리학사례연구 : 도덕적판단의본질 " 신경윤리학 : 이슈를연구, 실행, 정책에서정의하면서. Illes, J. ( 편집 ) 옥스포드대학교편집부. P.17-32. 10
AI 윤리와거버넌스 11
AI 와사회 보고서 기관 제목 2016 년 6 월일본총무성 (MIC) AI 네트워크의실천과위험성 2016 년 6 월 AI 파트너십 2016 년 9 월스탠포드대학교 AI 와 2030 년의삶 2016 년 10 월영국하원 : 과학기술위원회 인공지능이인간과사회에제공하는혜택에관한파트너쉽, Tenets 로봇과인공지능 : 분기 5 번째보고서 2016-2017 2016 년 10 월미국백악관인공지능의미래를준비하며 2016 년 12 월국제전기전자기술자협회윤리적인공지능디자인, Version 1 2017 년 1 월미래생활연구소 (Future of Life Institute) 아실로마 AI 원칙 2017 년 1 월유럽의회로봇에관한민법규칙위원회권고보고서 2017 년 2 월일본인공지능학회 (JSAI) JSAI AI 윤리지침 2017 년 3 월일본내각 AI 와인간사회 2017 보고서 12
AI 네트워크사회를위한컨퍼런스일본총무성 ( 초안자료, 수정진행중 ) AI 연구개발가이드라인 AI 사용시가이드라인 1. 협력의원칙 2. 투명성의원칙 3. 제어가능성의원칙 4. 보안확보의원칙 5. 안전보호의원칙 6. 프라이버시보호의원칙 7. 윤리의원칙 8. 사용자지원의원칙 9. 책임의원칙 AI 사용시나리오구상 예 ) 사회기반시설 재난재해예방 재정 서비스산업 농업 교통등. http://www.soumu.go.jp/main_content/000456240.pdf http://www.soumu.go.jp/main_content/000456256.pdf 13
인공지능과인간사회일본내각 (2017) 주제기반접근법 사례기반접근법 1. 윤리 AI 조작, 등 2. 법연구개발촉진및보호 3. 경제소득격차최소화와이익극대화 4. 사회 AI 에대한공포감확산방지 5. 교육 AI 협력 6. R&D 직업윤리 1. 이동 무인자동차, 카셰어링 2. 제조 자동화된생산공정, 예술 3. 개인서비스건강관리와진단 4. 대화 / 의사소통 홈로봇, 기계번역 http://www8.cao.go.jp/cstp/tyousakai/ai/summary/index.html 14
아실로마 AI 원칙미래생활연구소 (The Future of Life Institute) 인공지능의지속적인발전은다음과같은원칙에따라앞으로수십년, 수백년동안사람들을돕고힘을실어줄놀라운기회를제공할것이다. 연구이슈 (1-5) 연구목표, 연구자금, 과학과정책, 연구문화, 경쟁무효 윤리와가치 (6-18) 안전성, 고장투명성, 사법투명성, 책임, 가치배열, 인간의가치, 개인사생활, 자유와사생활, 인간의로봇통제권, 비 ( 非 ) 전복, AI 군비전쟁 장기이슈 (19-23) 역량경고, 중요성, 위험성, 자가발전, 공통이익 https://futureoflife.org/ai-principles/ 15
윤리적인인공지능디자인 ver1 국제전기전자기술자협회글로벌이니셔티브 (The IEEE Global Initiative) 모든기술자들이자율적이고지능적인시스템의설계및개발시윤리적고려를우선할수있도록권한을교육, 훈련받고권한을부여받도록보장한다. 1. 일반원칙 2. 자동지능시스템의내제가치 3. 윤리적연구와설계를위한방법론 4. 일반인공지능과초인공지능의안전과이익 5. 개인정보와개별접근제어 6. 자동무기시스템의재구성 7. 경제 / 인도주의적이슈들 8. 법 국제전기전자기술자협회인공지능및자동화시스템의윤리적고려를위한글로벌이니셔티브 (The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems) http://standards.ieee.org/develop/indconn/ec/ead_v1.pdf 16
윤리적가이드라인일본인공지능학회 (JSAI) 이윤리가이드라인의목적은일본인공지능학회와사회간 다양한대화를촉진시켜예비적인윤리지침을세우는데있다. 1. 인류에의공헌 2. 법규제의준수 3. 다른사람의프라이버시존중 4. 공정성 5. 안정성 6. 성실한행동 7. 사회에대한책임 8. 사회와의대화와자기계발 9. 인공지능에대한윤리준수요청 인공지능이사회구성원또는그에준하는것이되기위해반드시위에서정한 윤리지침들을인공지능학회회원과동등하게준수하여야한다. 17 http://ai-elsi.org/archives/info/20170503
각문서들의특징들 일본총무성 일본내각 아실로마 AI 원칙 IEEE 윤리적인디자인 일본인공지능학회윤리지침 0. 연구윤리 1-1. AI 윤리 : 실천 1-2. AI 윤리 : 영향 2. 윤리적 AI 연구개발가이드라인 AI 사용지침 연구개발주제 윤리, 법, 경제, 사회, 교육, 사례관리의주제 연구이슈 연구이슈, 윤리와가치 장기이슈 일반원칙, 내재적가치, 방법론, 개인정보, 자동무기시스템, 법, 경제적 / 인도주의적이슈 일반인공지능과초인공지능 인류에의공헌, 법규제준수, 성실성, 책임감 개인프라이버시, 공정성, 안정성 의사소통 AI 의윤리지침준수 학계 / 기술자들폭넓은이해관계자들 / 대중 18
역할과책임 학계 / 기술자들 사회적책임감을갖고인공지능의혜택과위험요소를고려 산업 윤리적인디자인설계와사회적문제해결을위한고민 대중 어떤사회에살고싶은지생각해보기 정책입안자들 AI 의혜택은지속시키고, 오용은방지할수있도록글로벌네트워크형성 언론 정확한정보를신속하게대중에게전달 19
협력과소통 학제간의소통 국제적인소통 과거-현재-미래간의소통 인간-기계-환경간의소통 우리가살고싶은사회는어떤사회인가요? 어떻게하면살고싶은사회와기술을 구축할수있을까요? 20