8 SUBJECT 인지적 협동 왜인간과컴퓨터의협력적사고가더나은결과를내는가 저자 James Guszcza, Harvey Lewis, Peter Evans-Greenwood 일러스트레이션 Josie Portillo Deloitte Review l www.deloittereview.com
인지적협동 9 인공의과학비록인공지능 (AI) 연구가약 60년의역사동안수많은 봄 과 겨울 을경험해왔지만, 지금의 AI 봄날이오래가고풍성할것이란예상은거의확실해보인다. 10여년전에는 SF소설에서나가능해보였던활용방안들이많은전문가들도놀랄만큼빠른속도로과학적사실이되어가고있다. 오늘날 AI의부활을위한무대는 2011년 IBM 왓슨컴퓨터시스템이제퍼디!(Jeopardy!) 퀴즈쇼에서인간챔피언켄제닝스 (Ken Jennings) 와브래드루터 (Brad Rutter) 를꺾는모습이텔레비전을통해중계되면서마련되었다. 이분수령이후놀랄만한돌파구들이빠르게연속적으로등장했는데, 많은경우에딥러닝 (Deep learning) 으로알려진머신러닝기법이사용되었다. 이제컴퓨터알고리즘은복잡한게임에서사람을능가하고, 사전지도없이도비디오게임을하는방법을터득하며, 렘브란트스타일로창작한그림을 3D 프린팅하고또한대학생의논문평가, 홍수대비, 차량운전등을할수있게되었다. 1 www.deloittereview.com l Deloitte Review
10 인지적협동 이런모든변화가인간과기계의미래관계, 기술적실업에대한전망그리고심지어인류자체의운명에상당한불확실성을제기하고있다. 마지막주제에관해서사업가엘론머스크 (Elon Musk) 는 AI를 인류의가장큰존재적위협. 이라고기술하기도했다. 스티븐호킹 (Stephen Hawking) 교수또한다음과같이경고했다. 완전한인공지능의개발은인류의종말을야기할수도있다. 철학자닉보스트롬 (Nick Bostrom) 은많은논란을일으킨그의저서 초지능(Superintelligence) 에서컴퓨터의인지적능력이인간을넘어서는기술적 특이점 의가능성을논한다. 2 충분히발전된기술은마법과구분할수없다. - 아더 C 클라크의제3 법칙 3 이들쟁점에대한토론은종종다음과같은암묵적인가정에의해논점이흐려지곤한다. 컴퓨터가다양한제한적업무에서인간을능가하기때문에, 보다일반적인영역에서도인간을 능가하는사고 를곧하게될것으로여기는것이다. 하지만연산능력의지속적이고빠른발전과획기적인 AI 돌파구의등장에도불구하고, 이러한전제는사실과거리가멀다. 게다가, 그러한가정때문에보다주목할필요가있는덜사변적인주제에대한관심이떨어지고있다. 기계지능과인간지능으로서로를보완하는방법이바로그것이다. AI는지난 5년동안극적인복귀에성공했다. 하지만딜로이트는 AI와동등하게유서깊은또다른개념의귀환이너무늦어지고있다고생각한다. 지능증강 (Intelligence augmentation) 이그것이다. 지능증강과함께궁극적인 목표는인간처럼생각하는기계를만드는것이아니라인간의더나은사고를지원하는기계를설계하는것이다. AI의미래에대한역사과학적학문으로서 AI가 1955년다트머스대학교 (Dartmouth University) 에서개최된학회에서시작되었다는데일반적으로의견이일치된다. 인공지능 이란용어를창안한존맥카시 (John McCarthy) 에의해소집된학회는, 세상에서목적을달성할수있는능력을갖춘 기계를창조하는과학으로이분야를정의했다. 4 다트머스학회에는클로드섀넌 (Claude Shannon), 앨런뉴웰 (Alan Newell), 허버트사이먼 (Herbert Simon), 마빈민스키 (Marvin Minsky) 등의저명한 AI 선구자들이참석했다. 흥미롭게도, 나중에민스키는아더 C 클라크의소설 2001: 스페이스오디세이 의영화화에스탠리큐브릭 (Stanley Kubrick) 감독의자문으로활동했다. 아마도영화에서가장기억에남는캐릭터는 HAL 9000일것이다. 이인공지능컴퓨터는영어를유창하게말하고, 상식적추론을사용하며, 질투의감정을느끼고, 우주선의승무원을제거함으로써자신의작동중단을피하려시도한다. 짧게말해, HAL은매우일반적인형태의인간지능을갖춘컴퓨터였다. 다트머스학회의참석자들은 2001년까지컴퓨터가인공적인형태의인간지능을갖추게될것으로믿었다. 그들이발표했던초안은다음과같다. 연구는다음의추측에기반해진행된다. 학습의모든측면혹은지능의다른모든특성이원칙적으로기계가이를모방할수있도록정확하게기술될수있다는가정이다. 기계가어떻게언어를배우고, 추정과개념을형성하며, 지금은 Deloitte Review l www.deloittereview.com
인지적협동 11 인간만가능한문제를풀고, 스스로를개선할수있는지 [ 강 조점추가됨 ] 를찾기위한시도가이뤄질것이다. 5 하는고도로복잡하고강력하지만일반적으로해석이불 가능한과정이다. 기술적특이점 에대한언론매체의널리퍼진추정에서분명히드러나듯이, AI 연구에대한초기의이상은오늘날에도여전히굳건하다. 예를들어, 딥마인드 (Deep- Mind) CEO 데미스하사비스 (Demis Hassabis) 의발언을정리한파이낸셜타임스의기사는다음과같다. 딥마인드에서엔지니어들은인간두뇌를모델로하는신경망에기반한프로그램을개발해왔다. 이들시스템은실수를저지르지만, 학습을통해시간이지남에따라개선된다. 그들은다른게임을하며다른과업을해결하고수행하도록설정될수있다. 따라서특정되지않은일반적인지능을가진 예를들어, AI 알고리즘은이제개의품종을사람보다더정확하게구분할수있다. 7 하지만이는 핀셔 혹은 테리어 와같은개념을알고리즘적으로표현하는것과는관계가없다. 그보다수천가지의해석불가능한매개변수를포함한딥러닝신경망모델은이미사람들에의해분류된수많은디지털사진에기반해훈련된다. 8 표준적인회귀모델이다양한교육적, 고용관련, 정신적상세항목에근거해한개인의소득을예측할수있는것과비슷한방식으로, 딥러닝모델은사진의픽셀을입력변수로삼아근본적인개념을이해할필요없이 핀셔 혹은 테리어 로분류한결과를산출한다. 다. 이 AI 는인간처럼 생각 한다. 6 이와같은선언은최소 2가지점에서사실을오도하고있다. 첫째, 다트머스학회참가자들이구상한강인공지능과달리, 제시된 AI들은-현재혹은가까운장래건간에-모두약인공지능의사례다. 인간심리학에서, 일반지능은소위 g 인자 ( 다른말로 IQ) 로불리는척도로계량화되는데, 이는한가지유형의인지적능력 ( 예. 외국어학습능력 ) 의다른인지적능력들 ( 예. 수학적능력 ) 과의연관정도를측정한다. 이는오늘날 AI의특성이아니다. 차량운전을위해설계된알고리즘은군중에서특정인의얼굴을탐지하거나가정용로봇하인을작동시키는데쓸모가없다. 둘째, 보다근본적으로현재등장한 AI는다트머스학회에서구상된 AI와공통점이별로없다. 이들은풀수있는문제와달성할수있는목표에있어서약한유형의 지능 을보여주긴하지만, 인간심리학혹은두뇌과학의실제구현과는상관이없다. 그보다는머신러닝과관계가있다. 머신러닝은대규모의데이터에통계적모델을적용 강및약인공지능간의모호성과 신경, 딥 (Deep), 학습 과같은용어가다른개념을연상시키기때문에혼돈이생긴다. 신경망이인간두뇌에대한단순모델에서약하게영감을받긴했지만, 이들은통계적회귀모델의일반화로보는것이더적합한관점이다. 마찬가지로 딥 은정신적깊이를의미하는것이아니라, 복잡하고비선형적인패턴을모델이포착할수있게해주는추가구조 ( 전문용어로는 은닉층 (Hidden layer) 를의미한다. 그리고 학습 은회귀모델의 베타 (β) 매개변수에해당하는수많은모델매개변수들을수치적으로추정하는작업을말한다. 평론가가이러한모델이 경험을통한학습으로더나아진다 라고쓸때, 실제로의미하는바는더많은데이터로인해매개변수의추정이더정확해진다는뜻이다. 따라서이들모델이 인간처럼생각한다 고주장하는것은, 잘못알고말하는것이다. 9 간단히말해, 오늘날사회와경제를재형성하고있는 AI 는 1955년다트머스에서명확히정의된이상이나 2001 년스페이스오디세이의 HAL, 스타트렉의데이터중위와 www.deloittereview.com l Deloitte Review
12 인지적협동 우리인간은최적화를목표하기보다 필요조건을충족시키는 솔루션에만족해야만한다. 왜냐하면우리의기억력과추론능력이제한적이기때문이다. 같은영화적아바타에내포된개념과는아주거리가멀다. 현대 AI는컴퓨터시대의통계적추론에기반하지, 우리가생각하는인간지능의근사치혹은시뮬레이션에기초를둔것이아니다. 10 점점더보편화되는 AI의활용은멈출수없는디지털기술의발전을뒤따라가속되겠지만, 다트머스에서명확하게정의된원래의이상적 AI를실현해주진못할것이다. 이를제대로아는것이실제 AI가가져올혜택과위험을이해하는데필수적이다. 기반한인사이트와의사결정을위한방안을준비할것이다 인간과컴퓨터의공생관계는지능적인운영을인간이홀로할때보다훨씬효과적으로수행할것이다. 12 이런종류의인간-컴퓨터공생은이미일상에스며들고있다. 웨이즈 (Waze) 같은 GPS 앱을이용한여행계획수립 리클라이더의증강개념다트머스학회개최 5년후, 심리학자이자컴퓨터과학자인 J.C.R 리클라이더 (Licklider) 는인간과컴퓨터지능간의관계에대한매우다른비전을구체화했다. 다트머스학회에서구상된강인공지능은여전히 SF소설의영역에머물러있지만, 리클라이더의비전은오늘날과학적사실이되었고, 앞으로의 AI 발전방향에대해생각해볼수있는가장생산적인방안을제공하고있다. 11 인간과유사한지능을구현하는컴퓨터의능력에대해추정하기보다, 리클라이더는컴퓨터가인간지능을보강할수있을것으로믿었다. 그는인간과컴퓨터가공생관계를발전시켜, 한쪽의강점이다른한쪽의약점을상쇄할것이라주장했다. 구글번역을이용한문서번역지원 개인화된추천메뉴를이용한수많은책혹은영화의탐색 인터넷검색을이용한연구및기사작성과정지원각각의경우, 인간은구체적인목표와기준 ( 시내로데려가주되고속도로는피할것 또는 걸어갈수있는거리내에있는평점이높고가격이적당한횟집을찾아줄것 ) 을설정하고, AI 알고리즘은연관성높은예측이나추천을산출하기위해 AI가아니면처리불가능한방대한데이터를꼼꼼하게살펴추려낸다. 그후인간은컴퓨터가생성한대안들을평가하여결론을내린다. 어떤경우에도 AI 가인간지능을흉내내는경우는없다. 각각의경우인간지능이증강될뿐이다. 인간은목표를설정하고, 가설을수립하며, 기준을결정하 고, 평가를수행할것이다. 컴퓨터는반드시수행되어야하 는규칙화가능한업무를수행해서기술적및과학적사고에 다트머스학회이후심리학과 AI 양분야의발전은리클라 이더의인간 - 컴퓨터공생비전이 초지능 AI 에대한추정 보다미래를위한보다생산적인지침임을보여준다. 인 Deloitte Review l www.deloittereview.com
인지적협동 13 간의정신은처음인식한것보다덜컴퓨터같고, AI 는처 음희망한것보다덜인간같음이밝혀졌다. 직관적으로, 사람들이이러한판단을할때통계적모델 과비슷한방식으로사고하는것처럼보일수있다. 그리 고실제로훈련과의도적인노력으로어느정도까지는그 린다, 나야 AI 알고리즘은인간의정신과대비해많은장점들이있다. 실제로, AI 연구의선구자인허버트사이먼은제한된합리성 (Bounded rationality) 에관한연구로도유명하다. 우리인간은최적화를목표하기보다 필요조건을충족시키는 솔루션에만족해야만한다. 왜냐하면우리의기억력과추론능력이제한적이기때 렇게할수있다. 이는카너만이 시스템 2 사고혹은 느리게사고하기 라부른방식이다. 13 하지만사람들이판단과의사결정을할때대부분의경우완전히다른유형의정신적사고과정을사용한다는사실이밝혀졌다. 일반적으로사람들은힘들게관련된증거를수집하고평가하기보다는, 서술적으로는타당하지만논리적으로는미심쩍은판단으로이어지는경우가많은여러정신적 문이다. 이와대조적으로컴퓨터는지치지않는다. 점심시간전후에도지속적으로의사결정을할수있고, 수십년치의판례, 의료저널기사, 회계규정을최소한의노력으로처리할수있다. 그리고외부적지원없이는 5건의예측적요인밖에고려하지못하는인간의판단력과비교되지않는정확성으로 500건의요인을고려해평가할수있다. 알고리즘은이를훈련시키는데사용된데이터의완전성과알고리즘이사용될환경을반영하는정도만큼만신뢰성을가진다. 이런조건이충족되지않으면, 모든것이쓸모없어진다. 경험법칙 ( 어림법 ) 에의존한다. 카너만은이를 시스템 1 사고혹은 빠르게사고하기 라칭하는데, 유명한 린다 실험이이의특성을잘보여준다. 명문대학교들의대학생들을대상으로수행된실험에서, 카너만과트버스키는린다란이름의가상의인물을다음과같이묘사했다. 그녀는매우지적이고, 대학교에서철학을전공했으며, 페미니스트 이마지막사실은인간심리학에대한우리의이해변화를 시사하는데, 이러한변화는다트머스학회와리클라이더 운동과반핵시위에참여했었다. 이러한린다의대학시절 에대한정보에근거해볼때, 현재린다의모습에대한다 음시나리오중무엇이더가능성이높아보이는가? 의논문발표한참후에대니얼카너먼 (Daniel Kahnerman) 과아모스트버스키 (Amos Tversky) 의연구에의해 시작되었다. 인간의예측과정에대해생각해보자. 만약 1. 린다는은행원이다. 우리가이지원자를채용하면그녀는성공적으로일하게 될까? 이보험리스크가보험회사에수익성이있을까? 이 죄수를가석방하면다시범죄를저지를까? 2. 린다는적극적으로페미니스트운동에참여하는은행원이다. www.deloittereview.com l Deloitte Review
14 인지적협동 카너만과트버스키는질문을받은대학생들중 87% 가 2 번째시나리오의가능성이더높다고답변했음을밝혔다. 하지만잠깐만생각해봐도그럴리가없음을알수있다. 페미니스트은행원은모든은행원의부분집합이다. 하지만린다가여전히페미니스트운동에적극적이라는추가된상세정보가서사적일관성을부여하여, ( 가능성이낮은 ) 두번째시나리오가직관적으로는더그럴듯해보이게된다. 카너만은인간의정신을 결론으로건너뛰는기계 라고칭했다. 사람들은상상하기쉬운것과가능성이높은것을혼동하고, 14 감정으로판단을흐리며, 무작위적인소음에서존재하지않는패턴을찾아내고, 평균으로의회귀사례에대한비논리적인이야기를하며, 개인적경험에근거해과도한일반화를수행한다. 이렇게사람들이판단과의사결정을할때사용하는많은정신적어림법들이체계적으로편향되어있음이밝혀졌다. 댄애리얼리 (Dan Ariely) 가만든문구인 예측가능하게비합리적인 은편향된정신적어림법에의존하는인간정신의시스템적경향을묘사한다. 이러한발견은카너만의전임자인폴밀 (Paul Meehl) 이 1950년대에처음문서화했고이후수백건의학문적연구와마이클루이스 (Michael Lewis) 의 머니볼 에서서술된것과유사한산업적활용을통해검증된현상을설명하는데도움을준다. 다양한분야에서단순한알고리즘을사용한예측이충분한정보를가진인간전문가의예측을일반적으로능가한다는사실이바로그것이다. 이는아마도리클라이더자신조차상상못했던방식으로인간-컴퓨터협력의필요성을강조한다. 인간의눈이인공렌즈를필요로하는것처럼인간의판단과의사결정에있어편향을극복하기위해인간의정신은알고리즘을필요로한다. 미안해요. 데이브. 그명령을따를수없어유감입니다. 자율주행차량, 음성지원개인비서, 복잡한게임에서인간을꺾을수있는컴퓨터를사람처럼여기기쉽지만, 그런기술들은실질적으 로신용평점혹은사기적발알고리즘과같이최소한의차 원에서만 지능적 이라고볼수있다. 이는이러한기술들 이데이터기반의통계적추론이가진근본적인한계를가 지고있음을의미한다. 알고리즘은이를훈련시키는데사 용된데이터의완전성과알고리즘이사용될환경을반영 하는정도만큼만신뢰성을가진다. 이런조건이충족되지 않으면, 모든것이쓸모없어진다. 이를설명하기위해, 친숙한유형의몇가지 AI 실패사례 를들어보자. IBM 왓슨, 제닝스, 루터가참여한제퍼디! 대결동안, 알렉스트레벡 (Alex Trebek) 은 미국의도시들 범주 에서다음질문을제시했다. 이도시에서가장큰공항 은제 2 차세계대전의영웅의이름을따명명되었다. 이 도시에서 2 번째로큰공항은제 2 차세계대전에서벌어 진전투의이름을따랐다. 왓슨은그도시를 토론토 라고답했다. 15 우리동료중한명이최근의신문기사헤드라인 힐러 리가 ( 버니샌더스 ) 를꺾었다 (Hillary slams the door on Bernie) 를일반적인기계번역서비스를이용해벵 골어로번역한후, 이를다시영어로번역시켰다. 최종 결과는 바니가클린턴을꺾었다 (Barney slam the door Clinton) 였다. 16 2014 년, 일단의컴퓨터과학자들이최첨단딥러닝알 고리즘이인식불가능하거나백색소음에불과한이미 지를일반적인물체 ( 공작새 혹은 야구공 ) 로분류 Deloitte Review l www.deloittereview.com
인지적협동 15 하도록 속이는 것이높은신뢰수준으로가능함을보여주었다. 17 2016년 5월 7일, 운전자조작없이 자동주행 상태로운행되던차량이, 센서가감지하지못한트랙터-트레일러의하단에충돌하여차지붕이완전히분리되고운전자는사망했다. 18 위의사례중어떤경우도알고리즘이쓸모없다고시사하지않는다. 오히려그반대다. IBM의왓슨은결국제퍼디! 에서최종승리했다. 기계번역과이미지인식알고리즘은새로운상품과서비스를가능하게만들고있다. 그리고자율주행차의치명적위험성도자율주행차를통해살릴수있는훨씬많은사람들의숫자와비교해평가되어야만한다. 19 그보다, 이들사례는리클라이더가이미인식했었던다른요인을조명해준다. 인간지능의특정한강점이무차별대입기법을사용하는머신러닝의근본적한계를상쇄할수있음을시사하는것이다. 위의사례들로다시돌아가보자. 정보검색시스템인왓슨이시카고의두주요공항에대한사실을담고있는위키피디아의페이지에접근할수있었다면정확히질문에답변할수있었을것이다. 하지만상식적추론을할수없기때문에왓슨은 미국의도시들 이란조건에도불구하고캐나다의도시인 토론토 를답으로제시한것이다. 20 노엄촘스키 (Noam Chomsky) 가강조한기본현상인무한한수의문장형태를가진언어를어린이들이습득하는능력은놀랄만큼적은데이터에기반해이뤄진다. 21 딥러닝알고리즘은 ( 예를들어 ) 고양이를인식하기위해최소수천장의사진을가지고훈련되어야한다. 그리고인식을하더라도개념적인이해를형성하는것은아니다. 이와대조적으로, 아주어린아이들조차도적은수의예제에근거해가설을세우고학습하는데매우뛰어나다. 자율주행차량은데이터베이스에프로그램된시나리오를넘어선상황을신뢰성있게추론할수없는알고리즘의한계를가진다. 이는익숙하지않고, 모호하거나, 혹은동적으로변하는상황에서판단력과상식을사용하는인간운전자의능력과대조된다. 간단히말해, 빅데이터에대한반복적과업처리를프로그래밍할수있을때는인간보다업무를더잘처리할수있는알고리즘을만들수있음이거의확실하다. 하지만그런알고리즘은새로운상황을평가하는데필요한개념적이해와상식적추론능력이없다. 이들알고리즘은구조화된가설로부터추론을수행할수있지만어떤가설을먼저테스트해야할지우선순위를정하는직관력을결여하고있다. 인지과학자앨리슨고프닉 (Alison Gopnik) 은그런상황을다음과같이요약하고있다. 인공지능에대한연구에서대단히흥미로운점하나는어떤 일이쉬울지혹은어려울지예측하기가매우어렵다는것이 오늘날의기계번역알고리즘은기존데이터 ( 문서에서추출한수백만구절들의짝을포함 ) 에포함되지않은기존단어들의새로운조합, 새로운속어등의뜻을신뢰성있게추론할수없다. 이와대조적으로, 언어학자 다. 처음에우리는외부에서인정한똑똑한소수가몰두하는전형적인문제들, 즉체스나수학정리의증명-지적인얼간이들이똑똑함을과시하는활동-이컴퓨터에게가장어려울거라고예상했었다. 그런데, 이들은쉬운과제임이밝혀 www.deloittereview.com l Deloitte Review
16 인지적협동 졌다. 그보다는아무리바보라도할수있는일인물체를인식하거나이를집어드는일이훨씬어렵다. 그리고고도로훈련된성인전문가의추론과정을흉내내는것이모든아기들의일반적인학습과정을따라하는것보다훨씬쉬운일임이밝혀졌다. 22 사람이 시스템 1 의사결정함정을피하기위해알고리즘이필요한것처럼, 빅데이터의내재적한계는임무에필수적인알고리즘의실패를방지하기위해인간의판단력이필요함을시사한다. 이러한사실은리클라이더의활동당시에는오늘날처럼분명하지않았다. 리클라이더의이론과오늘날 AI 연구에서밝혀진사실은지금이그어느때보다인간-컴퓨터공생관계가중요하고강력해야함을보여준다. 게임끝? 체스경기는인간-컴퓨터협력에대한탁월한사례를제공하며, 동시에인간을능가하는컴퓨터에대한사례의과대해석에주의해야함을얘기해준다. 1997년, IBM 딥블루가체스그랜드마스터개리카스파로프 (Garry Kasparov) 를꺾었다. 한주요시사잡지가그사건을다룬표지기사의제목을 인간두뇌최후의저항 이라고달았다. 많은평자들이게임은끝났다고선언했다. 23 8년후, 그이야기는단순히 기계가인간을격파했다. 는것보다훨씬더흥미로운사실임이분명해졌다. 자유형체스 라고불리는경기가개최되었는데, 대결에서인간과컴퓨터의어떤유형의조합도허용했다. 경기는예상을뒤엎은결과로끝났는데, 카스파로프는나중에다음과같이회고했다. 경기의종국에놀라운결과가일어났다. 승자는최신컴퓨터를갖춘그랜드마스터가아닌동시에 3대의컴퓨터를이용한 2명의아마추어미국선수들이었다. 그들이컴퓨터를조작하고 코치 하는기술은컴퓨터가판세를매우깊숙이들여다볼수있게해상대방그랜드마스터들의체스에대한뛰어난이해와다른참여자들이가진컴퓨터의강력한연산능력에효과적으로대응할수있었다. 약한인간 + 기계 + 뛰어난프로세스가독자적인강력한컴퓨터, 그리고더인상깊게는강력한인간 + 기계 + 열등한프로세스보다우월했다 인간의전략적가르침과컴퓨터의전술적예리함의결합은압도적이었다. 24 자유형 x 는다양한영역에서인간-컴퓨터협력에대해생각해볼수있는유용한방법이다. 확실히, 전통적으로인간에의해수행돼왔던일부직업이 AI 알고리즘에의해대체되고있고계속해서대체될것이다. 한가지사례가은행의대출심사관으로, 신용평점알고리즘의도입이후일자리가많이없어졌다. 미래에는장거리트럭운전수부터방사선전문의까지다양한직업이자동화될수있을것이다. 25 하지만 AI에의한일자리의단순한대체보다 자유형 x 를변형한많은사례가생기는것이더가능성높은시나리오일것이다. 예를들어, 옥스포드대학교비즈니스스쿨의교수인칼베네딕트프레이 (Carl Benedikt Frey) 와마이클오스본 (Michael Osbourne) 이작성한 고용의미래 : 직업들이컴퓨터화에얼마나취약한가? 보고서에서컴퓨터화에가장취약한최상위 5가지직업중하나로 보험사정인 이꼽혔다. 실제로, 표준적인자동차보험혹은가정의화재보험계약에서정교한계리모델이수작업언더라이팅의필요성을제거하는일종의 AI 역할을하는것이사실이다. Deloitte Review l www.deloittereview.com
인지적협동 17 하지만, 배상책임혹은산재리스크에대한보다복잡하고도전적인상업적언더라이팅업무를고려해보자. 이런보험을들어야하는사업장은자동차및일반가정보다훨씬적고, 보험이필요한다양한유형의사업장 ( 어떤가게는힙합분위기의수공예용품부티끄이고어떤사업장은건설회사다 ) 에공통된예측적데이터요소는일반적으로거의없다. 통계적인관점에서, 이것이의미하는바는예측적알고리즘의훈련에쓸수있는다양한데이터가매우적다는뜻이다. 모델은입력받은한정된양의리스크요소들과의기계적인연동이상의것을할수없다. 모델은이정보의정확성혹은완전성을평가할수없고, 인간전문가에게는명백해보일수있는다양한상황별미묘한차이를이해해여러정보의중요성을따질수없으며, 과거데이터에나타나지않은새로운사업및리스크유형에대한위험을평가할수없다. 하지만, 그러한알고리즘은작고확실한리스크들의언더라이팅작업을자동화할수있는경우가많고, 결과적으로보험사정인에게상식적추론과전문가적판단이필요한보다복잡한건들에집중할수있는시간을제공한다. AI가보험사기조사관 ( 특히사기꾼이그들의전술을급속하게진화시켜과거데이터를무의미하게만드는영역 ), 채용관리자, 대학입학사정관, 공공분야근로자, 가석방심사관, 의료진단을수행하는의사의직업을빼앗을수있다는주장에대해서도비슷한얘기를할수있다. 각각의영역에서, 대체의정도는경우에따라다르다. 사례가빈번하고, 모호하지않으며, 시간과맥락전반에걸쳐유사하고, 잘못된예측으로인한비용이크지않은경우, 알고리즘이의사결정을자동화한다고볼수있다. 반면에, 사례가보다복잡하고, 새로우며, 예외적이고, 또는모호할경우, 다시말해가용한데이터의역사적사례를통해수행해야할과업이완전하게정의되지않는경우에는인간-컴퓨터협력이완전한자동화보다현실적이고바람직한목표가된다. 자율주행차를둘러싼현재의논란은이런폭넓은범위를조망해준다. 만약주행환경이충분히통제될수있다면, 예를들어상호운영가능한센서를장착한자율주행차만이주행가능한전용도로가있는경우, 5단계 ( 완전자율주행 ) 자율주행차는가까운시일내에가능해질것이다. 26 하지만, 가능한 블랙스완 유형의시나리오 ( 날씨, 건설작업, 트럭에서떨어진화물, 무단횡단하는사람이결합된전례없는상황- 힐러리가버니 ( 샌더스 ) 를꺾었다 를벵골어로번역한경우와유사한사례 ) 의경우의수를생각해볼때, 인간의감독과상식적추론을완전히제거하는게가능할지는불확실하다. 공감능력간극을줄이기위에서제시된이유와이분야에내재된 인간적요소 로인해, 특히의료분야는 자유형 x 협력에적합한영역이다. 폴밀은심지어아주단순한예측적알고리즘조차의료인의독자적인판단력을능가한다는점을 60년전에발견했다. 27 오늘날, 우리는생활습관및유전정보데이터의대규모데이터베이스, 자가측정기기, 의료데이터를측정할수있는스마트폰, 그리고계속해서업데이트되는의학논문라이브러리에접근할수있는 IBM 왓슨과같은정보검색시스템을보유하고있다. 아마도간단한부상의치료는, 특히원격지혹은의료기관이부족한지역에서곧대부분자동화될것이며, 방사선학혹은병리학같은특정한고급전문분야도딥러닝기술에의해대부분자동화될수있을것이다. 보다일반적으로, 의료분야에서 AI 활용의확산으로인해지금까지의사및의료진들의성공을위해필요했던기량들의조합이변화될것으로보인다. 개리카스파로프가체스마스터가되도록해준기량이자유형체스에서의 www.deloittereview.com l Deloitte Review
18 인지적협동 컴퓨터가점점더인간보다똑똑해진다고생각하는것이지나치게단순한사고인것처럼단지사람만이공감능력이뛰어나다고생각하는것도똑같이단순한사고일수있다. 승리를보장해주지않는것처럼말이다. 미래의최고의사는 AI 도구를사용해더나은진단을내리는능력과환자들에게조언과위안을제공할수있는공감능력을결합할수있는의사일것이다. 머신러닝알고리즘은의사들이컴퓨터가잘하는 기초작업 ( 의사용편람암기, 새로운의학논문에대한지속적인탐색 ) 에는덜신경을쓰고불확실성의처리, 치료및식이요법에대한전략수립, 환자와공감을이루는상담제공과같은특징적인인간적업무에집중하도록해준다. 또한빅데이터와 AI가환자와의료진간의언어적및비언어적의사소통을도와줄수있다는증거가있다. ( 마찬가지로, 학생과교사, 팀원과관리자, 고객과영업사원등등 ). 캐더린크레이트소울라스 (Catherine Kreatsoulas) 는환자의증상에대한설명에근거해관상동맥심장질환의가능성을평가하는알고리즘의개발을이끌었는데, 남자와여자가자신의증상을설명하는방식에차이가있어서로다른치료로이어질가능성이있음을발견했다. 잘설계된 AI 알고리즘은그러한편향을피하는데도움을줄 수있다. 29 하지만, 컴퓨터가점점더인간보다똑똑해진다고생각하 는것이지나치게단순한사고인것처럼단지사람만이공감능력이뛰어나다고생각하는것도똑같이단순한사고일수있다. AI 알고리즘이공감을촉진하는데일정역할을할수있다는증거가있다. 예를들어, 어펙티바 (Affectiva) 소프트웨어는사람의얼굴표정을촬영한웹캠동영상에서사람의감정상태를추정할수있다. 이러한소프트웨어는동영상콘텐츠를최적화하는데도움이될수있다. 예를들어, 편집자는영화예고편에서관객들이지루한표정을보인부분을잘라낼수있다. 흥미롭게도, 원래어펙티바의개발자들은자폐증환자들이다른사람들의얼굴표정에서감정상태를더잘읽을수있게도움을주고자개발을시작했었다. 이러한소프트웨어는의료및마케팅분야뿐만아니라, 더넓은비즈니스분야에서활용될수있다. 연구결과는높은수준의사회적지각 ( 어펙티바가지원하도록설계된특질 ) 을가진팀원들뿐만아니라더많은여성들을포함한팀이더높은수준의집단지성을보여줌을밝혀줬다. 28 비언어적의사소통과관련해, MIT 미디어랩의샌디펜틀랜드 (Sadny Pentland) 교수와공동연구진은비언어적의사소통의패턴을측정할수있는 소시오미터 (Sociometer) 라는웨어러블기기를개발했다. 이기기는의사소통방식의무형적측면을계량화해의료계종사자가환자를대하는태도의개선을지도하는데사용될수있다. 이작업은의료과실소송과도관련이있다. 다른리스크요인들과관계없이, 보다 호감이가는 것으로느껴지는의사들이훨씬적게의료과실소송을당한다는증거가있다. 30 알고리즘또한편향될수있다알고리즘에맡길수없는 ( 그리고절대그러면안되는 ) 또다른유형의정신적작업은공정함, 사회적용인가능성, 도덕성에대한추론이다. 단순히알고리즘이분명한데이터를사용하기 Deloitte Review l www.deloittereview.com
인지적협동 19 때문에 공정 하고 객관적 이라는순진한관점은인간적수치가가석방심사와같이매우중요한의사결정에상당감독의필요성에대한인식에밀려나고있다. 넓은맥락한영향을미치는것처럼보인다. 33 에서, 이런관점은새로운것이아니다. 예를들어, 고용및신용점수산정알고리즘과관계된법적원칙이오랫동이러한현상은가석방심사를개선하기위해알고리즘의안적용되어왔는데, 이알고리즘이잠재적으로다양한계사용을고려하지않는것이도덕적으로문제가될수있음층의개인들에게부정적인영향을미칠수있기때문이을시사한다. 하지만최근의연구결과는그러한알고리즘다. 31 알고리즘이가진편향에대한최근의사례로는고임을만드는것이결코단순명확한과업이아님을분명히금직업에대한직업안내광고가여성보다남성을대상으보여줬다. 줄리아앵윈 (Julia Angwin) 기자는데이터과로하는경우가더많다는점그리학자팀과협력해, 널리사용되는고흑인들이흔히쓰는이름을가재범위험산정블랙박스모델이실 진사람들이더자주체포된다고암시하는광고등이있다. 32 이러한사례는 AI 알고리즘이인간의판단으로보완되어야만하는또다른이유를보여준다. 만약알고리즘의훈련에사용된데이터에원치않는편향이이미존재한다면, 알고리즘또한이를반영하여그러한편향을더욱증폭시킬가능성이크다. 가석방심사관및때때로심사에 최고의자동차들이운전자의편안함과통제력의최대화를위해인체공학적으로설계되는것처럼, 의사결정지원알고리즘은인간심리의측면을무시해서는안되고인간심리의상세사항을고려해설계되어야한다. 수로흑인피고인을재범위험이높다고판정할확률이백인의경우보다약 2배가까이높음을보도했다. 앵윈기자의보도몇달후에, 위스콘신주대법원은심사관들이위험점수를사용할수는있지만, 그점수가가석방여부를결정하는데 결정적 요소가되어서는안된다고판결했다. 본질적으로이판결은사법적판결에있어자유형체스와같은협력을촉구한것이다. 알고리즘으로사법적결정을자동화해서는안된다. 심사원은 사용되는알고리즘의사례는이와관계된미묘함을잘보더나은의사결정을위한도구로서알고리즘을이용해야여준다. 밀, 카너만그리고협력연구자들의연구결과에한다. 34 비춰볼때, 심사관이가석방결정을내릴때알고리즘의조력을받아야하는확실한이유가있다. 가석방심사관이판결이시사하는바는알고리즘이데이터과학과전형의의사결정에대한유명한연구는다음과같은편향이존적으로연관된방법론과개념들뿐아니라보다광범위한재함을보여준다. 오전이른시간대심사관들의가석방허방법론과개념들을사용해설계되고, 구축되며, 평가되어용률은약 60% 에달하는데, 이비율은오전휴식시간전야한다는점이다. 좁은기술적관점에서는, 최적 의모까지꾸준히 0% 가까이떨어지고, 휴식후에는급격히델로서가장높은샘플정확도를가지는모델이선택되는약 60% 로다시올라가며, 점심시간전까지또 0% 에가경우가많다. 하지만보다광범위한관점에서볼때, 유용깝게떨어진다. 그리고점심후에는다시 60% 대로복귀한모델은사회적으로논란이되는예측요인들을배제하하는데, 이와같은변화가종일반복된다. 이는혈당량고, 원치않는편향을피하며 35, 최종사용자가특정사안 www.deloittereview.com l Deloitte Review
20 인지적협동 에서모델예측의적합성을평가할수있도록충분한투명 성을제공해이러한표준과정확성간의균형을이뤄야 한다. 36 나은프로세스의설계필요성은데이터과학혹은인공지 능에대한토론에서지금보다더많은관심을받을자격이 있다. 자유형체스경기의승자는사람이자동차를운전하는것과비슷한방식으로자신들의컴퓨터알고리즘을 운전 했다고한다. 최고의자동차들이운전자의편안함과통제력의최대화를위해인체공학적으로설계되는것처럼, 의사결정지원알고리즘은인간심리의측면을무시해서는안되고인간심리의상세사항을고려해설계되어야한다. 카스파로프의말을의역하자면, 인간 + 컴퓨터 + 작업을위한더나은프로세스와결합된알고리즘이독자적으로일하는가장재능있는인간혹은가장진보된알고리즘보다더나은결과를산출한다. 인간-컴퓨터협력을위한더 미래를설계하기우리의이야기에는종막이있다. 리클라이더의제자들중한명인더글러스엥겔바트 (Douglas Engelbart) 는스탠포드연구소 (Stanford Research Institute, SRI) 에서일하고있었는데리클라이더의선견지명있는논문이발표된지 2년후, 엥겔바트는 인간지능증강 : 개념적프레임워크 라는제목으로자신의논문을발표했다. 논문은 복잡한문제에접근하고, 자신의특정한니즈에적합한이해력을얻으며, 문제 Deloitte Review l www.deloittereview.com
인지적협동 21 에대한해결책을도출할수있도록인간의역량을강화 하는데초점을맞췄다. 37 리클라이더의비전과마찬가지로, 논문의비전은인간의관여를자동화로제거하는것이아니라과정내에인간을계속참여시키는것이다. 나는고등영장류와인간을진정으로가르는요소들중하나가인간이도구제작자라는점이라고생각한다. 지구상의다양한생물종들의이동능력효율성을측정한연구결과를읽어봤다 인간은하위약 1/3 수준에위치해그다지인상적 이지못한결과를기록했다. 하지만사이언티픽아메리칸 엥겔바트는 SRI에서증강연구센터를이끌었는데, 센터는 1960년대중반에오늘날개인용컴퓨터의많은구성요소들을발명했다. 예를들어, 엥겔바트는컴퓨터화면에서커서를어떻게이동시킬것인가를고민하던과정에서마우스의개념을착안했다. 마우스와함께화상회의, 워드프로세싱, 하이퍼텍스트, 윈도우와같은개인용컴퓨터의핵심요소들이 1968년샌프란시스코에서열린 모든시연회의어머니 라는이름의시연회에서공개되었다. 오늘날이행사는컴퓨터의역사에서중요한사건으로기억되고있다. 38 엥겔바트의시연회가있은지약 10년후에, 스티브잡스 (Steve Jobs) 는 SRI로부터마우스의특허를 4만달러에구입했다. 이러한역사를고려할때, 잡스가리클라이더의비전에매우가까운기억할만한인간-컴퓨터협력에대한비전을구상한것은아마도우연이아닐것이다. (Scientific American) 의누군가가자전거를탄인간의이동능력효율성을평가하려는영감을떠올렸다 자전거를탄인간은콘도르를훨씬능가해, 탁월한성적으로전체 1등을기록했다. 여기서자전거는나에게있어컴퓨터의역할과같다 컴퓨터는우리가지금까지접했던모든도구들중가장탁월한도구다. 이는우리정신에있어앞의사례의자전거와동일하다. 39 이러한발언과일관되게, 잡스는개인용컴퓨터기술에인간중심의디자인사고를주입한것으로기억되고있다. 우리는인간-컴퓨터공생에대한리클라이더의비전을완전히달성하기위해서는데이터과학과 AI의영역에도유사한심리학및디자인사고를주입해야한다고믿는다. www.deloittereview.com l Deloitte Review
22 인지적협동 이는우리가삶을영위하는인간적시스템이되어야합니다 인공지능에대한샌디펜틀랜드의생각 알렉스 샌디 펜틀랜드는 MIT 미디어예술과학 (Media arts and sciences) 대학원의도시바석좌교수로 ( 과거에는마빈민스키가 자리했었다 ) MIT 미디어랩창립멤버이며, 컴퓨터사이언스분야에서가장많이인용되는논문저자들중한명이다. 그는급성장중인 학제간분야인컴퓨터활용사회과학의선구자로최근소셜피직스 (Social Physics) 란제목의책을저술했다. 지난여름그는빅데이터, 컴퓨터활용사회과학, 인공지능에대한인터뷰요청에친절하게응해줬다. 아래는그인터뷰중일부내용이다. 짐구즈카 (Jim Guszcza, 이하 JG): 교수님, MIT 에서당신의전임자인마빈민스키는 1950 년대인공지능분야의창시자중한명입니 다. 최근의 AI 발전에대해어떻게생각하십니까? 샌디펜틀랜드 (Sandy Petland, 이하 SP): AI에대한전반적인논란은다소과장된면이있습니다. AI가경제적으로대히트작이될것이라는점은분명합니다. 모든 AI는상관관계에기반하고있는데, 사람들이관심을가진모든유형의변동에대한사례들로시스템을조율하면, 여러사안들을해석할수있죠. 하지만, AI가완전히새로운상황을외삽법을통해추론하는사례는사실상없습니다. 그러한추론을위해서는무엇이진행되고있는지에대한인과관계를이해해야만하죠. JG: 그것이원래민스키교수가원했던것이죠, 그렇지않습니까? SP: 맞습니다. 마빈은 상식적추론 이라불리는개념을주장했습니다. 하지만기계가그러한것을수행한사례는실질적으로존재하지않습니다. 따라서, 기계는인간에대한보조자입니다. 사실사람은그러한추론을잘하는편입니다. 하지만, 정교한조율과정확한수량을기록하는데는좀형편없죠. 기계는그런일을잘합니다. 이러한점이인간-기계협력이가능하다는아이디어가탄생한배경입니다. 그리고이에대한사례도있죠. 중급실력의체스선수가중급성능의기계와함께최고의체스기계와최고의체스선수를꺾었습니다. 나는인간이전략을, 기계가전술을담당하는많은사례가등장할것으로믿습니다. 그리고이둘을결합하면세계를제패할수도있겠죠. Deloitte Review l www.deloittereview.com
인지적협동 23 JG: 이는인간을보다인간답게만들수있습니다. 예를들어, 의사가증상에근거해관련문서를찾도록 IBM 왓슨과같은정보검색시스 템을사용할수있죠. 의료영상판독에딥러닝을사용하면, 의료진은보다많은시간을환자와공감하고치료전략을수립하는데사용할 수있습니다. 원래, 민스키, 사이먼, 뉴웰은강인공지능 ( 일반인공지능 ) 을원했죠. 현재우리는약인공지능을가지고있습니다. 교수님께서는인공지 능연구가뉴웰과사이먼이원했던강인공지능연구로되돌아갈것이라보십니까? SP: 아니오, 저는그것이많은면에서실수였다고생각합니다. 아마도그것이전술적승리였을수도있겠죠. 하지만, 여러가지이유에서인간-기계시스템이더나은생각입니다. 한가지이유는이시스템이가지는보완적측면에있고, 또따른이유는이시스템이우리가그안에서삶을영위하는인간적시스템이되어야한다는점입니다. 그렇지않다면, 왜우리가인공지능을연구합니까? 빅데이터와 AI가가지는큰문제점중하나는어떻게인간적가치를중심에둘것인가하는점입니다. 만약에이를파트너관계로생각한다면, 이를달성할수있는자연스러운방법이있을것입니다. 만약 AI를인간의대체재로생각한다면, 결국온갖종류의악몽같은시나리오가펼쳐질것입니다 JG: 이러한점이그과정에인간을유지시키겠지요. SP: 하지만공생자관계인파트너로서의자격이지 - 단지조연으로만의자격은아닙니다. DR 제임스구스차 (James Guszcza) 는미국딜로이트컨설팅 LLP 의수석데이터과학자다. 하비루이스 (Harvey Lewis) 는딜로이트 MCS 유한회사의디렉터며영국의테크놀로지컨설팅사업부에서인지컴퓨팅분야를이끌고있다. 피터에반스 - 그린우드 (Peter Evans-Greenwood) 는오스트레일리아, 딜로이트센터포엣지의펠로우이며, 호주딜로이트컨설팅의지원을받고있다. www.deloittereview.com l Deloitte Review
24 인지적협동 Deloitte Review l www.deloittereview.com
인지적협동 25 www.deloittereview.com l Deloitte Review
26 인지적협동 Deloitte Review l www.deloittereview.com
인지적협동 27 www.deloittereview.com l Deloitte Review