36 FEATURE 다 함께 더 스마트해지기 다 함께 더 스마트해지기 왜 인공지능에 인간 중심적인 설계가 필요한가 지성의 광휘를 추구하던 자들은 계산하는 금속(컴퓨터)을 기반으로 이를 주조하려 노력하다가 잘못된 방향으로 이끌렸다. -테리 위노그라드(Terry Winograd)1 37
38 FEATURE 다함께더스마트해지기 39 인 공지능 (Artificial Intelligence, AI) 은우리시대의중대한사안으로부상해, 기업과사회를재형성하 기시작했다. 열광은당연하지만, 우려또한그러하다. 기업차원에서, 대규모 빅데이터 와 AI 프로젝트는결과를내는데자주실패한다. 문제의많은원인들이익숙하지만계속반복된다. 기술적인요소를어울리지않는전략적주제에꿰어맞추려하고, 가용한데이터가충분하다고과대평가하거나혹은사용가능한형태로데이터를정제하는어려움을과소평가하며, 알고리즘에기반한결과물이원하는사업적결과로이어지는지보장하는데충분한절차를취하지않는다. 사회적차원에서, 주요뉴스들이기술로인한실업문제로도배되고있다. 어디서나존재하는디지털기술에내장되는 AI 알고리즘이사회적편견을프로그램화하고, 음모론을퍼뜨리며가짜뉴스를널리알리고, 대중의의견을반향실마냥증폭시키며, 사람들의관심을빼앗고, 심지어정신적인행복을훼손 2 시킬수있음이점점더분명해지고있다. 효과적으로이러한문제에대응하려면 AI에대한현실적인개념이필요한데, AI는인간의사고능력을범용적으로능가하게될, 기하급수적으로발전중인떠오르는 인공적인정신 이라고너무나자주과장된다. 3 실제로는, 오늘날의 AI 애플리케이션은수십년동안개발되어왔던알고리즘과동일한부류의결과물이지만, 훨씬더강력한컴퓨터위에구현되었고더대규모의데이터집합으로훈련되었다. 이들은좁은의미에서 스마트 하지만, 인간과같은일반적인차원에서스마트하진않다. 기능적인측면에서, 이들을 사고하는기계 로바라보기보다는인간이더잘사고하도록도움을주는인지적보조기구로바라보는게바람직하다. 다시말해, AI 알고리즘은 정신적인도구 이지, 인공적인정신이아니다. 이는 AI의성공적인활용이빅데이터와강력한알고리즘이상의것에달려있음을의미한다. 인간중심적인설계또한필수적이다. AI의활용은반드시사용자의니즈와인간심리에대한현실적인개념을반영해야한다. 인간중심설계의선구자인돈노만 (Don Norman) 의말을바꾸어표현하면, AI는 인간의행위를사람들이그렇게되기를바라는대로가아닌, 있는그대로수용해야한다. 5 본고는스마트기술이인간최종사용자들의스마트한채 택을촉진하도록설계되지않으면스마트한결과를산출할가능성이낮아진다는개념을살펴본다. 많은사람들이매우총명한개인을팀에추가해도, 팀의유효성-팀의 집단적인 IQ -이감소하는언뜻보기에역설적인상황을경험해왔다. 비슷하게, 스마트 AI 기술도인간사회적맥락에서형편없이설계, 구현혹은적용된다면의도치않은결과를낳는다. 인간적, 조직적, 사회적요인이필수적이다. 인공지능프레임워크 AI를인간처럼사고하거나혹은인간두뇌의양상을모방하는기계라고간주하는모습은일반적이다 ( 이런오해의소지가높은시작점에대한논의를위해, 43쪽의삽입글 과거와현재의 AI 의의미 를참조 ). 아마도 AI에대한보다일반적인인식은다양한머신러닝기법과의동일시일것이다. 빅데이터에적용된머신러닝이자율주행차부터음성지원이가능한개인비서서비스에이르기까지강력한 AI 활용을가능하게한것은사실이다. 그러나모든유형의 AI가빅데이터에적용되는머신러닝과관계있진않다. AI의기능적인정의부터시작하는게좋겠다. 만약어떤프로그램이보통생각하기에인간의지성으로여겨지는뭔가를행한다면 AI로간주가능하다. 라고컴퓨터과학자인크리스해먼드 (Kris Hammond) 는썼다. 프로그램이어떻게이를수행하느냐는문제가아니고, 단지수행할수만있으면된다. 즉, 만일그것이스마트하다면, AI다, 그러나사람처럼스마트할필요는없다. 6 이확장된정의하에서, 수표의현금화나 HR 서식을자동으로채우는일처럼반복적이고, 명확하게정의된 로보틱프로세스 (robotic process) 같이컴퓨터를이용한자동화는 AI로간주된다. 예측적의사결정나무알고리즘을이용해응급실환자의우선순위를설정하는일과같은, 데이터과학상품의통찰력있는활용도마찬가지다. 각각의경우, 알고리즘은과거에는오로지인간만이수행했던과업을수행한다. 하지만어떤경우도인간지능의흉내가수반되지않고, 대규모데이터집합에대한머신러닝이적용되지않음은분명하다. 해먼드의정의와함께시작해, 자동화를위한 AI와인간증강을위한 AI를구별하는프레임워크를채택함이유용하다. 자동화를위한 AI AI는이제명시적및암묵적인간지식둘다와관계된과업의자동화를할수있다. 전자의 교과서적 지식은안내서와규정집으로문서화가능하다. 그러한지식을컴퓨터코드화해 RPA(Robotic Process Automation) 로구현하는작업이점점더실용적이되고있다. 즉소프트웨어 로봇 을만들어주소변경, 보험금청구, 병원청구서, HR 관련양식의작성과같은지루하고, 반복적이며, 오류가빈번하거나시간소모가많은작업을수행시킨다. RPA가낮은리스크와높은경제적수익이란혜택을향유하기때문에, AI를통해효율성과비용절감의달성을바라는조직의자연스런출발점이되는경우가많다. 이상적으로, 이는인간의귀중한시간을자유롭게만들어보다복잡하고, 의미있거나또는고객을대면하는업무에사용가능하게해준다. 암묵적인지식은 AI 자동화에영향받지않는듯이보일수있다. 이는자동적이고, 직관적인 노하우 (know-how) 로서작업을통해학습되며, 순전히공부나규칙을따라서는습득이불가능하다. 대부분의인간지식은암묵적지식이다. 간호사는아이가감기에걸렸는지직관적으로파악하고, 소방관은불타는건물이무너질지에대해육감으로느끼며, 데이터과학자는어떤변수가의심스러운대용관계를반영하는지를직감한다. 그러나인간의암묵적지식과연관된과업의자동화를위한 AI 활용의역량은빠르게발전중이다. 이에대한사례에는안면인식, 감정감지, 차량운전, 구어해석, 문장읽기, 보고서작성, 학생과제물평가, 심지어데이트짝짓기도포함된다. 많은경우에, 새로운유형의 AI는그러한과업을인간보다더정확하게수행가능하다. 이러한활용의초인적인우수성은컴퓨터가자신이하는무언가를 이해한다 는의미에서일종의인간적지능 을구현-혹은빠르게근접하는중-한다는결론에이끌리게만든다. 이는환상에불과하다. 알고리즘은 인간같은암묵적지식을보여주지만 오로지약한의미에서만그러하고무대뒤에서일하는수많은인간들의암묵적지식을부호화한데이터를이용해구성되었거나혹은훈련되었다. 머신러닝고리내의인간 이란용어는이과정을함축하기위해종종사용된다. 7 빅데이터와머신러닝이의미를포착하고전달할수있는알고리즘의창조를가능케하지만, 이는의미를이해하거나혹은고안하는것과는매우다르다. 이러한활용의초인적인우수성은컴퓨터가자신이하는무언가를 이해한다 는의미에서일종의인간적지능을구현 - 혹은빠르게근접하는중 - 한다는결론에이끌리게만든다. 이는환상에불과하다 자동화가인간의개입필요성을제거한다는점을고려할때, 왜자동화된 AI 시스템이인간중심적인설계를필요로할까? 몇가지이유가있다. 목표연관성. 데이터과학상품과 AI 애플리케이션은인간최종사용자의니즈를충족시키도록통찰력을담아설계될때가장가치있다. 예를들어, 검색엔진빙 (Bing) 에 폴란드의면적 이라고입력하면문자그대로의답변 (312,684 km 2 ) 이다음주석과함께나온다. 네바다주와거의동일한면적. 수치적인답변이보다정확성이높지만, 직관적인답변이보통더유용할수있다. 8 이는컴퓨터알고리즘관점에서의 최적 이반드시최종사용자의목적혹은심리학적인관점에서의 최적 과동일하지않다는광범위한시사점을보여주는전형적사례다. 넘겨주기. 많은 AI 시스템이긴시간동안 자동항행 상태로작동가능하지만, 상식이나맥락에대한이해가필요
40 FEATURE 다함께더스마트해지기 41 한예외적혹은애매한상황에서는인간의개입이필요하다. 인간중심적설계는이런컴퓨터에서인간으로 넘겨주기 가그래야만할때발생하고, 매끄럽게이뤄지도록보장하기위해필요하다. 만약넘겨주기가잘이뤄지지않으면어떻게 AI가 인공적인아둔함 을일으키는지보여주는소소한개인적경험을사례로들어본다. 최근에나는단지기본상식과지역에대한작은지식만을요구하는이동-한주요대로를운전해가는일-을위해택시를탔다. 하지만운전기사는스마트폰앱의안내를따르다가 ( 사실은잘못이해해서 ) 길을잃었다. 낮은확신수준 혹은 높은개입가능성 에대한경고기능이존재했다면기사로하여금알고리즘의안내를추종해상식적판단을억누르기보다자신의행동을재고해보도록은근히권고했을지모른다. 이는 자동화의역설 이라알려진일반적인문제를조명한다. 9 기술에더많이의존할수록, 기술이실패하는예외적인경우에사람들이통제를맡을준비를못하게된다. 이는골치아픈문제인데인간이반드시통제를담당해야하는상황은알고리즘이처리가능한상황보다더적지않은, 더많은기량을요구하기때문이다-그리고자동화기술은그러한시나리오에서필요한바로그기량을서서히약화시킨다. 그러한상황을처리하도록인간의기량을충분히생생하게유지하는일은기술이가능하게만든수준보다자동 기술은쉬운부분이다. 어려운부분은기술을둘러싼사회적그리고조직적구조의파악이다. 화에대한의존을축소하는상황을가끔수반하게된다. 다시말하지만, 기술적인관점에서좁은의미의 최적상태 는인간-컴퓨터시스템을위한 최적상태 와는다를수있다. 피드백고리. 자동화된알고리즘의사결정은훈련용데이터에있는바람직하지않은패턴을반영하고증폭시킨다. 최근의생생한사례로사용자들과의대화를통해세상을배우도록설계된챗봇 (chatbot) 테이 (Tay) 를들어보자. 장난꾼들이극도의인종차별적, 성차별적, 파시스트적 인표현을통해챗봇을가르친후 24시간이되지않아챗봇을작동중단시켜야만했다. 10 알고리즘이바람직하지못한사회적편견을반영하고증폭하는다른사례들은이제어디서나존재한다. 그런이유때문에, 챗봇과검색엔진의설계를단지속도와알고리즘차원의정확성뿐만아니라, 데이터안에부호화된사용자의행위와사회적편견까지반영해최적화해야한다는요구가많아졌다.11 심리적영향. 사용자의행동이알고리즘을손상시킬수있듯이, 알고리즘도그렇게사용자의행동을손상시킬수있다. 두가지심각한현대적문제가이를조명해보여준다. 첫째, AI로가능해진연예오락및소셜미디어활용방식이인간의행복을많은방식으로훼손시킴이점점더확실해지고있다. 사람들이강박적으로이메일을확인하느라잠을설치고직장에서산만해진다. 과도한소셜미디어사용은불행하다는감정및 뭔가를놓친다는두려움 과연결되어왔다. 그리고실리콘밸리의내부자들은사람들의정신이중독적인기술에 납치된다 며점점더우려한다. 12 둘째, 뉴스와댓글을공동으로걸러냄에따라의견이 거름으로인해과장 되고 인식론적으로검열된공동체 로이어진다는우려가늘고있다. 법학자캐스선스타인 (Cass Sunstein) 은최근출간한책 # 리퍼블릭 (#Republic) 에서이는집단의양극화를심화시키고잘기능하는민주주의의전제조건인, 이성적인숙고를훼손한다고주장한다. 그는소셜미디어의추천엔진에인간중심적인설계형식을반영해야한다고제안한다. 즉대안적뉴스기사와작은의견들을즉각적이고의도치않게접하면극단화와집단사고를방지하는데도움이된다는주장이다. 13 선스타인은이를관점의변화를일으키는의도치않은만남및발견에비유해설명하는데이는밀집되고, 다양성높으며, 도보생활권인도시환경에서의삶의특성이기도하다. 짧게말해, 기술적으로정교하고자동화된 AI 시스템을이에부합하는인간중심적설계에대한정교한접근법없이배치하면역효과가날수있다. 존실리브라운 (John Seely Brown) 이선견지명있게말했듯이, 기술은쉬운부 분이다. 어려운부분은기술을둘러싼사회적그리고조직적구조의파악이다. 14 하지만자동화는단지이야기의일부일뿐이다. 알고리즘은또한인간의인지역량을증강시키는데이용가능하다-시스템 1인 빠르게사고하기, 그리고시스템 2인 느리게사고하기 둘다를말이다. 일종의인간-컴퓨터공동지능의달성이가능한데-AI에대한인간중심적접근법을채택한다면그러하다. 느리게생각하기를증강시키는 AI 심리학자들은단순한알고리즘이의료진단부터가석방수의재범가능성추정, 야구선수스카우트, 보험리스크의인수와같은폭넓은예측업무에서전문가의판단을능가한다는점을오랫동안알고있었다. 이분야는 1954년에, 심리학자이자철학자인폴밀 (Paul Meehl) 의저서인 임상적대통계적예측 (Clinical Versus Statistical Prediction) 의출간과함께시작되었다. 젊은대니얼카너먼 (Daniel Kahneman) 은밀을영웅으로여겼는데, 그는 생각에관한생각 (Thinking, Fast and Slow) 15 의저자로, 아모스트버스키 (Amos Tversky) 와의공동작업에서인간의정신이증거를논리적으로평가하기보다, 직관적으로는일관성있지만예측적으로는의심스런서술에의존한다는놀라운경향을발견했다. 리차드탈러 (Richard Thaler) 와같은행동경제학자들은인간정신의이런체계적인특성이지속적으로비효율적인시장및비즈니스프로세스라는결과를낳는다고지적했는데이는알고리즘의지원을받는의사결정의사용을통해합리적교정이가능하다-즉 머니볼 (Moneyball) 을실행 하는것이다. 16 안경이근시안을교정하듯이, 데이터와알고리즘은인지적근시안을교정한다. 밀과카너먼의작업은많은경우에, 의사결정의자동화를위해서알고리즘을이용해야한다고시사한다. 지나치게자신만만한인간은적정선을넘어예측적알고리즘을무시하는경향이있다. 17 따라서가능할경우, 알고리즘의설계에는인간의판단을채택하고, 하나하나의의사결정에대해서는인간을배제하는방식이최선이다. 그러나이는항상가능하지않다. 예를들어, 절차상공정성은가석방을결정하는심사원을재범예측알고리즘의기계적산출물로 대체하는방안을받아들일수없음을시사한다. 두번째문제는본질적으로지식과관련된다. 복잡한의료진단, 드문보험리스크의인수, 중요한채용결정등과같은많은의사결정은충분히안정적인예측적알고리즘의개발을가능케해주는충분히풍부한과거데이터와는인연이없다. 이런경우, 불완전한알고리즘을의사결정의자동화가아닌, 인간의의사결정을증강하고개선하기위한기준점을산출하는데사용가능하다. 이것이어떻게작동할수있는가? 체스의세계에서시사점이큰사례가나왔다. IBM 딥블루 (Deep Blue) 가세계체스챔피언개리카스파로프 (Garry Kasparov) 를꺾은후몇년뒤에, 자유형체스 대회가열렸는데, 인간과컴퓨터체스선수의어떤조합으로도경쟁이가능했다. 대회는카스파로프가다음과같이설명한예상치못한승리로끝났다. 우승자는최신의 PC와함께한그랜드마스터가아니라세대의컴퓨터를동시에이용한아마추어체스선수들한쌍임이밝혀졌다. 판세를깊게들여다보도록컴퓨터를조작하고 지도 하는그들의기술은상대방인그랜드마스터의우월한체스에대한이해와다른참가자들의더강력한연산능력에효과적으로대응했다. 약한인간 + 기계 + 더나은프로세스의조합은강력한컴퓨터혼자그리고, 보다인상깊게는, 강한인간 + 기계 + 더열등한프로세스의조합보다뛰어났다 인간의전략적지도와결합된컴퓨터의전술적예리함은압도적이었다. 18 약한인간 + 기계 + 더나은프로세스가강한인간 + 기계 + 더열등한프로세스를능가한다는이발상은 카스파로프의법칙 이라불린다. 필연적인결과는전문가판단의개선을목적으로한알고리즘의개발과배치를위해사용자중심의설계가필요하다는점이다. 선수에맞게설계된자전거를가지고이를사용하도록훈련받은선수가더나은성적을내듯이, 전문가의니즈를염두에두고만들어진알고리즘을가진, 그리고그사용을훈련받은전문가가더나은의사결정을한다. 19 그런점에서, 인간중심적인 AI 알고리즘은의사결정자가결론에도달할때저울질하곤하는정보, 목적, 제약조
42 FEATURE 다함께더스마트해지기 43 건을충실하게반영해야한다. 데이터는특정분야의규격화된관점에서분석되어야하고, 데이터를산출한프로세스를이해해야하며, 알고리즘의설계에사용될환경의현실을예상해반영해야하고, 또한사회적으로곤란한예측변수를피해야만하며, 동료의검토를받거나감사를통해원치않은편향이부주의하게스며들지않았음을보장받아야하고, 특정한알고리즘적인지표가왜존재하고그것이무엇인지설명하는 왜 에관한설명 ( 이상적으로는직관적인언어로표현된 ) 과신뢰수준의측정치가동반되어야한다. 예를들어, 왜그지표가존재하는지그것이무엇인지에대한근거를조사할수없다면사람들은심각한질환의존재가능성을나타내는블랙박스방식의알고리즘을받아들이려하지않을터이다. 그러나심지어이러한류의알고리즘설계검토조차도불충분하다. 전반적인의사결정환경-알고리즘과인간의사결정자를모두포함하는-도반드시유사하게잘설계되어야한다. 자유형체스의승자가체스와체스프로그램에대해매우익숙하고경험이많아서우승했듯이, 알고리즘최종사용자는도구의효과적인사용을위해충분히상세하게이해를해야한다. 따라서알고리즘의가정, 한계, 데이터특성이명확하게문서와정보의시각화를통해소통되어야한다. 추가로, 예측을처방으로변환하고언제그리고어떻게최종사용자가알고리즘을기각하거나혹은알고리즘의권고를다른정보로보완할지를제안하는지침과업무규정을제정해야한다. 또한최종사용자는보다통계학자처럼, 느리게생각하도록 훈련이가능하다. 심리학자필립테틀락 (Philip Tetlock) 과바버라멜러스 (Barbara Mellors) 는의사결정자들에게인지적편향의회피와확률적추론을훈련시키면예측능력이개선됨을발견했다. 20 정확한알고리즘의구축만으로는부족하다. 사용자중심의설계또한필수적이다. 3D: 빠르게생각하기의증강을위한데이터 (Data), 디지털 (Digital), 디자인 (Design) 경제적가치는 AI 알고리즘이아니라, 인간환경에적절하게설계되고, 조정된, AI 알고리즘으로부터나온다. 예를들어, 예측적알고리즘의 최종단계문제 를고려해보자. 어떤알고리즘도결과를추진하기위해이에기반한적절 한행동이이뤄지지않으면경제적가치를산출하지못한다. 이는당연한말이긴하지만, 또한조직이잘못하기매우쉬운일중하나다. 최근한연구결과는 빅데이터 프로젝트의 60% 가운용가능상태에도달하는데실패한다고추정했다. 21 모델의운용가능화성공에대한좋은사례로뉴욕시의모든건물을위험도의순서로정렬하는데사용되는예측적알고리즘이있다. 알고리즘배치전에는, 대략건물안전진단의 10% 가퇴거명령으로이어졌다. 배치후에는, 그수치가 70% 로상승했다. 22 이는앞장에서논의한것과같이, 시스템 2 의사결정을개선하는데예측적애널리틱스가이용됨을보여주는고전적사례다. 여전히더많은가치를행동경제학자들이선택설계 (choice architecture) 라부르는, 넛지 (nudge) 라고알려진개념의활용을통해도출할수있다. 23 애매하거나시당국의한정된안전검사관의방문필요가확실할정도로 ( 아직 ) 위험하지않은리스크를생각해보자. 그러한낮은수준의리스크는 자가치유 되도록유도가가능한데, 예를들어, 무작위대조시험을통해현장에서검증되고최적화된넛지편지를이용하는방법이있다. 비슷하게 최악은밀어내고, 나머지는넛지하는 전략을비위생적인식당, 비효율적인프로그램, 안전하지않은작업장, 낭비, 부정, 남용혹은비용또는세금규정위반을파악하기위해설계된알고리즘에도입할수있다. 특정한경우, 선택설계의적용이 AI 프로젝트의경제적성공과사회적수용을위해필수적이다. 예를들어, 뉴멕시코주정부는과도한실업급여혜택을부정하게받고있을가능성이상대적으로높은실업급여수령자를적발하기위해설계된머신러닝알고리즘을최근채택했다. 상대적 이란말이중요하다. 가장점수가높은경우가평균점수인경우보다부당한실업급여혜택을받고있을가능성이많이높기는하지만, 대부분은 ( 필연적으로 ) 긍정오류 (false positive) 일뿐이다. 이반직관적인결과는 긍정오류의역설 로알려져있다. 24 중요한시사점은그저알고리즘을이용해지급을중단하면실제로도움이필요한많은시민들에게해를끼친다는점이다. 이런단순한전략을채택하기보다, 주정부는실업급여수령자의주1회인증작업컴퓨터화면에몇가지넛지팝업메시지를띄우는현장실험을수행했다. 가장효과적인메시지는부정수급을절반으로줄였는데, 이는수령자들에게 < 당신의지역 > 에서 100명중 99명이매주수익을정확히보고합니다. 라고공지한다. 25 기가익숙한사례다. 저명한행동학적건강전문가는그러따라서선택설계의인간중심적인속성은 AI의활용한기기가보다건강한행동의촉진자-추진자가아니라-임이바로경제적혜택이되고사회에도움이되도록만들수을지적했다. 31 이런웨어러블기기를사용해단순히데이있다. 26 게다가, 빅데이터와편재적디지털기술의우리시터를수집하고정보보고서를산출한다고대부분의사람들대는선택설계를위한사례가그어느때보다많다. 대규이행동을바꿔끝까지해내도록자극하진못한다. 보다유모인구의상세한행동데이터가점점더개별사례에적합망한전략은웨어러블로수집된데이터를이용해동료와의한개인화된개입을가능하게만든다. 언제어디서나존재비교결과, 헌신계약, 게임화개입, 습관형성프로그램과하는디지털기술에선택설계를더낫게가미하면몰입과같은넛지전술의목표를설정하고, 알려주며, 개인화해주결과물모두의개선이가능해진다. 건강관련웨어러블기는방법이다. 32 과거와현재 AI 의의미 AI 라는용어가성대한귀환을이루긴했지만, 이용어는창시자들의의도와는상당히다른무언가를의미하게되었다. 오늘날의 AI 기술은일반적인지능적사고기계가아니다. 이는인간이더나은사고를하도록돕는응용프로그램이다. 인공지능분야의기원은특정한장소와시점으로거슬러올라간다. 1956년여름다트머스대학교 (Dartmouth University) 에서열린학회가그것이다. 학회는존매카시 (John McCarthy) 가소집했었는데, 그는 인공지능 이란용어를고안해이를 세상에서목표를달성하는능력을갖춘 기계를창조하는과학이라고정의했다. 27 매카시의정의는여전히매우유용하다. 그러나학회참석자들-마빈민스키 (Marvin Minsky), 앨런뉴웰 (Alan Newell), 클로드섀넌 (Claude Shannon), 허버트사이먼 (Herbert Simon) 과같은전설적인인물들이포함된-은보다훨씬야심찬목표를열망했다. 인간사고와언어의완전한형태를컴퓨터기술로구현하는것이었다. 다시말해, 그들은인간의일반적인지능을본뜬, 강인공지능 (general artificial intelligence) 을구현하길원했다. 그들의제의는다음과같다. 학습의모든측면혹은지능의다른모든특성들은이론상매우정확하게기술가능하므로이를시뮬레이션하는기계를제작할수있다는추론하에연구를진행한다. 어떻게하면기계가언어를사용하고, 추상적개념을형성하며, 지금은인간만이가능한문제를풀고, 스스로를개선할수있는지밝히기위한시도가이뤄질것이다. 28 제의는계속해서다음과같이선언한다, 우리는만약주의깊게선정된과학자집단이여름동안작업을하면이들문제중하나또는그이상에대해상당한진보가이뤄지리라고생각한다. 지나고나서보면이런낙관주의는깜짝놀랄만하다. 그러나선언문작성자들이 B.F 스키너 (Skinner) 의행동주의심리학과논리적실증주의철학사조의전성기에있었다는점을감안해야한다. 이런지적분위기에서는, 인간사고가궁극적으로일종의논리적계산이라고자연스럽게가정하게되었다. 논리적으로완벽한언어로지식을부호화하는어려움과인간심리두가지모두에대한우리의이해는 1950년대이후크게발전해왔다. 민스키가추후에아서 C. 클라크 (Arthur C. Clarke) 의소설 2001: 스페이스오딧세이 (2001: A Space Odyssey) 를영화화하는과정에서스탠리큐브릭 (Stanley Kubrick) 감독에게조언한내용은역사적주석으로남게된다. 그소설에서가장기억에남는캐릭터는 HAL으로-개념적인사고, 상식적추론, 매끄러운인간언어의구사가가능한지적인기계다. 민스키와다른다트머스학회참가자들은그렇게일반적인인공지능컴퓨터가 2001년까지가용해지리라믿었다. 오늘날, AI는일련의기술들의집합을가리키는데, 매카시의원래정의를다른말로바꿔표현해, 이들기술은과거에는오직 ( 계속 ) >
44 FEATURE 다함께더스마트해지기 45 과거와현재 AI 의의미 ( 계속 ) 인간만이할수있던특정과업들을더뛰어나게수행한다. 비록논평가들이딥페이스 (DeepFace) 안면인식시스템혹은딥마인드 (DeepMind) 의알파고 (AlphaGo) 와같은기술을 인간두뇌를본떠만든 혹은 인간처럼생각한다 고흔히말하곤하지만, 그러한발언은사실을오도한다. 분명한점은오늘날의 AI 기술-그리고가까운미래에이뤄지리라보이는모든사항들-이약인공지능개별솔루션이란점이다. 자동차운전을위해설계된알고리즘은환자진단에는쓸모가없고, 반대도마찬가지다. 간의간극을줄이는데도움을줄수있다. 마지막말을개리카스파로프에게맡기는게적절할텐데, 그의최근저서인 깊은사고 (Deep Thinking) 에서발췌한내용은다음과같다. 많은일자리들이계속해서지능적인자동화에밀려사라질것이다. 그러나당신이만약오랫동안흥 할분야를찾고있다면, 참여할분야는인간-기계협력과프로세스구조및설계다. 비유적으로그리고문자그대로, 마지막단어는 설계 다. 게다가, 그러한응용프로그램은 ( 초인적인 ) 인간사고를구현하는컴퓨터에대한대중적인상상과는거리가멀다. 예를들어, 딥러닝신경망알고리즘은엑스레이사진에서종양을파악하고, 사진에영어문구로꼬리표를붙이며, 동물의종을구별하고, 제임스구스차 (James Guszcza) 는딜로이트컨설팅 US 의수석데이터과학자로캘리포니아산타모니카에기반을 두고있다. 정말로웃는사람과그런척하는사람들을구분한다-종종사람보다더정확하게말이다. 29 그러나이는 종양, 핀셔 ( 역주-견종의하나 ), 웃음 과같은개념의알고리즘적인표현과는관련이없다. 그보다, 딥러닝신경망알고리즘모델은이미인간이꼬리표를붙인대량의디지털화된사진을기반으로훈련된다. 30 그런모델은정신을모방하거나두뇌를흉내내지않는다. 이들은예측모델-회귀모델과유사한-로서보통수백만건의예제로훈련되고수백만개의해석불가능한매개변수를포함한다. 그기술은지금까지는오직인간만이수행했었던과업의수행이가능하다. 그러나이는인간두뇌의모방이나인간정신을흉 내낸결과가아니다. 그러한데이터기반의 AI 활용이막대한실용성과경제적잠재력을가지긴하나, 맥락인식, 인과관계이해, 상식적추론역량이결여되었다는점에서 융통성 이없다. 중요한시사점은인공지능을 블랙스완 시나리오혹은그들이훈련받은상황과매우다른환경에서의존하기가불가능하다는점이다. 미국소비자들에관한데이터로훈련된신용평점알고리즘은다른나라에서온이민자들에대해신뢰할만한평점을산출하지못하고, 팔로알토 (Palo Alto) 에서훈련된자율주행차는폰디체리 (Pondicherry) 에서도꼭잘작동하지는못할가능성이크다. Deloitte.com/insights에서더읽어보기움직일시간이다 : 인지기술에대한관심에서도입으로 인지기술의도입에있어, 일부선도적기업들은시험프로젝트단계에서생산활용단계로빠르게나아가고있다. 옆에서지켜보는이들또한이일련의인상적인기술에대한관심에서도입으로나아가야한다. Deloitte.com/insights/time-to-move 이는 3D 라불릴일반원칙을조명한다. 데이터 (Data) 와디지털 (Digital) 기술은촉진자다. 심리적인정보가반영된디자인 (Design) 또한더나은몰입과결과를추진하는데필요하다. 3D 사고는혁신적인제품과사업모델을가능하게해준다. 예를들어, 사물인터넷에연결된차량으로부터나오는텔레매틱스데이터를고려해보라. 보험사들은보다정확하게개인및영업용자동차보험계약의보험료를산정하기위해이미이를사용중이다. 이데이터는또한손실방지를촉진하는데도사용가능하다. 젊은남성운전자가만일운전습관의개선을위해데이터로생성된처방을준수한다면비싼자동차보험료를감면받을수있다. 선택설계는추가적인발상도가능하게해준다. 넛지를위한또래집단과의비교결과뿐아니라도움되 는팁도실린데이터가풍부한정기보고서를자동적으로산출하기위해자연어생성도구를이용하는방안이그것이다. 예를들어, 운전자의고속도로운전행태가대부분의또래집단보다위험하다는정보의전달은안전한운전을촉진하는매우효과적이고, 저렴한수단이될수있다. 이러한전략은보험사가상품중심적인태도를줄이고보다고객중심적인태도를취하게만들어, 기업, 보험가입자, 사회전체에혜택을준다. 자동화혹은인간의증강을의도하건간에, 만약사용자의니즈와정신적인요소를고려한다면 AI 시스템이경제적인혜택을창출하고사회적으로받아들여질가능성이더높아진다. 설계는더나은인간-컴퓨터협력방식을가능케함으로써 AI 알고리즘의산출물과개선된결과물