가+ 3/11/2016 알파고의 기묘한... :: 네이버 뉴스 알파고의 기묘한 한 수, 묻지도 따지지도 못하는 세상? 기사입력 2016.03.11 오후 11:57 본문듣기 32 20 이세돌 인공지능 대결이 던진 근본적인 질문 [오마이뉴스 글:김하영, 편집:박정훈] 10일 오후 서울 포시즌스호텔에서 열린 이세돌 9단과 알파고의 두번째 대국에서 아마 6단인 아자 황 구글 딥마인드 리서치 사이언티스트(왼쪽)가 알파고 대신 흑돌을 놓고 있다. c 구글 제공 이세돌과 알파고의 대결이 화제입니다. 아마 이 이벤트 자체에 관심이 없는 분은 드물 것이라고 생각합니다. 다만 어떤 분은 기계가 인간을 넘었다는 것에 굉장히 민감해하 고, 어떤 분은 '이기든 지든 그것이 왜 중요한가'와 같은 반응을 보이는 등, 그에 대한 사 람들의 생각은 무척 다양한 듯합니다. http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 1/15
체스가 그랬듯, 언젠간 바둑에서도 기계가 인간을 넘을 날이 올 것이라고 생각했기 때 문에, 승패 자체가 놀라울지언정 큰 충격은 아닐 것이라 생각했습니다. 그러나 오늘의 대국을 보고는 너무나도 큰 충격을 받아서, 꼭 이 이야기에 대하여 (주변의 관심 있는 사람들과) 의견을 나눠보고 싶었습니다. 이 글은 마침 페이스북에서 보게 된 '승패가 무엇이 대수인가, 계산기가 인간보다 계산 을 잘하지 않나'라는 취지의 글에 대한 반론이기도 합니다. 저는 오늘의 대국을 보고 그 와 정반대되는 입장을 갖게 되었습니다. 대국의 승패는 정말 중요하다고 생각합니다. 왜냐하면 이것은 단순히 누가 더 뛰어난가의 관점을 떠나서, 세상을 어떻게 바라볼 것 인가, 심지어는 앞으로 우리의 미래가 어떻게 될 것인가와 직접적으로 연관이 있는 문 제라고 보기 때문입니다. 이와 관련한 설명을 해볼까 합니다. 바둑을 잘 두지는 못하지만, 제가 아는 선에서 대국을 설명하면서, 이 대국이 갖고 있 는 함의를 이야기하겠습니다. 어쩌면 제가 바둑을 잘 두지 못하기 때문에 바둑을 모르 는 분들의 눈높이에 맞는 설명을 할 수 있지 않을까 싶기도 합니다. 아마추어도 안 두는 수를... 알파고는 왜? 제가 충격을 받은 장면은 크게 세 곳이었습니다. 첫 번째는 참고도 1~3까지의 기보입니다. 알파고가 흑을 잡았고 이세돌이 백을 잡았습 니다. 첫 번째 기보의 13번 착수가 문제였습니다. 우하( 右 下 )귀에서 12까지 진행되자 알파고는 돌연 상변의 13에 착수를 했습니다. 이것이 충격적이었던 이유는, 다음 두 번 째 기보가 지금까지 2000여 년 동안 인간이 바둑을 두면서 발전시켜왔던 이론에서 가 르치는 수이기 때문입니다. http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 2/15
첫 번째 기보 http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 3/15
두 번째 기보 물론 그 위치가 한두 칸씩 달라질 수도 있고, (상대가 꼭 받아줘야 할) 다른 곳을 먼저 둔 뒤에 그렇게 둘 수도 있지만, 어찌 되었든 인간의 상식과 이론에서는 두 번째 기보의 하변의 1 근처의 자리는 거의 절대적인 자리입니다. 그 이유는, 세 번째 기보를 보면 알 수 있습니다. http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 4/15
세 번째 기보 저 자리에 백1이 오는 순간, 우하귀 쪽에 있는 흑 석점의 운신이 무척 곤란해지며, 동시 에 좌하( 左 下 )귀부터 하변까지 백의 세력권이 형성됩니다. 누가 그쪽을 차지하느냐에 따라서 그 부분의 집을 누가 가져가게 되느냐는 물론이거니와, 어느 한쪽의 돌들의 생 사를 보장하느냐 마느냐까지 걸려있을 수 있습니다. 그렇기에 첫번째 기보에서 13에 두었다는 것은, 그 모든 것을 감수하고라도 13자리가 더 큰 자리라는 판단인 것입니다. 다시 말하자면, 지금까지 인간이 발전시켜온 평가체계가 완전히 틀렸을수도 있음을 암 시하는 장면이었습니다. 두 번째는 참고도 4~5의 기보입니다. 더 놀라운 수는 15였습니다. 백이 4와 12로 한 칸 뛴 자리를 들여다보는 것. 이것은 지금까지 우리의 상식 속에서는 대악수( 大 惡 手 )로 평 http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 5/15
가하여, 아마추어조차 절대 두지 않을 법한 자리입니다. 왜냐하면 실전처럼 백이 16으 로 받는 순간, 우하귀의 백집이 단단하게 굳혀지는 반면 흑의 입장에서는 얻는 것이 전 혀 없기 때문입니다. 네 번째 기보 http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 6/15
다섯 번째 기보 심지어 저 자리를 들여다보지 않았더라면, 나중에 우변 쪽에 흑돌이 얼마나 쌓이느냐에 따라서 위쪽이 아닌 아래쪽으로 들여다보거나 과감하게 귀에 침투할 수도 있는 자리입 니다. 그래서 그런 '가능성'과 '권리'를 없애면서 상대에게 집까지 만들어주고, 본인은 별로 한 게 없는 15와 같은 자리는 특별하거나 불가피한 일부 상황을 제외하고는 금기 와도 같습니다. 그런데 초반부터 알파고가 이런 수를 둔 것입니다. 지금과 같이 흑 13에 백이 14로 받 은 상황이라면, 저기를 들여다보는 것이 '충분히 가치 있기 때문'이라는 판단이 섰기 때 문일 것입니다. 이것은 인간의 계산으로는 도저히 이해되지 않는 장면입니다. 세 번째는, 그런 당황스러운 수의 하이라이트와도 같았던, 첨부한 참고도 6~8에서의 기 http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 7/15
보 중 흑 37의 자리였습니다. 이 자리가 왜 놀라운 수인지는 일곱 번째 기보를 보면 됩 니다. 저 자리에 대하여 백이 1로 받는 순간, 우변부터 우하귀까지 일대에 거대한 백집 이 형성됩니다. 침투의 가능성이 없지는 않지만, 주변의 백 돌들이 많이, 그리고 단단하게 에워싸고 있 기 때문에 쉽지는 않습니다. 그리고 오히려 흑 37의 자리로 마지막 기보의 흑1과 같은 자리를 두었다면, 우변의 백집을 없애는 것은 물론 우상 쪽의 백에 대한 은근한 압박을 가할 수도 있습니다. 여섯 번째 기보 http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 8/15
일곱 번째 기보 http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 9/15
여덟 번째 기보 바둑 격언에 '상대방의 돌을 4선에서 밀어주지 말라'는 것이 있습니다. 3선에서 밀어주 면 고작 두 줄짜리 집이 생기므로 5번 밀어줘도 10집에 불과하지만, 4선에서 그렇게 되 면 같은 숫자만큼 밀어도 15집이 생기기 때문입니다. 그러나 밀어주고 집을 내어줌으 로 인해서 생기는 본인의 '두터움'에는 큰 차이가 없습니다. 따라서 4선을 밀어주는 것은 금기시되는 일이고, 37과 같은 수는 특수한 상황을 제외하 고는 두지 않습니다. 그러나 알파고는 당당하게 37을 두었습니다. 더 놀라운 것은, 37 을 두고 보니 이상하다고 여겨졌던 두 번째의 흑15와 상당히 어울렸다는 점입니다. 그 렇다면 알파고는 37을 내다보고 15까지 둔 것인지 의심스러워집니다. 그러나 알파고가 왜 이렇게 두었는지는 전혀 알 수 없습니다. http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 10/15
그리고 37을 내다보았다는 것도 말이 안 되는 이유가, 이세돌이 32, 34, 36을 다른 자리 에(가령, 상변 내지는 흑 35가 위치한 방향의 어딘가) 두었더라면 37이라는 수가 나올 이유가 없었으므로, 이것은 알파고의 '계산' 영역에 들어가지 않기 때문입니다. 사실 순수하게 바둑의 측면으로만 바라보면, 위의 세 착수에 대한 순서들에 대해서 더 논의할 이야기들이 많겠지만, 위의 수들이 왜 파격인가에 대한 이해를 돕기 위한 설명 이상의 의미를 지니지는 않기에 그런 깊은 이야기까지는 하지 않으려 합니다. 승리의 원인이 무엇인지 알 수 없다 첫째 날(10일)의 대국은 비교적 놀랍고 의문스러운 수들이 없었던 데 반하여, 둘째 날 (11일)은 이런 파격이 초반부터 세 차례나 등장했습니다. 그러나 대국은 여전히, 알파 고의 승리였습니다. 이것이 충격적인 이유는 단순히 우리의 예상을 벗어나는 수이기 때문이 아닙니다. 오히 려, 우리의 예상에 벗어난 수를 두고도, 심지어는 전통적으로 두어서는 안 되는 자리를 두고도 결국에는 '이겼기' 때문입니다. 문제는 여기에서부터 시작됩니다. 과연 알파고 가 두었던 13, 15, 37의 수들은 어떻게 평가받아야 하고, 어떻게 이해해야 할까요? 바 둑이라는 스포츠에서 매 착수의 목적은 결국 이기기 위함입니다. 그렇다면 13, 15, 37과 같은 수들을 두고 알파고가 이겼다면, 해당 수들이 결국 '잘 둔' 수들이고, 우리의 지금까지의 모든 바둑이론과 체계가 사실은 틀렸다는 것을 의미할까 요? 아니면 사실은 알파고가 아직 한계가 있다 보니 좋지 않은 수들을 두기는 했는데, 다른 측면에서 실수 없이 꾸준히 좋은 수들을 두었기 때문에 이겼던 것일까요? 우리의 지금 까지의 평가 기준이 문제가 있었던 것은 아닐까요? 어쩌면, 우리가 발전시킨 '논리적 사고의 체계' 자체가 잘못된 것에 바탕을 두고 있는 것은 아닐까요? 애초에 '좋은 수'라 는 것은 무엇일까요? 더 중요하고 심각한 것은, 이러한 질문들은 답을 얻을 수 없는 질문이라는 점입니다. 다 시 말해서, 우리는 컴퓨터가 왜 그런 수를 두었는지 알 길이 없습니다. 사람이라면 'A에 두면 ~~~가 될 것이므로 좋지 않고, B에 두면 #!@가 되기 때문에 좋지 않다. 반면 C는 #$@#!라는 점에서 가능한 옵션이고 D는 @#$%@이기 때문에 둘만 하다'와 같이, 상황 별로 주변 돌들과의 형태를 고려해가면서 착수마다 구체적인 이유를 듭니다. http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 11/15
그것이 묘수이건 착각으로 인한 실수이건 말입니다. 그러나 알파고는 그런 것이 없습니 다. 그냥 '거기가 확률적으로 이기기 가장 높다고 계산되었으니까'입니다. 그렇다면 그 확률은 어떻게 계산되는 것인가요? 모릅니다. 왜냐하면, 알파고의 알고리즘 자체가 그 렇기 때문입니다(이와 관련해서는 네이처에 실린 알파고에 관한 논문을 읽어보면 자세 히 알 수 있습니다). 어떤 근거로 착점들에 대한 세부적인 평가가 이뤄지는지는 우리가 전혀 알 수 없습니 다. 다만 '어떤 이유인지는 모르겠지만 하여튼, 컴퓨터가 계산해보니 거기가 가장 승리 확률이 높은 자리였다'일 뿐입니다. '승착', '패착'이라는 것을 구분할 수 있다는 것은, 어떤 착수에 의해서 그 판을 이겼다 졌 다와 같은 인과관계가 존재한다는 의미입니다. 그러나 알파고와 같은 시스템에서는, 승 착과 패착을 구분할 수 없습니다. 다시 말하자면, 이 수를 뒀기 때문에 이긴 것인지, 이 겼기 때문에 이 수가 적절한 수였던 것인지 구분할 수 없다는 의미입니다. 우리는 컴퓨터를 얼마나 신뢰할 수 있을까? 이렇게 이유에 대한 답을 얻을 수 없는 것이 심각한 이유는 크게 두 가지가 있습니다. 첫째로, 이것은 '발전 가능성이 없는 답'입니다. 이를테면 바둑을 지면, 왜 졌는지, 어디 에서 잘못이 있었는지, 그 패인을 분석해보고 그에 대한 보완을 하는 과정에서 바둑의 실력이 늡니다. 그리고 그 과정은 복기를 통하여 이뤄집니다. 그러나 알파고와는 복기를 할 수가 없습니다. 심지어는 똑같은 배석 상황에서 반드시 그 똑같은 수를 둘지도 장담할 수 없습니다. 우리는 졌지만 왜 졌는지를 도저히 알 수 없습니다. 그렇다면 어떻게 하면 이길 수 있는지를 찾는 것도 매우 어렵습니다. 그래서 만약, 인공지능에게 다른 일을 맡겼는데 인공지능이 답을 준다면, 우리는 그것이 답이 라는 것을 알 뿐 그 답을 도출하는 과정을 이해해낼 수 없을 것입니다. 여기에서부터 가장 심각한 이유가 도출됩니다. 바로 신뢰에 관한 문제입니다. 컴퓨터에 입력해서 답을 얻었다고 한다면, 우리가 그것을 신뢰할 수 있을까요? 만약 그렇다면 어 떻게 신뢰할 수 있을까요? 그 답이 틀렸을 가능성은 없는 것일까요? 평가를 어떻게 해 야 할까요? 허황된 이야기 같지만, 당장 우리는 계산기에 3578에 2642를 곱하면 9453076이 나오 http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 12/15
는 것을 아무런 의심 없이 받아들입니다. 그리고 만약 우리가 손으로 계산해본 결과가 계산기와 다르게 나왔다면, 계산기를 탓하지 않고 우리의 계산을 의심합니다. 기계가 계산을 틀렸다고 전혀 생각하지 않기 때문입니다. 그런데 저 정도의 간단한 숫자에 대해서는 우리가 직접 검증을 할 수 있지만, '1000!'과 같은 말도 안 되게 커지는 숫자에 대해서는 계산기가 계산한 값을 그대로 믿습니다. 그 런데 이게 혁명적이었던 이유는, 만약 200년 전으로 돌아가서 똑같이 사람들 앞에서 계 산기를 두드려서 보여줬다면 믿을 사람이 별로 없었을 것이라는 점입니다. 그냥 네모나 게 생긴 기계에 숫자를 두 개 넣었더니 갑자기 다른 숫자가 나오는데, 검산하지 않고 의 심없이 신뢰할 사람이 있었을까요? 그러나 우리는 그렇게 하고 있습니다. 그래서 심지어는 최첨단 물리학/수학 이론들을 연구하는 과정에서도, 컴퓨터에 계산을 하고 시뮬레이션을 한 결과 값을 의심 없이 받 아들여 그를 바탕으로 학문체계를 구축해나가는 수준까지 신뢰를 하고 있습니다. 그런 데 기계가 이제는 바둑의 영역으로 들어와서, 심지어는 법률적 판단과 같은 다른 종류 의 영역으로 들어와서 답을 낸다면, 우리는 어떻게 그것을 신뢰할 수 있을까요? 수학적 계산이나 시뮬레이션은 시간이 걸리겠지만 검증이라도 가능한 분야입니다. 그 런데 심지어는 우리 일상생활에서 논리적인 판단을 해야 하는 영역까지 컴퓨터가 한다 면, 그리고 그 이유에 대해서는 알파고처럼 설명할 수 없이, '돌려보니 그렇게 되더라'라 고 한다면, 우리는 이것을 신뢰해야 할까요? 신뢰한다면 그 이유가 무엇인지 모르고 도 순순히 승복할 수 있을까요? 만약 컴퓨터가 실수를 한 것인데 우리가 몰라서 잘못된 길로 간다면 어떻게 하나요? 그 렇다고 무작정 컴퓨터의 판단에 반대할 수도 없을 겁니다. 컴퓨터가 우리보다 판단능력 이 더 뛰어나다는 것을 모두가 알고 있는데 말입니다. 그리고 어차피 인간도 실수하고 더 잘못된 판단을 내릴 수도 있는데 말이죠. 인공지능과 함께 하는 미래, 고민해봐야 이것이 이번 알파고와 이세돌의 대국을 단순한 게임 한 판으로만 보아서는 안 되는 이 유입니다. 형식은 승패의 차이로 갈리겠지만, 결국 이것은 우리가 기계를 얼마나 신뢰 하고 우리의 일들을 맡길 수 있느냐에 대한 시사점을 직접적으로 던져주는 문제라고 생 각합니다. http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 13/15
어떻게 본다면 '신뢰를 택할 것이냐, 능력을 택할 것이냐'와 같은 가치선택의 문제로 바 라봐야 할 문제입니다. 지금 당장은 알파고가 우리의 삶에서 판단을 내려줄 수는 없겠 지만, 시간이 지날수록 인공지능은 더 발전할 것이고, 우리는 많은 부분을 인공지능에 게 맡기고 의존하는 방향으로 점차 나아갈 것이기 때문입니다. 저는 이세돌을 응원하기는 하지만(정말 좋아하는 기사이니까요), 이번 대국에서 '인간 이 기계를 이겼으면 좋겠다'와 같은 '인종주의적' 사고를 하고 있지는 않습니다. 자존심 싸움은 무의미합니다. 어차피 계산과 논리적 사고의 영역에서는 인간이 기계를 절대 이 길 수가 없다는 것을 알기 때문입니다. 다만 이것을 보면서 단순히 인간과 기계의 '지능대결'이라고 볼 것이 아니라, 이제는 신 뢰의 영역, 가치의 영역에서 이 문제를 바라봐야 한다고 생각합니다. 어쩌면 이제는 인 공지능과 함께하는 사회를 어떻게 구성하고, 판단하며, 가치를 둘 것인지에 대한 고민 을 시작해야 하는 시점이 온 것일지도 모릅니다. 그렇기 때문에 더더욱 이번 대국을 관 심있게 지켜봐야하지 않을까 싶습니다. 딱 한 가지 바라는 점이 있다면, 이번 대국의 결과가 우리가 지금껏 쌓아왔던 모든 체계 를 무너뜨리는 재앙적 결과로 이르지만은 않았으면 좋겠습니다. 결국 우리는 답을 찾을 수 있지 않을까요, 늘 그래 왔듯이. 인터스텔라 포스터 한 부분 c 파라마운트 픽쳐스 http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 14/15
저작권자(c) 오마이뉴스(시민기자), 무단 전재 및 재배포 금지 http://m.news.naver.com/read.nhn?oid=047&aid=0002109578 15/15