주간기술동향 2016. 12. 21. * I. 인공지능을이용해기사의진위를판정하려는시도가시작 이번미국대통령선거에서는가짜뉴스가난무하여유권자들이적지않은영향을받았다는점이문제로제기되었음. 뉴스의제목이충격적이고기사의주장에의구심을가질만한소지가많았음에도, 가짜뉴스는페이스북을통해확산되며실질적인영향력을끼쳤음. 이런문제를해결하기위해인공지능을이용하여가짜뉴스를판정하려는시도가이루어지고있으며, 그동안유보적입장을취해왔던페이스북도 AI를이용하여적극대응에나설것으로전망 페이스북에표시되는뉴스에허위정보가포함되어있다는사실은선거가시작되기훨씬전부터문제로지적되어왔으며트럼프당선이후단숨에정치문제로비화 문제를제기하는사람들은페이스북측이트럼프에유리한허위뉴스를뉴스피드에게재한뒤, 입소문효과를통해트럼프지지자가늘었다고주장함 실제로대선에서는자극적인제목으로눈길을끈거짓뉴스들이난무했는데, 일례로 WTOE 5 News 라는사이트는 교황이트럼프를대통령으로지지한다 는거짓기사를올렸는데, 팩트체크사이트는이기사가거짓으로주의를환기시킨허위라고판정 또한, National Report 라는사이트는 힐러리가미국의국가 ( 國歌 ) 를재검토할것을제안했다 는기사를게재했는데, 내용은힐러리가 가사내용이권총등에의한폭력으로이어질우려가있고, 종교와국가의분리원칙에저촉되기때문에반대한다 는것 페이스북의 CEO 마크저커버그는이런허위뉴스가승패에영향을미쳤다는분석에대해서는여전히부정하고있지만가짜뉴스를억제하는대책을취할것임을밝혔음 가짜뉴스에속아넘어가는사람이얼마나되겠냐는반론도있지만, 사람들이기사를읽으며이상하다고느끼기는하지만실제로허위라고판단하는것은쉽지않다는지적 뉴스사이트의이름이나외관, URL 은진짜처럼보이고, 이미자극적인제목의기사들이 * 본내용과관련된사항은산업분석팀 ( 042-612-8296) 과최신 ICT 동향컬럼리스트박종훈집필위원 (soma0722@naver.com 02-576-2600) 에게문의하시기바랍니다. ** 본내용은필자의주관적인의견이며 IITP 의공식적인입장이아님을밝힙니다. 34 www.iitp.kr
많기때문에기사의제목을보고허위기사라고단박에알아차리기는어려움 기사를일단읽기시작하면공감이가는부분도있기때문에끝까지읽게되고, 비록군데군데위화감을느끼기는하지만기사가허위임을간파하지는못하며오히려흥미로운내용에관심을갖게된다는것 앞서예로든 National Report 는이름만보면권위있는뉴스사이트처럼보이나기실이사이트는허위뉴스만게재하고있으며, ABCNewsc.com.co 처럼순간적으로착각을불러일으키도록대놓고굴지의언론을사칭하는경우도있음 이들사이트의목적은매력적인허위뉴스를통해페이지뷰를발생시켜웹사이트에게재되는광고로수익을얻는것이며, 페이지뷰가높은뉴스의경우한건으로약 1 만달러의광고수입이발생하는것으로알려지고있음 허위뉴스문제가불거진후현재구글은허위뉴스사이트에광고게재를중지하고있으며, National Report 웹사이트의광고수입은급감했다고함 < 자료 > WTOE 5 News, National Report [ 그림 1] 최악의가짜뉴스로꼽힌교황의도널드트럼프지지뉴스 ( 左 ) National Report 같은사이트는허위뉴스를발신해왔으나회사자체의사회적영향력은제한적일수밖에없었으며, 페이스북같은 SNS 와접목되면서영향력이증폭되었음 페이스북등소셜미디어에기사가노출되고좋아하는사람이늘어나기사의링크가공유되기시작하면이런허위기사들의노출빈도가폭발적으로늘어나게됨 페이스북은인기기사를 트렌딩 (Trending) 으로묶어제공하고있는데, 여기에가짜뉴스가게재되면전국적인규모로확산이가능해지며, SNS 의소셜기능을악용하는이런과정이가짜뉴스가여론을움직일수있는기반이되고있음 정보통신기술진흥센터 35
주간기술동향 2016. 12. 21. 가짜뉴스는읽는사람들에게만영향을미치는데그치지않고, 대통령선거운동과정에서트럼프진영이허위뉴스를인용하여힐러리후보를공격하는장면까지나왔음 도널드트럼프의아들인에릭트럼프는가짜뉴스라생각되었던기사의내용을근거로논쟁을벌였으며, 트윗을통해 트럼프연설회장에서반대운동을하는활동가들은힐러리진영에서 3,500 달러를받고있다 는내용의기사를 인용했음 그러나인용된기사는사실이아니었으며, 해당 트윗은삭제되었지만복사본이지금도많은사 < 자료 > Eric Trump [ 그림 2] 선거운동에사용된가짜뉴스사례 이트에게재되어있으며, 선거의당사자들도가짜뉴스를분간하는데시간이걸려영향력은오랜시간동안지속되었음 페이스북이대선과정에서허위뉴스논란에대해일단부정하는태도를보이긴했지만실제로는일찍부터소위 가짜뉴스 (Hoaxes) 에대한대책을취하고있었음 2015 년 1 월에는페이스북회원들이가짜뉴스를보고신고할수있는시스템을도입했으며, 이는스팸메일을신고하면서뉴스피드에노출된뉴스가사실이아닌경우, 그주요내용을신고할수있도록하고있음 회원들의신고를통해가짜뉴스가뉴스피드에표시되는횟수가감소했다고하는데, 크라우드소싱기법을이용하여대응책을시작한것임 페이스북은 2016 년 8 월부터는뉴스피드에 클릭베이트 (Clickbait) 기사를삭제하는대책을내놓았으며, 클릭베이트는우리말로는클릭을유도하는낚시기사를뜻함 믿을수없는사실, 어젯밤레드카펫위에서연예인끼리싸움, 누구일까.. 라고제목을달면궁금해하는사람들이링크를클릭해자세히읽게되는데, 이는사이트로유도하는상투적인수법이지만여전히통하는수법이기도함 페이스북이용자들에게클릭베이트는여전히인기가많지만, 페이스북은클릭베이트기사들이뉴스피드에노출되는횟수를억제하고있음 클릭베이트에는독자를오도하는기사도포함되므로이를억제하면가짜뉴스를방지하는기능도하게되는데, 페이스북은클릭베이트기사대응을위한알고리즘을개발하고탐지 36 www.iitp.kr
프로세스를자동화하였음 페이스북은특정사이트로유도하는기사나오보의제목사례를모아클릭베이트데이터세트를작성했으며, 이사례를기준으로일반뉴스들의제목과비교해클릭베이트에특유한징후를식별하고있음 또한, 클릭베이트를검출하는알고리즘을개발하여이를기계학습방법으로교육시킴으로써검출정밀도를높여가는데, 이는스팸을검출하는방식과유사하며뉴스피드에서허위뉴스를배제할수있을것으로기대를받아왔음 페이스북이이러한조치를취하고있음에도불구하고가짜뉴스는계속증가했으며대선에서유권자에게혼란을초래하게되었음 페이스북이개발한알고리즘은뉴스의제목을기준으로허위여부를판정하기때문에기능이충분하다고말할수없으며, 사실관계의확인이필요한경우더욱한계가존재 사실기사의허위여부를판정하는것은사람에게도어려운일이며, 명백한거짓은판정하기쉽지만, 내용을파악하고사실관계의검증이요구되는기사들이대부분임 허위뉴스라도황당한내용만있는것이아니며, 해킹수법중소셜엔지니어링기법처럼, 당시맥락에맞게작성되는것들은그럴듯하다고여겨지기때문에내용을읽고나서도판단하기어려운경우도있음 일례로거짓뉴스로판명되었지만, 선거직후 트럼프의당선이결정된직후오바마대통령이대통령령을발동해선거결과를검증한다 는기사가발행되었으며, 이처럼대부분의경우뉴스기사를읽는것만으로는진실여부를판단하는것이어려움 우선기사에서언급된주장을뒷받침하는사실을확인하는작업이필요하기때문에, 주장의출처를찾고사실관계를확인해야함 또한, 주장을뒷받침하는사실이확인되었다고 해도, 기사에서사실을과장하거나확대해석 하는경우가적지않으며, 기사검증은이러한 단계를모두거치고나서야내용이올바른지 < 자료 > ABCNews.com.co [ 그림 3] 시의성의빠른가짜뉴스 정보통신기술진흥센터 37
주간기술동향 2016. 12. 21. 판정을내릴수있음 기사검증은진위를판정하는것이목적이지만판정할수없는경우도많이있는데, 가령트럼프가대통령에선출된데대해트럼프에반대하는사람들을중심으로 #NotMyPresident 를표방한항의시위가미국각지에서발생하였음 이에관한기사중에는 시위대는사실투표소에가지않았고, 힐러리에게투표하지도않았다 고쓴것도있는데, 이에대한사실관계는확인하기가어려워기사의진위를판명할수없으며, 진실을밝혀내기에현실적으로한계가존재함 이문제해결을위해많은곳에서방법을제안하고있으며, 화이트해커들이인공지능 (AI) 을이용해페이스북에게재된기사의진위를판정하는기법을개발 프린스턴대학에서열린해커톤행사기간중에 4 명의대학생들은 36 시간만에가짜뉴스를판정해내는 AI 기반소프트웨어를개발하였음 이들이개발한소프트웨어 FiB 는브라우저의플러그인으로설치되며, 페이스북의기사를읽고그내용을판별하며, 기사가허위라고판단되면 검증되지않음 (Not Verified), 사실이라판단되면 검증됨 (Verified) 이라고표시함 일례로 대마초가암세포를파괴한다 는기사에대해서는분석후사실이아니라는판단하에 Not Verified 라표시하였음 FiB 는 AI 를이용하여기사에게재되어있는사진을인식하여이를텍스트로변환하고, 또한기사에서키워드를추출한다음검색엔진에서그내용의출처를조사한후사실여부를확인한다고함 가령트위터에게재된내용이라면스크린샷이게재되어있는경우, 트위터에해당내용이있는지검색하여그출처의진위를확인함 대학생들은공개된 AI 클라우드의 API 를최대한활용하여시스템을만들었다고하며, 마이 크로소프트인지서비스 (Microsoft Cognitive Services), 트위터검색 API(Twitter Search API), 구글안전브라우징 API(Google Safe Browsing < 자료 > FiB Project [ 그림 4] AI 기반가짜뉴스판정시스템 FiB 38 www.iitp.kr
API) 등이사용되었음 기사판정의정확성검증은앞으로해나가야하겠지만, 세계최첨단 AI 기술을보유한페이스북보다먼저솔루션을개발한것은주목할만함 알고리즘개발과는별도로많은단체들이수작업을통해기사의진위를판정하고있으며, 이들팩트체크사이트들은가짜뉴스에현혹되지않도록주의를환기시키고있음 FactCheck.org 는대표적인팩트체크사이트로펜실베이니아대학의연구기관으로서활동을시작한독립적비영리단체로, 원래정치문제에관한정치인주장의진위를자세히확인하며, 사실관계를바로잡아주는역 할을해왔음 가령미국하원의장폴라이언이미국의의 료제도인메디케어 (Medicare) 가오바마케어 < 자료 > FactCheck.org [ 그림 5] 팩트체크사이트 FactCheck.org 에의해파탄되었다고주장한것에대해, 사실확인결과잘못된주장임을설명 FactCheck.org 는대선기간중에는유권자들이가짜기사나허위사실유포에현혹되지않도록독자들에게가짜뉴스분별방법등을알려주는역할도하였음 1995 년에설립된인기팩트체크사이트인 Snopes.com 은이메일이나포럼을대상으로기사의진위를판정하는목적으로설립되었음 대통령선거과정에서는정치뉴스에초점을맞추고문제점을지적하며유권자들의주의를환기시켰으며, 알기쉬운표현으로많은사람들에게이용되고있고, 정치문제뿐만아니라비즈니스, 엔터테인먼트, 건강, 종교, 기술등폭넓은분야를커버함 미국대통령선거는끝이났지만, 가짜뉴스는선거전부터시작되었고선거과정을통해그실제영향력이확인되었기에앞으로도계속이어질것으로예상되고있음 미국에서민간인에게수여하는최고훈장인 대통령자유의메달 (Presidential Medal of Freedom) 수여식이선거직후인 11 월 22 일백악관에서거행되었으며, 영화배우로버트드니로등에게오바마대통령이메달을걸어주었음 이날클린트이스트우드의것으로보이는트위터계정에 오바마는나의대통령이아니므로그가주는어떤메달도받지않겠다 는내용의트윗이올라왔고, 트위터상에서리트 정보통신기술진흥센터 39
주간기술동향 2016. 12. 21. 윗되었으며, 이런내용을다룬가짜뉴스들이나돌기시작했음 그러나최초트윗은이스트우드인것처럼보이게 @ClintEastwoodLA 라는계정을쓰고 프로필에이스트우드의사진을사용한사람 이발신한것이었으며, 곧사실이아닌것 으로판명되었음 < 자료 > Snopes.com [ 그림 6] 클린트이스트우드를사칭한트윗 그럼에도이스트우드가트럼프지지자이기때문인지이트윗은소셜미디어상에서계속리트윗되고, 이를소재로작성된뉴스들이 SNS 상에계속흘러다니고있음 최초의트윗과가짜뉴스사이의연관성은아직밝혀지지않았지만, 만약치밀하게계획된것이라면, 이는앞으로가짜뉴스생성이보다교묘해질것이고, 사실관계를파악하기가점점더어려워지게될것임을시사 페이스북은자신들이미디어기업이아니라는입장을강조해왔으나, 현실적으로페이스북은가장강력한뉴스소비매체이므로보다적극적인대책마련이필요한시점 퓨리서치 (Pew Research) 에따르면소셜미디어가일상이되면서뉴스를읽는방법이크게바뀌어미국성인의 62% 가소셜미디어에서뉴스를읽고있음 특히, 페이스북을통해미국성인의 44% 가뉴스를읽는것으로나타나유튜브나트위터에비해뉴스전달매체로서페이스북은 절대적인위치를차지하고있음 마크저커버그는그동안페이스북은미디 어기업이아니어서기사의진위를자체적 < 자료 > Pew Research [ 그림 7] 각 SNS 이용자중뉴스이용빈도 으로결정할수없다는입장을취해왔으며, 기사진위판단은독자에게맡겨졌음 하지만페이스북이미국최대의뉴스전달기업이되었다는사실을감안하면, 배치하는뉴스의품질에페이스북이책임져야한다는목소리가점차힘을얻고있음 마찬가지로구글이나트위터에대해서도가짜뉴스대책마련이강하게요구되고있으며, 40 www.iitp.kr
구글은이미가짜뉴스사이트에광고게재를중단하였음 가짜뉴스가전사회적문제가되면서페이스북내에서문제의식을가진직원들이모여자발적으로문제해결을위해움직이기시작했다는소식도전해지고있으며, 저커버그도그동안의입장을바꾸어적극적인대책마련에나선다고밝혔음 최근페이스북은가짜뉴스를자동으로삭제하는도구에대해특허를출원하였으며, 아마도 AI 를활용한솔루션이개발되었을지도모르며, 구글이이메일에서스팸을필터링하는것처럼조만간뉴스피드에서가짜뉴스도상당수걸러지게될것으로기대 AI 로작성되는기사의유형과수가늘어나고있는상황에서, 허위로작성된기사의진위여부를판정하는역할도 AI 에맡겨지게되고, AI 개인비서가뉴스를선택해들려주는시대가되면, 뉴스산업은 AI 기반으로재편되는대표적사례가될전망 [ 참고문헌 ] [1] Facebook should crush fake news the way Google crushed spammy content farms, Vox, 2016. 12. 8. [2] Facebook reportedly testing new tool to combat fake news, The Guardian, 2016. 12. 6. [3] 5 of Facebook s worst fake news stories this year, The MEMO, 2016. 11. 15. [4] It took only 36 hours for these students to solve Facebook's fake-news problem, Business Insider, 2016. 11. 14. 정보통신기술진흥센터 41