저작자표시 - 비영리 - 변경금지 2.0 대한민국 이용자는아래의조건을따르는경우에한하여자유롭게 이저작물을복제, 배포, 전송, 전시, 공연및방송할수있습니다. 다음과같은조건을따라야합니다 : 저작자표시. 귀하는원저작자를표시하여야합니다. 비영리. 귀하는이저작물을영리목적으로이용할수없습니다. 변경금지. 귀하는이저작물을개작, 변형또는가공할수없습니다. 귀하는, 이저작물의재이용이나배포의경우, 이저작물에적용된이용허락조건을명확하게나타내어야합니다. 저작권자로부터별도의허가를받으면이러한조건들은적용되지않습니다. 저작권법에따른이용자의권리는위의내용에의하여영향을받지않습니다. 이것은이용허락규약 (Legal Code) 을이해하기쉽게요약한것입니다. Disclaimer
공학석사학위논문 협업적필터링을활용한추천채용시스템의설계와구현 Design and Implementation of Employment Recommender System using Collaborative Filtering 2016 년 8 월 서울대학교대학원 컴퓨터공학부 박수상
협업적필터링을활용한추천채용시스템의설계와구현 Design and Implementation of Employment Recommender System using Collaborative Filtering 지도교수문병로 이논문을공학석사학위논문으로제출함 2016 년 4 월 서울대학교대학원 컴퓨터공학부 박수상 박수상의공학석사학위논문을인준함 2016 년 6 월 위원장박근수 ( 인 ) 부위원장문병로 ( 인 ) 위원 Srinivasa Rao Satti ( 인 )
초 록 1990년대중반이후데이터의양이폭발적으로증가함과동시에빅데이터정보처리기술이진화하면서데이터를효과적으로수집, 처리, 분석가능해졌다. 이러한데이터분석기술중하나가추천시스템 (Recommender System) 이다. 책, 상품, 영화등다양한분야에서사용자의데이터를바탕으로개인화된항목을추천해준다. 본논문에서는이러한추천시스템을채용분야에적용하여, 구직자가선호할만한채용공고를추천해서채용공고를찾기위한불편함을줄이고자한다. 나아가적절한구직자에게적절한구인기업을추천하여취업의미스매치를완화하는데도움이되고자한다. 본연구에서는여러추천알고리즘중메모리기반의협업필터링 (Memory-based Collaborative Filtering) 을사용해서각기다른데이터를사용하여두가지추천시스템을구축한다. 첫번째채용공고클릭로그데이터를활용하여사용자의기업에대한선호도를바탕으로기업을추천하는시스템이며, 두번째는지원한기업 / 직무의자기소개서작성이력데이터를활용하여사용자의기업 / 직무에대한선호도를바탕으로기업 / 직무를추천하는시스템이다. 또한, 하이브리드형식의추천시스템도구현을하였다. 기업추천시스템과기업 / 직무추천시스템의선호도예측값을가중합 (Weighted Sum) 하여하이브리드방식의추천시스템을구현하였고, 이런하이브리드방식이추천에어떤영향을주는지알아보았다. 주요어 : 추천시스템, 협업적필터링, 추천채용시스템, 취업미스매치학번 : 2014-21768 i
목 차 제 1 장서론... 1 제 1 절연구의배경... 1 제 2 절연구목적... 2 제 3 절논문의구성... 4 제 2 장관련연구... 5 제 1 절추천시스템... 5 1.1. 협업적필터링... 6 1.2. 내용기반필터링... 8 1.3. 하이브리드추천시스템... 8 제 3 장문제정의... 10 제 1 절문제정의...10 1.1 양질의데이터수집...10 1.2 추천시스템구성...11 제 4 장추천알고리즘의설계와구현... 12 제 1 절전체시스템구성...12 제 2 절데이터수집부...12 제 3 절데이터전처리부...13 제 4 절추천채용시스템...15 제 5 장실험결과... 18 제 6 장결론및향후연구... 20 제 1 절결론...20 제 2 절향후연구...20 참고문헌... 22 Abstract... 24 ii
표목차 [ 표 1] 세무직무카테고리표... 15 [ 표 2] 추천채용시스템에사용된데이터종류와수... 18 [ 표 3] 각각추천시스템의 RMSE 결과... 18 [ 표 4] 하이브리드추천시스템의 RMSE 결과... 19 그림목차 [ 그림 1] 아마존닷컴의추천시스템을통한책추천... 2 [ 그림 2] Netflix 의추천시스템을통한영화추천... 2 [ 그림 3] 사람인의광고중심의채용공고... 3 [ 그림 4] 전체시스템구성... 12 [ 그림 5] 추천시스템별 RMSE 결과... 19 iii
제 1 장서 론 제 1 절연구의배경 1990년대중반이후인터넷의급격한보급과모바일, 사물인터넷의확산으로정보생산이촉진되면서데이터의양이폭발적으로증가하였다. 동시에빅데이터정보처리기술이진화하면서폭발적으로증가한데이터를효과적으로수집, 처리, 분석이가능해졌으며, 많은데이터의축적과빅데이터처리기술의발전을토대로다양한분야에서데이터를기반으로한부가가치를창출하고있다.[1] 데이터를분석하여부가가치를창출하고있는기술중하나가추천시스템이다. 추천시스템은사용자의과거행동데이터를바탕으로사용자의기호와행동을예측하고, 더나아가새로운기호나행동을추천할수있다. 유통, 온라인커머스, 뉴스등다양한분야에서추천시스템을활용하고있으며, 개인에게최적화된추천을통해기존판매상품에차별화된가치를제공하고있다. 온라인커머스 아마존닷컴 1 의경우, 추천시스템을활용하여고객이구입하거나열람한상품정보를분석하여구매예상상품을추천하고개인화된쿠폰을제공하고있다. 이를통해연매출의 35% 가추천시스템을통해추천된상품에서발생하며, 매년이익의 10% 를추천시스템의성능향상에투자하고있다.[2] 1 Amazon.com 1
그림 1. 아마존닷컴의추천시스템을통한책추천온라인영화서비스인 Netflix는 10만여개의영화콘텐츠와 3,000만명사용자의대여, 시청이력, 감상평등을분석하는 시네매치 (cinematch) 라는자체영화추천시스템을활용하여하루평균 50억건의영화콘텐츠를추천하고있다. Netflix는 시네매치 의성능을향상시키기위해추천시스템의성능을개선하는경연대회인 Netflix Prize를진행하고, 다양한추천알고리즘을접목하는등기술향상에집중하고있다.[3] 그결과 Netflix 사용자중 75% 가추천받은영화콘텐츠를이용하고있다. 그림 2. Netflix 의추천시스템을통한영화추천 제 2 절연구목적 이러한추천시스템을채용에활용하고자한다. 구직자가선호하는채용 정보를제공하거나, 구직자에게알맞은채용정보를제공해주는 2
방식으로구직자가원하는채용정보를찾기위해들이는노력을줄여주고, 취업시장의미스매치문제를완화하는데도움이되고자한다. 현재청년실업이지속적으로심각해지고있으며, 취업이어려워지는만큼구직에대한수요는높아졌다. 이러한수요를바탕으로취업정보를제공하는취업포털, 커뮤니티등은지속적으로성장해왔다. 그러나이러한산업의성장에도불구하고여전히구직자는자신에게필요한채용공고와기업정보를찾는데어려움을겪고있다. 이는기존의취업사업에서제공하는공고와정보들이구인 / 구직의수요에따라제공되는것이아니라광고비를부담하는광고주의수요에따라제공되기때문이다. 그림 3. 사람인의광고중심의채용공고채용공고의배너광고가주수입원인취업포털과커뮤니티의경우광고매출을높이기위해사이트내에서유료광고의노출을중심으로사이트를개선해왔다. 그러나이는구직자입장에서는화면에광고가더많아지면서구직자가원하는채용정보는더욱찾기가어려워졌다. 광고를기반으로한채용정보제공이아닌, 추천시스템을활용하여구직자가선호하는채용정보를제공하여구직자가기업을찾는데겪는어려움을해소할수있다. 또한, 청년실업이심화되고있지만, 아이러니하게도중소기업에서는심각한인력난을겪고있다. 이처럼구직자의수요와일자리공급이충분한대도서로연결이되지않아취업이되지않고있는현상을 일자리미스매치 라고한다. 인력난을겪고있는중소기업 3
중에서는열악한근무환경과강도높은노동으로인해구직자가기피하는기업도있지만, 구직자가선호할만한좋은기업임에도불구하고구직자에게잘알려지지않아좋은인재를구하지못하고있는기업들도다수존재한다. 추천시스템을활용하여구직자에게이러한좋은기업을추천해준다면취업의미스매치를완화할수있을것이다. 제 3 절논문의구성 본논문은다음과같이구성되어있다. 2장에서는본논문이다루고자하는추천시스템에관련된선행연구를살펴본다. 제 3장에서는본논문에서다루고자하는문제를정의하고, 이러한문제를해결하기위한방법들을제시한다. 4장에서는본논문을통해서구현하고자하는추천채용시스템의구현방법에대해서자세히살펴본다.. 5장에서는구현한시스템을사용한실험결과를보이고, 6장에서는결론및앞으로의연구방향을제시한다. 4
제 2 장관련연구 제 1 절추천시스템 추천시스템은사용자의과거행동패턴을바탕으로사용자의선호도가높은서비스나상품을제안하는기술이다. 이러한제안들은여러분야의결정을내리는과정에서사용되는데, 상품을구입하거나, 음악을선택하거나, 읽을만한뉴스를선별하는데사용될수있다. 특히정보나경험의부족으로인해서비스나상품을쉽게선택하기어려운사용자에게다양한대체재를제공하여, 결정에도움을줄수있다. [4] 즉사용자가경험하지못한서비스나상품에대해서사용자의선호도를예측하여, 높은선호도를가진항목들을사용자에게제안하는것이다. 이는다음의식으로표현이가능하다. ( 식 1) C는모든유저의집합으로정의하고, S는추천가능한모든가능한항목의집합으로정의한다. C는모든유저의집합이므로그크기는수백만또는그이상에달할수있고, S 역시도추천가능한모든항목이므로수백만또는그이상에달할수있다. u는항목 s가 c에얼마나유용한지를나타내는유용성함수 (Utility Function) 으로정의한다. 양의정수혹은특정범위안의실수등에해당하는전순서집합 (Totally Ordered Set) R에대해 u: C S R의관계를가지게된다 [5]. 유용성함수는선호도에대한평점 (Rating) 으로나타내는것이일반적이지만, 경우에따라서는평점없이선호에대한유무에따라불 (Boolean) 방식으로나타내기도한다. 이러한추천시스템은다음의세가지방식으로구분이가능하다. 5
협업적필터링 (Collaborative Filtering) 내용기반추천 (Content-based Recommendation) 하이브리드추천시스템 (Hybrid Recommender Systems) 1.1. 협업적필터링 사용자와유사한취향을가진사용자들이선호하는항목을추천해주는방식이다. 이는동일한항목에유사한평가를내린사용자들은새로운항목에대해서도유사한평가를내릴것이라는전제를두고있다. 즉, 추천을받을사용자가항목들에대해평가한선호도와다른사용자들이항목들에대해평가한선호도가유사하다면, 다른사용자가선호한항목들도추천을받을사용자는선호할것으로가정하고다른사용자가선호한항목들을추천하는것이다. 수식적으로표현하자면, 식 1에서항목 s의유용성함수 u(c,s) 는사용자 c와유사한사용자인 c j 의유용성함수 u(c j, s) 에따라서항목 s의선호도가결정된다.[5] 사용자 c와사용자 c j 간의유사도는사용자 c와사용자 c j 가내린과거의평가들의유사도에따라결정이된다. 협업적필터링은그방식에따라서메모리기반협업적필터링 (Memory-based Collaborative Filtering) 과모델기반협업적필터링 (Model-based Collaborative Filtering) 로나눌수있다. 메모리기반협업적필터링. 메모리기반협업적필터링은이웃기반협업적필터링 (Neighborhood-based Collaborative Filtering) 으로불리기도하는데, 그이유는사용자에게추천되는항목은이웃의선호도를토대로결정되기때문이다. 이웃은두사용자가여러항목에내린평가가유사할경우, 사용자간에유사도가크다고판단한다. 사용자간유사도는코사인유사도 (Cosine Similiarity) 나피어슨상관계수 (Pearson Correlation), 타니모토상관계수 (Tanimoto 6
Coefficient) 등을사용하며, 계산된유사도를바탕으로 K-최근접이웃 (K-Nearest Neighbors), K-평균 (K-means), K-d Tree, Locality Sensitive Hashing 등의알고리즘을통해이웃을결정하게된다.[6] 사용자가평가하지않은항목에대해서이웃들의평가와유사할것으로가정하여, 선호도를예측한다. 그러나메모리기반의협업적필터링은몇가지한계를가지고있다. 첫번째로회박성 (Sparsity) 문제이다. 유사한성향을보이는이웃을찾고, 항목에대한선호도를예측하기위해서는데이터가충분히모여야정확한추천이가능하다. 이를해결하기위해내용기반필터링을결합한하이브리드기법으로희박성을완화하는방식이제안되었다.[1] 두번째는확장성 (Scalability) 문제이다. 메모리기반협업적필터링은잠재적인이웃들을찾기위해서수만번의검색을거쳐야하는데, 데이터가많아질경우검색횟수는수백만번에달하기도한다. 이러한검색을실시간으로처리하는것은한계가있으므로실시간처리시스템에서는이러한검색을하는것은불가능해진다. 이를해결하기위해사용자간의유사도를구하는것이아닌, 항목간의유사도를구하는방법과 [7], 사용자를군집한후군집간의유사도를계산하는방법등이제안되었다 [8]. 모델기반협업적필터링두번째방법은모델기반협업적필터링이다. 모델기반협업적필터링은메모리기반의협업적필터링의한계를극복하기위해고안이되었다. 희박성문제를해결하기위해높은차원의행렬을낮은차원의행렬로분해하는차원압축 (Dimensionality Reduction) 알고리즘을활용한다. 대표적으로특이값분해 (Singular Value Decomposition;SVD) 를활용해서높은차원의사용자-항목의행렬을낮은차원의사용자-특성벡터행렬과항목-특성벡터행렬로분해하는방식이있다 [9]. 7
1.2. 내용기반필터링 컨텐츠기반의추천은사용자가과거에선호했던항목과가장유사한항목을사용자에게추천한다. 식 1에서항목 s의유용성함수 u(c, s) 는유저 c가과거에선호한 si에대한유용성함수 u(c, si) 와의유사도에따라추천이되는방식이다.[1] 항목 s와 si 간의유사도는각항목의특성을분석하여추천을하도록한다. 항목간의유사도를항목의각항목의특성을분석하여구하기때문에각도메인에따라항목의특성을프로파일링해야하는단점이있다. 예를들어유사한뉴스를추천한다면뉴스분야, 주제, 사용된단어등의특성을프로파일링해야하고, 영화를추천한다면, 영화의장르, 감독, 배우등의특성을프로파일링해야한다. 그러므로사전에도메인에대한지식이필요하다. 문제는이러한도메인지식이다른도메인에서는사용될수없기때문에협업적필터링과달리도메인이다른경우추천에사용할수가없다. 그러나협업적필터링과달리다른사용자가항목에대한평가를하지않았더라도항목의특성을통해유사도를계산해바로추천에사용될수있는장점이있다. 1.3. 하이브리드추천시스템 하이브리드추천시스템은내용기반필터링과협업적필터링방식의한계를극복하기위해서두가지이상의방식을혼합적으로사용하여추천을하는방식이다. 이러한하이브리드추천시스템은다음의세가지방식으로분류가가능하다. [5] 협업적필터링모델과내용기반필터링모델을각각구현하여혼합하는방식 협업적필터링모델에내용기반필터링의특성을추가하는방식 내용기반필터링모델에협업적필터링의특성을추가하는방식 8
협업적필터링모델과내용기반필터링모델을각각구현하여혼합하는방식협업적필터링모델과내용기반필터링모델을각각구현하여혼합하는방식으로는크게두가지로나눌수있다. 첫번째는각각구현된모델의결과값을선형결합 (Linear Combination) 하거나, 가중합 (Weighted Sum) 하여최종값을도출하는방식이다. 각각모델에대한가중치를설정하는것이중요한요소가된다. 두번째는각각의모델중더나은결과값을선택하는방식이다. 역치 (Threshold) 를설정하는등의조건에따른모델선택정책을설정하여결정을하게된다. 협업적필터링모델에내용기반필터링의특성을추가하는방식많은하이브리드추천시스템이사용하는방식으로협업적필터링모델에사용자의특성데이터를추가하여재평가 (rescore) 하거나, 항목의특성에따라서재평가하는방식이다. 이러한방식의장점은처음추천시스템을사용하는유저의경우내용기반필터링을통해얻어진유사집단의평균값으로선호도를예측하여 Cold Start Problem을완화할수있으며, 희박성이높은협업적필터링의경우내용기반필터링을통해얻어진항목간의유사도를통해정확도높은추천을할수있다 [11]. 내용기반필터링모델에협업적필터링의특성을추가하는방식내용기반필터링모델에협업적필터링의특성을추가하는방식중가장많이사용되는방식은내용기반필터링모델을통해얻어진사용자그룹에차원압축을하여사용자의프로필을벡터행렬로표현하는방식이다. 9
제 3 장문제정의 제 1 절문제정의 추천채용시스템을구현하기위해다음의두가지독립적인문제로구성이된다. 양질의데이터수집 추천시스템구성 1.1 양질의데이터수집 국내대형취업포털에서추천채용시스템을개발하고자하였으나, 현재까지눈에띄는성과를보이지못하고있다. 그이유는취업포털에서얻을수있는데이터의한계가있기때문이다. 기존의취업포털에서추천에사용하고있는데이터는채용공고클릭로그, 채용공고즐겨찾기로그, 검색어등이다. 그중채용공고클릭로그가가장많은데이터를차지하는데, 취업포털의특성상과도한광고로인한클릭이많아인기편향 (Popularity Bias) 문제가발생한다. 뿐만아니라, 채용공고클릭로그와채용공고즐겨찾기의경우기업에대한선호도는예측할수있으나, 직무에대한선호도는예측을할수가없다. 사용자가기업을선호하더라도자신이지원할수있는직무가없으면지원을할수없기때문에추천신뢰도는급감하게된다. 이러한이유로인해취업포털에서수집한기존의데이터로는추천채용알고리즘을개발하는것에어려움이있다. 이에반해본논문에서활용하고자하는데이터는다음의두가지이다. 광고로인한인기편향문제가없는채용공고클릭로그 회사와직무를포함한자기소개서작성이력 10
광고로인한인기편향문제가없는채용공고클릭로그첫번째데이터는광고로인한인기편향문제가없는채용공고클릭로그이다. 사용자 ID와채용공고실제사용자가원하는기업에대한클릭만을수집하였으므로더욱정확도높은기업선호도를예측할수있다. 회사와직무를포함한자기소개서작성이력두번째데이터는회사와직무를포함한자기소개서작성이력이다. 자기소개서를작성한경우대부분실제로기업에지원을하기때문에사용자가실제기업에지원한이력과상관관계가높다. 1.2 추천시스템구성 추천시스템은내용기반필터링, 협업적필터링, 하이브리드추천시스템방식이있다. 본연구의데이터는사용자의특성이나기업의특성에대한정보가없으므로내용기반필터링은불가능하다. 따라서협업적필터링방식을사용하도록한다. 각기다른두데이터에대해서각각협업적필터링모델을구현한뒤, 식 2와같이각모델의선호도의가중합 (Weighted Sum) 연산을통해하이브리드추천모델을도출하도록한다. ( 식 2) 이때, u a 는기업클릭데이터를바탕으로한사용자의기업선호도이며, u b 는자기소개서작성이력을바탕으로한사용자의기업 / 직무선호도이다. 이에따라서선호하는기업의경우 u a (c,s) 가높아지고, 사용자가선호하지않는기업의경우 u b (c,s) 가낮아지게된다. α와 β 값은매개변수최적화과정을통해결정이된다. 11
제 4 장추천알고리즘의설계와구현 제 1 절전체시스템구성 그림 4. 전체시스템구성전체시스템은채용공고클릭로그와기업과직무를포함한자기소개서작성이력데이터를수집하는데이터수집부, 수집된데이터를추천시스템에알맞게처리 / 분류하는데이터전처리부, 처리된데이터를통해실제로기업과직무의선호도를예측하는추천채용시스템으로이루어져있다. 제 2 절데이터수집부 데이터수집부에서는추천시스템에서사용할데이터를수집하는역할을한다. 취업사이트의로그를통해데이터를수집하도록한다. 본취업사이트는취업자기소개서와이력서를온라인에서작성할수있는사이트이며, 클라우드관리, 맞춤법검사, 동일기업지원자간채팅등자기소개서와이력서작성을위한다양한편의기능을지원한다. 또한, 채용공고를확인할수있는채용달력기능, 사용자별로자신의채용일정을관리할수있는채용달력등의채용정보관련기능을제공한다. 가입자는 9만명, 한달방문자는약 60만명이다. 구직자가활발하게사용하고있는사이트이므로, 추천채용시스템개발을위한 12
데이터를다량수집할수있다. 본취업사이트에서수집할데이터는채용달력에서기업을클릭한 로그데이터와기업의직무에자기소개서를작성한이력데이터이다. 채용공고클릭로그데이터채용달력에서기업을클릭한데이터이다. 기업의이름을클릭하면채용공고가열리고데이터가축적이되게된다. 해당기업에대해서클릭만으로데이터가기록이되므로데이터의수가많으나, 기업의선호만을알수있을뿐, 직무에대한정보는알수없다. 데이터의 { 사용자 ID, 채용공고 ID} 형식으로수집이된다.. 2016년 2월 16일부터 2016년 5월 29일까지수집된데이터이며, 사용자수는 89,879명, 채용공고의수는 10,254개이다. 채용공고에대한 4,735,344개의클릭데이터가수집되었다. 기업의직무자기소개서작성이력데이터구직자가자기소개서를작성한기업의내역이다. 대부분이실제로기업에지원을한내역이며, 기업뿐만아니라직무에대한선택도가지고있다. 데이터는 { 사용자 ID, 직무 ID} 형식으로수집된다. 2014년 2월 15일부터 2016년 5월 29일까지수집된데이터이며, 마찬가지로사용자수는 89,879명, 채용공고의수는 10,254개이다. 채용공고별로지원직무가있으며, 전체직무수는 44,343개이다. 1,314,727개의데이터중기업과직무정보가있는 910,769개의자기소개서작성이력을수집하였다. 제 3 절데이터전처리부 데이터전처리부에서는데이터수집부에서수집한데이터를추천 알고리즘에서활용할수있도록처리 / 분류하는역할을한다. 다음과 13
같은전처리과정을거친다. 동일한기업의채용공고를통합하는과정 유사한직무를카테고리화하는과정 직무를기업과직무카테고리로치환하는과정 동일한기업의채용공고를통합하는과정한기업에서여러번채용공고를올린경우가있다. 예를들면 A 기업에서 2014년 9월, 2015년 3월, 2016년 3월에채용을진행한경우에는기업은하나이지만채용공고는 3개가된다. 수집된채용공고클릭로그데이터는기업 ID를가지고있는것이아니라, 각채용공고마다의 ID를가지고있으므로, 각기다른기업으로인식해서추천이동작하지않는다. 동일한기업의채용공고를하나로합치고채용공고의 ID가아닌기업 ID로치환하도록한다. 그결과 10,254개의채용공고를 3,899개의기업으로합쳤다. { 사용자 ID, 채용공고 ID} { 사용자 ID, 기업 ID} 유사한직무를카테고리화하는과정유사한직무라고하더라도각각의세부직무는다르다. 예를들면온라인마케팅의경우온라인마케팅도있지만, 커뮤니티마케팅, 온라인컨텐츠마케팅등다양하다. 이러한직무를모두따로처리할경우유사한직무가각기다른직무로판단이되므로추천이동작하지않는다. 그러므로직무를 16개의카테고리로분류하였다. 직무카테고리경영 사무재무 회계 경리마케팅금융영업 고객상담유통 무역 세부직무사업기획, HR( 인사 ), 전략기획팀, Service Coordinator 등회계, ERP 전표입력, 공인회계사, 재무 ( 관세 ), 재무팀등마케터, 온라인마케팅, 브랜드관리팀, 서비스운영 / 마케팅등자운용직군, 손해사정, 채권관리, 신입행원, 보험업무등영업관리, 기술영업, 고객지원팀, 공사영업팀, 건재영업팀등자재운영및관리, 구매, 수출MD, 온라인여성MD 등 14
IT 인터넷디자인연구 개발생산 제조미디어서비스전문직건설교육의료 시스템운영 / 개발, 전산프로그래머, 전산, 정보보안, IT기획등그래픽디자인, 패키지디자인, 영상컨텐츠그래픽디자이너등연구운영팀장, 연구소운영관리, 연구개발, 이화확분석등제조팀, 생산관리, 품질관리, 생산기술, 전자설계등언론홍보및취재, PD, 방송기자, 광고, 미디어기획 /AE 등서비스지원, 오퍼레이션, 주방매니저, 홀매니저, 캐빈승무원등변호사, 기록물관리, 통번역, 상품계리, 리스크관리등건축, 설비, 조경, CAD 설계, A/F설계팀, 시공, 안전관리등영어강사, 중국어강사, 교육팀, 교육사업총괄, 제품강사등신약합성, 바이오신약개발, 약효평가, 합성공정, 제제연구등표 1. 세무직무카테고리표 직무를기업과직무카테고리로치환하는과정채용공고를기업으로통합하고, 각각의직무를카테고리화하였기때문에기존의직무 ID를기업 ID와직무카테고리 ID로치환을하여기업의직무관계를표현하도록한다. 앞의 4자리를기업 ID로, 뒤의 2자리를기업카테고리 ID로규정하여, 직무 ID를표현하도록한다. { 사용자 ID, 직무 ID} { 사용자 ID, ( 기업 ID + 기업카테고리 ID)} 제 4 절추천채용시스템 데이터전처리부에서생성한데이터를바탕으로하여사용자별기업, 직무별선호도를예측한다. 다음의세가지추천모델을구현하도록한다. 기업의선호도를예측하는추천시스템 기업과직무선호도를예측하는추천시스템 두추천시스템을하이브리드하여선호도를예측하는추천시스템 기업의선호도를예측하는추천시스템채용공고클릭로그데이터를사용하여기업의선호도를예측하는시스템이다. { 사용자 ID, 기업 ID} 형태의 4,735,344개의채용공고 15
클릭로그데이터가입력으로주어진다. 입력받은데이터를메모리기반협업적필터링을해서각사용자별로선호도값이높은 10개의기업과예측값이출력되도록한다. 사용자별로 { 기업 ID, 선호도값 } 형식으로출력된다. 사용자간유사도는타니모토상관계수를사용한다. 타니모토상관계수는평점을무시하고사용자의선호표현여부만을가지고사용자간유사도를계산한다. 채용공고클릭로그데이터는평점이없이단순히선호표현여부만을알수있으므로, 타니모토상관계수가적절하다. K-Nearest Neighbors(KNN) 알고리즘을사용하여상위 20개의기업을추출하도록학습을한다. 학습이끝난후실제적용시에는시작전이거나이미마감을한채용공고는필터링하여현재채용중인공고만추천되도록한다. 기업의선호도와직무에선호도에따라사용자에게기업과직무를추천하더라도이전에마감이되었거나, 아직채용이시작되지않은공고는지원을할수가없으므로제외하도록한다. 기업과직무선호도를예측하는추천시스템자기소개서작성이력데이터를사용하여지원하는기업의직무선호도를예측하는추천시스템이다. { 사용자 ID, ( 기업 ID + 직무카테고리 ID)} 형태의 910,769개의자기소개서작성이력데이터가입력으로입력받은데이터를메모리기반협업적필터링을해서각사용자별로선호도값이높은 20개의기업과예측값이출력되도록한다. 사용자별로 {( 기업 ID + 직무카테고리 ID), 선호도값 } 형식으로출력된다. 기업의선호도를예측하는추천시스템과기업과직무의선호도를예측하는추천시스템은입력과출력값은다르지만메모리기반협력적필터링의구조는동일하다. 4.1. 추천시스템과마찬가지로타니모토상관계수로유사도를구하고, K-Nearest Neighbors(KNN) 알고리즘을사용하여상위 20개의기업을추출하도록학습을한다. 16
마찬가지로실제적용시에는현재채용중인공고만추천이되도록 한다. 두추천시스템을하이브리드하여선호도를예측하는추천시스템두추천시스템을하이브리드하여선호도를예측하는추천시스템이다. 식 2와같이기업추천시스템과기업 / 직무추천시스템에서얻어진예측값을 0에서 1 사이의값으로정규화를진행한뒤, 가중합을통하여값을구하고다시기업 / 직무추천시스템의최대값과최소값의차만큼곱한다. 이를통해기업 / 직무예측값의과도한수정은줄이고, 두추천시스템에서동시에추천되는기업이있을경우그예측값을강화하는역할을하게된다. ( 식 2) 17
제 5 장실험결과 학습한모델은 2016 년 5 월 29 일기준입력된데이터를기준으로 진행하였다. 항목 개수 사용자수 89,879 채용공고수 10,254 직무수 44,343 채용공고클릭로그수 4,735,344 자기소개서작성이력수 910,769 표 2. 추천채용시스템에사용된데이터종류와수 기업추천시스템과기업, 직무추천시스템결과 4,735,344개의 기업 클릭 데이터 중 90% 는 학습 데이터로 사용하였으며, 10% 는 테스트 데이터로 사용하였다. 마찬가지로 910,769개의자기소개서작성이력데이터중 90% 는학습데이터로 사용하였으며, 10% 는테스트데이터로사용하였다. 평가지표는평균제곱근의편차 (Root Mean Square Error; RMSE) 를사용하였다. 평균제곱근의편차는예측한선호도값과실제 환경에서관찰되는값의차이를다룰때흔히사용되는지표이다.. 평균 제곱근의편차가낮을수록실제환경과유사하다는것으로좋은품질의 추천시스템이다. (n=10) 추천시스템 데이터 RMSE 기업추천시스템 채용공고클릭로고 1.5215 기업 / 직무추천시스템 자기소개서작성이력 0.6359 표 3. 각각추천시스템의 RMSE 결과 하이브리드추천시스템결과 18
두개의추천시스템에서도출된선호도를통하여최종선호도를 도출하였고, 전처리가된자기소개서작성이력데이터중 10% 를 테스트데이터로사용하였다. 마찬가지로평가지표는평균제곱근의 편차 (Root Mean Square Error; RMSE) 을사용하였다. 추천시스템데이터 RMSE 하이브리드추천시스템 기업추천시스템, 기업 / 직무추천시스템의예측값 표 4. 하이브리드추천시스템의 RMSE 결과 0.6254 (n=10) 2 1.5 1 0.5 기업추천시스템 기업 / 직무추천시스템 하이브리드시스템 0 RMSE 그림 5. 추천시스템별 RMSE 결과 19
제 6 장결론및향후연구 제 1 절결론 본논문에서메모리기반의협업적필터링을활용하여채용공고클릭로그데이터를입력으로한기업추천시스템과자기소개서작성이력데이터를입력으로한기업 / 직무추천시스템을구현하였고, 두추천시스템의예측값을결합하여더나은하이브리드추천시스템을구현하였다. 하이브리드추천시스템은기업 / 직무추천시스템의성능에비해약간의성능개선이있었다. 그이유는두가지로예상할수있다. 첫번째이유는기업추천시스템의성능이기업 / 직무추천시스템에비해좋지않아서두추천시스템을하이브리드하더라도기업 / 직무추천시스템의성능이크게향상되지않았기때문이다. 두번째이유는기업추천시스템에서추천된기업과기업 / 직무추천시스템에서추천된서비스사이에공통된기업이적어서값에대한영향이크지않았기때문이다. 제 2 절향후연구 본논문에서제시한추천시스템은협업적필터링으로도출된결과값의하이브리드로좋은결과를내고자하였다. 추천시스템에서의일반적인하이브리드는협업적필터링과내용기반필터링을하이브리드하는경우가많은데, 그렇게하지못한이유는사용자의특성데이터와기업의특성데이터가없었기때문이다. 그러므로향후사용자의학교, 전공, 경력, 나이등의사용자특성데이터와기업의규모, 주력분야, 관련뉴스등기업의특성데이터를수집하여, 협업적필터링과내용기반필터링을하이브리드한추천시스템을구축하고자한다. 이러한하이브리드추천시스템은추천시스템의성능을개선할수있으며, 20
사용자의특성데이터와기업의특성데이터를우선적으로수집하여 Cold Start Problem도완화시킬수있을것이다 [14]. 또한, 본연구에서도출된추천채용시스템을실제서비스에접목하여실제사용자의반응을확인하고, 피드백을통해지속적으로모델을개선하여정확도를향상시키고자한다. 21
참고문헌 [1] Ansari, A., S. Essegaier and R. Kohli, Internet Recommender Systems, Journal of Marketing Research, Vol.37, No.3(2000): 363-375. [2] Lamere, Paul, and S. Green. "Project aura: recommendation for the rest of us." Presentation at Sun JavaOne Conference(2008). [3] Gomez-Uribe, Carlos A., and Neil Hunt. "The Netflix Recommender System: Algorithms, Business Value, and Innovation." ACM Transactions on Management Information Systems (TMIS) 6.4 (2015): 13. [4] Ricci, Francesco, Lior Rokach, and Bracha Shapira. "Introduction to recommender systems handbook", Springer US(2011). [5] Adomavicius, Gediminas, and Alexander Tuzhilin. "Toward the next generation of recommender systems: A survey of the stateof-the-art and possible extensions." Knowledge and Data Engineering, IEEE Transactions on 17.6 (2005): 734-749.. [6]Dommeti, Ramesh. "Neighborhood based methods for Collaborative Filtering." A Case Study, I (2009): 1-5. [7] Sarwar, Badrul, et al. "Item-based collaborative filtering recommendation algorithms." Proceedings of the 10th international conference on World Wide Web. ACM, 2001. [8] Li, Peng, and Seiji Yamada. "A movie recommender system based on inductive learning." Cybernetics and Intelligent Systems, 2004 IEEE Conference on. Vol. 1. IEEE(2004). [9] Sarwar, Badrul, et al. "Application of dimensionality reduction in recommender system-a case study". No. TR-00-043. Minnesota 22
Univ Minneapolis Dept of Computer Science(2000). [10] Lops, Pasquale, Marco De Gemmis, and Giovanni Semeraro. "Content-based recommender systems: State of the art and trends." Recommender systems handbook. Springer US, (2011): 73-105. [11] Pazzani, Michael J. "A framework for collaborative, contentbased and demographic filtering." Artificial Intelligence Review 13.5-6 (1999): 393-408. [12] Deshpande, Mukund, and George Karypis. "Item-based top-n recommendation algorithms." ACM Transactions on Information Systems (TOIS) 22.1 (2004): 143-177. [13] Wang, Jun, Arjen P. De Vries, and Marcel JT Reinders. "Unifying user-based and item-based collaborative filtering approaches by similarity fusion." Proceedings of the 29th annual international ACM SIGIR conference on Research and development in information retrieval. ACM(2006). [14] Good, Nathaniel, et al. "Combining collaborative filtering with personal agents for better recommendations." AAAI/IAAI. (1999). 23
Abstract Design and Implementation of Employment Recommender System using Collaborative Filtering Susang Park Department of Computer Science and Engineering College of Engineering The Graduate School Seoul National University Recommender system is one of big data processing technologies. Recommender system can suggest personalized items to users in many different domains, e.g. books, items, movies. In this paper, recommender system introduce to employment domain. Many job applicants are difficult to find appropriate job positions. Using recommender system can suggest job positions to job applicants. Two memory-based collaborative filtering recommender systems are developed. Structure of two models is similar, but only input data are different. Also, hybrid recommender system is developed. The input data of this hybrid system is weighted sum of two collaborative filtering recommender systems Keywords : Recommender System, Collaborative Filtering, Employment Recommender System Student Number : 2014-21769 24