Asia-pacific Journal of 김대현 Multimedia Services Convergent with Art, Humanities, and Sociology Vol.6, No.5, May (2016), pp. 435-444 http://dx.doi.org/10.14257/ajmahs.2016.05.22 딥러닝 신경망모형을 이용한 실시간 교통정보수집 연구 템중하나이며우수한예측추정력때문에핵심알고리즘으로인공신경망모형이주로사용되고있 다특히최근과학학술지네이처에구글딥마인드의알파고가공개되면서딥러닝과인공지능에대 비디오기반의실시간교통정보수집시스템은자율주행을포함한지능형교통체계의주요서브시스 요약 한전세계적인관심이집중되고있다최근까지가장널리사용된인공신경망모형은역전파모형이 었으나최근컴퓨터하드웨어및알고리즘의새로운개발과더불어딥러닝알고리즘을이용한딥인 공신경망모형에대한관심이높아지고있다그러나아직딥러닝인공신경망에대한연구는초기단 계에있는실정이며적용분야도극히한정되어있다본연구에서는실시간도로교통정보수집을위 한영상처리분야에서딥러닝알고리즘을활용하고실험결과를통하여향후교통정보수집분석분야 에서의딥러닝인공신경망모형의적용가능성을살펴보고자한다특히본연구에서도출한딥러닝 인공신경망모형의실험결과를기존역전파모형에의한실험결과와비교하여모형의우수성을비교 평가하고자한다 핵심어지능형교통체계인공신경망딥러닝도로교통정보영상처리 Abstract Real-time automatic video-based traffic surveillance system is one of the main subsystems of Intelligent Transportation Systems (ITS) which are advanced applications in order to provide innovative services relating to traffic management and enable various users to be better informed and make safer. Real-time automatic video-based traffic surveillance system is one of the main subsystems of Intelligent Transportation Systems (ITS) which are advanced applications in order to provide innovative services relating to traffic management and enable various users to be better informed and make safer. Normally, artificial neural networks have been used in real-time applications for collecting traffic information because of their remarkable performance in terms of predictive accuracy and real-time computing. Especially, the recent publication of a paper in the journal Nature and the success of Google DeepMind s world-beating Go program AlphaGo caused significant increases of the public interest in artificial intelligence. Even though 이논문은 various types 년도전남대학교학술연구비지원에의하여연구되었음 of learning models have been proposed, the Backpropagation has been the most popular 435 Received (March 11, 2016), Review Result (March 25, 2016) Accepted (April 1, 2016), Published (May 31, 2016) ISSN: 2383-5281 AJMAHS
서론 정보를제공하고그정보를통하여교통시설이상황에따라자동으로제어되며이용자에게최대 한편의를제공하는시스템으로도로차량신호시스템등기존교통체계에전자제어통신등의 지능형교통시스템 은기존의교통시스템에인공지능을갖추어 첨단기술을접목시켜교통시설의효율을높이고안전을증대하기위한차세대교통시스템이다 라지능형교통체계는전세계적으로많은관심을받고있는상황이다 최근에는국내외서인공지능과차세대자율주행차량개발에대한연구와투자를집중함에따 도로정보의수집이요구되며이를위하여오래전부터많은연구가진행되어왔다특히도로에서 교통량속도차량궤적의추적혼잡도측정돌발상황검지등의교통정보를실시간자동으로수 그러나지능화된도로운영및차량의자율운행등을위하여현장으로부터실시간정확한교통 집하기위하여다양한기술이개발되어왔다현재국내외적으로가장보편화된기술은루프검지기 이며루프검지기의여러단점노면에접촉하여매설됨에따라도로노면파손에의한시스템의잦은 오류가발생설치및유지관리에많은어려움등으로대체검지기에대한요구가증대되고있다 현재영상검지기마이크로웨이브적외선검지기등의다양한대체검지기기술이제시되고있으나 이들기술중영상검지기가가강효과적인대체검지기로인식되고있다특히실시간비디오카메 라에의해수집된도로영상으로부터필요한교통정보를자동으로추출하는영상처리기술은차량의 자율주행에서도반드시필요한기술이며지능형교통체계구축을위한주요핵심기술이다 교통정보수집을위하여다양한연구가진행되었음에도불구하고도로의복잡한환경을실시간으 로완벽하게인식하는알고리즘개발에는많은어려움이있다도로영상에서분석을필요로하는 영상처리기술을활용한교통량속도차량궤적추적혼잡도측정돌발상황검지등의실시간 관심영역 난다이런다양하고복잡한영상에서자동교통정보수집의신뢰도를극대화시키기위한효과적인 값의변화불필요한잡음에는앞가림 등다양한요인에의해매우복잡한영상의형태로나타 그림자 빛의밝기에따른화소 알고리즘으로컴퓨터학습에기초를두고있는인공신경망모형을활용하고있다특히인공신경망 모형에대한관심이높아짐에따라다양한형태의인공신경망모형이개발되었으며여러모형들 중에역전파모형 이큰각광을받아왔다그러나역전파모형은네트워크구성이 436 복잡해지면과학습 문제가발생할수있고따라서단순한형태의네트워크구성이 neural network model. However, the Deep learning neural network model has attracted much interest recently. In this study, the Deep leaning neural network will be applied in image processing techniques for the real-time traffic information collection to investigate the performance of Deep learning algorithm in traffic engineering fields. In addition, the experimental results from Deep learing algorithm will be compared with the results from Backpropagation model to evaluate and propose better performing model. Keywords : Intelligent Transportation Systems (ITS), artificial neural networks, Deep learning, traffic information, image processing Copyright 2016 HSST
제시하였으며그이후전세계적인관심이딥러닝인공신경망에집중되고있다특히최근구글의 알파고 일반적이었다이것을극복하기위하여 과 는 년딥러닝인공신경망을 을활용한인공신경망모형에대한관심은일반인들에게까지확산되고있다따라서향후딥러닝을 Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology 활용한인공신경망모형의적용은의료및주식시스템트레이딩등여러분야로점차확대될것으로 와프로기사이세돌의바둑대결에서구글의알파고가압승을거둠에따라딥러닝 Vol.6, No.5, May (2016) 기대된다 보수집의요소기술인도로영상인식에딥러닝인공신경망모형을활용하고자한다현장데이터를 활용한실험을통하여딥러닝인공신경망의예측추정력의신뢰도를분석하고기존인공신경망모 본연구에서는지능형교통시스템 구현을위한실시간교통정 형과의비교를통하여딥러닝인공신경망모형의특성을파악하고제시할것이다이는향후교통공 학및계획분야를포함한다양한분야에서의딥러닝인공신경망모형의적용성을판단하는기준이 될수있을것이다 인공신경망 모형 모형 의해개발되었으며지금까지가장널리알려진지도학습 그리고역전파모형을활용하여다양한문제들로부터성공적인결과를얻었다그러나학습에요구 다층네트워크구조의역전파 은 과 에 되는시간급증최적네트워크구성학습이지역최소 모형중하나이다 야할문제점들이제시되었으며이들문제점들을해소하기위하여개선된역전파모형 에갇힐가능성등개선되어 단축시켰으며기존역전파모형에서나타나는플랫스폿 도입으로해소하였다 이개발되었다 특히 은 문제를 를통하여학습시간을현저히 파라메터의 및초기연결강도결정방법을제외하면기존의역전파모형과동일하다결과적으로딥러닝인공신 경망모형의학습알고리즘은기존의역전파모형의학습알고리즘과동일하며본연구에서실험을 다음 딥러닝인공신경망에서설명한바와같이딥러닝인공신경망모형은네트워크구성 위하여사용한역전파모형의알고리즘수행과정은다음과같이정리할수있다 단계 신경세포간의시냅스연결강도의초기화 다음계산식에의한다른뉴런으로의전달값결정 입력및출력변수값설정 437 ISSN: 2383-5281 AJMAHS
수식에서 여기서 도 는치우침을나타낸다 는네트워크구성에서계층의뉴런수를는학습패튼 는층의번째뉴런에대한입력값이며 는신경세포간의시냅스연결강 단계 는전달함수를나타낸다 출력층과연결되는시냅스연결강도변화량을다음계산식에의하여결정한다 식에서 는지도학습 여기서 단계 모형에서사용자가원하는값이다 은닉층에서의시냅스연결강도변화량을다음계산식에의하여결정한다 여기서 단계 출력층시냅스연결강도를다음계산식에의하여새롭게결정한다 단계 은닉층시냅스연결강도를다음계산식에의하여새롭게결정한다 단계 때까지위과정을반복한다즉학습오차가충분이작은값에도달할때까지학습을반복한다 학습오차는다음의식에의해결정한다 전체학습데이타를활용하여원하는값과계산값의차이가만족할만한수준에도달할 딥러닝인공신경망 심층구조모델을학습하는데초점을둔기계학습방법이다 은얕은학습 에반대되는개념으로딥러닝은데이터의 최근까지인공신경망의네트워크구 438 성은개층개의은닉층개의입력층개의출력층이가장일반적이었으나딥러닝인공신경망
모형의학습을위한네트워크의초기연결강도 에서는개의은닉층 으로구성된네트워크를사용하였다특 따라서딥러닝인공신경망모형은비지도학습 Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology 의결합인하이브리드학습 값을결정하였다 으로볼수있으며비지도학습인 과지도학습 Vol.6, No.5, May (2016) 단계 의기본알고리즘은다음과같다 여계산하고 로부터 를샘플링을한다 학습데이터의가시상태일력변수값을 에대하여은닉층뉴런의확률값 로설정하고모든은닉뉴런 를식을이용하 단계 여기서 exp 확률값 를샘플링을한다 모든입력층의가시뉴런 를식 에대하여재구성된가시뉴런 을이용하여계산하고 로부터 의 단계 여기서 exp 를식을이용하여계산한다 모든은닉뉴런 에대하여은닉층뉴런의확률값 단계 모든와에대하여다음식에의해데이타분포에대한기댓값을계산한다 단계 모든와에대하여다음식으로재건층 에대한기댓값을계산한다 단계 계산하다모든와에대하여다음식으로연결강도 의변화및치우침 값들을 여기서 는학습률 는가시뉴런층의치우침 는은닉층의치우침을나타 439 ISSN: 2383-5281 AJMAHS 히비지도학습 인 을활용하여역전파
단계 낸다 모든와에대하여연결강도 변화및치우침 값의변화를적용한다 학습검정데이터및네트워크구성 실험및연구결과 식을위하여딥러닝인공신경망을적용하였다학습 영역에서개의다른패턴을인식하는것으로개별패턴은다음의특성을갖고있다 본연구에서는도로영상의관심영역 과검정 에나타나는다양한형태의패턴인 차량의앞또는뒤범퍼가영상의관심영역 에출현를위한실험과제는관심 이는상태 차량의루프가영상의관심영역 차량의어떤부분도나타나지않고영상의관심영역 에출현 에는도로의차선표시만보 하는패턴외에그림자주변장애물등에의한가림 불필요한잡음 실험영상은개의패턴으로구분되어야하나실제도로영상의관심영역 등다양한형태가나타나고자주 에는분석하고자 인공신경망의학습알고리즘이예측추정력은큰영향을미친다 이발생하기도한다따라서데이터의학습과검정에잦은오류가발생하며 사용하였으며전체학습 본연구에서는실험학습및검정을위하여기존연구 등에서활용한영상데이터를 터패턴 개의데이터패턴 개패턴 에사용한데이터수는 개그리고검정을위해서 개이다학습을위하여 도로운행차량에의하여매번다른영상이나타나는반면에패턴는도로에서빛의강도에의한 개패턴 개패턴 개가사용되었다관심영역에서패턴 및패턴는 개의데이 화소 따라서학습및검정에서패턴 값의변화및도로의차선표시에의한영상등비교적단순한형태의영상이나타난다 및패턴에비해상대적으로적은수의데이터가사용되었다 440 그림학습및검정을위하여실험데이타패턴 패턴A 패턴B 패턴C
받을수있다따라서본연구에서는딥러닝인공신경망과역전파모형의보다정확한비교검정을 위하여동일한조건네트워크구성및초기연결강도에서실험을실시하였다특히네트워크구성 인공신경망모형의예측추정력은네트워크구성및연결강도 의초기값에의해영향을 은 의딥러닝인공신경망에서실험에사용한네트워크구조개의은닉층즉입력유니트 Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology 출력유니트를그대로적용하였다 Vol.6, No.5, May (2016) 로구성하였다각패턴에대한사용자정의의출력층예측추정값은다음과같이구성하였다즉 본연구에서입력층유니트수는 개 의사이즈로한다그림는본연구에서사용한 화소화소출력층은개의유니트 딥러닝인공신경망모형의네트워크구조 를나타낸다 실험결과 그림딥러닝신경망모형네트워크구성 타낸다표에서보는바와같이본연구에서는각모형별충분한학습을위하여평균제곱근오차 다음표은역전파모형과딥러닝인공신경망모형을이용한실험데이타의예측추정결과를나 예측추정력이큰영향을받으며보다정확한실험을위해서는동일네트워크에서뉴런간의연결 강도의초기값을달리하여많은실험을거쳐야한다따라서본연구에서는두모형역전파모형 가에근접할때까지학습시켰다그리고역전파모형은초기연결강도 에따라 딥러닝인공신경망의비교검정을위해서동일조건네트워크구성및변수값에서뉴런간의연결 강도의초기값만달리하여회의실험을반복하였으며실험결과는통계적분석을통하여모형 441 ISSN: 2383-5281 AJMAHS
의차이를판별하였다 표역전파모형및딥러닝인공신경망모형의예측력실험결과 모형별예측오차율최대및최소 예측오차 학습후구분 최대오차역전파모형최소오차 최대오차 딥러닝인공신경망 최소오차 모형별회평균의오차율및통계분석결과 예측오차율 인식율 오차합계패턴 예측오차학습후구분 역전파모형 딥러닝인공신경망 통계분석예측오차율 인식율 오차합계 패턴 기연결강도값에따라예측추정에큰차이가발생하는것으로나타났다표 와같이역전파모형에서는 각기다른초기연결강도값으로총회의실험에서역전파모형과딥러닝인공신경망모두초 서최대 인식율 로나타났으며반면딥러닝인공신경망모형에서는예측오차가최소 개의검정 데이타에서예측오차는최소 에서보는바 인식율 에서최대 인식율 로나타났다이는최대인식율또는최소인식 에 의미한다 율기준등두경우모두역전파모형보다딥러닝인공신경망모형이우수한결과를나타낸것을 전파모형에서는예측오차가 특히표 인식율 는초기연결강도를다르게하여회실험한각모형의평균값을나타내며역 로나타났다본연구의실험에서는평균적으로딥러닝인공신경망모형이역전 인식율 였으며딥러닝인공신경망모형에서는예측오차가 442 파모형보다약 포인트정도의예측력인식율이우수한것으로나타났으며이결과는통계적
를위하여유의수준은 으로도유의미한것으로분석되었다즉본연구에서는두모형에대한예측신뢰도평균값의비교 것으로나타났다 에서보는바와같이분석결과두모형의평균인식율은통계적으로유의미한차이가있는 에서일원분산분석 을실시하였으며표 Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology Vol.6, No.5, May (2016) 최근알파고의영향으로딥러닝에대한전세계적인관심이고조되고있는이때본연구에서는 결론 비디오영상을이용한실시간교통정보수집에딥러닝인공신경망모형을적용하였다본연구에서는 도로에서수집한영상데이타을활용하여인공신경망모형의학습과검정을위한실험을실시하였 으며본연구에서의실험결과최근의딥러닝인공신경망모형이기존역전파모형에비해다소우수 한예측력을보이는것으로나타났다따라서현재전세계적으로각광받고있는딥러닝인공신경 망모형이기존역전파모형을대신하여보다다양한분야에서적용이가능할것으로판단되며이 는딥러닝인공신경망모형을통하여인공신경망모형의예측신뢰도를향상시키고다시한번인공신 기존역전파모형보다우수하다고단정짖기에는무리가따른다고판단된다따라서딥러닝인공신 경망모형의부흥기를이끌수있는기회를제공할수있을것이다 경망모형의우수성을확정하고실험결과를일반화하기위해서는보다다양한데이터를활용하여 그러나인공신경망모형의예측력은데이터유형에따라달라질수있으며모든데이터에서 추가적인실험이요구될것이다뿐만아니라기존역전파모형에서나타나는문제점중의하나인 뉴런간연결강도의초기값에따른검정데이타에서의예측추정력에현저한차이가발생하는것 이딥러닝인공신경망모형에서도나타났으며이에대한개선연구가필요할것으로판단된다 443 ISSN: 2383-5281 AJMAHS
References [1] http://dic.mk.co.kr/, April 25 (2016). [2] G. E. Hinton, R. R. Salakhutdinov, Reducing the dimensionality of data with neural networks, Science. (2006), Vol.313, No.5786, pp.504-507 [3] A. Krizhevsky, I. Sutskever, G. E. Hinton, Imagenet classification with deep convolutional neural networks. Advances in Neural Information Processing 25, MIT Press, Cambridge, MA (2012) [4] D. E. Rumelhart, G. E. Hinton, J. L. McClelland, A general framework for parallel distributed processing. In D.E. Rumelhart, J.L. McClelland and the PDP Research Group, eds. Parallel distributed processing, Cambridge, MA: MIT Press (1986) Vol.1, pp.45-76. [5] D. E. Rumelhart, G. E. Hinton, R. J. Williams, Learning internal representations by error propagation. In D.E. Rumelhart, J.L. McClelland and the PDP Research Group, eds. Parallel distributed processing, Cambridge, MA: MIT Press (1986) Vol.1, pp.318-364. [6] S. E. Fahlman, An empirical study of learning speed in backpropagation networks. Technical Report CMU-CS-88-162, Canegie Mellon University (1988) [7] D. Kim, Standard and advanced Backpropagation models for image processing application in traffic engineering. ITS Journal. (2003), Vol.7, No.3-4, pp.199-211. [8] R. B. Palm, Prediction as a candidate for learning deep hierarchical models of data, MSC thesis, Technical University of Denmark (2012) [9] G. E. Hinton, S. Osindero, Y. W. The, A fast learning algorithm for deep belief nets. Neural Comput. (2006), Vol.18, No.7, pp.1527-1554. [10] T. Amaral, Experiments with a restricted Boltzmann machine, NNIG Technical Report No. 1/2012, Porto, Portugal (2012) [11] D. Kim, Creating a new input vector to improve the prediction performance of SVM classification. Journal of Basic and Applied Research International. (2015), Vol.7, No.4, pp.232-238. [12] D. Kim, G.J. Kim, H.K. Kim, Performance Improvement by Modification of Learning Algorithm of Multilayer Feed-forward Neural Network Model. INFORMATION-AN INTERNATIONAL INTERDISCIPLINARY JOURNAL. (2013), Vol.1(A), No.4, pp.481-494 [13] D. Kim, Pre-processing of inputs to a neural network model for better performance in traffic scene analysis. CIVIL ENGINEERING AND ENVIRONMENTAL SYSTEMS. (2010), Vol.27, No.1, pp.23-31. 444 Copyright 2016 HSST