의료영상분석에있어딥러닝의응용사례에대해살펴본다. 2 장에서는딥러닝의개요와관련주요기술들에대해역사와원리를소개한다. 3장에서는최근의료영상분석에딥러닝이응용된사례에대해정리한다. 4장에서는추후의료영상분석에있어딥러닝의응용가능성에대해언급함으로써결론을맺는다. 딥러닝의개요 1. 인공신경망

Similar documents
<4D F736F F D20B1E2C8B9BDC3B8AEC1EE2DC0E5C7F5>

Introduction to Deep learning

딥러닝 첫걸음

1-1-basic-43p

(JBE Vol. 24, No. 2, March 2019) (Special Paper) 24 2, (JBE Vol. 24, No. 2, March 2019) ISSN

Ch 1 머신러닝 개요.pptx

지능정보연구제 16 권제 1 호 2010 년 3 월 (pp.71~92),.,.,., Support Vector Machines,,., KOSPI200.,. * 지능정보연구제 16 권제 1 호 2010 년 3 월

( 분류및특징 ) 학습방법에따라 1 지도학습 (Supervised 2 비지도 학습 (Unsupervised 3 강화학습 (Reinforcement 으로구분 3) < 머신러닝의학습방법 > 구분 지도학습 (Supervised 비지도학습 (Unsupervised 강화학습 (

2 : (Seungsoo Lee et al.: Generating a Reflectance Image from a Low-Light Image Using Convolutional Neural Network) (Regular Paper) 24 4, (JBE

PowerPoint Presentation

표상학습을이용한딥러닝이미지특성의범용분류성에대한실험적분석 지도교수장병탁 이논문을공학학사학위논문으로제출함 년 12 월 21 일 서울대학교공과대학컴퓨터공학부한동식 2016 년 2 월

(JBE Vol. 23, No. 2, March 2018) (Special Paper) 23 2, (JBE Vol. 23, No. 2, March 2018) ISSN


High Resolution Disparity Map Generation Using TOF Depth Camera In this paper, we propose a high-resolution disparity map generation method using a lo

김기남_ATDC2016_160620_[키노트].key

THE JOURNAL OF KOREAN INSTITUTE OF ELECTROMAGNETIC ENGINEERING AND SCIENCE Jul.; 29(7),

PowerPoint 프레젠테이션

PowerPoint 프레젠테이션

Electronics and Telecommunications Trends 인공지능을이용한 3D 콘텐츠기술동향및향후전망 Recent Trends and Prospects of 3D Content Using Artificial Intelligence Technology

4 : (Hyo-Jin Cho et al.: Audio High-Band Coding based on Autoencoder with Side Information) (Special Paper) 24 3, (JBE Vol. 24, No. 3, May 2019

02( ) SAV12-19.hwp

신경망 (Neural Networks) < 인공지능입문 > 강의 허민오 Biointelligence Laboratory School of Computer Science and Engineering Seoul National University

2 : (EunJu Lee et al.: Speed-limit Sign Recognition Using Convolutional Neural Network Based on Random Forest). (Advanced Driver Assistant System, ADA

2 : 3 (Myeongah Cho et al.: Three-Dimensional Rotation Angle Preprocessing and Weighted Blending for Fast Panoramic Image Method) (Special Paper) 23 2

(JBE Vol. 23, No. 2, March 2018) (Special Paper) 23 2, (JBE Vol. 23, No. 2, March 2018) ISSN

Gray level 변환 및 Arithmetic 연산을 사용한 영상 개선

김경재 안현철 지능정보연구제 17 권제 4 호 2011 년 12 월

Software Requirrment Analysis를 위한 정보 검색 기술의 응용

Structural SVMs 및 Pegasos 알고리즘을 이용한 한국어 개체명 인식

PowerPoint 프레젠테이션

때문이다. 물론가장큰이유는, 다음절에서살펴보겠지만최근들어딥러닝구조를학습하는데필요한여러가지테크닉들이개발되었기때문이다 [6,7]. 딥러닝이산업현장에서선호되는데는몇가지이유가있다. 일단은어려운문제를잘해결한다는것이다. 예를들어서, 물체인식과음성인식등전통적인패턴인식의문제에서딥러닝

3 : OpenCL Embedded GPU (Seung Heon Kang et al. : Parallelization of Feature Detection and Panorama Image Generation using OpenCL and Embedded GPU). e

REP - CP - 016, N OVEMBER 사진 요약 25 가지 색상 Surf 를 이용한 사진 요약과 사진 배치 알고리즘 Photo Summarization - Representative Photo Selection based on 25 Color Hi

09권오설_ok.hwp

<313120C0AFC0FCC0DA5FBECBB0EDB8AEC1F2C0BB5FC0CCBFEBC7D15FB1E8C0BAC5C25FBCF6C1A42E687770>

R을 이용한 텍스트 감정분석

빅데이터_DAY key

Asia-pacific Journal of Multimedia Services Convergent with Art, Humanities, and Sociology Vol.7, No.11, November (2017), pp

KCC2011 우수발표논문 휴먼오피니언자동분류시스템구현을위한비결정오피니언형용사구문에대한연구 1) Study on Domain-dependent Keywords Co-occurring with the Adjectives of Non-deterministic Opinion

07.045~051(D04_신상욱).fm

정보기술응용학회 발표

6 : (Gicheol Kim et al.: Object Tracking Method using Deep Learing and Kalman Filter) (Regular Paper) 24 3, (JBE Vol. 24, No. 3, May 2019) http

05( ) CPLV12-04.hwp

45-51 ¹Ú¼ø¸¸

Microsoft PowerPoint - 실습소개와 AI_ML_DL_배포용.pptx

42.hwp

02본문

Multi-pass Sieve를 이용한 한국어 상호참조해결 반-자동 태깅 도구

I

À±½Â¿í Ãâ·Â

Reinforcement Learning & AlphaGo

6.24-9년 6월

학습영역의 Taxonomy에 기초한 CD-ROM Title의 효과분석

다중 곡면 검출 및 추적을 이용한 증강현실 책

°í¼®ÁÖ Ãâ·Â

2 : (Juhyeok Mun et al.: Visual Object Tracking by Using Multiple Random Walkers) (Special Paper) 21 6, (JBE Vol. 21, No. 6, November 2016) ht

레이아웃 1

_KrlGF발표자료_AI

example code are examined in this stage The low pressure pressurizer reactor trip module of the Plant Protection System was programmed as subject for

19_9_767.hwp

(JBE Vol. 21, No. 1, January 2016) (Regular Paper) 21 1, (JBE Vol. 21, No. 1, January 2016) ISSN 228

DBPIA-NURIMEDIA

02본문

Artificial Intelligence: Assignment 6 Seung-Hoon Na December 15, Sarsa와 Q-learning Windy Gridworld Windy Gridworld의 원문은 다음 Sutton 교재의 연습문제

<4D F736F F D20B1E2C8B9BDC3B8AEC1EE2DB0FBB3EBC1D8>

(JBE Vol. 23, No. 6, November 2018) (Regular Paper) 23 6, (JBE Vol. 23, No. 6, November 2018) ISSN 2

PowerPoint Presentation

Delving Deeper into Convolutional Networks for Learning Video Representations - Nicolas Ballas, Li Yao, Chris Pal, Aaron Courville arXiv:

방송공학회논문지 제18권 제2호

(JBE Vol. 22, No. 2, March 2017) (Regular Paper) 22 2, (JBE Vol. 22, No. 2, March 2017) ISSN

사회통계포럼

<91E6308FCD5F96DA8E9F2E706466>

2 : (Rahoon Kang et al.: Image Filtering Method for an Effective Inverse Tone-mapping) (Special Paper) 24 2, (JBE Vol. 24, No. 2, March 2019) h

., (, 2000;, 1993;,,, 1994), () 65, 4 51, (,, ). 33, 4 30, 23 3 (, ) () () 25, (),,,, (,,, 2015b). 1 5,


부문별 에너지원 수요의 변동특성 및 공통변동에 미치는 거시적 요인들의 영향력 분석

3 Gas Champion : MBB : IBM BCS PO : 2 BBc : : /45

<BFACBCBCC0C7BBE7C7D E687770>

±èÇö¿í Ãâ·Â

07_À±ÀåÇõ¿Ü_0317

untitled

26 이경승(394~400).hwp

보고싶었던 Deep Learning과 OpenCV를이용한이미지처리과정에대해공부를해볼수있으며더나아가 Deep Learning기술을이용하여논문을작성하는데많은도움을받을수있으며아직배우는단계에있는저에게는기존의연구를따라해보는것만으로도큰발전이있다고생각했습니다. 그래서이번 DSP스마

(JBE Vol. 7, No. 4, July 0)., [].,,. [4,5,6] [7,8,9]., (bilateral filter, BF) [4,5]. BF., BF,. (joint bilateral filter, JBF) [7,8]. JBF,., BF., JBF,.

-

PowerPoint 프레젠테이션

시장분석통계Ⅰ. 서론부록인공신경망의시초라할수있는퍼셉트론 (perceptron) 은 1957 년 Frank Rosenblatt 가발명했고딥러닝의 학습알고리즘인오차역전파법 (back-propagation) 은 1986년 LeCun에의해발명됐다. 이미딥러닝의핵심이론은 198

딥러닝튜토리얼 Deep Learning Tutorial - 신경망과딥러닝의이해 Understanding Neural Network & Deep Learning

기획특집 4 I 머신러닝알고리즘을이용한부동산가치산정에관한소고 Ⅱ. 인공지능의정의와주요분야 1956년여름개최된다트머스학술회의 (Dartmouth Conference) 를통해인공지능이라는용어가널리알려지고, 인공지능이새로운연구분야로서확립되게된다. 인공지능이라는용어를처음고안한

PowerPoint 프레젠테이션

감각형 증강현실을 이용한

À¯Çõ Ãâ·Â

1 : 360 VR (Da-yoon Nam et al.: Color and Illumination Compensation Algorithm for 360 VR Panorama Image) (Special Paper) 24 1, (JBE Vol. 24, No

LIDAR와 영상 Data Fusion에 의한 건물 자동추출

0125_ 워크샵 발표자료_완성.key

Journal of Educational Innovation Research 2018, Vol. 28, No. 4, pp DOI: A Study on Organizi

PowerPoint 프레젠테이션

16(1)-3(국문)(p.40-45).fm

01 AI Definition 02 Deep Learning Theory - Linear Regression - Cost Function - Gradient Descendent - Logistic Regression - Activation Function - Conce

강의록

Transcription:

의료영상에서의딥러닝 이한상 박민석 김준모 한국과학기술원전기및전자공학과 Deep Learning in Medical Imaging Hansang Lee, Minseok Park, Junmo Kim Department of Electrical Engineering, KAIST, Daejeon, Korea = Abstract = As a branch of artificial intelligence, machine learning has been one of the most important technologies not only in computer vision but also in medical image analysis. Currently, the deep learning, a specific model of artificial neural networks, is getting increasing attention with its theoretical novelty and significantly successful performance in computer vision. Furthermore, since deep learning has shifted the paradigm of feature extraction from the hand-crafted features to the learnt-from-data features, deep learning is considered as a promising machine learning framework in medical imaging applications. In this paper, we briefly introduce the concepts of deep learning and its several models. Additionally, we review the related works on deep learning applications in medical image analysis including image classification, detection and segmentation. Key words: Machine learning, Deep learning, Artificial neural network, Medical imaging, Image analysis 서 기계학습 (machine learning) 은인공지능의한분야로주어진데이터로부터패턴이나특성을학습하여새로운데이터에대해작업을수행해낼수있도록하는알고리즘및관련분야를의미한다. 기계학습은소프트웨어기술로부터금융, 경제에이르기까지알고리즘기반의모든분야에응용되고있으며특히컴퓨터비전및영상처리분야의비약적인발전을선도하는핵심기술로자리잡고있다. 기계학습은최근의료영상분석을포함한의료기술에도응용되고있는데, 의료영상에서기관이 론 통신저자 : 김준모, (305-338) 대전광역시유성구대학로 291 한국과학기술원전기및전자공학과 Tel: 042-350-3488, Fax: 042-350-3410 E-mail: junmo.kim@kaist.ac.kr 나암부위등의추출및분할이나영상정합, 영상검색등전반적인의료영상분석분야에널리활용되고있다. 최근딥러닝 (deep learning) 이라는기계학습기법이핵심기술로대두되면서관련기술및응용분야에대한관심또한높아지고있다. 딥러닝은생물의신경계를모방한인공신경망 (artificial neural network) 의하나로서기존의인공신경망모델이얇은층의뉴런모델들의연결로구성되어있다면, 딥러닝은뉴런모델의층을깊게쌓아올림으로써신경망의학습능력을높이는모델이다. 여러층으로이루어진인공신경망으로서의딥러닝의개념은 1970년대에제안되었으나, 학습계산의복잡성등으로인해정체되어있다가최근여러가지연구를통해그성능이개선되고관련연구들이음성인식및영상인식등의분야에서뛰어난결과를보이면서그수요가빠르게증가하고있다. 이종설에서는딥러닝의개요및관련연구에대한고찰및 - 13-

의료영상분석에있어딥러닝의응용사례에대해살펴본다. 2 장에서는딥러닝의개요와관련주요기술들에대해역사와원리를소개한다. 3장에서는최근의료영상분석에딥러닝이응용된사례에대해정리한다. 4장에서는추후의료영상분석에있어딥러닝의응용가능성에대해언급함으로써결론을맺는다. 딥러닝의개요 1. 인공신경망상기한바와같이딥러닝은인공지능및기계학습의대표적인모델중에하나인인공신경망의일종이다. 인공신경망의시초는 1943년 McCulloch and Pitts [1] 가사람의신경속뉴런의활동을단순한네트워크로모형화함으로써그개념이제안되었다. 또한 1949년 Hebb [2] 은두개의뉴런이서로반복적이고지속적인자극을통해영향을받으면, 두뉴런사이의시냅스의연결강도가증가함으로써소위뉴런의학습과정이이루어진다는 Hebbian learning 이론을제시했다. 예를들어, 파블로프의개실험에서종소리에반응하는뉴런과침을분비하는반응을유발하는뉴런의연결성이처음에는약했으나, 반복되는실험을통해시냅스연결성이강화되고조건반사가일어났다는것이 Hebbian learning의학습이론이다. 이러한학습규칙은향후인공신경망기술에있어서도학습의중요한토대가되었으며, 뉴런간의연결성을효과적으로추정하는것을목표로다양한연구가이루어졌다. 2. 퍼셉트론 1958년 Rosenblatt [3, 4] 에의해제안된퍼셉트론 (perceptron) 은 1세대인공신경망모델이라고할수있다. 퍼셉트론은뉴런이입력층 (input layer) 및출력층 (output layer) 두층으로구성되어있는가장간단한전방향네트워크 (feedforward network) 이다. 상기한바와같이인공신경망의학습은기본적으로입력층의뉴런과출력층의뉴런사이의시냅스연결강도를모방한가중치 (weight) 를추정하는것으로서, 이가중치는입력된학습데이터로부터인공신경망이생성하는출력값이학습데이터의정답과유사해지는방향으로조절하게된다. 여기서출력값은입력층의뉴런에입력되는값과해당시냅스에서의가중치를곱한것을모두합한선형모델수치를, 임계값 (threshold) 기반의활성함수 (activation function) 를거쳐뉴런의활성화를결정하게된다. 선형모델기반의뉴런-시냅스모델과활성함수의도입을통해초기인공신경망모델을구성한점에서퍼셉트론은비교적정확히계산된최 초의인공신경망모델이라는의의가있으나선형분리가가능한간단한분류문제에서만학습이가능하고, XOR과같이단순한문제도기존퍼셉트론으로는학습이불가능한한계가있었으며, 1969년 Minsky and Papert [5] 는퍼셉트론의심각한제약성을수학적으로입증하는데에이르렀다. 이후이러한한계점을극복하기위해입력층과출력층사이에은닉층 (hidden layer) 을배치한다층퍼셉트론 (multi-layer perceptron) 방법이고안되었으며이와같이은닉층을여러층배치한것이초기딥러닝의개념이라는점에서다층퍼셉트론의제안은매우중요한것이었다, 그러나기존의퍼셉트론을학습하는방식으로는다층퍼셉트론의학습을수행할수없었고, 다층퍼셉트론역시기존퍼셉트론의한계를반복할것이라는 Minsky and Papert [5] 의가설로인해퍼셉트론을포함한인공신경망연구는 1970년대를전후로소강기를맞이하였다. 3. 역전파알고리즘소강기에접어들었던인공신경망연구는 1980년대에이르러다시금전환기를맞게되는데이는역전파알고리즘 (backpropagation algorithm) 으로부터시작되었다. 역전파알고리즘은인공신경망에서뉴런간의연결가중치를추정하는방법으로서학습결과의오차를출력층에서부터입력층으로거슬러올라가는방향으로역전파하여오차의기울기를계산하고, 기울기하강 (gradient descent) 을이용하여오차를최소화시키는가중치를찾는방법이다. 역전파알고리즘은 1969년처음제안되었다가 1986년 Rumelhart, Hinton and Williams [6] 가역전파알고리즘을통해다층퍼셉트론의학습방법을제안함으로써많은관심을받게되었다. 여기에는컴퓨터와하드웨어의발전을통해뉴런수가증가할수록학습시간이매우길어지는역전파알고리즘의한계를만회한시대적인배경도작용하였다. 그러나역전파알고리즘은초기상태에따라오차를최소화시키는과정에서전역적최소값 (global minimum) 이아닌지역적최소값 (local minimum) 에서고착화되는한계가있었으며, 다른기계학습기법에비해상당히많은학습데이터를요구하거나, 학습시간이오래걸리고, 지도학습 (supervised learning) 에대해서만모델이구성되어있는데다가과적합 (overfitting) 특성을보이는등여러가지문제점을여전히안고있었다. 이러한한계점을극복하지못한상태에서 1995년지지벡터기계 (support vector machine, SVM) 기법의등장이기계학습기술의구도를재편하면서인공신경망연구는다시동면기를갖게되었다. - 14-

이한상외 : 의료영상에서의딥러닝 4. 현대딥러닝모델들인공신경망의 3세대라고할수있는딥러닝의연구는 2006 년 Hinton이한정볼츠만기계 (restricted Boltzmann machine, RBM) 를쌓아올린 DBN(deep belief network) [7, 8] 을제안하면서시작됐다. 기존의인공신경망은상기했듯이모든학습데이터가정답이부여된데이터인지도학습의형태로이루어졌는데, 이로인해학습데이터의수가충분히많아야학습이잘이루어지는인공신경망의특성과과적합특성사이에서지속적으로제약을받아와야했다. 이러한한계를극복하기위해데이터를생성할수있는모델 (generative model) 을학습시키는방법을제안하고, 이모델의에너지함수를정의하여볼츠만분포를따르도록학습시키는것이 RBM 이다. RBM의장점은뛰어난특징추출 (feature extraction) 에있는데, 이는학습데이터에정답이부여되지않은비지도학습 (unsupervised learning) 으로도가능하다는장점이있다. DBN은다중퍼셉트론과구조가같지만, 기존의역전파알고리즘을상기한 RBM으로대체하여학습을수행하였다. DBN 에서는학습시킬신경망의각층을차례로비지도학습기반의 RBM을통해사전훈련 (pre-training) 을수행, 과적합을방지하는초기가중치를찾았으며, 이를다시지도학습기반의역전파알고리즘을통해미세조정 (fine-tuning) 하였다. 딥러닝모델의제안및관련연구의성과가홍보되면서많은연구들이동시에이루어졌으며기존의인공신경망기술이갖고있던고질적인문제들도상당부분보완되고있다. 대표적인개선기술중에하나는기존의활성함수로사용된 S상단위 (sigmoid unit) 함수를정류선형단위 (rectified linear unit, ReLU) 함수 [28] 로대체한것이다. 정류선형단위는선형단위의사용을통해오류역전파정보가사라지는문제 (vanishing gradient problem) 을해결함으로써딥러닝모델을한정볼츠만기계의도움없이지도학습에이용할수있게하였다. 그이후에도 2013년 Dahl이인공신경망을구성하는뉴런을임의로점멸하는방식의드롭아웃 (drop-out) 기술 [10] 을제안하여과적합문제에대한개선이이루어졌으며, 신경망규모의증가에따른가중치수증가로인한학습시간장 기화나초기가중치에지나치게영향을받는문제또한뉴런들이가중치를공유하는방식으로실질적인파라미터개수를줄인회선신경망 (convolutional neural network, CNN) 모델 [11] 의제안을통해상당부분해결되었다. 또한그래픽처리장치 (GPU) 와같이하드웨어의급진적인발전과대용량데이터 (big data) 의보편화등을통해인공신경망모델을구성할최적의환경이조성되면서딥러닝은명실상부한기계학습의대표적기술로서의위치를확고히하고있다. 5. 딥러닝의특징기계학습은크게학습데이터의정답이모두제공되어있는지도학습과정답이없이자율적으로학습하는비지도학습으로나눌수있다. 딥러닝기반의학습기술도이두가지방식으로나뉘어연구되어왔다. 비지도학습의경우학습데이터를기반으로사전훈련을거친후, 지도학습을통해역전파알고리즘기반의미세조정을하는방식이일반적으로, 상기했듯이한정볼츠만기계을이용한 DBN과같은방식이여기에해당된다. 지도학습의경우다양한방법으로초기가중치를설정하고역전파알고리즘기반의확정모델 (deterministic model) 추정을통한다층퍼셉트론이나 CNN 모델등을일반적으로사용하고있다. 표 1은관련기술및모델을요약한것이다. 딥러닝의의의는단순히인공신경망의성능개선을통해기계학습의주류기술로자리매김한데에그치지않는다. 기계학습의근간을이루는분류및인식문제에서, 기존의기계학습기술은 SIFT [12] 나 SURF [13] 등과같이, 전문가에의해고안된아이디어를바탕으로직접설계된이른바수제특징 (hand-crafted feature) 들을추출하고이들특징을기반으로학습하여문제를해결하는방식이었다. 따라서특징의정의및추출은기계학습기술에서도매우큰비중을차지하는중요한문제였으며, 수행하고자하는작업이나목표영상의특성등에따라학습특성이좋은특징의종류가천차만별이었기때문에, 어떠한특징을어떻게추출해서사용할건지에대한결정이기계학습기반문제의해결에있어굉장히중요하고까다로운작업으로인식되었다. 그러나딥러닝에서는상기했듯이학습과 표 1. 딥러닝의학습방식에따른분류및대표기술 관련기술 분류 학습방식 모델 제안자 확률모델 - 한정볼츠만기계 [7] 등을이용한비지도학습기반의사전훈련을수행함 DBN [8] Hinton 외 (stochastic model) - 사전훈련을통해계산한초기가중치를바탕으로역전파를통한지도학습을수행함 확정모델 - 역전파를통한지도학습을수행함 다층퍼셉트론 Rumelhart 외 (deterministic model) 회선신경망 [11] LeCun 외 - 15-

정에서특징을자체적으로추출하고학습까지함께수행하는새로운패러다임을제시함으로써수행하고자하는작업이나대상영상의특성에상관없이일반적인모델링이가능하다. 특히색이나테두리선과같은하위수준의특징들뿐만아니라, 신경망의계층적구조로인해기존의상위수준의특징들과유사한특징들역시추출, 학습할수있는능력이있다. 이는경계가모호하고불연속성이심해기존의테두리선이나 SIFT와같은특징들이제대로표현해내지못했던의료영상의경우딥러닝을통한영상특징의추출및학습을통해의료영상의특성에더욱적합한특징을추출하는여러가지사례를뒷받침한다. 의료영상에서딥러닝의응용 1. 뇌자기공명영상에서다양체학습다양체학습 (manifold learning) 은데이터의차원이매우높지만본질적으로는훨씬낮은차원에서분포하는데이터의분석에필요한중요기술이다. 예를들어뇌자기공명영상은영상의삼차원좌표크기인 S x, S y, S z 에대하여각영상을 S x S y S z 차원상의한점으로정의될수있다. 그러나이러한고차원좌표계에서의표현에비해뇌영상의형상이나패턴다양성은비교적저차원의변수의조합으로설명될수있는데, 이러한저차원표현기반을다양체 (manifold) 라고하며다양체를영상데이터의학습을통해추출하는방법을다양체학습이라고한다. 지역적선형사상 (locally linear embedding, LLE) [14], 라플라시안고유지도 (Laplacian eigenmaps, LEM) [15], 아이소맵 (Isomaps) [16] 등의기존다양체학습기법들이의료영상을포함한다양한분야에활용되고있으나, 기존의다양체학습기법은근접성그래프 (proximity graph) 의생성을위해다양체공간이지역적으로선형이라는가정을하고설계해야하는제약이따랐다. 또한 Gerber 외 [17] 의분석에의하면다양체학습에서데이터간의상관도를표현하는거리함수로어떤것을사용하느냐에따라다양체학습의성능이크게좌우되는한계가있다. Brosch 외 [18] 는앞서다룬딥러닝의일종인 DBN [8] 을사용하여뇌자기공명영상의다양체학습기법을제안하였다. 제안방법에서는다섯층의 RBM으로구성된 DBN을사용하였으며, 앞단에서고해상도영상에의한계산시간을줄이기위해앞의세층을회선 RBM (convrbm) [19] 을사용하여설계하였다. 기존의다양체학습기법과달리, 딥러닝을활용한제안기법의경우다양체공간의지역적선형성을가정할필요 가없으며, 사전에정의된거리함수의사용이나근접성그래프의생성등이필요없는장점이있다. 제안한방법을 300개의정상인및알츠하이머 (Alzheimer s disease, AD) 환자의 T1강조뇌자기공명영상데이터인 ADNI 데이터 [20] 에대해실험한결과, 128 128 128 해상도의영상에대해 2개의변수에대한 2차원표현만으로성공적인다양체를학습하는결과를확인하였다. 학습한다양체에서 2개의변수는각각영상에서뇌의크기와뇌실 (ventricle) 의크기로서주로 AD 환자에게서뇌실이커지는현상을딥러닝을통해자동으로학습하여특징화한것을알수있다. 2. 조직병리영상에서기저세포암인지기저세포암 (basal-cell carcinoma, BCC) 은가장흔한형태의악성피부암으로알려져있다. 기저세포암은조직병리영상 (histopathology image) 의분석을통해진단및분석을수행하게되는데, 조직병리영상의경우색, 형상, 텍스처와같은객체특성이영상들에걸쳐공통적으로나타나는일반영상과는달리서로다른패턴의복잡한조합으로구성되어있어그분석이매우까다로운문제를갖고있다. 조직병리영상의분석을위해이산코사인변환 (discrete cosine transform, DCT), 웨이블릿 (wavelet) 및가버기술자 (Gabor descriptor) 등을이용한특징추출에기반한여러가지분석연구가수행되었으며, 여러가지지역적특징의조합에서영상의중요특징을학습하는방식의 BOF(bag of features) 기반의연구 [21, 22] 가수행되었다. 그러나이러한연구의경우기존의수제특징의조합을사용하며, 어떤조합의특징을사용하냐에따라성능이많은영향을받는한계가있었다. Cruz-Roa 외 [23] 는상기한한계를극복하기위해딥러닝을통해조직병리영상으로부터영상분석에유용한특징을자동으로추출하는방법을제안하였다. 제안방법은 RBM과같은역할을하는딥러닝의일종인오토인코더 (autoencoder) [24] 를사용하여비지도학습상태에서조직병리영상의특징을학습하고, 이후학습한특징필터를이용하여영상의회선 (convolution) 및통합 (pooling) 을통해영상의주요특징들을인식한뒤인식된특징을바탕으로소프트맥스 (softmax) 분류 [25] 를수행, 기저세포암의인식을수행하였다. 1417장의조직병리영상에대해제안방법을실험한결과기존의특징을조합한 BOF 기반의방법에비해개선된성능의학습및인식을수행하는것을확인하였다. 또한소프트맥스분류단계에서영상의특징지도의비중에따라영상에서암영상으로보이는영역과정상영상으로보이는영역을표시할수있는데, 이과정을통해일종의전자염색 (digital staining) 을하는효 - 16-

이한상외 : 의료영상에서의딥러닝 과를보이는것으로나타났다. 3. 뇌자기공명영상에서해마분할최근 7.0T 수준의초고자장자기공명영상장치등이소개되면서해당영상에서의분석또한활발히연구되고있다. 그러나기존의 1.5T나 3.0T 자기공명영상에비해매우세밀하고고화질의영상이출력되는 7.0T 영상의경우동일한기관에대해서도내부의불연속성이더욱심화되고고대비를이루면서기존의영상과다른양상을가지게된다. 이로인해기존 1.5T나 3.0T에적용되었던 SIFT나 Haar와같은수제특징을이용한기계학습기반분석방법을 7.0T 영상에그대로적용했을때기존의성능이보장되지않은어려움이있다. 이와같은문제를극복하기위해 Kim 외 [26] 는딥러닝구조를이용해 7.0T 자기공명영상에적합한특징을자동으로학습하고, 해당특징을통해뇌영상에서해마의분할을수행하는다중아틀라스기반알고리즘을제안하였다. 제안방법은크게이층으로구성된회선독립부공간해석 (independent subspace analysis, ISA) [27] 구조를통해자기공명영상의특징을학습하고, 자동맥락모델 (auto-context model, ACM) 분류기반의다중아틀라스분할을통해해마의분할을수행하였다. 독립부공간해석은 RBM과같이비지도학습에서차원축소 (dimensionality reduction) 기반의특징추출방법으로서제안방법에서는 576 576 576 크기의입력영상에서첫번째층에서는 16 16 3, 두번째층에서는 20 20 5 크기의패치들을추출하여입력, 학습을수행하였으며각각 200차원, 100차원의특징을추출하였다. 이렇게추출한특징을이용하여 ACM 기반의다중아틀라스분할을수행하는데, 제안방법에서는복수의영상및분할결과로이루어진다중아틀라스에서각각의아틀라스에대해앞의특징추출을수행하여아틀라스의개수만큼의특징기반분류기를확보하고, 대상영상에대한이들의분류결과를반복적으로통합하여최종해마분할을수행하였다. 20개의 7.0T 자기공명영상에서실험을수행한결과, 딥러닝을통해특징을추출, 분할한제안방법의결과가수제특징기반의분할결과보다우수함을확인하였다. 결론이종설에서는최근기계학습의핵심기술로부상한딥러닝의역사및개요를소개하고관련기술에대해요약하였다. 또한여러가지도전적인의료영상분석과제에딥러닝이다양하게활용되는사례에대해살펴보았다. 현대의료영상분석에서 대용량영상분석이나효과적인성능개선을위해기계학습기술의응용이필수적이라함은주지의사실이다. 그중에서도특히대용량데이터의학습에서뛰어난성능을보이거나학습데이터에알맞은특징을스스로추출, 학습하는딥러닝의특성은의료영상분석의여러한계점들을극복함으로써매우비중있게활용되고있으며, 영상분류와질병인식, 영상분할등의다양한분야에서우수하거나유망한결과를보이고있다. 현재지속적으로기계학습및컴퓨터비전분야에서딥러닝의개선및관련연구가수행되고있음에따라, 다양한의료영상분석의과제들에대한딥러닝기술의응용또한지속될것으로예상된다. 감사의글 This work was supported in part by the National Research Foundation of Korea (NRF) grant funded by the Korea government (MSIP) 2010-0028680 and 2014-003140. 참고문헌 1. McCulloch WS, Pitts W. A logical calculus of the ideas immanent in nervous activity. 1943 2. Hebb DO. The Organization of Behavior. New York: Wiley & Sons. 1949. 3. Rosenblatt F. The perceptron: a probabilistic model for information storage and organization in the brain. 1958. 4. Rosenblatt F. Principles of neurodynamics. New York: Spartan Books. 1962. 5. Minsky M, Papert S. Perceptrons. Cambridge: MIT Press. 1969. 6. Rumelhart DE, McClelland JL, PDP Research Group. Parallel Distributed Processing: explorations in the microstructure of cognition. Cambridge: MIT Press. 1986. 7. Hinton GE. Learning multiple layers of representation. Trends in Cognitive Sciences. 2007;11:428-434 8. Hinton GE, Osindero, S, Teh YW. A fast learning algorithm for deep belief nets. Neural Computation. 2006;18:1527-1554. 9. Bengio Y, Lamblin P, Popovici P, Larochelle H. Greedy Layer- Wise Training of Deep Networks. Advances in Neural Information Processing Systems 19. 2007. 10. Dahl GE. Improving DNNs for LVCSR using rectified linear units and dropout. ICASSP. 2013. 11. LeCun Y, Bottou L, Bengio Y, Haffner P. Gradient-Based Learning Applied to Document Recognition. Proceedings of the IEEE. 1998;86(11):2278-2324 12. Lowe DG. Distinctive image features from scale-invariant key points. International Journal of Computer Vision. 2004;60(2): 91-110. 13. Bay H, Ess A, Tuytelaars T, Van Gool L. SURF: Speeded Up Robust Features. Computer Vision and Image Understanding (CVIU), 2008:110(3);346-359. 14. Saul, L., Roweis, S. Think globally, fit locally: unsupervised learning of low dimensional manifolds. the Journal of Machine - 17-

Learning Research 2003;4:119-155. 15. Belkin, M., Niyogi, P. Laplacian eigenmaps for dimensionality reduction and data representation. Neural Computation 2003;15(6):1373-1396. 16. Tenenbaum, J.B., de Silva, B., Langford, J.C. A global geometric framework for nonlinear dimensionality reduction. Science 2000;290(5500):2319-2323. 17. Gerber S., Tasdizen, T., Fletcher, P.T., Joshi, S., Whitaker, R. Manifold modeling for brain population analysis. Medical Image analysis 2010;14(5):643-653. 18. Brosch, T., Tam, R. Manifold learning of brain MRIs by deep learning. International Conference on Medical Image Computing and Computer Aided Intervention 2013;2(8150): 633-640. 19. Lee, H., Grosse, R., Ranganath, R., Ng, A.Y. Unsupervised learning of hierarchical representations with convolutional deep belief networks. Communications on Machine Learning 2011;54(10):95-103. 20. Petersen, R., Aisen, R., Beckett, L., Donohue, M. Gamst, A. Alzheimer s disease nuroimaging initiative (ADNI). Neurology 2010;74(3):201-209. 21. Cruz-Roa, A, et al. Visual pattern mining in histology image collections using bag of features. Artif. Intell. Med. 201;52(2): 91-106. 22. Cruz-Roa, A., Gonzalez, F., Galaro, J., Judkins, A.R., Ellison, D., Baccon, J., Madabhushi, A., Romero, E. A visual latent semantic approach for automatic analysis and interpretation of anaplastic medulloblastoma virtual slides. MICCAI 2012, Part I 2012;7510:157-164. 23. Cruz-Roa, A., Ovalle, J.E.A., Madabhushi, A., Osorio, F.A.G. A deep learning architecture for image representation, visual interpretability and automated basal-cell carcinoma cancer detection. MICCAI 2013, Part II 2013;8150:403-410. 24. Bengio, Y. Learning deep architectures for AI. Foundations and Trends in Machine Learning 2009;2(1):1-127. 25. Krizhevsky, A., et al. Image net classification with deep convolutional neural networks. NIPS 2012:1106-1114. 26. Kim, M., Wu, G., Shen, D. Unsupervised deep learning for hippocampus segmentation in 7.0 Tesla MR images. MLMI 2013;8184:1-8. 27. Le, Q.V., et al. Learning hierarchical invariant spatio-temporal features for action recognition with independent subspace analysis. IEEE Conf. on Computer Vision and Pattern Recognition 2011. 28. Nair V, Hinton GE. Rectified linear units improve restricted Boltzmann machines. Proc. International Conference on Machine Learning. 2010. 대한의학영상정보학회지 2014;20:13-18 = 초록 = 기계학습은주어진데이터로부터패턴이나특성을학습하여스스로작업을정의, 수행할수있도록하는기술분야로서영상분할및정합과같은의료영상분석에도비중있게활용되고있다. 최근인공신경망의일종인딥러닝기술이기계학습의핵심기술로대두되면서관련기술및연구가주목받고있다. 특히기존의기계학습기술의근간을이루는수제특징추출을데이터학습을통한특징의학습으로대체하면서기존의수제특징적용이어려웠던의료영상분야에서딥러닝의활용가능성에대한관심이더욱높아지고있다. 본종설에서는딥러닝의개요및역사와관련연구및기술을소개한다. 또한영상분류, 인식및분할등최근의료영상의분석과관련된분야에딥러닝이활용된사례를살펴본다. - 18-