강사소개 김광일 KAIST 경영과학과 수리알고리즘전공 오픈테크등소프트웨어회사경영 (15년) 클래식기타연주, 와인애호가, 록밴드활동. 머신러닝 / 딥러닝연구 현재 : 동국대학교소프트웨어융합원교수 ( 머신러닝 / 딥러닝연구 ) 경희대학교대학원및한국외국어대학교겸임교수 ( 머

딥러닝 인공지능의과거, 현재 그리고미래 제 9 기차세대에너지리더과정

강사소개 김광일 KAIST 경영과학과 수리알고리즘전공 오픈테크등소프트웨어회사경영 (15년) 클래식기타연주, 와인애호가, 록밴드활동. 머신러닝 / 딥러닝연구 현재 : 동국대학교소프트웨어융합원교수 ( 머신러닝 / 딥러닝연구 ) 경희대학교대학원및한국외국어대학교겸임교수 ( 머신러닝 / 딥러닝강의 ) 자연어처리, 딥러닝관련프로젝트수행중 저서 / 역서 : 자바딥러닝의핵심 ( 에이콘출판 2017) 지능형웹알고리즘 ( 위키북스 2017) 사이버물리시스템 ( 에이콘출판 2017.12)

강의순서 인공지능이란 인공지능동향 인공지능이할수있는일 딥러닝이란? 인공지능과에너지산업 인공지능의미래와우리사회

인공지능이란?

인공지능의정의 인공지능 (Artificial Intelligence, AI) 또는기계지능 (Machine Intelligence, MI) 이란인간또는동물이지닌자연지능 (Natural Intelligence, NI) 를인공적으로구현한것이다. 시각인식, 음성인식, 의사결정그리고번역과같이인간의지능이요구되는일들을수행할수있는컴퓨터시스템의이론과개발 옥스포드사전 인공 생물학적인방법을포함하는모든인위적인방법을의미하나, 주로컴퓨터프로그램을사용하는것을의미. 지능 지능이란삶에서목적을이루기위한능력의일부이다. 의식이나자아또는무의식을포함한심리등을포함하는것인가? 인간의지능은어떤요소들로구성되는가?

인공지능에대한인식 다른지능에대한우리의오해

인공지능의역사 신화속인공지능 그리스신화 피그말리온과갈라테이아 헤파이스토스와판도라

인공지능의역사 자동기계 (Automaton) 로봇의조상 기력솥 (Aeolipile) 헤론 (AD.10 ~AD. 70) 음악로봇밴드알자자리 (1136~1206) 글쓰는사람자끄드로즈 (1721~1790)

인공지능의역사 영화속인공지능 터미네이터 (1984) 스카이넷 스페이스오딧세이 (2001) HAL 9000 Her(2013) 사만다

인공지능의역사 인공지능과게임 아더사뮤엘 (Arthur Samuel) 처음으로머신러닝 (Machine Learning) 이라는용어사용 체커게임 (1959) 스스로학습하는최초의프로그램 IBM 딥블루 (Deep Blue) 세계체스챔피언가리카스파로프에승리 (1997) IBM 왓슨 (Watson) TV 퀴즈쇼제퍼디 (Jeopardy!) 에서우승 (2011) DeepMind 알파고 (AlphaGo) 이세돌에게 4:1 승리 (2016) 2017.5.27 현재공식프로대국전적 = 13전 12승 1패 리브라터스 (Libratus) 와딥스택 (DeepStack) 각각텍사스홀덤포커게임과무제한배팅포커게임에서승리 (2017)

인공지능의역사 인공지능의부침 1950년 : 앨런튜링의튜링테스트 기계지능의테스트방법제안 1956년 : 인공지능용어탄생 ( 다트머스회의, 존매카시 ) 1962년 : 로젠블롯의퍼셉트론 (Perceptron) 최초의인공신경망 1969년 : 퍼셉트론의한계증명 ( 민스키 & 페퍼트 ) XOR 문제 1974 1980년 : 인공지능의첫번째겨울 성과부진 + 민스키의비판 1980 1987년 : 인공지능의부활 ( 전문가시스템, 신경망역전파알고리즘 ) 1987 1993년 : 인공지능의두번째겨울 신경망의문제, 과도한기대 1993년 현재 : 머신러닝기법발달, 신경망이론의성숙 시각인식분야에서인간의능력을넘어섬 언어분야에서인간의능력에아직미달 가장활발한연구분야 노화원인규명등다양한분야에서가능성을보이고있음 산업혁명 4.0의핵심요소중하나

인공지능의분류 강인공지능 (Strong AI) 일반적인인간의지능수준과동일하거나더뛰어난지능을나타내며, 자의식, 감성, 창의성을가지고스스로행동하는 AI. 강인공지능의출현가능성에대해서는이견이많음 ( 스카이넷, HAL 9000, 사만다, 아이로봇등 ). 약인공지능 (Weak AI) 사물을분석하거나이해할수있는능력으로서, 특정분야에서는인간보다뛰어난능력을보인다. 그러나자의식이나창의력은없다. 우리가보거나보게될대부분의 AI 는이범주에속한다. 지능의평가 (by Sandeep Rajani) 최적 (Optimal): 더이상잘할수없는상태 강력한초인간 (Strong super-human): 모든인간보다월등함 초인간 (Super-human): 대부분의인간보다뛰어남 인간이하 (Sub-human): 대부분의인간보다열등함

인공지능의분류 과학으로서의인공지능, 머신러닝, 딥러닝 인공지능 (Artificial Intelligence) 가장넓은의미에서의인공지능으로서인공적으로구현한모든수준의지능을포괄함. 컴퓨터과학측면에서보면, 환경을인지하여어떤목표를성취할수있는가능성이최대화되도록행동을취하는지능적객체에대한연구. 머신러닝 (Machine Learning) 구체적으로프로그래밍하지않아도스스로학습하여임무를수행할수있는능력을컴퓨터가갖도록구현하는 AI 의한분야. 딥러닝 (Deep Learning) 데이터에대한다층적표현과추상화를통해학습하는머신러닝의기법. 일반적으로머신러닝이라고하면딥러닝을포함하는것으로이해하면됨.

인공지능동향

인공지능에대한관심도 Google Trends

각국의인공지능연구활동 발표문헌으로본인공지능연구활동 [White House Report Preparing for the Future of Artificial Intelligence, 2016 ]

기업의인공지능투자 인공지능창업기업인수합병경쟁

산업혁명 4.0 Cyber-Physical Systems and IoT

인공지능의적용 산업별애플리케이션

딥러닝이 할수있는일 알고리즘 ( 단위기능 ) 별사례

이미지인식 인공지능이할수있는일 머신러닝의이미지인식 교통표지판인식 (IJCNN 2011): 인간 (1.16%) vs 기계 (0.54%) 2011 년 손글씨숫자 (MNIST) 인간 (0.2%) vs 기계 (0.23%) 2012 년

이미지컬러화 인공지능이할수있는일 Image Colorization

이미지합성및문맥전달 인공지능이할수있는일 Image Synthesis & Semantic Transfer Original painting by Renoir semantic annotations desired layout generated output

스타일전달 인공지능이할수있는일 Style Transfer

이미지복원 인공지능이할수있는일 Image Inpainting

이미지대이미지번역 인공지능이할수있는일 Image-to-Image Translation

이미지정위 인공지능이할수있는일 Image Localization

이미지변환 (2D 3D) 인공지능이할수있는일 Image Transformation (2D to 3D)

이미지캡션 인공지능이할수있는일 Image Captioning

문맥적영상분할 인공지능이할수있는일 Semantic Segmentation

심층스테레오정합 인공지능이할수있는일 Deep Stereo Matching

자율운전 인공지능이할수있는일 Self-driving

작곡 인공지능이할수있는일 Music Composition Recurrent Neural Network [Daniel Johnson s hexahedria ]

문자음성자동변환 Text To Speech (TTS) WaveNet Google DeepMind Parametric WaveNet

딥러닝과자연어처리 Deep Learning and Natural Language Processing(NLP) 동의어 / 유사어찾기 정보추출 : 인명, 지명, 회사명, 가격, 날짜, 제품명 분류 : 장르 / 주제탐지, 감성분석 기계번역 질의응답 대화시스템 텍스트생성 대화인식

대화음성인식 인공지능이할수있는일 Conversational Speech Recognition 역사적성과 : 마이크로소프트연구원들이대화음성인식에있어서인간과대등한수준의성과를이룩했다 (2016.10 마이크로소프트발표내용중 ).

언어모델 인공지능이할수있는일 Language Model Google SyntaxNet 문장내단어들간의문법적관계를결정하는 POS(Part-Of-Speech) 태깅에있어 94% 의정확도달성 ( 인간 : 96%)

감성분석 인공지능이할수있는일 Sentiment Analysis 문맥에의한더욱정확한감성분석 [ 예 ] An erotic thriller that s neither funny too erotic nor very thrilling, either.

기계번역 인공지능이할수있는일 Machine Translation Google 신경망기계번역 Artificial neural networks (ANNs) or connectionist systems are computing systems inspired by the biological neural networks that constitute animal brains. Such systems learn (progressively improve performance) to do tasks by considering examples, generally without task-specific programming. For example, in image recognition, they might learn to identify images that contain cats by analyzing example images that have been manually labeled as "cat" or "no cat" and using the analytic results to identify cats in other images. They have found most use in applications difficult to express in a traditional computer algorithm using rule-based programming. 인공신경네트워크 (ANN) 또는연결시스템은동물두뇌를구성하는생물학적신경네트워크에의해영감을받은컴퓨팅시스템입니다. 이러한시스템은일반적으로작업별프로그래밍없이예제를고려하여작업을수행하는방법을학습합니다 ( 점진적으로성능향상 ). 예를들어이미지인식에서 " 고양이 " 또는 " 고양이없음 " 으로수동분류된예제이미지를분석하고분석결과를사용하여다른이미지의고양이를식별함으로써고양이가들어있는이미지를식별하는방법을배울수있습니다. 규칙기반프로그래밍을사용하여전통적인컴퓨터알고리즘으로표현하기어려운응용프로그램에서대부분을사용합니다. 人工神经网络 (ANN) 或连接系统是由构成动物大脑的生物神经网络启发的计算系统这样的系统通过考虑示例 ( 通常没有任务编程 ) 来学习 ( 逐步提高性能 ) 来完成任务例如, 在图像识别中, 他们可能会通过分析手动标记为猫或无猫的示例图像, 并使用分析结果来识别其他图像中的猫, 从而学习识别包含猫的图像他们发现在使用基于规则的编程的传统计算机算法中难以表达的应用中最多使用

대화시스템 인공지능이할수있는일 Neural Conversational Model [ 예 ] 전자제품콜센터챗봇에게엉뚱한말을하는고객 고객 : 도덕적이라는것이뭐죠? 기계 : 인간성을갖게하는것, 지성의핵심입니다. 고객 : 그럼비도덕적인것은요? 기계 : 자녀를가졌다는것이죠. 고객 : 그럼도덕은뭡니까? 기계 : 이타심이무엇이죠? 고객 : 이타심의정의가뭡니까? 기계 : 신을믿지않는다면모르실겁니다. 고객 : 좋아요. 그래서도덕의정의가무엇인데요? 기계 : 흠 고객님께서는신이전지전능하시다는것을믿지않습니다. 고객 : 도덕성의정의에대해서말해줄래요? 지금열받기시작했거든요. 기계 : 제가철학자라는것이부끄럽지않습니다. 고객 : 도덕성의정의를얘기해주세요. 기계 : 저는윤리관이없습니다. 고객 : 이봐! 나좀도와줘. 도덕에대해서알고싶다고. 기계 : 저는윤리가무엇인지모릅니다. 고객 : 정말. 도덕이무엇이죠? 기계 : 삶의정의가무엇입니까? 고객 : 삶과도덕이무슨관계가있죠? 기계 : 고객님은경찰이아닙니다. 고객 : 좋아요. 내가어떻게행동해야도덕적인가요? 기계 : 무슨말을해드려야할지모르겠습니다. 고객 : 도덕과윤리는같은의미인가요? 기계 : 네, 그렇습니다....

딥러닝이란? 약간더깊이가볼까요?

머신러닝의분류 학습방법에따른구분 지도학습 (Supervised Learning) 정답이있는훈련데이터셋을사용하여모델을학습시키는방법 회귀 (Regression): 주어진값에대해서 ( 연속적 ) 값을예측하는모델 분류 (Classification): 주어진데이터의유형을분류하는것 비지도학습 (Unsupervised Learning) 정답이없는훈련데이터셋을사용하여데이터내에숨어있는어떤관계를찾아내는것. 군집화 (Clustering): 데이터사이의관계를찾아내데이터를군집화하고변수가가질수있는값들의확률분포를찾아내는모델 이상탐지 (Anomaly Detection): 비정상적인상태의데이터를찾아내는것 강화학습 (Reinforcement Learning) 보상을최대화시키도록행동을선택하는것을학습하는방법으로서보상은즉각적이거나지연된것일수있음.

인간의두뇌 인간두뇌의계산능력 공학적관점 Compact 에너지효율적 (20 watt) 대뇌 : 860억뉴런 소뇌 : 690억뉴런 850억아교세포 (Glial cells) 수천 ~ 수만시냅스 / 뉴런 뉴런연결선들이용적의대부분을차지 범용계산기계로서능력은? 수학적논리및연산등에대해서는느림 시각, 언어, 상호작용등에대해서대단히빠름 진화 : 시각 언어 논리

인간의뉴런 뉴런 (Neuron) 뉴런의구조 ( 수상돌기 ) ( 세포체 ) ( 축삭 ) ( 시냅스 ) ( 수초 ) ( 세포핵 )

인공뉴런 퍼셉트론알고리즘 퍼셉트론알고리즘의움직임 ( 입력이 2 가지인경우 ) XOR 문제 Minsky & Papert(1969) x 2 x 1 x 2 Y 0 0 0 1 1 0 1 0 1 0 1 1 0 0 1 x 1

심층신경망 (Deep Neural Networks) 다층퍼셉트론 (Multi-Layer Perceptron, MLP) 입력신호 출력신호 입력층 은닉층 #1 은닉층 #2 출력층

심층신경망의계산량 완전연결심층신경망의결정적결점 학습시켜야할계수 ( 파라미터, 가중치 ) 의수가극도로많음. 256 개가중치 26 개가중치 입력이미지 뉴런 ( 노드 ) 100 개은닉뉴런

심층신경망 (Deep Neural Networks) 인간의시각피질 인간시각신호처리방법에서영감을받다

컨볼루션신경망 (Convolutional Neural Networks) 딥러닝의붐을가져오다 LeNet-5(Y. LeCun & Y. Bengio, 1998)

컨볼루션신경망 (Convolutional Neural Networks) 컨볼루션연산이란?

컨볼루션신경망 (Convolutional Neural Networks) 컨볼루션및다운샘플링 C1 S2 C3 S4 F5 Input image Kernels (filters, weights) Feature maps Cn : Convolution ( 특징추출 ) Sn : Subsampling (Pooling) 층 Fn : 완전연결층

컨볼루션신경망 (Convolutional Neural Networks) 컨볼루션필터 ( 커널 ) 의효과 있는그대로 흐려짐 0 0 0 0 1 0 0 0 0 1 1 1 1 1 1 1 1 1 윤곽탐지 선명하게 0 1 0 1 4 1 0 1 0 0 1 0 1 5 1 0 1 0

컨볼루션신경망 (Convolutional Neural Networks) Subsampling(Pooling) 의효과 이미지의변형에대한불변성확보

컨볼루션신경망 (Convolutional Neural Networks) 계층적학습

딥러닝기법의특징 종래의머신러닝기법은수작업에의한특징공학 (feature engineering) 이필수. 적용분야에대한전문지식과경험이필요 데이터에대한정제및전처리과정이성능에결정적영향을줌 임무 ( 제품 / 공정 / 문제 ) 에약간의변경만생겨도재작업이필요 딥러닝은수작업특징공학이필요없음 최소한의정제작업을거친입력데이터를직접훈련에사용하여결과를얻을수있음 (end-to-end). 하위계층에서단순한표현을학습하고이것들을조합하여상위계층에서복잡한표현을학습함 ( 인간의인지과정과유사 ). 대량의데이터를필요로함. 여전히사람이시행착오와경험을통해지정해야하는하이퍼파라미터가존재

딥러닝과데이터 빅데이터의중요성 딥러닝알고리즘은학습을위해일반적으로대규모데이터를필요로함 데이터가부족한경우딥러닝알고리즘을선택하지않는것이더나은경우가많음 지금까지성공한대부분의딥러닝알고리즘은이론이발표된이후오랜시간이흐른후에충분한데이터를사용가능하게된이후에성공적인성과를나타냄 고품질의훈련데이터셋을구축하는것은시간과비용이매우많이듬

딥러닝과데이터 인공지능이할수있는일 이미지빅데이터 IMAGENET 인터넷에서수집된 14백만장의이미지를 2만개클래스로수작업분류한 DB 14백만장의이미지와 2만개의계급 (class) 레이블 ILSVRC(Large Scale Visual Recognition Challenge) 2017 Challenge: 객체위치식별 1000 범주 객체탐지 200 범주 비디오객체탐지 30 범주

딥러닝의동인 Three Driving Forces of Deep Learning 알고리즘 콘볼루션신경망 (Convolutional Neural Networks, CNN) RNN-LSTM(Recurrent Neural Networks with Long Short Term Memory) GAN(Generative Adversarial Networks) 강화학습 (Reinforcement Learning) 데이터 Bigdata 하드웨어 Nvidia Google Intel

인공지능과에너지산업 스마트그리드

산업별인공지능도입동향

스마트그리드

스마트그리드와머신러닝

스마트그리드의핵심요소 인공지능, 블록체인, 로봇

에너지산업과인공지능 에너지인공지능애플리케이션의성장 재생에너지관리수요관리인프라관리 재생에너지예측 20% 에너지효율 35% 디지털자산관리 40% 설비보전 35% 에너지관리시스템 35% 설비운영및관리 40% 풍력및태양열효율 35% 수요대응관리 20% 발전관리 20% 저장장치분석 10% 수요대응게임이론 10%

인공지능의미래

미래의직업 - Top 10 Skills [ 출처 : Future of Jobs Report, World Economic Forum ] 프로그래밍, 설비운영및통제같은좁의의미의기술적능력보다설득 (persuasion), 감성적지능 (emotional intelligence), 지도 (teaching) 같은능력에대한수요가높을것으로예측.

인공지능의미래 인공지능에대한기대와경고 스티븐호킹 : 인공지능기술개발이인류의멸망을부를수도있다. 인공지능은스스로를개량하고도약할수있는반면, 인간은생물학적진화속도가늦어인공지능과경쟁할수없고대체되고말것이다. 엘런머스크 : 인류에게있어 AI 는북한미사일보다더큰위협이다. AI 가문제를일으키기전에, AI 기술이완전히성숙되기전에, 위험을야기할수있는것들 ( 자동차, 비행기, 음식, 약품 ) 과같이규제가이루어져야한다. 빌게이츠 : 우선, 기계는우리를위해많은일을해줄수있지만초지능은그렇지못하다. 만일우리가관리할수있다면그렇게하는것이바람직하다. 수십년후에는인공지능이우려할만한수준으로심해질것이다. 마크저커버그 뭔가를만들어낼수있다면, 세계는좋아질것이라고생각하고있다. 특히 AI 에대해정말낙관적이다. 그래서부정적인태도를취하고 AI 는세상의종말을초래한다는이야기를하고있는사람이있다는것은이해할수없다.

감사합니다.