실습강의개요와인공지능, 기계학습, 신경망 < 인공지능입문 > 강의 허민오 Biointelligence Laboratory School of Computer Science and Engineering Seoul National University
실습강의개요 노트북을꼭지참해야하는강좌 신경망소개 (2 주, 허민오 ) Python ( 프로그래밍언어 ) (2주, 김준호 ) Python으로신경망다뤄보기 (2주, 김준호 ) 딥러닝소개 (2 주, 허민오 ) Tensorflow ( 딥러닝라이브러리 ) (3주, 류제환 ) Tensorflow로분류문제풀어보기 (2주, 허유정 ) 2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr
실습을진행할어벤저스 허민오김준호류제환허유정 한동식 2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr
Python 과신경망 담당자 : 김준호 3~6주차계획 1. 환경세팅및 Python Introduction - 실습과제 : Codecademy 2. Numpy - 실습과제 : Codecademy 3. Perceptron - 실습과제 : 주어진데이터 classification 4. Multi-layer Perceptron (MLP)& Backpropagation - 실습과제 : Backpropagation 코드구현 2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr
https://www.codecademy.com 2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr
Tensorflow 담당자 : 류제환 10~12 주차계획 1. Tensorflow 란무엇인가? 2. Tensorflow 의구성요소 3. 기본적인 Tensorflow 의연산들 1. 기계학습평가방법론소개 2. Tensorboard 소개 1. Tensorflow 로 MLP 만들기 2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr
Tensorflow 로분류해보기 : MNIST 데이터 담당자 : 허유정 13~14 주차계획 1. MNIST 데이터 2. matplotlib으로영상데이터확인하기 3. Convolutional Neural Network 1. Tensorflow 로 MNIST 분류기코드읽기 / 사용하기 2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr
Final Project: CIFAR-10 물체사진분류기 딥러닝실전프로젝트 Tensorflow 를써서 10 가지물체사진분류하는도구를만들고분석하기 데이터집합 : CIFAR-10 (https://www.cs.toronto.edu/~kriz/cifar.html) 2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr
실습평가방법 실습점수는수업전체평가점수중 30% 매시간평가 ( 20% ) 신경망소개, 딥러닝소개 구글서베이를통해퀴즈풀어제출 ( 수업종료 5 분전에링크공개, 5 분동안문제풀기수업마치고 5~ 20 분후에제출불가로변환됩니다.) 기타실습 코드작성후에조교확인받기 Final 프로젝트 ( 10% ) 2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr
2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr 질문있나요?
인공지능, 기계학습, 신경망 2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr
인공지능 (Artificial Intelligence) 인공지능 (AI): 사람처럼생각하고사람처럼행동하는기계 ( 컴퓨터,SW, 로봇 ) 사람이기계보다잘하는일을기계가할수있도록하는연구 지능을필요로하는일을기계가할수있도록하는연구 1950: Turing Test, 1956: Artificial Intelligence (AI)
1970-1980 년대 : 붐 전문가 / 지식기반시스템 1982-1992: 제5세대컴퓨터계획 (FGCS) 1990 년대 : 암흑기 AI 의역사적흐름 뉴럴넷, 유전자알고리즘, 퍼지로직 1990대후반 : 인터넷, 웹, 전자상거래정보검색, 데이터마이닝아마존, 이베이, 야후, 구글 2010 년대 : 부흥기 지능형에이전트 머신러닝 / 딥러닝 IBM Deep Blue Chess Machine Beats Human Champion (1997) 13
Grand Challenges of AI: Thinking Machines Deep Blue Watson AlphaGo 1997 2011 2016 14
Why is AI difficult? A thinking machine? An acting machine? 환경과의상호작용에필요한것은? - 적절한행동 (Decision making + body manipulation) - 지각능력 (Perception)
Self-driving Cars: Acting machine? RHINO Museum Tour Guide DARPA Grand Challenge Google Self-driving Car 1997 2005 2010 16
핵심인공지능기술 : 기계학습 (Machine Learning) 사람처럼 경험으로부터학습하는기계 를개발 축적되는데이터로부터스스로성능을향상하는시스템 데이터로부터모델 ( 프로그램, 패턴 / 규칙, 지식 ) 을자동생성하는기술 자동프로그래밍, 패턴인식, 지식발굴 / 습득 17
Artificial Intelligence AI, 기계학습, 딥러닝 Machine Learning Deep Learning Knowledge Representation - Memory - Reasoning - Action (Body Manipulation) - Decision making - Planning - Perception - Vision - Language - 18
What is Changed? IDC s Data Age 2025 study 19
What is Changed? Where does big data come from? 출처 : https://en.wikipedia.org/wiki/big_data 20
What is Changed? Deep learning Major advantage of deep learning: scalability (C) 2007-2018, SNU Biointelligence Lab, http://bi.snu.ac.kr/ 21
What is Changed? GPU(Graphics Processing Unit) Many slow cores (thousands) Originally for graphics Good at parallel computation 22
딥러닝성공사례 - 물체인식 심층컨볼루션신경망 (Deep Convolutional Neural Network, CNN) 이미지에서특징 (feature) 을자동으로추출함 높은층으로갈수록더복잡하고종합적인인식 ImageNet CNN 으로이미지에서다양한종류의물체를인식함 약 6 천만개의매개변수 (parameter), 65 만여개의인공신경세포를이용해 1 천종류이미지약 120 만장을분류 인간수준 ( 이상 ) 의물체인식 23
https://arxiv.org/abs/1409.0575 ex) 120 breeds of dogs 24
Face Identification (Facebook) [Y. Taigman et al., CVPR 2014] (C) 2007-2017, SNU Biointelligence Lab, http://bi.snu.ac.kr/ 25
음성인식 ~2010 GMM-HMM (Dynamic Bayesian Models) ~2013 DNN-HMM (Deep Neural Networks) ~Current LSTM-RNN (Recurrent Neural Networks) 26
Image Captioning [X. Kelvin et al., ICML 2015] (C) 2007-2017, SNU Biointelligence Lab, http://bi.snu.ac.kr/ 27
Lip Reading in the Wild (C) 2007-2017, SNU Biointelligence Lab, http://bi.snu.ac.kr/ 28
Neural machine translation [Ilya Sutskever et al., NIPS 2014] 김상경, Naver Labs, DEVIEW 2016 (C) 2007-2017, SNU Biointelligence Lab, http://bi.snu.ac.kr/ 29
Image-to-image translation Conditional Adversarial Networks (C) 2007-2017, SNU Biointelligence Lab, http://bi.snu.ac.kr/ 30
Visual Question-Answering J.-H. Kim et al., NIPS 2016 Question Image Answer (C) 2007-2017, SNU Biointelligence Lab, http://bi.snu.ac.kr/ 31
데이터 딥러닝의성공적적용을위한요소 다루는문제의복잡도를충분히채울만큼의많은데이터 SW 기술 : 딥러닝기술 + 알고리즘기술 하드웨어 CPU / GPU 병렬연산기술 / 분산컴퓨팅기술 32
딥러닝이잘다루는문제 딥러닝이잘다루는문제 데이터를표현하는인자들내에복잡성요소가포함됨 예 ) 영상데이터, 음성데이터, 언어데이터, 큰분량의데이터확보가가능한문제 상당한노이즈가있어도데이터분량이크면다룰수있음 표지 (label) 가있는데이터 현재기술수준에서는아직까지는 supervised learning 을더잘함 Label 이일반적인분류문제의 label 일필요는없음 cf) Image captioning, Neural machine translation(nmt), image-toimage translation 33
딥러닝이뭐길래? 딥러닝 : Deep Neural Networks 를이용한기계학습방법 차후수업시간에다룸 기존접근법과의차이 기존방법 : 데이터전처리및가공을통해문제해결에적합한특징추출후이를학습데이터로패턴분류기를훈련 딥러닝 : 특징추출을위한전처리단계를 ( 무감독학습 ) 전체학습프로세스에포함. 특징맵 (feature map) 또는표상 (representation) 을자동으로학습함 34
Artificial Intelligence AI, 기계학습, 딥러닝 Machine Learning Deep Learning Knowledge Representation - Memory - Reasoning - Action (Body Manipulation) - Decision making - Planning - Perception - Vision - Language - 35
Artificial Intelligence AI, 기계학습, 딥러닝 Machine Learning Deep Learning Knowledge Representation - Memory - Reasoning - Action (Body Manipulation) - Decision making - Planning - Perception - Vision - Language - 36
Artificial Intelligence AI, 기계학습, 딥러닝 Machine Learning Deep Learning Knowledge Representation - Memory - Reasoning - Action (Body Manipulation) - Decision making - Planning - Perception - Vision - Language - Neural language model Word2vec Glove Thought vector 37
Artificial Intelligence AI, 기계학습, 딥러닝 Machine Learning Deep Learning Knowledge Representation - Memory - Reasoning - Action (Body Manipulation) - Decision making - Planning - Perception - Vision - Language - Neural Language model Word2vec Glove Thought vector 38
딥러닝과인공지능 주변사용자와의상호작용에필요한것은? 사람과의상호작용에필수적인기술 보기 읽기 / 듣기 보여주기 쓰기 / 말하기 사람을대신할수도있게되는가? 39
Robot & Communication (C) 2007-2016, SNU Biointelligence Lab, http://bi.snu.ac.kr/ 40
Human Need Not Apply www.cgpgrey.com 41
2018, 인공지능입문, SNU CSE Biointelligence Lab., http://bi.snu.ac.kr 질문있나요?