Slide 1

Size: px

Start display at page:

Download "Slide 1"

준유 표
6 years ago
Views:

1 GTC 20I8

2 GTC 는보호자 (protector), 치유자 (healer), 조력자 (helper), 수호자 (guardian), 선구자 (visionary), 경이로움의대상인 AI 의미래를소개하는장이었다. IT 비즈니스에지 (IT Business Edge)

3 Press quote. Publication GPU 컴퓨팅을채택하고있는곳이점점증가하고있다는사실은분명하다. ZDNet

GTC 2018 의열기는향후수년간 GPU 의시장수요가확대될것임을시사한다.

나흘간진행된 GTC 2018 에는등록참가자수가약 8,300 명에이르렀으며

4 GTC 2018 의열기는향후수년간 GPU 의시장수요가확대될것임을시사한다. 데이터나미 (Datanami) Deep Learning Institute 1 만회의트레이닝세션 키노트조회수 55 만회 전시장참가기업 150 개 Inception 어워드 3 개 AI 스타트업에 1 백만달러의상금지원 GTC 는 GPU 컴퓨팅운동의진원지와같다. NVIDIA 는 AI 혁신을꿈꾸는이들을위해 GPU 컴퓨팅모델을개척하고있다. 나흘간진행된 GTC 2018 에는등록참가자수가약 8,300 명에이르렀으며 600 여개기술세션이제공되었다. 2 백명이넘는취재진과 80 여명업계분석가에게는 NVIDIA 의새로운기술들을직접체험하는기회가제공됐다.

5 젠슨황 NVIDIA CEO 는탁월한혁신가이다. 올해에도그는뛰어난역량을발휘했다. IT 비즈니스에지 (IT Business Edge)

6 레이트레이싱과대규모 GPU 로 GTC 2018 에열기를더해 일렉트로닉디자인 (Electronic Design) 실시간레이트레이싱은 40 여년전처음소개된이래컴퓨터과학자들의선망의대상이었다. 실시간레이트레이싱플랫폼인 NVIDIA RTX 기술의등장은커다란반향을일으켰다.

7 NVIDIA, Quadro GV100 를통해본격적인시장공략에나서다 핫하드웨어 (Hot Hardware) 강력한 Quadro GV100 GPU 와결합된 NVIDIA RTX 기술은약 15 년전쉐이더 (shader) 프로그램이도입된이래컴퓨터그래픽분야의가장큰기술발전으로꼽힌다. NVIDIA RTX 기술은 NVIDIA 가약 10 년에걸친연구를통해이뤄낸성과로, 새로운 GPU 아키텍처, 알고리즘, 딥러닝을오직 NVIDIA 만이가능한방식으로결합한것이다. NVIDIA 는또다시컴퓨터그래픽분야를재편하였다.

8 100 NVIDIA, 무어의법칙을압도적으로능가 디인콰이어러 (The Inquirer) GPU 가속컴퓨팅 , GPU 개발자수 5 년간 10 배 10 1 무어의법칙 CPU M PF 2018 CUDA 다운로드수 5 년간 5 배 상위 50 개시스템의총 GPU FLOPS 5 년간 15 배 Measured performance of Amber, CHROMA, GTC, LAMMPS, MILC, 2013 NAMD, Quantum Espresso, SPECFEM3D 2018 약 30 년간무어의법칙 (Moore s law) 은기정사실처럼여겨졌으나, 최근 CPU 의발전속도는둔화되고있다. GPU 컴퓨팅은더강력한법칙을보여주고있다. 이새로운법칙은 GPU 라는고도의병렬프로세서부터시작해, 시스템설계, 시스템소프트웨어, 알고리즘으로이어지고있으며최적화된애플리케이션까지나아가고있다. 이는전세계적인추세이다.

9 강력한시스템차원솔루션개발로좋은칩을생산하는데주력해온경쟁사와차별화되는경쟁력을갖추었다 TheStreet TESLA V100 DGX 시스템모든클라우드 NVIDIA GPU 클라우드 NVIDIA AI 추론 TITAN V 새로운 32GB V100 32GB 새로운 DGX-2 AWS, GCP, Ali 클라우드, Oracle 에 NGC 적용 30 개 GPU 최적화컨테이너 새로운 TensorRT 4, TensorFlow, Kaldi, ONNX, WinML 매진! NVIDIA 는딥러닝과 AI 를위한 GPU 컴퓨팅을빛의속도로발전시키고있다. NVIDIA 는전체스택을만들어어떤컴퓨터, 어떤데이터센터, 어떤클라우드환경에서든쉽게구현되도록하고있다. 또한 32GB HBM2 Volta GPU 로 AI 를강화하고, 단일서버최초로서버 300 대에준하는성능을구현하는 NVIDIA DGX-2 를발표했으며, TensorRT 4 와 NVIDIA GPU 기반쿠버네티스 (Kubernetes) 로추론플랫폼을확장하고, GPU 에최적화된 30 개의컨테이너로 GPU 클라우드레지스트리를확장하여더많은클라우드서비스제공자들에제공하고있다.

10 NVIDIA 는 GTC 2018 의주인공인 DGX-2 의면면을공개했다 EE Times AI 연구자들은엄청난 GPU 를원한다. NVIDIA 는 2 페타플롭의연산능력을제공할수있는최초의단일서버인 DGX-2 출시하며딥러닝컴퓨팅분야에또하나의전기를마련했다. DGX-2 는혁명적인 GPU 인터커넥트패브릭 (Interconnect fabric) 인 NVSwitch 를통해초당 2.4 테라바이트라는기록적인속도로 16 개의 Tesla V100 GPU 가동시에커뮤니케이션할수있도록한다. DGX-2 프로그래밍은 세계최대 GPU 의프로그래밍이다.

11 더많은 GPU 를구매할수록, 더큰비용절감이가능하다 젠슨황 기존하이퍼스케일클러스터 듀얼 CPU 서버 300 대, 3 백만달러, 180 kw 딥러닝을위한 NVIDIA 의 DGX-2 DGX-2 1 대, 39 만 9 천달러, 10kW 기존클러스터대비 1/8 의비용, 1/60 의공간, 1/18 의전력소모

레이어가수백개, 파라미터가수십억개에이르며 5 년만에모델의복잡도는 500 배수준으로증가했다. 이를호스팅하는하이퍼스케일데이터센터는수십억의이용자를지원하고, 수십억의운영비용이들며세계에서가장복잡한컴퓨터로손꼽힌다.

12 CNN (Convolutional Networks) 순환망 (Recurrent Networks) GAN (Generative Adversarial Networks) 강화학습 (Reinforcement Learning) 새로운종류 (New Species) 뉴럴네트워크도 캄브리아기의폭발 같은현상을겪고있다. AlexNet 이후수천개의새로운모델이출현하였다. 레이어가수백개, 파라미터가수십억개에이르며 5 년만에모델의복잡도는 500 배수준으로증가했다. 이를호스팅하는하이퍼스케일데이터센터는수십억의이용자를지원하고, 수십억의운영비용이들며세계에서가장복잡한컴퓨터로손꼽힌다. 최소의비용으로양질의서비스품질을유지하는것은무척어려운일이다. 이에젠슨황은 PLASTER 원칙을제시한다. PROGRAMMABILITY/ 프로그램성 LATENCY/ 지연성 ACCURACY/ 정확성 SIZE/ 사이즈 THROUGHPUT/ 처리량 ENERGY EFFICIENCY/ 에너지효율성 RATE OF LEARNING/ 학습률

13 NVIDIA 는 TensorRT 4 출시로추론능력을강화했다 더스트릿 (TheStreet) ASR RNN++ SPEECH SYNTH DGN, S2S RECOMMENDER MLP-NCF NLP RNN IMAGE / VIDEO CNN TensorRT CNNs 3 천만대하이퍼스케일서버 TensorRT 2 INT8 TensorRT 3 Tensor Core TensorRT 4 TensorFlow 통합 Kaldi 최적화 ONNX WinML 190X IMAGE / VIDEO ResNet-50 - TensorFlow Integration 50X NLP GNMT 45X RECOMMENDER Neural Collaborative Filtering 36X SPEECH SYNTH WaveNet 60X ASR DeepSpeech 2 DNN 2016 년 9 월 2017 년 4 월 2017 년 9 월 2018 년 4 월 All speed-ups are chip-to-chip CPU to GV100. 전세계수천만대의하이퍼스케일서버는 AI 를위해가속화될것이다. 워크로드가복잡하기때문에 PLASTER 원칙을명심할필요가있다. 컴파일러기술최적화는여전히진행중이다. NVIDIA 는최신추론소프트웨어인 TensorRT 4 을선보이며, 구글의인기프레임워크인 TensorFlow 에 TensorRT 가통합된다고발표했다. 아울러음성인식분야에서가장각광받고있는프레임워크인 Kaldi 가 GPU 에최적화되었다고전했다. NVIDIA 와 Amazon, Facebook, Microsoft 등파트너들과의긴밀한협업을통해개발자들은 ONNX 및 WinML 을이용해 GPU 가속의이점을적극활용할수있게되었다. 하이퍼스케일데이터센터들은 NVIDIA 추론가속화로상당한비용절감효과를누릴수있다.

14 NVIDIA, 쿠버네티스에 GPU 가속지원이라는희소식발표 테크크런치 (TechCrunch) NVIDIA GPU 가쿠버네티스를지원한다! 하이퍼스케일데이터센터는수천개의 CPU, 메모리모듈, 네트워크기기, 저장기기, 시스템소프트웨어들을갖추고있어전반적인시스템통합이필수이다. NVIDIA 가발표한쿠버네티스 -ONG 는멀티클라우드 GPU 클러스터에서이러한리소스들의통합운영을가능케하는소프트웨어다. 시스템오류상황에서도단일의명령어 (command) 로온프레미스또는클라우드 GPU 에서지원한다.

15 NVIDIA 가주목하고있는차세대기술, Orin AnandTech DRIVE Pegasus Orin DRIVE PX 2 DRIVE Xavier DRIVE PX Parker 자율주행자동차는 10 조달러규모의운송산업을현대적으로변모시켜도로안전성과도시의효율성을더할전망이다. NVIDIA DRIVE 는확장가능한 AI 자동차플랫폼으로, 교통체증시파일럿기능부터로봇택시에이르기까지자율주행전분야를아우른다. 이미 370 개이상의자율주행관련기업들이 DRIVE 플랫폼을적용하고있다. GTC 에서 NVIDIA 는최신 DRIVE 소프트웨어스택을시연하고차세대 DRIVE AI 자동차컴퓨터인 Orin 을엿볼수있는기회를제공하였다.

16 트레이닝해야할상황은많지만, 실제도로에서의테스트주행시간이부족하다 벤처비트 (VentureBeat) 매년전세계자동차의주행거리는 10 조마일에달한다. 하지만, 테스트차량의주행거리는수백만마일에그친다. 이는모든주행시나리오의극히일부에불과하다. 안전성과신뢰성을갖춘시스템을구축하기위해서는수십억마일의시범주행이필요하다. 새로운해법을찾아야한다.

NVIDIA 는 VR 시뮬레이션시스템으로자율주행자동차의테스트를재정의한다 ZDNet NVIDIA DRIVE Constellation 은가상현실에서수십억마일의자동차주행을구현할수있다. 이 Constellation 은각기다른두개의 GPU 서버에기반한컴퓨팅플랫폼이다.

17 NVIDIA 는 VR 시뮬레이션시스템으로자율주행자동차의테스트를재정의한다 ZDNet NVIDIA DRIVE Constellation 은가상현실에서수십억마일의자동차주행을구현할수있다. 이 Constellation 은각기다른두개의 GPU 서버에기반한컴퓨팅플랫폼이다. 첫번째서버에서는주행환경과카메라, 라이다및레이더와같은차량의센서에서감지되는것과주변환경을시뮬레이션하며, 두번째서버의 NVIDIA DRIVE Pegasus AI 차량용컴퓨터는자율주행차소프트웨어스택일체를실행하고실제도로에서주행중인차량의센서에서온것처럼시뮬레이션된데이터를처리한다.

Isaac SDK 는로보틱스의주요기능인인지 (perception), 로컬라이제이션 (localization), 내비게이션 (navigation), 조작

18 NVIDIA, 로봇시대의문을열다 FutureCar Isaac Sim Isaac SDK AI 진화의다음단계는오토노머스머신 (Autonomous machine) 이다. NVIDIA 는광범위한산업분야에서로봇의개발및배치를가속화할수있는로보틱스플랫폼인 Isaac 을개발하였다. Isaac SDK 는로보틱스의주요기능인인지 (perception), 로컬라이제이션 (localization), 내비게이션 (navigation), 조작 (manipulation) 을수행한다. 함께개발한 Isaac Sim 은로봇을개발, 트레이닝할수있는가상현실시뮬레이터이다. Isaac SDK 를장착한로봇에 Isaac Sim 으로구축한소프트웨어를넣으면지능형기기가탄생한다.

19 빛의속도로처리하는의료영상 : NVIDIA 의 CLARA 슈퍼컴퓨터 ZDNet 이미징 & 시각화애플리케이션 CUDA CUDNN TENSORRT OGL RTX GPU 컨테이너 VGPU NVIDIA GPU 서버 질병치료에서조기진단은가장강력한무기이다. AI, 연산이미징 (computational imaging) 등최신의혁신기술이질병조기진단에큰도움이되지만, 의료현장에당장도입하기는어렵다. 전세계에배치된약 3 백만대의의료기기대다수가 10 년전에구축된것이기때문이다. NVIDIA 의의료영상슈퍼컴퓨터인프로젝트 CLARA 는기존기기의역량을업그레이드시켜준다. 클라라를통해기존기기도최첨단이미지재구성, 객체검출및분할, 시각화역량을갖출수있다.

20 새로운 AI 시대가칩제조사에도래했다 바론즈 (Barron s) 수십억대의스마트센싱기기가앞으로인터넷에연결될것이다. NVIDIA 와 Arm 은모바일, 가전제품, 사물인터넷 (IoT) 디바이스에딥러닝추론기능을적용하기위해파트너십을체결했다고발표했다. Arm 은자사의머신러닝프로젝트트릴리움 (Project Trillium) 플랫폼에 NVIDIA 딥러닝가속기를통합시켰다. 이번협력으로 IoT 칩기업들은보다쉽게설계에인공지능 (AI) 을적용하고합리적인가격의지능형제품을전세계수십억의소비자들에게제공할수있게될전망이다.

NVIDIA 는가상현실을통해실제자동차를원격조종해관중들을매료시켰다 야후파이낸스 (Yahoo

21 NVIDIA 는가상현실을통해실제자동차를원격조종해관중들을매료시켰다 야후파이낸스 (Yahoo Finance) 자동차를어떻게원격으로운전하는가? 정답은 가상현실을사용해자율주행기기속으로텔레포트한다 이다. 기조연설막바지에서젠슨황 CEO 는엔비디아자동차팀과 프로젝트와칸다 (Project Wakanda) 를소개하며관중의눈길을사로잡았다. 무대에서는운전자가엔비디아의홀로덱 (Holodeck) 을통해가상현실속에들어가, 산호세컨벤션센터건물뒷편에있는차로 텔레포트 하는모습을선보였다. 운전자는자동차카메라로모든상황을주시하며, 전방에주차된트럭을피해주차장으로안전하게원격으로실제자동차를운전하는모습을시연하였다.

22 GTC 2018 에서우리가본것은미래였다 IT 비즈니스에지 (IT Business Edge) Quadro GV100 DRIVE SIM & 새로운 Tesla V100 32GB 최신 TensorRT 4 등 CONSTELLATION ISAAC NVIDIA RTX 새로운 DGX-2 단일서버최초로서버 300 개의성능에준하는 2 페타플롭구현 NVIDIA GPU 기반쿠버네티스 단일아키텍처 XAVIER-PEGASUS-ORIN CLARA 그래픽 AI 자동차새로운플랫폼

23 NVIDIA 젠슨황 CEO: 미래의기술 CNBC GTC 2018 가폐막한지난 3 월 29 일, NVIDIA 의젠슨황 CEO 는 CNBC 의매드머니 (Mad Money) 와의인터뷰에서 NVIDIA 가새롭게발표한제품부터컴퓨터그래픽, AI, 자율주행자동차의미래에대한자신의시각에이르기까지광범위한주제를다루었다. 주식투자전문가이자 TV 진행자인짐크레이머는자신의애완견에버레스트에성장주인 NVIDIA 라는성을붙여화제가되었다.

24 GTC 2018 는왜 NVIDIA 가 AI 의확장을주도하는지보여주었다 포브스 (Forbes) NVIDIA 가언제나한발앞서리라는데에는의문의여지가없다. 디인콰이어러 (The Inquirer) 세션전반에걸쳐열기가대단했다. 전자신문 (Electronic Times) NVIDIA 는 AI 기술경쟁에새로운박차를가할태세이다. 포브스 (Forbes)

Ch 1 머신러닝 개요.pptx

Ch 1 머신러닝 개요.pptx Chapter 1. < > :,, 2017. Slides Prepared by,, Biointelligence Laboratory School of Computer Science and Engineering Seoul National University 1.1 3 1.2... 7 1.3 10 1.4 16 1.5 35 2 1 1.1 n,, n n Artificial