챗봇과 금융서비스의 결합 2017.05.25 Company.AI 강지훈
목차 1. 2. 3. 4. 5. AI Boom Chatbot Deep Learning Company.AI s Approach AI Chatbot In Financial service 2
3
인공지능 및 고급 기계 학습 딥러닝, 인공신경망, 자연어 처리 등 다양한 기술 이해, 학습, 예측 등 스스로 가동되는 자율 시스템 구현 미래예측과 변경 및 새로운 지능 창조 지능형 앱 기존의 서비스 방식을 변화시키고 새로운 고객의 경험을 제공 업무 자동화, 효율화, 간소화 필수요소 가상 개인 비서, 자동 고객 상담, 스마트 어드바이저 등 대화형 시스템 전화보다 메시지를 이용한 채팅에 더 익숙한 현대 사용자들을 고려 사람들이 앱과 정보에 접근하고 활용하는 디바이스 메시 확장과 함께 사람과 소통할 수 있는 광범위한 대화형 인터페이스 시대의 도래 가트너의 2017년 10대 전략 기술 트렌드 4
왜 인공지능 언어 이해 및 대화 시스템이 필요한가? 비즈니스 차별화 고객경험관리를 위한 비즈니스 새로운 기술발전 인공지능기술의 발전 사용환경 고려 스마트폰시대 최적의 플랫폼 한글환경 고려 한글에 적합한 정보검색 및 추천의 자동화 최근 성공적인 비즈니스를 위한 핵심 가치로 고객 경험을 주목 스마트폰 시대 사람들은 전화보다 메시지를 이용한 채팅에 더 익숙 자동 상담 시스템의 적용으로 대기시간 감소 및 24/7 상담으로 고객들의 만족도 극대화 인공지능의 비약적 발전으로 미국, 중국 등을 비롯한 선진국에서는 자동 상담 시스템이 점점 주목받고 있음 5
Deep Learning 출현 이후 차례로 다양한 영역에 적용, 비약적으로 성능이 향상 2017년은 딥러닝을 활용한 언어 이해 모델의 해가 될 것으로 예측 (Stanford 대 크리스토퍼 매닝 교수, 2016 SIGIR Keynote Speech) [ Deep Learning의 적용 및 성공 사례 ] 2011 2013 2015 Speech Recognition Image Processing Natural Language Processing 딥러닝 초기 성공 분야 기존 모델 대비 30% 성능 향상 Google, MS 등의 핵심 기술로 사용 이미지 인식 정확도가 현재 95% 이상 수준 기존 전통 방법의 모델 대비 약 37% 우수 현재도 기존의 이미지처리 방법론에 2017 Information Retrieval 딥러닝 기반 Language Context Attention Embedding 텍스트 분석, 기계번역, 챗봇 등 분야에 적용 구문과 의미 해석 비해 비약적인 발전을 성능이 모두 향상되고 이루고 있음 있음 학계 및 산업계의 관심이 높아지고 있음 긴 길이의 지문을 학습한 후 필요한 정보를 찾아주는 문제 6
서비스 측면 향후 전망 서비스의 흐름은 웹에서 앱으로 최종적으로는 인공지능을 가진 봇(bot)의 형태로 발전될 전망 봇의 근간이 되는 인공지능 기술개발이 선행되지 않으면 다가오는 제 4차 산업 혁명에서 뒤쳐짐 인공지능 언어 이해 및 대화 시스템 개발을 통하여 비즈니스 도메인에 응용 가능한 수준으로 발전 필요
https://dionhinchcliffe.com/2016/04/13/how-chatbots-and-artificial-intelligence-are-evolving-the-digitalsocial-experience/ 8
https://twitter.com/tinyaxedigital/status/720731003073863680 9
10
1. 2. 3. 4. 5. AI Boom Chatbot Deep Learning Company.AI s Approach AI Chatbot In Financial service 11
채팅 메시지를 이용하여 기계와 사람이 대화하는 시스템 과거 : 사람이 미리 정한 규칙 기반으로 답변을 제공하는 룰기반 Dialogue System 이 주류 현재 : 딥러닝 기술의 비약적인 발전으로 기계가 스스로 메시지의 내용을 이해하고 사용자 의도를 파악하여 대답하는 인공지능 챗봇 시스템의 관심 증대
서비스 종류에 따른 구분 단순 정보/서비스 요청형 챗봇 사용자가 한, 두 개의 짧은 메시지를 통하여 필요한 정보 혹은 서비스를 요청하고 제공받는 형태 예시 : 음악 재생, 날씨 정보, 알람 설정, 시간 정보, 주식 정보, 맛집 안내, 홈제어 등 상품/서비스/메뉴 등의 검색, 추천 및 주문형 챗봇 메시지로 필요한 상품을 검색하고 상담 하며 주문 및 결제까지 이루어지는 형태 예시 : 피자/치킨 등 음식 주문, 커머스, 택시 호출, 택배/퀵 서비스 요청 등 기타 예약(호텔, 항공권, 여행, 공연 티켓 등), 고객 상담, 비서 등 다양한 도메인에 챗봇을 도입하려는 추세
룰기반 대화 시스템 사람에 의해 미리 규칙을 정함 정해진 규칙에 맞는 메시지 입력 시 답변을 보여주는 방식 장점 프로그래밍이나 알고리즘에 대한 전문적인 지식이 없이 구축이 가능 초기 Prototype 수준의 구축 비용이 적음 단점 대화의 범위를 넓히거나 품질 향상을 위한 비용이 많이 소요됨 시스템 관리 및 유지보수가 어려움 타 도메인으로의 확장성이 떨어짐
딥러닝 챗봇 시스템 기존 대화 로그 데이터로부터 챗봇 스스로 대화의 내용 및 대화하는 방법을 학습하는 방식 장점 기존 규칙에 없거나 새로운 입력에 대한 유연한 처리 가능 문맥을 통하여 판단하므로 기존 시스템 대비 인식 정확도 향상 이전 대화 내용을 고려한 맥락에 맞는 대화 가능 시스템의 관리 및 유지 보수가 용이 다른 도메인으로 확장 시 구축 시간 및 비용 절감 단점 초기 구축 비용이 많이 소요됨 챗봇 모델의 학습을 위한 시스템 리소스가 많이 필요
답변 선택 방법에 따른 구분 미리 정해진 답변 셋에서 주어진 질문과 가장 적합한 답변을 찾는 방식 장점 : 문법 및 내용상 오류가 없음. 적절한 답변을 생성하는 방식 비교적 적은 데이터로 학습 가능. 단점 : 정해진 형태의 답변만 가능. 답변 범위가 제한적. 주어진 질문에 맞게 단어의 조합으로 장점 : 다양한 주제에 대응 가능. 사람에 가까운 형태의 대화 가능. 단점 : 문법 및 내용상 오류 발생 가능. 많은 데이터 필요. 학습이 어려움
적용 도메인에 따른 구분 특정한 Task 수행 혹은 제한된 주제에 대한 대화를 위한 시스템 다양한 주제에 대한 대화를 위한 시스템 사례 : SK텔레콤 누구, KT 기가지니, 사례 : Microsoft Tay 등 8퍼센트 에이다, 인터파크 톡집사 등
In general 현재 대부분의 챗봇은 특정한 Task 를 처리하기 위한 용도로 제한됨 대화 맥락 파악, 화자의 일관성, 답변의 다양성 등의 문제 존재
Multi-context Response Generation : 20
Persona Seq2seq Model: Compute the speaker s embedding vector based on background facts, user profiles, language behavior and etc. 21
Interaction Seq2seq Model : Compute the speaker s embedding vector based on interaction styles as well as background facts, user profiles, language behavior and etc. 22
Mutual Information : Apply mutual information based objective function to promote diversity of answers Seq2seq Model Anti-language Model : Penalize generic responses 23
한계점 For Korean 해외 대비, 기계의 한국어 이해 수준은 개체명 인식, 형태소 분석, 각종 태깅, 구문 분석 등의 분야에 비해 지식베이스 자동구축, Q&A, 기계 독해 등에서의 연구 성과가 부족 미국 등 인공지능 선진국에서는 딥러닝 기술 적용을 통한 자연어 처리 분야의 괄목한 성장을 바탕으로 기계 독해 및 맥락 파악 기술에 대한 연구가 활발히 진행 중 기계의 한국어 이해 수준 향상은 향후 다가올 인공지능 기술 기반의 제 4차 산업 혁명에서 한국이 뒤쳐지지 않기 위한 필수적인 요소임 출처: Google Parsey McParseface
기계학습/딥러닝 개발 실적 인공지능 챗봇 시스템 개발 자동 상담 시스템 구축 인공지능 물류 관리 시스템 구축 자연어 처리 엔진 개발 및 검증 IoT 임베디드 환경에서 딥러닝 엔진 개발 25
2016 빅데이터 스타트업 공모전 최우수상 (2016.11) K-Global 300 ICT 유망기업 선정 (2016.12)
1. 2. 3. 4. 5. AI Boom Chatbot Deep Learning Company.AI s Approach AI Chatbot In Financial service 27
Template/Rule-based Systems (1950s ~ 2000s)
Response Generation as Statistical Machine Translation (2000s~2010s) 자주 출현하는 패턴에 대한 매칭 기반 I am you are, sick get better, lovely! thanks! 등
Neural Generation Models (2010s~)
or
? Perceptron 으로는 직선으로 구분할 수 있는 문제만 해결 가능 Multi-layer Perceptron (MLP) 로는 non-linear 문제도 해결 가능!!!
Perceptron 에서 activation function 을 바꿔보면? Perceptron Neural Node Neural Network 는 Neural Node 들을 여러개 연결한 구조의 모델
Activation function의 종류 - Step function : - Rectified Linear Unit(ReLU) : - (Logistic) Sigmoid : - Hyperbolic Tangent(tanh) : - Radial Basis Function(RBF), Softplus, Hard tanh, and more...
Single Layer Multi Layer 이제 Neural Network 를 Language Model 에 적용해 봅시다
Use neural network to model high-dimensional discrete distributions
Want to learn Two Parts 2 A function to map an input sequences to a conditional probability distribution 1 A mapping to represent distributed feature vectors for each word
Or equivalently,
(seattle, -1) (denver, -1) (seahawks, +1) (jerseys, + 1) (broncos, +1) (highlights, +1) (jerseys, + 2) (highlights, +2) seattle seahawks denver similar similar broncos This is Typical or Paradigmatic Similarity. 40
For a given task: Choose matrix choose sij weighting: could be binary, could be raw counts PPMI weighting for Word-Word matrix TF-IDF weighting for Word-Document matrix c0 [Example] Positive Pointwise Mutual Information (Word-Word Matrix) c1 c2 cj c C W0 W1 W2 Wi Sij w V Turney and Pantel. From frequency to meaning: Vector space models of semantics. Journal of artificial intelligence research 2010 41
1. 2. 3. 4. 5. AI Boom Chatbot Deep Learning Company.AI s Approach AI Chatbot For financial service 42
구현 예시 단일 딥 뉴럴넷으로 현재 가능한 범위는 작은 도메인에서 직전 메시지에 대한 그럴듯한 대답을 골라주는 수준 텍스트 데이터는 영상, 음성 등에 비해서 정보의 손실이 큼 하지만! 정제된 많은 데이터를 가지고 알려진 기술 중 좋은걸 모두 적용하면! 43
학습 데이터셋에 존재하지 않은 새로운 입력에 대한 응대가 가능 고도화된 NLP 적용을 통한 인식 정확도 향상 유지 보수가 용이 타 도메인으로의 확장성이 좋음 44
State-based Response Model 이전 대화 내역을 인공 신경망 기법을 적용하여 압축된 형태로 저장 사용자의 입력 메시지와 압축된 형태의 이전 대화 대역 정보를 토대로 현재 대화의 상태를 파악 대화 시스템은 위 단계에서 파악한 상태 정보를 이용하여 맥락에 맞는 적절한 답변 제공 가능 45
Analysis of interdependency Named Entity recognition Domain based Corpus & Learning data set State transition based Model or Goal Model Specific custom model 46
딥러닝 자연어 처리 알고리즘에 필요한 데이터셋을 웹을 통해서 구축하는 도구 한국어의 경우 최신의 논문이 요구하는 형태의 학습 데이터셋이 공개되어 있지 않음 일부 정부 프로젝트도 2010년 초반 이후 진행되지 않음 웹을 통해서 손쉽게 여러 사람이 동시에 데이터셋 구축에 참여 데이터의 생산 비용 절감 및 품질 평가 용이 47
커머스, 여행, 배달, 예약등 각 서비스에 알맞게 최적화된 데이터 구축 구분 특정 도메인에 특화된 전문적인 데이터 및 모델 구축 분야별 빠른 데이터 구축 및 학습에 적용 가능한 솔루션 확보 딥러닝 학습데이터 구축: 도메인별 데이터 구축 및 학습 솔루션 현황 기술 개발 48
추출한 의존관계와 구체적인 개체명에서 서비스 쿼리 추출 임베딩 벡터로 컨트롤 가능한 개인화 - 추천 시스템, 검색 추천 시스템 비즈니스 도메인의 Need를 위한 대화 컨트롤 시스템 학습셋 구축, 검증, 분석 도구를 포함한 대시보드 챗봇은 결국 종합 머신러닝 시스템 49
1. 2. 3. 4. 5. AI Boom Chatbot Deep Learning Company.AI s Approach AI Chatbot In Financial Service 50
51
글로벌 금융산업은 가 장악중 골드만삭스는 현재 주식을 사고파는 트레이딩을 본사 트레이더 직원 수 미국 인 켄쇼 에 의존 명 명 모건 모건스탠리 씨티 호주 호주뉴질랜드은행 일본 미쓰비시도쿄은행 중국 위뱅크 등 세계 각국 은행들이 이미 를 도입해 활용 52
발전 방향 금융 도우미 고객의 계좌 입출 내역 관리 금융 상품 만기일 안내 및 관리 각 종 공과금 및 카드비 통신비 등의 납기일 안내 신용 등급 관리 자산관리 서비스 성향과 금융 상품의 속성 등의 정보를 이용하여 고객 맞춤형 금융 상품 추천 금융 상품 이용 내역 자산 규모 등의 고객 정보를 분석 53
챗봇 해외 해외 금융 도우미 서비스 핀테크 스타트업과 손잡고 만든 인공지능 챗봇 기반 고객 자산관리 가상 도우미 문자와 음성을 통하여 거래 내역 한도액 등 간단한 고객의 질문을 받으면 자동으로 답변 고객의 신용등급이 좋지 않다는 걸 알게 될 경우 이를 끌어올리려는 방안을 제안하거나 이자 비용을 낮출 수 있는 신용카드 대금 납부 방법 가이드 54
챗봇 해외 해외 자산 관리 서비스 고객들의 카드 거래명세를 조회 지출 상황 모니터링 지출 한도를 설정하고 쇼핑까지 도와줌 소비자는 지갑을 꺼내거나 가맹점 앱을 사용하지 않고도 거래 가능 항공사에서 소매점에 이르기까지 다양한 가맹점 업종에서 사용 55
챗봇 해외 해외 챗봇 금융 서비스 당초 카드를 분실하거나 비밀번호를 기억하지 못하는 고객들을 위해 개발 인공지능 스타트업과 손잡고 딥러닝 기능을 추가 금융 자산정보를 분석한 후 투자성향이 공격적인지 보수적인지 판단해 최적 상품 추천 고객의 질문에 답변을 찾지 못하면 전문 직원에게 넘김 처리 결과를 학습한 후 다음엔 스스로 처리 56
챗봇 국내 국내 금융 챗봇 고객 서비스 은행 카드사 보험사에서 챗봇서비스가 시작되는 단계 대기 시간이 감소 및 간단하지만 반복되는 업무의 자동화 사람은 보다 복잡한 업무에 집중 운영 가능 57
챗봇 국내 국내 금융 챗봇 고객 서비스 금융업체 퍼센트는 스스로 학습할 수 있는 에이다 를 적용 에이다는 생소한 문의가 예를들어 소득은 여 번 반복되면 자동으로 분 정도 학습 만 원 현재 근무 기간은 년입니다 만 원을 빌리고 싶은데 금리와 대출한도가 얼마일까요 라고 물으면 에이다 는 대답과 함께 대출을 이용할 수 있도록 관련 링크를 안내 58
신용평가 해외 미국 로스앤젤레스 변수를 사용하는 의 제스트파이낸스 는 만 개의 각종 를 이용한 신용평가를 구축 미국 일반 은행들이 개 안팎의 변수만 사용 59
chatbot * People are tired of downloading apps, especially if they do not need to be apps 60
No one likes calling a business and wants to install a new app for every service Mark Zuckerberg 2016.04.28 F8 - Facebook Developer Conference Almost all apps will move to the conversational paradigm Chris Messina, 우버 수석 UX 디자이너 2016.1.20 medium 61
Thank You facebook.com/companyai twitter.com/companyai http://www.company.ai all@company.ai