Artificial Intelligence: Project 3 Seung-Hoon Na November 19, Sarsa와 Q-learning 1.1 Windy Gridworld Windy gridworld는 (Sutton 교재 연습문제 6.5) 다음 그림

Size: px

Start display at page:

Download "Artificial Intelligence: Project 3 Seung-Hoon Na November 19, Sarsa와 Q-learning 1.1 Windy Gridworld Windy gridworld는 (Sutton 교재 연습문제 6.5) 다음 그림"

동호 방
4 years ago
Views:

Artificial Intelligence: Project 3 Seung-Hoon Na November 19, 2019 1 Sarsa와 Q-learning 1.1 Windy Gridworld Windy gridworld는 (Sutton 교재 연습문제 6.

예를 들어, Agent가 G의 바로 왼쪽에서 right를 수행하면 G 보다 2칸 더 위에 위치하게 된다. Agent가 G의 바로 오른쪽에서 left를 수행하면 G보다 1칸 더 위에 위치하게 된다. (즉, Agent가 이동을 시작 할 때 위치의 column 상 strength만큼 위로 이동한후 해당 action을 수행하는 것과 같다).

1 Artificial Intelligence: Project 3 Seung-Hoon Na November 19, Sarsa와 Q-learning 1.1 Windy Gridworld Windy gridworld는 (Sutton 교재 연습문제 6.5) 다음 그림과 같이 8 7 Grid world 로, Agent는 up, down, right, left의 4가지 action을 수행하면서 시작 상태 S에서 목표 상태 G로 도달하는 것이 목적이다.1 추가로, 중앙의 columns들에 바람 (wind)이 있어서 이 영역에서는 Agent가 up방향으로 해당 바람의 세기(strength) 만큼 이동하게 된다. 예를 들어, Agent가 G의 바로 왼쪽에서 right를 수행하면 G 보다 2칸 더 위에 위치하게 된다. Agent가 G의 바로 오른쪽에서 left를 수행하면 G보다 1칸 더 위에 위치하게 된다. (즉, Agent가 이동을 시작 할 때 위치의 column 상 strength만큼 위로 이동한후 해당 action을 수행하는 것과 같다). Windy gridworld는 Undiscounted espisodic task로 goal에 도달할때마다 reward가 1씩 주어진다. 1.2 Sarsa와 Q-learning구현 위의 Windy gridworld에 대해서 epsilon-greedy action를 이용한 경우 Sarsa와 Q-learning을 구현하시오 (python code). 이때, = 0.1, α = 0.5 로 한다. 참고로, Sarsa와 Q-learning의 기본 알고리즘은 다음과 같다. 1 해당 연습문제에 대한 원문은 다음 Sutton 1 교재를 참고할 것.

4 Sarsa와 Q-learning 시물레이션 Sarsa와 Q-learning을 시물레이션하여 다음과 같이 time steps별로

2 1.3 Sarsa와 Q-learning학습 결과 확인 Sarsa와 Q-learning각각에 대해서 학습한 결과의 Q values와 optimal policy는 별 도의 파일로 저장하고 이를 출력하는 python code를 작성하시오. 출력결과도 report하라. 1.4 Sarsa와 Q-learning 시물레이션 Sarsa와 Q-learning을 시물레이션하여 다음과 같이 time steps별로 수행된 epicodes수에 대한 curves를 비교하시오. (하나의 그래프에서 Sarsa와 Q-learning 곡 선이 비교되도록 하면 된다.) 2

2 Deep reinforcement learning 본 문제에서는 Breakout게임의 action을 학습하기 위해 Convolutional network을 이용한 deep reinforcement learning을 구현한다. 다음은 이를 위해 확장해야 하는 pygame 코드이다.

3 2 Deep reinforcement learning 본 문제에서는 Breakout게임의 action을 학습하기 위해 Convolutional network을 이용한 deep reinforcement learning을 구현한다. 다음은 이를 위해 확장해야 하는 pygame 코드이다. 참고로 위의 코드를 설치하여 실행한 게임 화면은 아래와 같다. 또는, 다음의 breakout 코드를 확장해도 된다. 위의 breakout게임 화면은 다음과 같다. 3

2.1 DQN (Deep Q-network) 구현 DQN은 Experience replay로 (s, a, r, s0 )로 구성된 replay memory D를 만들고, 이로부터 random mini-batch Di 를 샘플링하여 Di 에 대한 다음 loss function (squared error)를 줄이도록 network의 parameter를 학습하는

4 2.1 DQN (Deep Q-network) 구현 DQN은 Experience replay로 (s, a, r, s0 )로 구성된 replay memory D를 만들고, 이로부터 random mini-batch Di 를 샘플링하여 Di 에 대한 다음 loss function (squared error)를 줄이도록 network의 parameter를 학습하는 것이다. Li = Es,a,r,s0 Di [r + γmaxa0 Q(s0, a0 ; wold ) Q(s, a, w)] 다음은 DeepMind의 DQN 논문에서 기술된 학습 algorithm이다. ( Q(s, a, w)을 위해 convolutional networks으로 구성하여 w학습을 위한 일 반적인 DQN 알고리즘을 구현하고 이를 breakout학습에 적용하시오. 단, DQN은 어느 게임에도 적용될 수 있도록 modularity를 유지하도록 하고, Atari breakout code는 state image 및 reward를 추출하기 위해 적절히 수정 및 확장하시오. 다음은 추가 comments이다. 1. pytorch 1.0이상에서 호환되도록 작성하라 (linux ubuntu 플랫폼) 4

5 2. convolutional networks의 딥 모델 구조는 3-4개 층 정도로 적절히 구성하면 된다. 3. code실행을 위한 간단한 README 제출할 것 2.2 DQN (Deep Q-network) 적용 DQN을 적용하면서 Training epochs이 진행됨에 따라 Average reward curvs를 그리시오. 다음은 DeepMind 논문의 해당 curves의 예이다. 2.3 DQN (Deep Q-network) 적용: Breakout 시물레이션 DQN을 통해 학습된 결과를 저장한 후, 이를 로딩하여 학습된 Agent가 수행한 action에 따라 breakout가 play되도록 시물레이션 code를 작성하시오. (실행하면 Agent의 action에 따라 atari breakout가 자동으로 play되어야 함) 2.4 Actor-Critic model 구현 Actor-critic model은 value network v(s, w)와 policy network π(s, θ) 두고 value network의 parameter를 갱신할 때는 TD-learning을, policy network의 parameter 를 갱신할 때는 policy gradient의 q 함수대신 advantage function Aπθ (s, a)를 사 용한 다음의 policy gradient를 사용한다. J(θ) = Eπθ [ log π(a St, θ)aπθ (S, a)] Actor-critic model의 학습 algorithm은 다음과 같다 (Sutton 교재 13.5절 참조) 5

6 v(s, w)및 Q(s, a, θ)을 위해 convolutional networks으로 구성하여 w, θ 파라미터을 위한 일반적인 Actor-Critic 알고리즘을 구현하고 이를 breakout 학습에 적용하시오. 단, 마찬가지로 Actor-critic model은 어느 게임에도 적용될 수 있도록 modularity를 유지하도록 하고, Atari breakout code는 state image 및 reward를 추출하기 위해 적절히 수정 및 확장하시오. 다른 조건은 DQN과 유사하게 설정할 것. 2.5 Actor-Critic model 적용 및 시물레이션 마찬가지로, Actor-Critic model을 적용하면서 Training epochs이 진행됨에 따라 Average reward curvs를 그리고, 이를 DQN과 비교하시오. 또한, Actor-Critic model을 통해 학습된 결과를 저장한 후, 이를 로딩하여 학 습된 Agent가 수행한 action에 따라 breakout가 play되도록 시물레이션 code를 작성하시오. (실행하면 Agent의 action에 따라 breakout가 자동으로 play되어야 함) 2.6 제출 코드 및 결과: 요약 Deep reinforcement learning문제에서 제출해야 하는 코드 및 결과물은 다음과 같다. 1. DQN을 이용한 Breakout 학습기 (학습 결과 저장) 2. DQN을 이용한 Breakout 테스트: performance curve 도출 3. DQN을 이용한 Breakout 테스트: simulation (자동 실행) 4. Actor-critic model을 이용한 Breakout 학습기 (학습 결과 저장) 6

7 5. Actor-critic model을 이용한 Breakout 테스트: performance curve 도출 6. Actor-critic model을 이용한 Breakout 테스트: simulation (자동 실행) 3 제출 내용 및 평가 방식 코드는 python으로 본 과제 결과물로 필수적으로 제출해야 내용들은 다음과 같다. 코드 전체 테스트 결과: 각 내용별 테스트 코드 및 해당 로그 또는 출력 결과. 결과보고서: 구현 방법을 요약한 보고서. 본 과제의 평가항목 및 배점은 다음과 같다. 각 세부내용의 구현 정확성 및 완결성 (80점) 코드의 Readability 및 쳬계성 (10점) 결과 보고서의 구체성 및 완결성 (10점) 7

Artificial Intelligence: Assignment 6 Seung-Hoon Na December 15, Sarsa와 Q-learning Windy Gridworld Windy Gridworld의 원문은 다음 Sutton 교재의 연습문제

Artificial Intelligence: Assignment 6 Seung-Hoon Na December 15, 2018 1 1.1 Sarsa와 Q-learning Windy Gridworld Windy Gridworld의 원문은 다음 Sutton 교재의 연습문제 6.5에서 찾아볼 수 있다. http://incompleteideas.net/book/bookdraft2017nov5.pdf