[논문 요약] Utilization Prediction Aware VM Consolidation Approach for Green Cloud Computing

Abstract

• VM consolidation은 엄격한 NP-hard 문제이고, 많은 휴리스틱 알고리즘이 제안됨
• 기존의 문제 원인
  • 대부분의 솔루션은 현재 리소스 기반으로 호스트의 수를 최소화하는 것만을 담는다. 미래에 리소스에 대한 탐구 x
• 문제 상황
  • 불필요한 마이그레이션과 SLA위반이 증가.
• 논문의 해결책
  • bin-packing으로 공식화된 알고리즘에 현재와 미래의 리소스 사용량을 고려한다.
  • 미래 리소스 예측엔 k-nearest neighbor regression 모델을 사용
• 실험 결과
  • VM과 호스트 리소스 예측의 효과를 실제 워크로드 추적을 사용해 조사한 결과
  • energy consumption, VM migration 수, SLA 위반 수가 줄어드는 것을 알 수 있음

 

keyword

Dynamic VM consolidation; bin-packing; utilization; prediction model; energy-efficiency; SLA

 

 

Introduction

• 가상화의 주요 장점은 Dynamic VM Consolidation (DVMC)
• Energy efficiency는 호스트 수와 idle 호스트를 슬립모드로 전환하면서 VM을 통합해 이루어짐
• live migration은 어플리케이션 성능에 부정적인 영향을 미치므로 DVMC를 통해 Qos요구사항을 고려해야함
• Qos요구사항은 SLA로 공식화됨
• DVMC문제는 bin-packing 문제로 공식화됨

본 논문의 알고리즘

• 오직 vm 수만 줄이려는 bin-packing과 달리 본 논문은
  • VM migration 수
  • SLA 위반 수
  를 줄이는 것을 목표로함

 

• 단계
  1. 가장 부하가 적은 VM에서 가장 부하가 많은 VM으로 모든 VM을 마이그레이션함
  2. 현재 또는 미래에 overloaded된 VM을 마이그레이션함
• 제안된 DVMC는 미래와 현재의 리소스 예측값을 기반으로 작동

 

Related Work and Background

• 본 논문의 알고리즘은 Utilization Prediction-aware Best Fit Decreasing (UP-BFD)
• 기여한 것
  • dynamic VM consolidation을 가능하게함. energy saving과 SLA 사이의 trade-off를 찾음
  • 마이그레이션 수를 줄이기 위해 현재와 미래의 리소스를 기반
  • SLA위반을 줄이기 위해 현재 overloaded되거나 미래에 거의 overloaded 될 Vm 을 마이그레이션 함
  • 예측 모델을 활용한 proactive consolidation 을 가능하게함
  • 실제 워크 로드를 사용해 다양한 예측 기반 consolidation의 성능 평가 연구를 수행해 비교하여 제시함
  • energy consumption, migration수, SLA위반 수의 관계를 다른 CPU 임계값 기반으로 연구함. 임계값의 범위는 50~100%

 

Problem Statement

• 효과적인 VM consolidation method는 활성화된 cpu수를 최대 기대 이익과 함께 활성화된 cpu수를 최소화하기 위해 vm 배치를 최적화함
  • 여기서 기대이익은 두가지 중요한 요소
    • SLA 위반 비율
    • VM 마이그레이션 수
• 이것을 하기 위해 미래 리소스 활용 예측값을 사용함

예시1

• 단순히 호스트 수를 줄이기위해 Host2를 1로 통합할 경우
• Host1이 overloaded
• SLA 위반을 피하기 위해 다시 migration 발생

⇒ 예측을 사용했다면 불필요한 마이그레이션과 SLA위반을 줄일 수 있음

---

예시2

• 호스트 수를 줄이기 위해 Host2를 1로 통합할 경우
• vm2에 request증가
• SLA 위반을 피하기 위해 다시 migration 발생

<문제정의>

현재 리소스 사용량만을 가지고 서버의 수를 줄이는 것 만을 목표하는 알고리즘은 불필요한 마이그레이션과 SLA위반의 비율이 높아질 수 있지만, 리소스 사용량 예측을 사용한다면 이러한 문제를 해결할 수 있다.

 

System model

1) LA(local agent)가 리소스 사용량을 모니터하고 짧은 텀의 CPU 사용량을 예측함

2) GA(global agent)가 LA로 부터 사용량 데이터를 모으고 마이그레이션 계획을 세움

3) GA가 콘솔리데이션을 수행할 VMM에 마이그레이션 명령을 보냄. 명령은 어떤 호스트로 어떤 vm이 마이그레이션할지 결정함.

4) VMM은 GA로부터 명령을 받은 후에 실제 마이그레이션을 수행함

 

 

Utilization Prediction-Aware Best Fit Decreasing Algorithm

• 처음에 VM은 BFD를 사용하요 호스트에 할당됨
• BFD는 먼저 요구된 리소스 사용량에 따라 역순으로 정렬.
• 각각의 VM을 가장 사용 가능한 용량이 작은 호스트에 할당함.
• 리소스 사용량은 동적 워크로드 때문에 시간에 따라 다르게 지속됨.
• 차수에 대한 고려도 존재.

host에 대해서 다음과 같이 정의한다.

→ 디스크나 다른 메트릭이 사용될 경우 이렇게 확장 가능

 

vm에 대해서는 다음과 같이 정의한다.

• UP-BFD는 처음에 load가 가장 높은 vm으로 마이그레이션하는 것을 목표로한다.
• 큰 VM은 다른 VM으로 삽입하기 어렵다는 생각이 깔려있음

find a suiable destination host

• UP-BFD는 SLA 위반과 필요없는 마이그레이션을 피하기 위해 두가지 제약을 사용함

첫 번째 제약 : 만약 vm을 배치하기위한 충분한 리소스가 있다면 하나의 vm이 호스트에 할당되는 것을 허용한다.

1. 리소스 활용도가 100$에 가까워지면 SLA위반이 있을 수 있기 때문에 임계값을 사용한다.
2. 메모리에 대해서는 이를 고려하지않음.

 

두 번째 제약 :

1. 목적 호스트가 vm 배치 직후에 짧게 오버로드 되지 않는 것을 보장하기 위함
2. 미래 CPU 사용량 예측값을 활용
3. UP-BFD는 dynamic workload 때문에 short-term load 예측에 집중

 

• 추가
  • UP-BFD는 overloaded되거나 overloaded될 것으로 예측된 호스트로부터 몇몇의 vm을 마이그레이트 하도록 한다.
    • H_over : overloaded host
    • ^H_over : predicted overloaded host

 

pseudo-code

 

Performance Evaluation

Simulation setup

• CloudSim toolkit을 사용하여 다양한 서버 배치 기술을 수행
• 8000개의 이기종 호스트로 구성된 데이터 센터를 가정한 후 두개의 서버 configuration을 선택
  • HP ProLiant ML110 G4 (Intel Xeon
    3040, 2 cores ×1860 MHz, 4 GB)
  • HP ProLiant ML110 G5 (Intel Xeon 3075, 2 cores × 2660 MHz, 4 GB)
• 두 가지 유형의 랜덤 워크로드와 실제 워크로드를 사용
  • 무작위로 사용자가 프로비저닝에 대한 요청을 제출함

 

Evaluation Metrics

main goal

• SLA 위반 x
• 물리 서버 수 줄이기
• migration 수 줄이기

SLA Violation (SLAV)

• IaaS에서 배포된 VM은 SLA를 평가하는데 사용됨
• SLAVO : SLA violations due to over-utilization
• SLAV M : SLA violations due to migration
  • SLAVO와 SLAVM metric은 독립적

SLAVO

SLAV M

 

Energy consumption

• PM의 사용량은 cpu 사용량으로 표현

 

Number of VM Migrations

• vm migration은 pm에서 CPU 처리량, 소스와 목적 PM 사이의 대역폭, 서비스 중단 시간 등이 포함된 비용이 많이드는 작업

 

Comparison benchmarks

• Modified Best Fit Decreasing (MBFD)
• Modified First Fit Decreasing(MFFD)
• Host Utilization Prediction-aware (HUP-BFD)
• VM Utilization Prediction-aware Best FIt Decreasing(VMUP-BFD)

 

Experimental Results