Elasticidad automática basada en métricas de servicio de aplicaciones corporativas desplegadas en Clouds IaaS

XXI Telecom I+DSantander

Fermín Galán, Alonso Álvarez, Ignacio Blasco, Daniel Morán

Real Elastic Cloud (REC), Telefónica I+D

Telefónica I+D 0

0Telefónica Servicios Audiovisuales S.A. / Telefónica España S.A.Título de la ponencia / Otros datos de interés / 26-01-2010TELEFÓNICA I+D

Santander28 de septiembre de 2011

ÍndiceÍndiceÍndiceÍndice

Introducción

Elasticidad basada en métricas de servicio

01

02

Telefónica I+D 1

Implementación y resultados

Conclusiones

03

04

Introducción

01

Telefónica I+D 2

Telefónica I+D

CloudCloudCloudCloud computingcomputingcomputingcomputing:::: UnUnUnUn conceptoconceptoconceptoconcepto confusoconfusoconfusoconfuso…………

Telefónica I+D 3

…………peroperoperopero enenenen elelelel quequequeque hayhayhayhay algunasalgunasalgunasalgunas cosascosascosascosas clarasclarasclarasclaras

�Características fundamentales

• Autoprovisión

• Dinamicidad

• Elasticidad

• Pago por uso (CAPEX → OPEX)

• Multi-tenant

• Agilidad

Telefónica I+D 4

• Agilidad

�Modalidades

• Software como servicio (SaaS)

› GMail, Google Docs

• Plataforma como servicio (PaaS)

› Google Apps Engine, Azure

• Infraestructura como servicio (IaaS)

› Amazon EC2

Infraestructura como servicio y ElasticidadInfraestructura como servicio y ElasticidadInfraestructura como servicio y ElasticidadInfraestructura como servicio y Elasticidad

Telefónica I+D 5

VirtualizaciónVirtualización

Máquina virtual

SO

App

Midware

Cloud IaaS

Pool de servidores físicos

Aplicaciones transaccionales multicapaAplicaciones transaccionales multicapaAplicaciones transaccionales multicapaAplicaciones transaccionales multicapa

LB

FE1

FE2

…

BE1

BE2

…LB

DB

Usuarios

Ej. ApacheEj. JBoss, Tomcat

Ej. MySQL, Oracle

Telefónica I+D 6

FEn

…

Presentación

BEm

…

Lógica de negocio

Persistencia

Aplicación transaccional multicapa corporativa típica

Usuarios del

servicio

X

SO

App

Midware→→→→LB

Elasticidad basada en métricas de servicio

02

Telefónica I+D 7

Telefónica I+D

Estado del arteEstado del arteEstado del arteEstado del arte

�Elasticidad automatizada

• Basada en métricas de infraestructura

› CPU, RAM, I/O disco, tráfico de red

• Amazon Cloud Watch + Auto Scaling, RightScale, Zenos Unified Monitoring,Tought Auto Scaling Service, etc.

Telefónica I+D 8

SO

App

Midware

050

100

CPU

050

100

CPU

SO

App

Midware

050

100

CPU

50ms180ms70ms

ProblemaProblemaProblemaProblema

�Las métricas de infraestructura no gobiernan necesariamente la calidad delservicio

• Al usuario no le importa si la CPU está cargada o no: lo que le interesa es elcumplimiento del SLA (= una buena experiencia de uso)

• Métricas de servicio típicas

› Tiempo de transacción, número de transacciones por segundo

Telefónica I+D

SO

App

Midware

9

SO

App

Midware

050

100

CPU

050

100

CPU

050

100

CPU

50ms

050

100

CPU

SO

App

Midware …

SoluciónSoluciónSoluciónSolución

Métrica de servicio

(pe. tiempo detransacción) SLA

Umbral de escalado

Margen de seguridad

Margen de estabilidad

Escalado

250 ms

220 ms

20%

Telefónica I+D 10

t

Umbral de desescalado

Margen de estabilidad

Desescalado

Implementación y resultados

03

Telefónica I+D 11

Telefónica I+D

Arquitectura del sistema Clotho

Proveedordel servicio

Gestorde ciclo de vida

Motor de elasticidad

TCloud API

OVF

TCloud APIAcciones externas

Gestión y Gobierno(Clotho)

RIFRIF

Usuarios del servicio

Telefónica I+D 12

vCenter

ESXi

Tcloud API overlay

ESXi ESXi

VMVM VMVM

…

TCloud API

vCenter API Monitorización …

Proveedor Cloud

VMVM VMVMVMVM VMVM

DetallesDetallesDetallesDetalles

�TCloud API

• Independiza del Proveedor Cloud (vCenter, RHEV, XenCenter, OpenNebula)

• Contribución al grupo CMWG de la DMTF (estandarización)

�OVF como formato de descripción de servicio

• Uso de OVF para describir servicios multicapa en cloud IaaS

› DMTF, “Open Virtualization Format (OVF)”, Specification DSP0243 1.1.0, Enero 2010

› Fermín Galán, Americo Sampaio, Luis Rodero-Merino, Irit Loy, Victor Gil, Luis M.

Telefónica I+D 13

› Fermín Galán, Americo Sampaio, Luis Rodero-Merino, Irit Loy, Victor Gil, Luis M.Vaquero, Mark Wusthoff, "Service Specification in Cloud Environments Based onExtensions to Open Standards", 4th Int’l Conf. on COMmunication System softWAreand middlewaRE (COMSWARE 2009), Junio 2009, Dublín (Irlanda)

• Reglas de elasticidad descritas en RIF (Rule Interchange Format)

› Daniel Morán, Luis M. Vaquero, Fermín Galán, "Elastically Ruling the Cloud:Specifying Application's Behavior in Federated Clouds", IEEE 4th Int’l Conf. on CloudComputing (CLOUD2011), Julio 2011, Washington DC, USA

�Monitorización basada en Nagios

�Motor de elasticidad basado en JBoos Drools

0

20

40

60

80

100

120

140

160

180

200

14:20 14:25 14:30 14:35 14:40 14:45 14:50 14:55 15:00 15:05 15:10 15:15 15:20 15:25

SLA

Tiem

po m

edio

de

tran

sacc

ión

de s

ervi

cio

(ms)

Resultados

Escalado

Desescalado

Umbral de escalado

�Applicación: PetStore

• GlassFish (capa elástica, min=1 max=5)

• MySQL (capa inelástica)

• LB basado en HAProxy conf.

Umbral de desescalado

Telefónica I+D

14:20 14:25 14:30 14:35 14:40 14:45 14:50 14:55 15:00 15:05 15:10 15:15 15:20 15:25

Tiempo

14

•HAProxy conf.por API REST

�Sondeo por HTTP GET

�Generador de carga JMeter

0

50

100

150

200

250

14:20 14:25 14:30 14:35 14:40 14:45 14:50 14:55 15:00 15:05 15:10 15:15 15:20 15:25

Carg

a(n

º us

uari

os c

oncu

rren

tes)

Conclusiones

04

Telefónica I+D 15

Telefónica I+D

Conclusiones y Líneas de trabajo futuroConclusiones y Líneas de trabajo futuroConclusiones y Líneas de trabajo futuroConclusiones y Líneas de trabajo futuro

�Conclusiones

• La elasticidad basada en métricas de servicio protege mejor el SLA de servicioque la basada en métricas de infraestructura

• Servicios multi-capa corporativos

• Viabilidad demostrada en el prototipo Clotho

› Usamos la tecnología referente en el mercado (48% en 2012)(*): VMware vSphere

�Líneas de trabajo futuro

•

Telefónica I+D 16

�Líneas de trabajo futuro

• Elasticidad en varias capas, detección del “cuello de botella”

• Autoconfiguración de máquinas virtuales (OVF Environment)

• LB “inteligente”

• Modularización de la arquitectura de Clotho

(*) Fuente: Gartner, “The State of Virtualization”, IT Infrastructure Operations and Management Summit, Orlando FL (Estados Unidos), Junio 2010

Telefónica I+D

BackupBackupBackupBackup: Aplicación de pruebas : Aplicación de pruebas : Aplicación de pruebas : Aplicación de pruebas PetStorePetStorePetStorePetStore

Telefónica I+D 18