CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de...

26
1 1 No. No. CAPITULO 16 CAPITULO 16 Procesos de Markov Procesos de Markov Probabilidades de Transici Probabilidades de Transici ó ó n n Probabilidades Fijas Probabilidades Fijas Estados de Absorci Estados de Absorci ó ó n n Matriz de Transici Matriz de Transici ó ó n con Submatrices n con Submatrices Matriz Fundamental Matriz Fundamental

Transcript of CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de...

Page 1: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

11No.No.

CAPITULO 16 CAPITULO 16 Procesos de Markov Procesos de Markov

�� Probabilidades de TransiciProbabilidades de Transicióónn�� Probabilidades Fijas Probabilidades Fijas �� Estados de AbsorciEstados de Absorcióónn�� Matriz de TransiciMatriz de Transicióón con Submatricesn con Submatrices�� Matriz FundamentalMatriz Fundamental

Page 2: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

22No.No.

INTRODUCCIINTRODUCCIÓÓN A LAS CADENAS DE MARKOVN A LAS CADENAS DE MARKOV

�� Una cadena de Markov es una serie de Una cadena de Markov es una serie de eventos, en la cual la probabilidad de que eventos, en la cual la probabilidad de que ocurra un evento depende del evento ocurra un evento depende del evento inmediato anterior. las cadenas de este inmediato anterior. las cadenas de este tipo tienen memoria. " Recuerdan" el tipo tienen memoria. " Recuerdan" el úúltimo evento y esto condiciona las ltimo evento y esto condiciona las posibilidades de los eventos futuros. Esta posibilidades de los eventos futuros. Esta dependencia del evento anterior dependencia del evento anterior distingue a las cadenas de Markov de las distingue a las cadenas de Markov de las series de eventos independientes, como series de eventos independientes, como tirar una moneda al aire o un dado.tirar una moneda al aire o un dado.

��

Page 3: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

33No.No.

�� En los negocios, las cadenas de En los negocios, las cadenas de Markov se han utilizado para Markov se han utilizado para analizar los patrones de compra analizar los patrones de compra de los deudores morosos, para de los deudores morosos, para planear las necesidades de planear las necesidades de personal y para analizar el personal y para analizar el reemplazo de equiporeemplazo de equipo

Page 4: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

44No.No.

��Algo mAlgo máás importante as importante aúún, es que n, es que permite encontrar el promedio a permite encontrar el promedio a la larga o las probabilidades de la larga o las probabilidades de estado estable para cada estado.estado estable para cada estado.Con esta informaciCon esta informacióón se puede n se puede predecir el comportamiento del predecir el comportamiento del sistema a travsistema a travéés del tiempo. s del tiempo.

Page 5: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

55No.No.

Procesos de MarkovProcesos de Markov

MODELOS DE PROCESO MARKOVMODELOS DE PROCESO MARKOV

Son Son úútiles para estudiar la evolucitiles para estudiar la evolucióón de n de sistemas a lo largo de ensayos repetidos los que, sistemas a lo largo de ensayos repetidos los que, a menudo, son periodos sucesivos donde el a menudo, son periodos sucesivos donde el estado del sistema en cualquier perestado del sistema en cualquier perííodo en odo en particular no pueden determinarse con certeza. particular no pueden determinarse con certeza.

Para lograr esto, se utilizarPara lograr esto, se utilizaráán probabilidades n probabilidades de transicide transicióón.n.

Page 6: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

66No.No.

Una probabilidad condicional?Una probabilidad condicional?

�� La probabilidad de que ELa probabilidad de que Ekk sea el siguiente sea el siguiente evento generado es una probabilidad evento generado es una probabilidad condicional : P ( Econdicional : P ( Ekk / M/ Mjj ). Esto se llama ). Esto se llama probabilidad de transiciprobabilidad de transicióón del estado Mn del estado Mjj al al estado Eestado Ekk. Para describir completamente una . Para describir completamente una cadena de Markov es necesario cadena de Markov es necesario saber el estado actual saber el estado actual y todas las y todas las probabilidades de probabilidades de transicitransicióón. n.

Page 7: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

77No.No.

PROBILIDAD DE TRANSICIPROBILIDAD DE TRANSICIÓÓNN�Las probabilidades de transición gobiernan la manera en la

cual el estado del sistema cambia de una etapa al siguiente.

Estos a menudo son representados en una matriz de

transición.

�Un sistema tiene una cadena de Markov finita con

probabilidades de transición FIJAS si:

�hay un número finito de estados

� las probabilidades de transición permanecen constantes

de una etapa a otra y

� la probabilidad del proceso está en un estado particular

en la etapa n+1 la cual es completamente determinada por

el estado del proceso en la etapa n (y no el estado en la

etapa n-1). Esto se refiera a la característica (propiedad)

de memoria menos.

Page 8: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

88No.No.

Probabilidades fijasProbabilidades fijas

Las probabilidades de estado en cualquier etapa del proceso

recurrentemente pueden ser calculadas al multiplicar las

probabilidades iniciales de estado por el proceso en la etapa n.

la probabilidad del sistema que está en un estado en particular

después de un número largo de etapas se le llama probabilidad

fija.

Probabilidades fijas de estado pueden ser encontradas al

resolver el sistema de ecuaciones ΠP =Π juntos con la

condición para probabilidades que Σπi = 1. Aquí la matriz P es

la matriz de probabilidad de transición y el vector, Π, es el

vector de probabilidades fijas.

Page 9: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

99No.No.

Estados de AbsorciEstados de Absorcióónn

Un estado de absorción es aquel en el cual la

probabilidad de que el proceso permanezca en

aquel estado una vez que entra en el estado es 1.

Si hay mas de un estado de absorción, entonces

una condición fija independiente de condiciones

iniciales de estado no existe.

Page 10: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

1010No.No.

Ejemplo: Ejemplo: NorthNorth’’s Hardwares Hardware

Henry, un vendedor persistente, llama la Ferretería

del Norte una vez a la semana que espera hablar con

el agente de compra de la tienda, Shirley. Si Shirley

no acepta la llamada de Henry esta semana, la

probabilidad de que ella hará lo mismo la próxima

semana es .35 para ambas situaciones. Por otra

parte, si ella acepta la llamada de Henry esta semana,

la probabilidad de que ella no lo hará la próxima

semana es .20.

Page 11: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

1111No.No.

Ejemplo: Ejemplo: NorthNorth’’s Hardwares Hardware

�� Probabilidades FijasProbabilidades Fijas•• PREGUNTAPREGUNTA

Cuantas veces al aCuantas veces al añño espera Henry hablar con o espera Henry hablar con Shirley ?Shirley ?

•• RESPUESTARESPUESTAPara encontrar el nPara encontrar el núúmero de llamadas con mero de llamadas con conexiconexióón, Encuentre El recorrido proporcional n, Encuentre El recorrido proporcional (probabilidad) de que una llamada ha sido (probabilidad) de que una llamada ha sido aceptada y multipliquela por las 52 semanas del aceptada y multipliquela por las 52 semanas del aañño.o.

. . . . . . . . . . .. . . . . . . . . . .

Page 12: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

1212No.No.

EJEMPLO: EJEMPLO: NorthNorth’’s Hardwares Hardware

�� Matriz de TransiciMatriz de Transicióónn

SSiguiente Semanaiguiente SemanaRechazos Rechazos ÉÉxitosxitos

EstaEsta Rechazos .35 Rechazos .35 .65 .65 Semana Semana

ÉÉxito .20 xito .20 .80 .80

Page 13: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

1313No.No.

Ejemplo: Ejemplo: NorthNorth’’s Hardwares Hardware

�� Probabilidades fijasProbabilidades fijas•• RESPUESTARESPUESTA

ππ11 = Corridas en la proporci= Corridas en la proporcióón de rechazosn de rechazosππ22 = Corridas en la proporci= Corridas en la proporcióón de n de ééxitosxitos

Entonces, Entonces, .35 .65 .35 .65

[[ππ11 ππ22] = [] = [ππ11 ππ22]].20 .80 .20 .80

Page 14: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

1414No.No.

Ejemplo: Ejemplo: NorthNorth’’s Hardwares Hardware

�� Probabilidades FijasProbabilidades Fijas•• Respuesta (continuaciRespuesta (continuacióón)n)

Se Tiene, Se Tiene, .35π.35π11 + + .20π.20π22 = = ππ11 (1)(1).65π.65π11 + + .80π.80π22 = = ππ22 (2)(2)

y, y, ππ11 + + ππ22 = 1 (3)= 1 (3)Al resolver la ecuaciAl resolver la ecuacióón(2) y (3), (La ecuacin(2) y (3), (La ecuacióón 1 n 1

es redundante, se substituye es redundante, se substituye ππ11 = 1 = 1 -- ππ22 en (2) y da:en (2) y da:.65(1 .65(1 -- ππ22) + ) + .80π.80π22 = = ππ22

La respuesta de La respuesta de ππ22 = .76471. Substituyendo = .76471. Substituyendo nuevamente en la (3) nuevamente en la (3) da da ππ11 = .23529. = .23529.

La expectativa de llamadas con La expectativa de llamadas con ééxito es de xito es de (.76471)(52) = 39.76 o aproximadamente 40.(.76471)(52) = 39.76 o aproximadamente 40.

Page 15: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

1515No.No.

Ejemplo: Ejemplo: NorthNorth’’s Hardwares Hardware

�� Probabilidad de EstadoProbabilidad de Estado•• PreguntaPregunta

Cual es la probabilidad de que Shirley acepte de Cual es la probabilidad de que Shirley acepte de Henry's las siguientes 2 llamadas si ella no aceptHenry's las siguientes 2 llamadas si ella no aceptóóesta semana sus llamadasesta semana sus llamadas

•• RespuestaRespuestaP = .35(.35) = .1225P = .35(.35) = .1225

P = .35(.65) = .2275P = .35(.65) = .2275

P = .65(.20) = .1300P = .65(.20) = .1300RechazosRechazos

RechazosRechazos

RechazosRechazos

RechazosRechazos

ééxitosxitos

ééxitoxito

ÉÉxitoxito

.35.35

.35.35

.65.65

.20.20

.80.80.65P = .65(.80) = .5200P = .65(.80) = .5200P = .65(.80) = .5200

Page 16: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

1616No.No.

Ejemplo: Ejemplo: NorthNorth’’s Hardwares Hardware

�� Probabilidad EstadoProbabilidad Estado•• PreguntaPregunta

Cual es la probabilidad de que Shirley acepte Cual es la probabilidad de que Shirley acepte exactamente una llamada de Henry de las siguientes exactamente una llamada de Henry de las siguientes dos llamadas si no aceptdos llamadas si no aceptóó su llamada esta semana?su llamada esta semana?•• RespuestaRespuesta

La probabilidad de que exactamente una de las dos llamadas siguientes sean aceptadas si acepta la llamada de esta semana (puede ser aceptar esta semana y rechazar la semana siguiente) y (la rechaza la semana próxima y acepta la semana siguiente)

0.13 + 0.2275 = 0.35750.13 + 0.2275 = 0.3575

Page 17: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

1717No.No.

Matriz de transiciMatriz de transicióón y submatricesn y submatrices

�� Si una cadena de Markov tiene tanto estados de Si una cadena de Markov tiene tanto estados de absorciabsorcióón como otros que no lo son, los estados n como otros que no lo son, los estados pueden ser reorganizados de modo que la matriz de pueden ser reorganizados de modo que la matriz de transicitransicióón pueda ser escrita como la composicin pueda ser escrita como la composicióón n siguiente de cuatro submatrices: siguiente de cuatro submatrices: II,, 00, , RR, y , y QQ::

II 00

RR QQ

Page 18: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

1818No.No.

Matriz de transiciMatriz de transicióón y submatricesn y submatrices

II = una matriz de identidad indicando que deja un = una matriz de identidad indicando que deja un estado de absorciestado de absorcióón una vez que es alcanzadon una vez que es alcanzado

00 = La matriz cero representa 0 probabilidad de = La matriz cero representa 0 probabilidad de un estado absorbente a un estado no absorbenteun estado absorbente a un estado no absorbente

RR = Las probabilidades de transici= Las probabilidades de transicióón para un estado n para un estado no absorbente a un estado absorbente no absorbente a un estado absorbente

QQ = La transici= La transicióón de probabilidades entre estados no n de probabilidades entre estados no absorbentesabsorbentes

Page 19: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

1919No.No.

Matrices Fundamental y NRMatrices Fundamental y NR

�� La matriz fundamentalLa matriz fundamental, N, es el inverso de la diferencia , N, es el inverso de la diferencia entre la matriz de identidad y la matriz de Q:entre la matriz de identidad y la matriz de Q:

NN = (= (II -- Q Q ))--11

�� La matriz NR, el producto de la matriz fundamental y la La matriz NR, el producto de la matriz fundamental y la matriz de R, da las probabilidades de eventualmente el matriz de R, da las probabilidades de eventualmente el movimiento de cada estado de no absorcimovimiento de cada estado de no absorcióón a cada n a cada estado de absorciestado de absorcióón. La multiplicacin. La multiplicacióón de cualquier n de cualquier vector de inicial que no absorbe probabilidades estatales vector de inicial que no absorbe probabilidades estatales por el npor el núúmero da el vector de probabilidades para el mero da el vector de probabilidades para el proceso eventualmente que alcanza cada uno de los proceso eventualmente que alcanza cada uno de los estados de absorciestados de absorcióón. Tales cn. Tales cóómputos permiten los mputos permiten los ananáálisis econlisis econóómicos de sistemas y polmicos de sistemas y políítica.tica.

Page 20: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

2020No.No.

Ejemplo: Ejemplo: JetairJetair AerospaceAerospace

El vicepresidente de personal en el El vicepresidente de personal en el JetairJetair notificnotificóó que los que los cambios de personal puede ser modelados por un proceso cambios de personal puede ser modelados por un proceso de Markov. La matriz de transicide Markov. La matriz de transicióón es:n es:

Siguiente aSiguiente aññoo

AAñño en cursoo en cursoMisma posiciMisma posicióón .55 .10 .05 .20 .10n .55 .10 .05 .20 .10

PromociPromocióón .70 .20 0 .10 0n .70 .20 0 .10 0Retiro Retiro 0 0 1 0 00 0 1 0 0QuitQuit 0 0 0 1 00 0 0 1 0

Despedido Despedido 0 0 0 0 10 0 0 0 1

Renuncias

Renuncias

Misma

Misma

Posici

Posici óónn

Retiro

Retiro

Promoci

Promoci óónn

Despedidos

Despedidos

Retiro

Retiro

Despedidos

Despedidos

Despedidos

Despedidos

Misma

Misma

Posici

Posici óónn

Promoci

Promoci óónn

Page 21: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

2121No.No.

EJEMPLO: EJEMPLO: JetairJetair AerospaceAerospace

�� MATRIZ DE TRANSICIMATRIZ DE TRANSICIÓÓNNSiguiente aSiguiente aññoo

Retiro Renuncia Despido Misma PromociRetiro Renuncia Despido Misma Promocióónn

AAñño actualo actualRetiro Retiro 1 0 0 0 01 0 0 0 0Renuncia Renuncia 0 1 0 0 00 1 0 0 0Despido Despido 0 0 1 0 00 0 1 0 0

Misma .05 .20 .10 .55 Misma .05 .20 .10 .55 .10.10PromociPromocióón 0 .10 0 .70 .20n 0 .10 0 .70 .20

Page 22: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

2222No.No.

Ejemplo: Ejemplo: JetairJetair AerospaceAerospace

�� Matriz fundamentalMatriz fundamental--11

1 0 .55 .10 1 0 .55 .10 N N = (= (II -- Q Q ))--1 1 = = --

0 1 .70 .20 0 1 .70 .20

--11.45 .45 --.10.10

= = --.70.70 .80 .80

Page 23: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

2323No.No.

Ejemplo: Ejemplo: JetairJetair AerospaceAerospace

�� Matriz FundamentalMatriz FundamentalLa determinante, La determinante, dd = = aa1111aa2222 -- aa2121aa1212

= (.45)(.80) = (.45)(.80) -- ((--.70)(.70)(--.10) = .29 .10) = .29 Entonces, Entonces,

.80/.29 .10/.29 2.76 .34 .80/.29 .10/.29 2.76 .34 NN = = = =

.70/.29 .45/.29 2.41 1.55.70/.29 .45/.29 2.41 1.55

Page 24: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

2424No.No.

Ejemplo: Ejemplo: JetairJetair AerospaceAerospace

�� Matriz NR Matriz NR

Las probabilidades de un eventual movimiento de Las probabilidades de un eventual movimiento de un estado de absorciun estado de absorcióón para un estado de no absorcin para un estado de no absorcióón n estestáán dadas por:n dadas por:

2.76 .34 .05 .20 .10 2.76 .34 .05 .20 .10 NRNR = = xx

2.41 1.55 0 .10 0 2.41 1.55 0 .10 0

Retiro Renuncia DespidoRetiro Renuncia Despido

La misma .14 .59 .28 La misma .14 .59 .28 = =

PromociPromocióón .12 .64 .24 n .12 .64 .24

Page 25: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

2525No.No.

Ejemplo: Ejemplo: JetairJetair AerospaceAerospace

�� Estados de AbsorciEstados de Absorcióónn•• QuestionQuestion

CCúúalal es la probabilidad de que alguien quien ha es la probabilidad de que alguien quien ha sido promovido, eventualmente , se retire? . . . sido promovido, eventualmente , se retire? . . . renuncie? . . . renuncie? . . . Sea despedido? Sea despedido? •• AnswerAnswer

Las respuestas son dadas por la fila de abajo de la Las respuestas son dadas por la fila de abajo de la matriz matriz NRNR . Las respuestas a continuaci. Las respuestas a continuacióón:n:

Eventualmente se retire Eventualmente se retire = = .12.12Eventualmente renuncie Eventualmente renuncie == .64.64Eventualmente sea despedidoEventualmente sea despedido = = .24.24

Page 26: CAPITULO 16 Procesos de Markov - ... · No. 7 PROBILIDAD DE TRANSICI ÓN Las probabilidades de transicióngobiernan la manera en la cual el estado del sistema cambia de una etapa

2626No.No.

Capitulo 16Capitulo 16