Post on 25-Jan-2016
Clase N°11Métodos de reducción de varianza
ICS3723Simulación
Profesor Pedro Gazmuri
Métodos de reducción de varianza
1. Variables de control2. Números aleatorios comunes3. Variables antitéticas
1. Variables de control
• X: variable aleatoria de output.• Y: otra variable con valor esperado conocido.• Construimos una combinación lineal de ellas:
• Dos alternativas:o Variables internas de control: una v.a. de input del
sistema.o Variables externas: simular otro sistema similar pero
analíticamente tratable, de modo de conocer E(Y) (también necesitaríamos la correlación entre X e Y).
( )
( ) ( )C
C
X X a Y Y
X X
E
E E
1. Variables de control
• El método puede generalizarse a varias variables de control:
• Lo que importa es que las variables de control estén fuertemente correlacionadas (positiva o negativamente) con X.
• Consideremos el caso simple: 1m
1
( )m
C l l ll
X X a Y Y
E
( )CX X a Y Y E
1. Variables de control
• Se tiene:
• Luego:
• Podemos identificar el valor a más conveniente:
2( ) ( ) ( ) 2 cov( , )CVar X Var X a Var Y a X Y
* arg min ( )
cov( , )*
( )
Caa Var X
X Ya
Var Y
2( ) ( ) 2 cov( , ) ( )CVar X Var X a X Y a Var Y si
1. Variables de control
• Si reemplazamos a* en la expresión de Var(XC) obtenemos:
2
2
2,
cov( , )( ) ( ) ( )
( )
cov( , )2 cov( , )
( )
cov( , )( ) ( )
( ) ( )
(1 ) ( )
C
X Y
X YVar X Var X Var Y
Var Y
X YX Y
Var Y
X YVar X Var X
Var X Var Y
Var X
1. Variables de control
• En la expresión anterior ρX,Y es el coeficiente de correlación entre X e Y
• Problema: para calcular a* no conocemos cov(X, Y) ni Var(Y)
• Podemos estimarlas de la muestra de n réplicas:
,
cov( , )X Y
X Y
X Y
2
1
ˆ ( ) ( )( ) ˆˆ *( ) , con ( )( ) 1
nj jXY
XYjXY
X X n Y Y nC na n C n
s n n
1. Variables de control
• Pero â*(n) no es un estimador insesgado.• El estimador final de la medida de desempeño que
usaremos es
• Este estimador tampoco es insesgado, ya que â*(n) e son en general dependientes.
ˆ( ) ( ) *( ) ( ) ( )CX n X n a n Y n Y E
( )Y n
1. Variables de control
• Ejemplo: sistema M/M/1• • Medida de desempeño: espera promedio en la cola
de los 100 primeros clientes. Xj : demora promedio en la réplica j.
• Variable de control:Yj : promedio de los tiempos entre llegadas de los primeros 100 clientes.
• Estimamos , usando .
1;1 / 0.9; / 0.9
( )CX X a Y Y E 10n
1. Variables de control
• Resultados:
• Valores teóricos:
2 2
( ) (10) 4.497
( ) (10) 0.998
( ) ( ) 0.015Y Y
X n X
Y n Y
s n s n
100
1
2
( )( ) 1
100
( ) 1 /( ) 0.01
100 100
j
j
j
TY
Var TVar Y
E
E
1. Variables de control
• Resultados:
• Recordemos:
2
2
( ) 0.873
ˆ ( ) 0.264
ˆ ( ) 0.264ˆ *( ) 17.6( ) 0.015
XY
XY
Y
s X n
C n
C na n
s n
cov( , )* ( ) , *
( )C
X YX X a Y Y a
Var Y E
1. Variables de control
• Nuestro estimador será:
• Estimemos la reducción de varianza:
ˆ( ) ( ) *( ) ( ) ( )
4.497 17.6(0.998 1) 4.462CX n X n a n Y n Y
E
2 2
2 2 2
1( ) ( )
1( ) ( )
1 ˆˆ ˆ( ) * ( ) ( ) 2 *( ) ( ) 0.417
C C
C C
X Y XY
Var X n Var Xn
s X n s Xn
s n a n s n a n C nn
1. Variables de control
• Se tiene , comparado con
• Recordemos que es un estimador sesgado.• Una alternativa para evitar el sesgo es volver a repetir
el experimento tomando a fijo e igual a –17.6.• No se estima a en el nuevo experimento.
2 ( ) 0.417Cs X n
2 ( ) 0.873s X n ( )CX n
1. Variables de Control
Tomemos ahora 2 variables de control:Y₁= Promedio de los tiempos entre llegadas primeros 100 clientes.Y₂= Promedio de los tiempos de servicio de primeros 100 clientes.
1 1 1 2 2 2( ) ( )cX X a Y E Y a Y E Y
De aquí se deduce que:
En ambos casos las covarianzas se estiman a partir de las réplicas.
2 21 1 2 2
1 1 2 2
( ) ( ) ( ) ( )
2 ( , ) 2 ( , )cVar X Var X a Var Y a Var Y
a Cov X Y a Cov X Y
1 21 2
1 2
( , ) ( , );
( ) ( )
Cov X Y Cov X Ya a
Var Y Var Y
Se hicieron 50 réplicas y se obtuvieron los siguientes resultados:
Estimador Valor Muestral Valor Teorico
0.9893 1
0.9082 0.9
0.0106 0.01
0.0099 0.01235
11.8442 ( (50))s X
2
2 (50)Ys
1(50)Y
2 (50)Y
1
2 (50)Ys
Luego:
1
2
( , ) 0.1847
( , ) 0.1774
Cov X Y
Cov X Y
1
2
11 2
22 2
( , ) 0.184717.35
0.0106
( , ) 0.177417.919
0.0099
Y
Y
Cov X Ya
s
Cov X Ya
s
Se hicieron 50 réplicas adicionales usando los valores estimados para a₁ y a₂.Se obtuvo:Debemos comparar este valor con
Veamos los intervalos:
2 (50) 0.105cs X
2 (50) 11.844s X
2
1,1 /2
( )( ) n
s nX n t
n
Sin variables de Control:
Si hubiéramos hecho 100 réplicas:
Con variables de Control:
2
1
( ) 11.8441.3 0.63
50n
s nt
n
2
1
( ) 11.8441.3 0.447
100n
s nt
n
2
1
( ) 0.1051.3 0.06
50n
s nt
n
Los intervalos de confianza son:
4.5 0.63
4.5 0.06
2. Números aleatorios comunes
• Se usa para la comparación de dos diseños alternativos.
• Diseño 1: Medida de desempeño: X1
Diseño 2: Medida de desempeño: X2
Queremos estimar E(X1) – E(X2)
• La idea es someter ambos sistemas a las mismas condiciones experimentales.
• Se utiliza la misma secuencia de números U(0,1) en ambos modelos.
• Se trata de introducir una correlación positiva entre ambos resultados.
2. Números aleatorios comunes
• Sean:X1j , j = 1,…,n: output de n réplicas del sistema 1X2j , j = 1,…,n: output de n réplicas del sistema 2
• Queremos estimar:
• Sean:
• Estimador:
1 2( ) ( )j jX X E E
1 2 , 1,...,j j jZ X X j n
1
( )n
j
j
ZZ n
n
2. Números aleatorios comunes
• Si las corridas fueran independientes:
• Para estimar en el caso correlacionado usamos su estimador muestral .
1 2 1 2
1( ) ( )
1( ) ( ) 2cov( , )
j
j j j j
Var Z n Var Zn
Var X Var X X Xn
1 2
1( ) ( ) ( )j jVar Z n Var X Var X
n
( )Var Z n2( )Zs n
2. Números aleatorios comunes
• Este estimador se obtiene calculando:
• Puesto que estamos usando estimadores de las varianzas, no podemos saber qué tanto vamos a reducir la varianza.
2
2
1
2 2
( )( )
1
1( ) ( )
j
j
nj
Zj
ZZ
Z Z ns n
n
s n s nn
2. Números aleatorios comunes
• Principio a utilizar: tener el convencimiento de que ambos modelos responderán en forma similar a valores grandes o pequeños de las variables aleatorias de input del modelo.
• Procedimiento: sincronizar los números aleatorios de modo que uno utilizado para un cierto propósito en el primer sistema sea utilizado para el mismo propósito en el segundo.
2. Números aleatorios comunes
• Ejemplo:1. λ,μ; ρ = λ/μ
2. λ,μ/2; ρ = λ/μ
• Ambos tienen la misma intensidad de tráfico.
2. Números aleatorios comunes
• Interesa: tiempo promedio de espera en la cola de los primeros 100 clientes. Queremos escoger el sistema con menor valor.
• Teóricamente, se sabe que el segundo es mejor. Cuando hay 2 o más personas en el sistema, ambas son iguales para efectos de la espera. Pero cuando hay una, un individuo que llega al segundo sistema no espera nada; en el primero sí.
2. Números aleatorios comunes
• Experimento: ρ = 0.9• Se hicieron 100 réplicas independientes para 4 casos:
1. Números aleatorios independientes para cada modelo: I
2. Coordinación tiempos entre llegadas, servicios independientes: LL
3. Coordinación tiempos de servicios: S4. Coordinación de ambos: LL + S
2. Números aleatorios comunes
• X1j : valor promedio demora 100 clientes en sistema 1, en a réplica j.X2j : valor promedio demora 100 clientes en sistema 2, en a réplica j.
• Para cada caso se estimó y se analizó si se obtenía la respuesta correcta (i.e. X2j < X1j). Se calculó la proporción de error en las 100 réplicas.
( )Var Z n
2. Números aleatorios comunes
• Obsérvese que al reducir estamos mejorando la precisión del intervalo de confianza para
I LL S S+LL
25.5 11.6 10.5 0.1
Proporción Error 0.44 0.37 0.4 0.05
2( )Zs n
2( )Zs n
1 2( ) ( )j jX X E E
3. Variables antitéticas
• Se usa para el caso de un solo sistema.• Idea: hacer pares de corridas, compensando un valor
pequeño de la variable de interés con un valor grande. Se usa el promedio de ambas observaciones como un valor del output.
• Procedimiento: usar números aleatorios U(0,1) complementarios.
• Si U ~ U(0,1), entonces 1 – U ~ U(0,1).
3. Variables antitéticas
• Si uk ~ U(0,1) es usado con un propósito específico en un la primera corrida, se usa 1 – uk para el mismo propósito en la segunda corrida.
• Nota: Y(1) = F-1(uk)Si Y(1) es grande, Y(2) = F-1(1 – uk) es pequeño, ya que F es creciente.
3. Variables antitéticas
• Se hacen n pares de corridas (cada par independiente de los otros):
• Definimos
(1) (2)1 1
(1) (2)
,
,n n
X X
X X
(1) (2)
1
, ( )2
nj j j
jj
X X XX X n
n
3. Variables antitéticas
• Queremos estimar:
• Queremos inducir una correlación negativa entrey .
(1) (2) (1) (2)
1( ) ( )
2cov ,
j
j j j j
Var X n Var Xn
Var X Var X X X
n
(1) ( ) ( )j jX X X n E E E
(1)jX
(2)jX
3. Variables antitéticas
• Principio general: la variable de output del sistema tiene que ser monótona (creciente o decreciente) en la variable de input.
• Y : input, X : outputY grande X grande, Y chico X chico (o al revés)
• No existe garantía que el método funcione, podría pasar que Y grande ó Y chico X grande.
3. Variables antitéticas
• Ejemplo: Sistema M/M/1, ρ = 0.9• : promedio de la demora en cola de los primeros
100 clientes.• : promedio de la demora en cola de los primeros
100 clientes.• Variables antitéticas:
o Servicioso Tiempo entre llegadas
(1)jX
(2)jX
3. Variables antitéticas
• Se hacen 100 réplicas:1. Independencia, es decir, .2. Sincronización (v. antitéticas, servicios y llegadas)• Resultados:
(1) (2)cov , 0j jX X
Independencia V. Antitéticas
s2(100) 4.84 1.94
½ Intervalo al 90% 0.36 0.23
-0.07 - 0.52 (1) (2)cov ,j jX X