1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable...

65
1 u X Y 2 1 Modelo real X b b Y 2 1 ˆ Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión simple en el cual Y depende de X. Las dos ecuaciones muestran el modelo real y la regresión estimada. LOS COMPONENTES ALEATORIOS DE LOS COEFICIENTES DE REGRESIÓN

Transcript of 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable...

Page 1: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

1

uXY 21 Modelo real

XbbY 21ˆ

Modelo estimado

Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión simple en el cual Y depende de X. Las dos ecuaciones muestran el modelo real y la regresión estimada.

LOS COMPONENTES ALEATORIOS DE LOS COEFICIENTES DE REGRESIÓN

Page 2: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

2

22

XX

YYXXb

i

iiuXY 21 Modelo real

XbbY 21ˆ

Modelo estimado

Investigaremos el comportamiento del estimador ordinario de mínimos cuadrados (ordinary least squares, OLS) del coeficiente de la pendiente, mostrado arriba. behavior of the ordinary least squares (OLS) estimator of the slope coefficient, shown above.

Page 3: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

3

22

XX

YYXXb

i

iiuXY 21 Modelo real

XbbY 21ˆ

Modelo estimado

Y tiene dos componentes: un componente no-aleatorio que depende de X y los parámetros, y el componente aleatorio u. Puesto b2 depende de Y, depende indirectamente de u.

Page 4: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

4

22

XX

YYXXb

i

iiuXY 21 Modelo real

XbbY 21ˆ

Modelo estimado

Si los valores de u en la muestra hubieran sido diferentes, habríamos tenido diversos valores de Y y, por lo tanto, un valor distinto para b2. Podemos en teoría descomponer b2 en sus componentes no-aleatorio y aleatorios.

Page 5: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Comenzaremos con el numerador, substituyendo para Y y su media muestral del modelo real.

5

22

XX

YYXXb

i

ii

uuXXXX

uuXXXX

uXuXXXYYXX

iii

iii

iiiii

22

2

2121

][][

][][

uXY 21 Modelo real

XbbY 21ˆ

Modelo estimado

Page 6: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

El término 1 es el segundo factor en cancelarse. Reacomodamos los términos restantes.

6

22

XX

YYXXb

i

ii

uuXXXX

uuXXXX

uXuXXXYYXX

iii

iii

iiiii

22

2

2121

][][

][][

uXY 21 Modelo real

XbbY 21ˆ

Modelo estimado

Page 7: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Modelo real

Expandimos el producto.

7

22

XX

YYXXb

i

ii

uuXXXX

uuXXXX

uXuXXXYYXX

iii

iii

iiiii

22

2

2121

][][

][][

uXY 21

XbbY 21ˆ

Modelo estimado

Page 8: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Substituyendo esto por el numerador de la expresión para b2, descomponemos b2 en el valor real 2 y un término de error que depende de los valores de X y u.

8

22

XX

YYXXb

i

ii

uuXXXX

uuXXXX

uXuXXXYYXX

iii

iii

iiiii

22

2

2121

][][

][][

222

22

2XX

uuXX

XX

uuXXXXb

i

ii

i

iii

uXY 21 Modelo real

XbbY 21ˆ

Modelo estimado

Page 9: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

9

22

XX

YYXXb

i

ii

uuXXXX

uuXXXX

uXuXXXYYXX

iii

iii

iiiii

22

2

2121

][][

][][

222

22

2XX

uuXX

XX

uuXXXXb

i

ii

i

iii

uXY 21 Modelo real

XbbY 21ˆ

Modelo estimado

El término de error (error term) depende del valor del término de error (the disturbance term) en cada observación de la muestra, y, por lo tanto, es un tipo especial de variable aleatoria.

Page 10: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

10

22

XX

YYXXb

i

ii

uuXXXX

uuXXXX

uXuXXXYYXX

iii

iii

iiiii

22

2

2121

][][

][][

222

22

2XX

uuXX

XX

uuXXXXb

i

ii

i

iii

uXY 21 Modelo real

XbbY 21ˆ

Modelo estimado

El error term es responsable de la variación de b2 al rededor de su componente fijo 2.

Page 11: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

11

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

Esta es la expresión hasta ahora.

Page 12: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

12

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

El siguiente paso es hacer una pequeña simplificación en el numerador del error term. Primero, se desarrolla como se muestra.

ii

iii

iiiii

uXX

XXuuXX

uXXuXXuuXX

Page 13: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

13

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

El valor medio de u es una factor común de la segunda suma, por lo que puede ser extraída.

ii

iii

iiiii

uXX

XXuuXX

uXXuXXuuXX

Page 14: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

14

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

El segundo término desaparece debido a que las suma de las desviaciones de X respecto a la media muestral es automaticamente cero.

ii

iii

iiiii

uXX

XXuuXX

uXXuXXuuXX

0 XnXnXnXXX ii

n

XX i

Page 15: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

15

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

Por lo tanto, podemos reescribir la de ecuación como se muestra. Por conveniencia, el denominador ha sido indicado como .

iiii uXXuuXX

iiii

ii

iiii

uauXX

uXX

uXXuXX

b

222

222

1

1

2XX i

Page 16: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

16

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

Otro pequeño cambio de la expresión para el error term.

iiii uXXuuXX

iiii

ii

iiii

uauXX

uXX

uXXuXX

b

222

222

1

1

Page 17: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

17

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

Otro cambio.

iiii uXXuuXX

iiii

ii

iiii

uauXX

uXX

uXXuXX

b

222

222

1

1

Page 18: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

18

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

Una más.

iiii uXXuuXX

iiii

ii

iiii

uauXX

uXX

uXXuXX

b

222

222

1

1

Page 19: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

19

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

Por lo tanto, hemos demostrado que b2 es igual al valor real más una combinación lineal (weighted linear combination) de los valores del término de error en la muestra, donde los weights están en función de los valores de X en las observaciones en la muestra.

iiii uXXuuXX

iiii

ii

iiii

uauXX

uXX

uXXuXX

b

222

222

1

1

2XX

XXXXa

j

iii

Page 20: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

20

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

Como se puede observar, cada valor en la muestra del término de error afecta el valor muestral de b2.

iiii uXXuuXX

iiuab 22

2XX

XXXXa

j

iii

Page 21: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

21

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

Antes de avanzar, talvez sea útil aclarar una cuestión matemática. En la suma del denominador para la expresión de ai, el subíndice ha sido cambiado por j. ¿Por qué?

iiii uXXuuXX

iiuab 22

2XX

XXXXa

j

iii

Page 22: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

22

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

El denominador fue reescrito de una manera más cuidadosa para hacer explícito que la suma de las desviaciones cuadráticas (summation of the squared deviations) de X es para todos los valores de 1 hasta n. of X is for all values from 1 to n.

iiii uXXuuXX

iiuab 22

n

jj

iii

XX

XXXXa

1

2

Page 23: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

23

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

No importa en absoluto que letra se utilice para denotar el índice que conduce la suma, con la condición de que no estemos ya usando la letra en alguna parte de la expresión.

iiii uXXuuXX

iiuab 22

n

jj

iii

XX

XXXXa

1

2

Page 24: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

24

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

Esto sucede tanto que ya estamos utilizando I en el numerador, así que para evitar la confusión, y mantener a los matemáticos felices, debemos utilizar otra letra para el índice de la adición.

iiii uXXuuXX

iiuab 22

n

jj

iii

XX

XXXXa

1

2

Page 25: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

25

2222

XX

uuXX

XX

YYXXb

i

ii

i

ii

iiii uXXuuXX

iiuab 22

n

jj

iii

XX

XXXXa

1

2

Investigaremos de dos maneras el efecto del error term sobre b2: 1) en el resto de esta presentación, a través del Experimento Monte Carlo; 2) en la siguiente presentación, utilizaremos un método analítico.

Page 26: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

26

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de los

parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generate the values of Y

Un experimento Monte Carlo es un ejercicio de “laboratorio” usualmente llevado a cabo con el objetivo de evaluar las propiedades de los estimadores de regresión bajo condiciones controladas.

Page 27: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

27

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generate the values of Y

Llevaremos a cabo uno para investigar el comportamiento de los coeficientes de regresión OLS cuando son aplicados a un modelo de regresión simple.

Page 28: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

28

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generate the values of Y

Asumiremos que Y está determianda por una variable X y un término de error u, escogeremos valores para X, y elegiremos los valores de los parámetros.

Page 29: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

29

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generate the values of Y

También generaremos valores aleatorios, de una distribución conocida, para el término de error.

Page 30: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

30

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Choosedistribution

for u

Modelo

Generar los valores de Y

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generate the values of Y

Los valores de Y en la muestra estarán determinados por los valores de X, los parámetros y los valores del término de error.

Page 31: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

31

REGRESSION COEFFICIENTS AS RANDOM VARIABLES

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetro

s

Elija distribución

para u

Model

Generar los valores de Y

Estimadores

Estimar los valores de los parámetros

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generate the values of Y

Entonces utilizaremos la técnica de regresión para obtener las estimaciones de los parámetros usando solamente los datos sobre Y y X.

Page 32: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

32

REGRESSION COEFFICIENTS AS RANDOM VARIABLES

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Estimadores

Estimate the values of the parameters

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generate the values of Y

Podemos repetir el proceso indefinidamente al utilizar los mismos datos para X y los mismos valores de los parámetros, pero con nuevos valores generados al azar para el término de error.

Page 33: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

33

REGRESSION COEFFICIENTS AS RANDOM VARIABLES

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Estimadores

Estimar los valores de los parámetros

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generate the values of Y

De esta manera podemos derivar las distribuciones de probabilidad para los estimadores de regresión que permiten que, por ejemplo, averigüemos si están sesgados o no. biased or unbiased.

Page 34: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

34

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Estimadores

Estimar los valores de los parámetros

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generate the values of Y

En este experimento tenemos 20 observaciones en la muestra. X toma los valores de 1, 2, ..., 20. 1 es igual a 2.0 y 2 es igual a 0.5.

Page 35: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

35

REGRESSION COEFFICIENTS AS RANDOM VARIABLES

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Estimadores

Estimar los valores de los parámetros

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generar los valores de Y

El término de error es generado aleatoriamente utilizando una distribución normal zero mean and unit variance. Por consiguiente, generamos los valores de Y.

Page 36: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

36

Entonces, haremos una regresión de Y sobre X utilizando la técnica OLS de estimación y observaremos qué tan bien correponden nuestros estimadores b1 y b2 con los valores reales de 1 and 2.

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Estimadores

Estimar los valores de los parámetros

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generar los valores de Y

Estimar los valores de los parámetros

XbYb 21

22

XX

YYXXb

i

ii

Page 37: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Y = 2.0 + 0.5X + u

Aquí se encuentran los valores de X, eleguidos arbitrariamente.

37

X 2.0+0.5X u Y X 2.0+0.5X u Y

1 2.5 –0.59 1.91 11 7.5 1.59 9.09

2 3.0 –0.24 2.76 12 8.0 –0.92 7.08

3 3.5 –0.83 2.67 13 8.5 –0.71 7.79

4 4.0 0.03 4.03 14 9.0 –0.25 8.75

5 4.5 –0.38 4.12 15 9.5 1.69 11.19

6 5.0 –2.19 2.81 16 10.0 0.15 10.15

7 5.5 1.03 6.53 17 10.5 0.02 10.52

8 6.0 0.24 6.24 18 11.0 –0.11 10.89

9 6.5 2.53 9.03 19 11.5 –0.91 10.59

10 7.0 –0.13 6.87 20 12.0 1.42 13.42

Page 38: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Y = 2.0 + 0.5X + u

Dada nuestra elección de números para 1 y 2, podemos derivar el componente no aleatorio de Y.

38

X 2.0+0.5X u Y X 2.0+0.5X u Y

1 2.5 –0.59 1.91 11 7.5 1.59 9.09

2 3.0 –0.24 2.76 12 8.0 –0.92 7.08

3 3.5 –0.83 2.67 13 8.5 –0.71 7.79

4 4.0 0.03 4.03 14 9.0 –0.25 8.75

5 4.5 –0.38 4.12 15 9.5 1.69 11.19

6 5.0 –2.19 2.81 16 10.0 0.15 10.15

7 5.5 1.03 6.53 17 10.5 0.02 10.52

8 6.0 0.24 6.24 18 11.0 –0.11 10.89

9 6.5 2.53 9.03 19 11.5 –0.91 10.59

10 7.0 –0.13 6.87 20 12.0 1.42 13.42

Page 39: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

El componente no aleatorio se muestra graficamente.

39

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

XY 5.00.2 Y

X

Page 40: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Y = 2.0 + 0.5X + u

A continuación, generamos aleatoriamente un valor del término de error para cada observación para una distribución N(0,1) (normal with zero mean and unit variance).

40

X 2.0+0.5X u Y X 2.0+0.5X u Y

1 2.5 –0.59 1.91 11 7.5 1.59 9.09

2 3.0 –0.24 2.76 12 8.0 –0.92 7.08

3 3.5 –0.83 2.67 13 8.5 –0.71 7.79

4 4.0 0.03 4.03 14 9.0 –0.25 8.75

5 4.5 –0.38 4.12 15 9.5 1.69 11.19

6 5.0 –2.19 2.81 16 10.0 0.15 10.15

7 5.5 1.03 6.53 17 10.5 0.02 10.52

8 6.0 0.24 6.24 18 11.0 –0.11 10.89

9 6.5 2.53 9.03 19 11.5 –0.91 10.59

10 7.0 –0.13 6.87 20 12.0 1.42 13.42

Page 41: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Y = 2.0 + 0.5X + u

De este modo, por ejemplo, el valor de Y en la primera observación es 1.91, no 2.50.

41

X 2.0+0.5X u Y X 2.0+0.5X u Y

1 2.5 –0.59 1.91 11 7.5 1.59 9.09

2 3.0 –0.24 2.76 12 8.0 –0.92 7.08

3 3.5 –0.83 2.67 13 8.5 –0.71 7.79

4 4.0 0.03 4.03 14 9.0 –0.25 8.75

5 4.5 –0.38 4.12 15 9.5 1.69 11.19

6 5.0 –2.19 2.81 16 10.0 0.15 10.15

7 5.5 1.03 6.53 17 10.5 0.02 10.52

8 6.0 0.24 6.24 18 11.0 –0.11 10.89

9 6.5 2.53 9.03 19 11.5 –0.91 10.59

10 7.0 –0.13 6.87 20 12.0 1.42 13.42

Page 42: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

42

Similarmente, generamos valores de Y para las 19 observaciones restantes.

Y = 2.0 + 0.5X + u

X 2.0+0.5X u Y X 2.0+0.5X u Y

1 2.5 –0.59 1.91 11 7.5 1.59 9.09

2 3.0 –0.24 2.76 12 8.0 –0.92 7.08

3 3.5 –0.83 2.67 13 8.5 –0.71 7.79

4 4.0 0.03 4.03 14 9.0 –0.25 8.75

5 4.5 –0.38 4.12 15 9.5 1.69 11.19

6 5.0 –2.19 2.81 16 10.0 0.15 10.15

7 5.5 1.03 6.53 17 10.5 0.02 10.52

8 6.0 0.24 6.24 18 11.0 –0.11 10.89

9 6.5 2.53 9.03 19 11.5 –0.91 10.59

10 7.0 –0.13 6.87 20 12.0 1.42 13.42

Page 43: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Las 20 obervaciones se muestran graficamente.

43

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

Page 44: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Hemos alcanzado este punto en el experiemnto Monte Carlo.

44

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Estimadores

Estimar los valores de los parámetros

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generar los valores de Y

Page 45: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Ahora aplicaremos los estimadores OLS para b1 y b2a a los datos de X y Y, y veremos qué tan bien los estimadores corresponde a los valores reales.

45

Elija el modelo en el cual Y es determinada por X, valores de

los parámetro, y u.

Elija datos

para X

Elija valores de

los parámetros

Elija distribución

para u

Modelo

Generar los valores de Y

Estimadores

Estimar los valores de los parámetros

Y = 1 + 2X + u

X =1, 2, ... ,

20

1 = 2.02 = 0.5

u is independent

N(0,1)

Y = 2.0 + 0.5X + u

Generar los valores de Y

Estimar los valores de los parámetros

XbYb 21

22

XX

YYXXb

i

ii

Page 46: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Aquí está nuevamente el diagrama de dispersión.

46

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

Page 47: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Los estimadores de regresión sólo utilizan los valores observados de X y Y.

47

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

Page 48: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Aquí está la ecuación de regresión estimada para lo datos.

48

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

XY 54.063.1ˆ

Page 49: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Para comparación, el componente no aleatorio de la relación real también se muestra. 2 (valor real 0.50) ha sido sobrestimada y 1 (valor real 2.00) ha sido subestimada.

49

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

XY 54.063.1ˆ

Page 50: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Repetiremos el proceso iniciando con el mismo componente no aleatorio de Y.

50

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

XY 5.00.2

Page 51: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Como antes, los valores de Y son modificados agregando los valores generados de forma aleatoria para el término de error.

51

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

Page 52: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Los nuevos valores del término de disturbio se extraen de la misma distribución N(0,1) igual que las anteriores pero, a menos que exista una coincidencia, serán diferentes.

52

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

Page 53: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Este vez el coeficientede de la pendiente ha sido subestimado y el intercepto sobrestimado.

53

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

XY 48.052.2ˆ

Page 54: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Repetiremos el proceso una vez más.

54

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

XY 5.00.2

Page 55: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Un conjunto nuevo de datos ha sido utilizado para generar los valores de Y.

55

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

Page 56: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Como la última vez, el coeficiente de la pendiente ha sido subestimado y el intercepto sobrestimado.

56

0.00

2.00

4.00

6.00

8.00

10.00

12.00

14.00

0.00 5.00 10.00 15.00 20.00

Y

X

XY 45.013.2ˆ

Page 57: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

La tabla resume los resultados de las tres regresiones y agrega aquellos que se obtuvieron mediante la repetición del proceso siete veces.

57

repeticiones b1 b2

1 1.63 0.54

2 2.52 0.48

3 2.13 0.45

4 2.14 0.50

5 1.71 0.56

6 1.81 0.51

7 1.72 0.56

8 3.18 0.41

9 1.26 0.58

10 1.94 0.52

Page 58: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Aquí se presetna un histograma para los estimadores de2.

58

0

2

4

6

8

10

12

0.40 0.45 0.50 0.55 0.60

10 repeticiones

Page 59: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Aquí se presentan los estimadores de 2 obtenidos mediante 40 repeticiones del proceso.

59

1-10 11-20 21-30 31-40 41-50

0.54 0.49 0.54 0.52 0.49

0.48 0.54 0.46 0.47 0.50

0.45 0.49 0.45 0.54 0.48

0.50 0.54 0.50 0.53 0.44

0.56 0.54 0.41 0.51 0.53

0.51 0.52 0.53 0.51 0.48

0.56 0.49 0.53 0.47 0.47

0.41 0.53 0.47 0.55 0.50

0.58 0.60 0.51 0.51 0.53

0.52 0.48 0.47 0.58 0.51

Page 60: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

El histograma empieza a mostrar una tendencia central.

60

0

2

4

6

8

10

12

0.40 0.45 0.50 0.55 0.60

50 repeticiones

Page 61: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Este es un histograma con 100 repeticiones. Podemos observar que la distribución es simétrica al rededor del valor real, lo que implica que el estimador no está sesgado. unbiased.

61

0

2

4

6

8

10

12

0.40 0.45 0.50 0.55 0.60

100 repeticiones

Page 62: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Sin embargo, la distribución is still rather jagged. Sería mejor repetir el proceso 1.000.000 veces, quizás más.

62

0

2

4

6

8

10

12

0.40 0.45 0.50 0.55 0.60

100 replications

Page 63: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

La curva rija muestra el la forma de la distribución. Es simétrica alrededor del valor real, lo que indica que el estimador no está sesgado.

63

0

2

4

6

8

10

12

0.40 0.45 0.50 0.55 0.60

100 replications

Page 64: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

La distribución es normal proque el término de error fue extraído de una distribución normal.

64

0

2

4

6

8

10

12

0.40 0.45 0.50 0.55 0.60

100 repeticiones

Page 65: 1 Modelo real Modelo estimado Los coeficientes de regresión son tipos especiales de variable aleatorias. Demostraremos esto usando el modelo de regresión.

Copyright Christopher Dougherty 1999–2006. This slideshow may be freely copied for personal use.

22.08.06