Metodo de Minimos Cuadrados Ordinarios

8
Universidad la Salle Morelia Dirección de posgrados Maestría en ingeniería económica y financiera Materia: Mercados globales e instrumentos de deuda y su cobertura Método de Mínimos Cuadrados Ordinarios Alejandro Corona Bravo Grupo 516

Transcript of Metodo de Minimos Cuadrados Ordinarios

Page 1: Metodo de Minimos Cuadrados Ordinarios

Universidad la Salle Morelia

Dirección de posgrados

Maestría en ingeniería económica y financiera

Materia: Mercados globales e instrumentos de deuda y su

cobertura

Método de Mínimos Cuadrados Ordinarios

Alejandro Corona Bravo

Grupo 516

Fecha de entrega: 6 de julio de 2013

Page 2: Metodo de Minimos Cuadrados Ordinarios

METODO DE MINIMOS CUADRADOS ORDINARIOS

El método de mínimos cuadrados ordinarios es atribuido a Carl Friedrich Gauss Matemático alemán.

Este método presenta propiedades estadísticas muy atractivas que lo han convertido en uno de los más populares y eficaces del análisis de regresión

Este procedimiento está calculado a partir de la fórmula de regresión Poblacional y muestra pero evitando los problemas que traen consigo al calcularlo de esta manera ya que estos métodos anteriores le dan un mismo peso a los residuos, sin importar que tan cerca o dispersas se encuentran de las observaciones. Por lo que no solo es incorrecto si no que muy poco preciso.

Con el criterio de mínimos cuadrados este o es un problema, la ecuación es la siguiente

Con esto los residuos quedan elevados al cuadrado por lo que este método le da más peso a los residuos más cercanos a las observaciones, lo que le da propiedades estadísticas muy deseables.

De la formula anterior se hace evidente que los residuos están en función de los estimadores b1 y b2 por lo que por cada vez que estos estimadores cambien te darán residuos diferentes

Pero para escoger los B1 y b2 correctos mediante esta forma de cálculo tomaría mucho tiempo por lo que el método de Mínimos Cuadrados ofrece una forma más rápida

El método elije b1 y b2 de manera que, para una muestra, los residuos al cuadrado son los menores posibles, porque una muestra dada proporciona valores estimados b1 y b2 únicos, que produzcan el residuo más pequeño o más reducido

Por lo que se utilizan las siguientes ecuaciones para estimar las b

Donde n es el tamaño de la muestra. Estas ecuaciones son del tipo normal

Al resolverlas quedan de la siguiente manera

Page 3: Metodo de Minimos Cuadrados Ordinarios

Donde x y y barra son las medias muéstrales de x y y donde se define que xi=( xi- x barra), mismo casi con yi=(yi-y barra)

Para estimar b1 quedaría la formula así

Y para calcular b2 se calcula de la siguiente manera

Estos estimadores obtenidos b1 y b2 tienen propiedad estadísticas que son los siguientes

1. Se estiman en términos de cantidad por lo que se calculan con facilidad2. Son estimadores puntuales, ya que cada estimador proporciona un valor del

parámetro poblacional pertinente3. Una vez obtenidos los estimadores se obtienen sin problemas la línea de

regresión muestra, a. Esta línea tiene las siguientes propiedades

i. Pasa a través de las medias muéstrales

Page 4: Metodo de Minimos Cuadrados Ordinarios

ii. El valor de y estimada yi es igual al medio de y real para

al sumar ambos lados de la igualdad sobre los valores muéstrales y dividir por el tamaño de n obtenemos

iii. El valor medio de los residuos es cero se eliminan de la ecuación muestra

Dando como resultado

Dados estos supuestos para el método de mínimos cuadrados también especifica ciertos Supuestos para lograr que sea aplicable este método. Cada una de estas configuraciones produce las mismas fórmulas y los mismos resultados, la única diferencia es la interpretación y los supuestos que han de imponerse a fin de que el método pueda dar resultados significativos. La elección de la estructura aplicable depende principalmente de la naturaleza de los datos a la mano, y en la tarea de inferencia que se tiene que realizar.

Una de las líneas de diferencia en la interpretación es si tratar los represores como variables aleatorias, o como constantes predefinidas. En el primer caso los regresores de xison aleatorios y se toman muestras del conjunto con los yi de alguna población, como en un estudio observacional. Este enfoque permite un estudio más natural de las propiedades asintóticas de los estimadores. En la otra interpretación, los regresores de X se tratan como constantes conocidas establecidas por un diseño, y y se muestrea condicionalmente en los valores de X como en un experimento. A efectos prácticos, esta distinción a menudo carece de importancia, ya que la estimación y la inferencia se llevan a cabo mientras se condiciona en X. Todos los resultados consignados en este artículo se encuentran dentro del marco de diseño aleatorio.

El modelo clásico se centra en las "muestras finitas" estimación y la inferencia, lo que significa que el número de observaciones n es fijo. Esto contrasta con otros enfoques, que estudian el comportamiento asintótico de OLS, y en el que el número de observaciones se hace tender hasta el infinito.

Especificación Correcta. La forma funcional lineal se ha especificado correctamente.

Exogeneidad estricta. Los errores en la regresión deben tener media condicionada cero

Page 5: Metodo de Minimos Cuadrados Ordinarios

La consecuencia inmediata de la hipótesis de Exogeneidad es que los errores han significar cero: E[ε] = 0, y que los regresores no están correlacionadas con los errores: E[X′ε] = 0. El supuesto de Exogeneidad es fundamental para la teoría de MCO. Si se mantiene entonces las variables regresoras se llaman exógeno. Si no es así, entonces los regresores que están correlacionadas con el término de error se llaman endógenas, y luego las estimaciones MCO dejan de ser válidas. En tal caso, el método de variables instrumentales se puede utilizar para llevar a cabo la inferencia.

No hay dependencia lineal... Los regresores en X todos deben ser linealmente independientes. Matemáticamente esto significa que la matriz X deberá tener rango de columna completa prácticamente segura.

Por lo general, se supone también que los regresores tienen momentos finitos de hasta al menos segundo. En tal caso, la matriz Qxx = E [X'X / n] será finita y positiva semi-definido. Cuando esta suposición se viola los regresores se llama linealmente dependiente o multicollinear perfectamente. En tal caso, el valor de la β coeficiente de regresión no puede aprenderse, aunque predicción de los valores de y es posible que los nuevos valores de las variables independientes que se encuentran en el mismo subespecie linealmente dependientes.

Errores esféricos

Donde A es un n × n matriz de identidad, y σ2 es un parámetro que determina la varianza de cada observación. Esta σ2 se considera un parámetro molestia en el modelo, aunque por lo general, se estima. Si esta suposición se viola entonces los estimadores MCO siguen siendo válidos, pero ya no es eficaz. Es costumbre de dividir esta suposición en dos partes:

Homocedasticidad :E [εi2 | X] = σ2, lo que significa que el término de error

tiene la misma varianza σ2 en cada observación. Cuando este requisito se

viola esto se llama heterocedasticidad, en tal caso, un estimador más eficiente

sería mínimos cuadrados ponderados. Si los errores tienen varianza infinita

entonces las estimaciones MCO también tendrá varianza infinita (aunque por

la ley de los grandes números que no obstante se tienden hacia los valores

verdaderos, siempre que los errores tienen media cero). En este caso,

técnicas robustas de estimación se recomiendan.

Auto correlación no: los errores no están correlacionados entre observaciones:

E [εiεj | X] = 0 para i ≠ j. Este supuesto puede ser violado en el contexto de los

datos de series de tiempo, datos de panel, muestras de racimo, datos

Page 6: Metodo de Minimos Cuadrados Ordinarios

jerárquicos, datos de medidas repetidas, datos longitudinales, y otros datos

con dependencias. En tales casos, mínimos cuadrados generalizados ofrece

una mejor alternativa que el OLS.

Normality: A veces se supone, además, que los errores tienen distribución

normal multivariante distribución normal condicional en los regresores:

Este supuesto no es necesario para la validez del método OLS, aunque ciertos muestra adicionales finita propiedades se pueden establecer en el caso cuando lo hace (especialmente en el área de las pruebas de hipótesis). También cuando los errores son normales, el estimador MCO es equivalente a MLE de máxima probabilidad, y por lo tanto es asintóticamente eficiente en la clase de todos los estimadores regulares.

e con datos de corte transversal, un supuesto adicional es impuesto - que

todas las observaciones son independientes e idénticamente distribuidas (iid).

Esto significa que todas las observaciones se toman de una muestra

aleatoria que hace que todos los supuestos mencionados anteriormente sean

más simples y más fáciles de interpretar. Además, este marco permite

establecer resultados asintóticos (como el tamaño de la muestra n → ∞), que

se entiende como una posibilidad teórica de ir a tener nuevas observaciones

independientes de los datos en un proceso de generación de datos. La lista de

las hipótesis en este caso es:

observaciones iid: (xi, yi) son independientes entre si, y tiene la misma

distribución, xj, yj) para todo i ≠ j;

No hay multicolinealidad perfecta: Qxx = E[ xix′i ] es una matriz definida

positiva ;

exogeneidad: E[ εi | xi ] = 0;

homocedasticidad: Var[ εi | xi ] = σ2