MÁXIMA VEROSIMILIT

UD

Anzurez Galicia Pedro

CONTEXTO DE MÁXIMA VEROSIMILITUD

Método introducido por primera vez por Bernoulli.

Posteriormente es revisado y analizado por el gran matemático Euler.

Finalmente R. A. Fisher, estadista , en 1920 dio la interpretación que conocemos hoy en día.

¿QUÉ ES LA MÁXIMA VEROSIMILITUD?

Método de estimación que consiste en encontrar aquellos valores de los parámetros del modelo (β1, β2,… βk, σ ²) que maximizan la función de verosimilitud; Es decir la probabilidad conjunta de las observaciones de la variable endógena. Densidad de la probabilidad de la muestra observada, expresada en función de los posibles valores de la población de α, β y σ².

CARACTERÍSTICAS Método de estimación puntual. Se formula bajo el supuesto de que (ui) tiene

una distribución normal. Consistentemente asintótico, significa que

mientras que el tamaño de muestra aumenta, las estimaciones convergen a los valores correctos

Los Estimadores de los coeficientes de regresión de los modelos de MV y MCO las β son idénticas, para regresiones simples y múltiples.

Se utiliza cuando se considera fija la muestra.

Máxima Verosimilitud Muestras Grandes

Estimación

Puntual

Mínimos Cuadrados Muestras Pequeñas

Ordinarios Muestras Grandes

 

 

Estimación puntual es una ecuación que explica el

comportamiento de una variable, por lo tanto la variable se puede reproducir o pronostica.

Cuando se utilizan datos históricos en un modelo para hacer una proyección se le llama “Estimación Puntual”

Y

la ecuación es Y=X

Y=variable dependiente

X= variable independiente

45°

X

Estimación por intervalo Desde un rango de posibilidad intervalo

observaciones

Los métodos de Mínimos Cuadrados Ordinarios y Máxima Verosimilitud son aplicables para muestras grandes y divergen en muestras pequeñas

N ∞ Ambos métodos contienen supuestos

con los que el modelo funciona.

La Máxima Verosimilitud funciona con la estadística Bayesiana y que utiliza propiedades de conjuntos.

MÁXIMA VEROSIMILITUD

Se basa en la estadística Bayesiana ya que utiliza propiedades de conjuntos y de probabilidad.

La probabilidad se define como un cociente entre el numero de eventos posibles.

Para explicar:

Diagrama de árbol (diagrama de eventos)

Se tienen 2 maquinas distintas para producir un producto.

En donde la maquina A produce el 60% de la producción total y la maquina B produce el restante 40%

Se determina la productividad de la maquina según sus especificaciones

Producción

Maq. A PE[0,1] La probabilidad esta o pertenece

al intervalo cerrado de 0,1

producción 0

Maq.B

T0 T1

Entonces tenemos: producto bueno producto bueno

producto malo producto malo

60.0AP

nn

P

40.0BP

AMaq.

BMaq.96.0)( BDP

04.0)( BDP

98.0)( ADP

02.0)( ADP

AMaq.

BMaq.

40.0BP

)( ADP )( BDP

BDP

60.0AP

AMaq. ADP

BMaq.

eventosposiblesevent.

Espacio muestral

A B conjunto muestral

se denota A B

Intersección

A B se denota A B

A B = P(A)P(B)

Probabilidad condicionada de

BXAXX y

BXAXX ó

)( AB

588.0

012.0384.0

016.0

016.0)04.0)(40.0(

)()())(

384.0)98.0)(40.0(

)()()(

012.0)02.0)(60.0(

)()()(

588.0)98.0)(60.0(

)()()(

)()(

BDPBPDBP

BDPBPDBP

ADPAPDAP

ADPAPDAP

ABPAPBA

0 1

Teorema de Bayes

Aplicación de Bayes

Arroja una probabilidad de que el articulo malo salga de la maquina A

)()()()(

)(

)()(

)()(

BDPBPADPAP

DAP

DBPDAP

DAPDAP

4285.0028.0

012.0

016.0012.0

012.0

MÁXIMA VEROSIMILITUD Este tipo de estimación puntual consiste

en seleccionar el valor del parámetro para el cual la probabilidad de que ocurra el resultado experimental sea máxima; es decir dados los resultados experimentales del resultado ¿que valor del parámetro tiene la máxima probabilidad de ser el verdadero?

Verosimilitud: que tanto se apega a la realidad

Máxima verosimilitud: el mayor apego a la realidad

Función de máxima verosimilitud: probabilidad de obtener la muestra observada dado un valor del parámetro poblacional.

Método objetivo para encontrar buenos estimadores puntuales

X=X = µ muestra población muestra población

el estimador de Máxima verosimilitud de un parámetro de θ nos dará el valor θ que hace máxima la probabilidad de obtener un resultado concreto de una muestra (x1,x2,…,xn)

para esto necesitamos la función de verosimilitud

X

CARACTERÍSTICAS El estimador de MV para σ ² es Ʃ ei 2 / N.

Es sesgado.

El estimador de MCO para σ² es Ʃ ei 2 / (N – 2) Es insesgado.

Al comparar ambos estimadores de σ ², incrementando el tamaño de la muestra, tienden a ser iguales; Asintóticamente el estimador de MV también es insesgado.

PROPIEDADES DEL ESTIMADOR

En muchos casos, el estimador obtenido por máxima verosimilitud posee un conjunto de propiedades asintóticas como son: M1. Consistencia: Plim ƟML = Ɵ M2. Normalidad asintótica: ƟML N[Ɵ, {I(Ɵ)}

] siendo I(Ɵ)=-E[∂² ln L/ ∂Ɵ ∂ Ɵ’] M3. Eficiencia Asintótica: ƟML es

asintóticamente eficiente y alcanza la cota de Cramer-Rao para estimadores consistentes, dada en M2

M4 Invarianza: El estimador de máxima verosimilitud de y= c(Ɵ) es c (ƟML)

FUNCIÓN DE LA VEROSIMILITUD Sea X una variable aleatoria con función de probabilidad f(X l Ɵ), donde Ɵ es un parámetro desconocido. Sean X1… Xn los valores observados en una muestra aleatoria de tamaño n. La función de verosimilitud de la muestra es:

L(Ɵ) =π=f(Xi lƟ) (Ɵ)

Debemos considerar que la función de densidad conjunta de la muestra aleatoria además que la función de verosimilitud es una función del parámetro desconocido Ɵ

FUNCIÓN DE LA VEROSIMILITUD

Sea X1....Xn una muestra aleatoria de una distribución normal. La función de verosimilitud es:

explica la densidad de una variable con distribución normal, con media y varianza dadas

𝐿ሺ𝜃ሻ= 1ξ2𝜋𝜎2 𝑒−ሺ𝑋1−𝑢ሻ22𝜎2

= ൬12𝜋𝜎2൰

𝑛2 𝑒σ ሺ𝑋𝑖−𝑢ሻ2𝑛𝑇−12𝜎2

FUNCIÓN DE LA VEROSIMILITUD

Así:

Para encontrar los valores críticos de u y σ² debemos tomar las derivadas parciales de l(Ɵ)con respecto a u y σ², igualarlas a cero y resolver las dos ecuaciones resultantes. Si se omiten los detalles, los estimadores máximos verosímiles resultantes son:

𝐿ሺ𝜃ሻ= −𝑛2𝐿𝑜𝑔ሺ2𝜋𝜎2ሻ− 1 ሺ𝑋1 − 𝑢ሻ2𝑛𝑇−1

FUNCIÓN DE LA VEROSIMILITUD

𝑢 = ሺ𝑋1ሻ2𝑛

𝑇−1

𝜎2 = σ ሺ𝑋1 − 𝑋ሻ2𝑛𝑇−1 𝑛

ESTIMADOR DE LA VEROSIMILITUD

De Ɵ es el valor de Ɵ que maximiza la función de verosimilitud L(Ɵ)

En ocasiones es mas simple maximizar la función log-verosimilitud por ejemplo

l(Ɵ) = log (L(Ɵ)) =∑=log f(Xi l Ɵ)

ESTIMADOR DE LA VEROSIMILITUD El método de máxima verosimilitud

puede emplearse en situaciones donde existen varios parámetros desconocidos, Ɵ1, Ɵ2…… ƟK, que es necesario estimar. En tales casos, la función de verosimilitud es una función de los parámetros desconocidos y Ɵ1, Ɵ2…… ƟK y los estimadores de máxima verosimilitud Ɵ1, Ɵ2……ƟK se obtienen al igualar a cero las k derivadas parciales, dadas por:𝜕𝐿ሺ𝜃1,𝜃2,…,𝜃𝑘ሻ𝜕𝜃𝑖 , 𝑖 = 1,2,…,𝑘

A CONTINUACIÓN SE DEMOSTRARA QUE* :

DE IGUAL FORMA SE DEMOSTRARA QUE LA VARIANZA PARA LA MV NO ES IGUAL QUE PARA LOS MCO, PERO DE IGUAL FORMA TIENDE A SER INSESGADO A MEDIDA QUE CRECE EL NUMERO DE DATOS, ASÍ COMO SU CONSISTENCIA PARA EL MISMO

*como saben la demostración se realizo en el pizarrón, pero se las adjunto en un archivo en Word

APLICACIONESEl estimador de máxima verosimilitud se usa dentro de un gran número de modelos estadísticos: Modelos lineales Como modelos lineales

generalizados

Análisis factorial, tanto exploratorio como confirmatorio

Análisis de ecuaciones estructurales

muchas otras situaciones en el contexto de los tests estadísticos

DESVENTAJASDesgraciadamente, el tamaño necesario de la muestra para alcanzar las características de este método puede ser bastante grande, por ejemplo, cincuenta hasta cientos de muestras de tiempos exactos de falla, dependiendo de la aplicación.Con pocas muestras, los métodos pueden ser polarizados o tendenciosos. Polarizaciones que pueden causar discrepancias importantes en el análisis.Pese a que este método produzca estimaciones más eficientes por todas sus propiedades asintóticas, puede fallar en cuanto a la recuperación de los factores más débiles.